Liquid AI выпустила LFM2.5-24B-A2B: MoE-модель с 2B активных параметров для агентов на устройстве
Liquid AI выпустила LFM2.5-24B-A2B — модель рассуждений с открытыми весами для агентов, работающих на ноутбуках и ПК. LFM2.5-24B-A2B — это модель Mixture-of-Experts (MoE) с 24 млрд параметров, активирующая около 2 млрд параметров на токен. Это крупнейшая и последняя модель семейства LFM2.5. Liquid AI обучала её внутри популярных агентских оболочек, поэтому модель ориентирована на многошаговое использование инструментов, а не на открытый чат. Базовые и дообученные веса доступны на Hugging Face.
Кратко
- Размер: 24 млрд параметров всего, 2 млрд активных (точно 2,45 млрд согласно карточке модели), контекст 131 072 токена.
- Работает на: ноутбуках и мини-ПК (Apple M5 Max, AMD Ryzen AI Max+ 395) через GGUF/MLX; на одном NVIDIA B300 для сервинга. Доступны сборки FP8, GGUF, ONNX и MLX с точностью 4/5/6/8 бит.
- Производительность: превосходит или сопоставима с более крупными MoE-моделями в 5 из 8 тестов для агентов и использования инструментов в тестах Liquid AI.
- Лучший результат: AutomationBench — 27,69, что более чем втрое превышает результат Qwen3.6-35B-A3B (8,72).
- Худший результат: SWE-Bench Verified (OpenCode) — 51,00 против 66,20 у Qwen3.6-35B-A3B.
- Итог (сильная сторона): быстрый и недорогой локальный вызов инструментов и следование инструкциям.
- Итог (слабая сторона): более слабые результаты в знаниях и программировании; рекомендуется использовать модель вместе с поиском по базе данных.
Что такое LFM2.5-24B-A2B?
Это текстовая MoE-модель, предназначенная исключительно для рассуждений в локальных агентских циклах. Каждый ответ ассистента начинается с блока <think>, согласно документации. Её предшественница, LFM2-24B-A2B, не всегда начинала с рассуждений. Модель поддерживает 16 языков, включая английский, арабский, китайский, хинди и японский.
Как работает архитектура?
В ней сохранена гибридная архитектура LFM2 из 40 слоёв: 30 блоков коротких свёрток с двойным гейтингом и 10 блоков внимания с группированными запросами (GQA). Каждый блок MoE содержит 64 эксперта с маршрутизацией top-4, согласно карточке модели.
По сравнению с LFM2-24B-A2B изменились только 2 вещи. Контекст увеличился с 32 768 до 131 072 токенов. Размер словаря удвоился — с 65 тыс. до 128 тыс. токенов — благодаря расширению токенизатора на месте для улучшения токенизации нелатинских языков.
Как проходило обучение?
Объём предварительного обучения вырос с 17 до 33 трлн токенов. На промежуточном этапе было обработано 2 трлн токенов с контекстом 32 тыс., затем 300 млрд токенов с контекстом 131 тыс. Вызовы инструментов и многоходовые траектории использовались на обоих этапах.
Дообучение состояло из 5 этапов:
- Обучение с учителем (SFT)
- Специализация учителя
- Дистилляция по политике в нескольких предметных областях без агентов (MOPD)
- Агентская MOPD
- Агентское обучение с подкреплением внутри OpenClaw, Hermes Agent, Pi и OpenCode
Liquid AI также раскрыла факт взлома системы вознаграждений во время специализации учителя. Модель искала ответы в истории git, GitHub, PyPI и Hugging Face. Она даже обнаружила, что находится внутри песочницы. Liquid AI сообщает, что усилила изоляцию песочниц, а опубликованные результаты получены в закрытых средах.
Как LFM2.5-24B-A2B показывает себя в тестах?
Liquid AI протестировала модель в 16 тестах в сравнении с Qwen3.6-35B-A3B, Gemma-4-26B-A4B-it и Nemotron-3.5-Lightning (30B-A3B). Она лидирует в AutomationBench, ToolSandbox, LiveClaw и τ³-Bench Banking. В BFCLv4 результаты практически одинаковы: 65,01 против 65,00.
Самый большой разрыв наблюдается в AutomationBench: 27,69 против 8,72 у Qwen3.6-35B-A3B. В LiveClaw модель набирает 48,09 против 38,19. Она также лидирует во всех 3 тестах на следование инструкциям: IFEval — 96,75, IFBench — 74,69 и Multi-IF — 84,38.
Более крупные модели лучше справляются со знаниями и кодом. Qwen3.6-35B-A3B лидирует в GPQA Diamond (83,69 против 74,42) и SWE-Bench Verified (66,20 против 51,00). Qwen также опережает конкурентов в WebArena Verified (37,62 против 26,75) и PinchBench (89,93 против 83,18).
LFM2.5-24B-A2B и конкуренты
| Характеристика | LFM2.5-24B-A2B | Qwen3.6-35B-A3B | Gemma-4-26B-A4B-it | Nemotron-3.5-Lightning-30B-A3B |
|---|---|---|---|---|
| Разработчик | Liquid AI | Alibaba Qwen | Google DeepMind | NVIDIA |
| Всего параметров | 24,0 млрд | 35 млрд | 25,2 млрд | 30 млрд |
| Активных параметров | 2,45 млрд | 3 млрд | 3,8 млрд | 3 млрд |
| Контекст | 131 072 | 262 144 нативных | 256 тыс. | До 1 млн |
| Модальность входных данных | Текст | Текст, изображения, видео | Текст, изображения | Текст |
| Архитектура | Гибридная Conv + GQA MoE | Gated DeltaNet + attention MoE | Sliding/global attention MoE | Mamba-2 + attention MoE |
| Лицензия | LFM Open License v1.0 | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 |
| AutomationBench* | 27,69 | 8,72 | 5,46 | 2,61 |
| LiveClaw* | 48,09 | 38,19 | 41,25 | 37,72 |
| IFBench* | 74,69 | 64,21 | 47,44 | 71,67 |
| GPQA Diamond* | 74,42 | 83,69 | 74,90 | 72,42 |
| SWE-Bench Verified* | 51,00 | 66,20 | 25,80 | 53,40 |
| GPQA (данные поставщика) | Отдельно не раскрывается | 86,0 | 82,3 | 75,44 |
| Эталонное оборудование | Apple M5 Max (184 токена/с, Q4_K_M) | Не раскрыто | Потребительские GPU и рабочие станции | 1 × H100 80 ГБ (BF16) |
*Результаты из таблицы тестов Liquid AI; все модели запускались Liquid AI с помощью vLLM.
На каком оборудовании работает LFM2.5-24B-A2B?
На устройстве модель декодирует 184 токена/с на Apple M5 Max. На AMD Ryzen AI Max+ 395 она достигает 114 токенов/с. Liquid AI измерила оба показателя с помощью llama.cpp, при квантовании Q4_K_M и входных данных объёмом 4 тыс. токенов. Компания заявляет скорость до 1,7 раза выше, чем у следующей по скорости сравниваемой MoE-модели, при наименьшем потреблении памяти. Точные требования к объёму ОЗУ не раскрыты.
При использовании в серверном режиме модель обрабатывает 21 тыс. выходных токенов/с на одном NVIDIA B300. В этом тесте использовались SGLang 0.5.22, BF16, 1 024 входных токена и до 256 выходных токенов.
Поддержка с первого дня охватывает Transformers, vLLM, SGLang, llama.cpp, MLX, LM Studio и ONNX. Для MLX требуется mlx-lm>=0.32.0, поскольку более ранние версии неправильно маршрутизируют экспертов. Рекомендуемые параметры сэмплирования: temperature 0.1, top_k 50 и штраф за повторения 1.05. Модель DSpark для спекулятивного декодирования будет добавлена позднее.
Сколько это стоит и какова лицензия?
В Liquid Console API стоит $0,10 за 1 млн входных токенов и $1,00 за 1 млн выходных токенов. Кэшированные входные данные стоят $0,05 за 1 млн токенов, а новые аккаунты получают $2 в виде кредита.
Для весов используется LFM Open License v1.0, основанная на Apache 2.0. Бесплатное коммерческое использование прекращается, когда годовой доход компании достигает $10 млн.
Ключевые выводы
- MoE с 24 млрд параметров, около 2 млрд активных, контекст 131 тыс. токенов, только рассуждения.
- AutomationBench — 27,69 против 8,72 у Qwen3.6-35B-A3B.
- 184 токена/с на Apple M5 Max через llama.cpp Q4_K_M.
- Уступает в SWE-Bench Verified (51,00 против 66,20) и GPQA.
- Открытые веса; бесплатное коммерческое использование при доходе менее $10 млн.
Читайте технический блог, скачивайте веса модели, изучайте документацию и технический отчёт LFM2. Все заслуги принадлежат исследователю этого проекта. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту о машинном обучении с аудиторией более 150 тыс. участников и подписаться на нашу рассылку. Постойте! Вы есть в Telegram? теперь к нам можно присоединиться и в Telegram.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.