Recursive представи Flint — локален MoE модел с отворени тегла за кодиране и 40 млрд. параметъра за агенти, с 2,5 млрд. активни параметъра
Recursive Superintelligence представи Flint, своя първи модел. Локалният модел за програмиране Recursive Flint е модел със смес от експерти (MoE) с общо 40B и 2.5B активни параметри. Екипът на Recursive посочва, че неговата Eureka Machine — автоматизирана изследователска система — е помогнала за изграждането на почти всяка част от стека. Теглата са достъпни в Hugging Face под лиценз Apache 2.0.
Накратко
- Размер: 39.8B общо, около 2.5B активни на токен. Контекст: 262 144 токена, посочени в картата на модела; в блога се цитира до 512k.
- Работи на: Apple Silicon Mac компютри с 48 GB (M4 Pro, M5 Pro, M5 Max) или NVIDIA GPU с 48 GB. 4-битовите тегла заемат около 23 GB.
- Производителност: Заема първо място в класацията на Recursive сред MoE моделите под 50B при агентно програмиране. Отстъпва на най-силните плътни модели.
- Най-добър резултат: IFEval 95.1%. SWE-bench Verified 74.2%.
- Най-слаб резултат: Terminal-Bench 2.1 с 54.9%, спрямо 73.0% за плътния Qwen 3.8.
Какво представлява Recursive Flint?
Flint е decoder-only MoE Transformer за агенти за програмиране. Моделът изследва кодови бази, отстранява грешки, реализира функционалности и пише тестове. Той работи само с текст и поддържа разсъждение и OpenAI-съвместими извиквания на инструменти.
Представяме Flint, първия модел на @Recursive_SI: бърз локален модел за програмиране, създаден с нашата автоматизирана изследователска система Eureka Machine.
— Richard Socher (@RichardSocher) 21 октомври 2026 г.
• Най-доброто в класа си бързо локално програмиране
• До 2 пъти по-бърз от сравними модели: над 125 токена/сек. на MacBook Pro, над 150 на RTX Spark
• Изграден от… pic.twitter.com/ufg2xScSGw
Как работи архитектурата на Flint?
Flint има 49 слоя: 2 плътни слоя, последвани от 47 MoE слоя. Всеки MoE слой има 256 маршрутизирани експерта. Рутерът избира 6 за всеки токен, плюс 1 винаги активен споделен експерт.
Механизмът за внимание комбинира 2 типа. 35 слоя използват плъзгащ се прозорец от 513 токена. 14 слоя използват пълно внимание без позиционно кодиране. Има 32 заявочни глави и 4 глави за ключове/стойности.
Посочените 2.5B активни параметри включват изходната глава. Самото тяло с активни параметри е приблизително 2.2B параметра.
Как Eureka Machine създаде Flint?
Eureka Machine предлага идеи, реализира ги, тества ги и избира какво да опита следващо.
Recursive откроява 3 приноса:
- Архитектура: Проектът започна с базова версия с общо 35B и 3B активни параметри. Той изследва конфигурации и размери на експертите, като достигна до общо 40B и 2.5B активни параметри.
- Квантизация: Той квантизира изходния слой (lm_head) до 4 бита, в разрез с обичайната практика. Офлайн етап на дистилация, при който 16-битовият модел служи като учител, възстанови точността. Това почти намали наполовина стъпките за обучение спрямо базова версия с обучение, съобразено с квантизацията. Моделът NVFP4 постига резултат в рамките на 0.7 пункта от 16-битовия модел.
- Ядра: Той създаде специализирани ядра за нискобитови проекции, MoE операции, внимание и обработка на подсказки. При чиповете M4 и M5 Metal megakernel обединява целия преден проход при декодиране.
Как се представя Flint на бенчмарковете за програмиране?
Всички резултати по-долу са предоставени от Recursive. При семплирането са използвани температура 1.0, top-p 0.95 и top-k 20.
| Бенчмарк | Flint BF16 | Flint NVFP4 |
|---|---|---|
| Terminal-Bench 2.1 | 54.9% | 53.7% |
| SWE-bench Pro v2 | 89.7% | 88.5% |
| SWE-bench Verified | 74.2% | 74.1% |
| LiveCodeBench v6 | 80.3% | 80.8% |
| IFBench | 89.2% | 88.1% |
| IFEval | 95.1% | 94.6% |
Terminal-Bench използваше средата Terminus 2. Решенията, открити чрез търсене в интернет, се брояха за неуспешни. Изпълненията на SWE-bench използваха mini-swe-agent без достъп до интернет. Агентните резултати представляват средната стойност на pass@1 при поне 5 опита.
В класацията на Recursive Qwen3.6 постига 73.4% на SWE-bench Verified. Плътният Qwen 3.8 постига 73.0% на Terminal-Bench 2.1, което е значително над резултата на Flint.
Собствената сравнителна класация на Recursive (резултати в %, † измерени от Recursive, останалите са предоставени от разработчиците):
| Модел | Terminal-Bench 2.1 | SWE-bench Pro v2† | SWE-bench Verified | LiveCodeBench v6 | IFBench | IFEval |
|---|---|---|---|---|---|---|
| Flint BF16 | 54.9 | 89.7 | 74.2 | 80.3 | 89.2 | 95.1 |
| Flint NVFP4 | 53.7 | 88.5 | 74.1 | 80.8 | 88.1 | 94.6 |
| Qwen 3.5 (MoE) | 38.7 | 68.6 | 69.2 | 74.6 | 70.2 | 91.9 |
| Qwen 3.6 (MoE) | 44.9 | 73.8 | 73.4 | 80.4 | 67.9 | 89.6 |
| Laguna XS 2.1 (MoE) | 24.7† | 38.6 | 70.9 | 49.5† | 34.4† | 73.7† |
| Qwen 3.8 (плътен) | 73.0 | 94.9 | 75.6† | 90.3 | 79.5 | 94.6† |
| Muse Glimmer (плътен) | 51.7 | 86.0 | 76.0 | 63.5† | 77.0 | 94.7† |
| Gemma 4 (плътен) | 43.4 | 61.7 | 66.6 | 80.0 | 76.0 | 94.6 |
Как се сравнява Flint с Qwen3.6, Laguna XS 2.1 и Gemma 4?
Данните за конкурентите по-долу са взети от собствените карти на моделите им, а не от класацията на Recursive.
| Характеристика | Recursive Flint | Qwen3.6-35B-A3B | Laguna XS 2.1 | Gemma 4 31B |
|---|---|---|---|---|
| Разработчик | Recursive | Qwen (Alibaba) | Poolside | Google DeepMind |
| Общо параметри | 39.8B | 35B | 33B | 30.7B |
| Активни параметри | ~2.5B | 3B | 3B | 30.7B (плътен) |
| Контекст | 262 144 (блог: до 512k) | 262 144 нативно, до 1 010 000 | 262 144 | 256K |
| Модалност | Текст | Текст + изображение | Текст | Текст + изображение |
| Лиценз | Apache 2.0 | Apache 2.0 | OpenMDW-1.1 | Apache 2.0 |
| Локален хардуер | Mac или GPU с 48 GB | Не е посочено | Mac с 36 GB RAM | Потребителски GPU, работни станции |
| SWE-bench Verified | 74.2% | 73.4% | 70.9% | Не е посочено |
| Terminal-Bench | 54.9% (v2.1) | 51.5% (v2.0) | 37.5% (v2.0) | Не е посочено |
| LiveCodeBench v6 | 80.3% | 80.4% | Не е посочено | 80.0% |
| SWE-bench Pro | 89.7% (v2) | 49.5% (публичен) | 47.6% (публичен) | Не е посочено |
Колко бърз е Flint и от какъв хардуер се нуждае?
Recursive съобщава за над 125 токена в секунда на MacBook Pro с M4 Pro. Компанията съобщава за над 150 токена в секунда на NVIDIA RTX Spark с 64 GB. И двата резултата са при кратък контекст и са до 2 пъти по-бързи от тези на сравними модели. Тя също така твърди, че Flint работи над 5 пъти по-бързо от плътни модели с 25–40B параметри и сходни резултати при програмиране.
Има 3 локални варианта:
- Apple Silicon: Flint INT4 MLX теглата заемат около 22.6 GB. Енджинът rec изисква M4 Pro, M5 Pro или M5 Max с 48 GB памет. Той отчита 1.4–2.6 пъти по-висока пропускателна способност от llama.cpp на M4 Pro.
- NVIDIA: Файлът NVFP4 GGUF е 22.9 GB. Recursive препоръчва поне 48 GB памет на GPU.
- Сървър: BF16 контролна точка от 80 GB изисква 1 B300 или H200 GPU за всяка реплика.
Flint работи и с llama.cpp, Ollama, Unsloth, LM Studio, vLLM и SGLang.
Основни изводи
- Flint е MoE модел за програмиране с 40B параметри, от които само 2.5B са активни.
- Той постига 74.2% на SWE-bench Verified и 54.9% на Terminal-Bench 2.1.
- 4-битовите тегла работят с около 23 GB на Mac или GPU с 48 GB.
- Eureka Machine на Recursive е помогнала за проектирането на архитектурата, квантизацията и ядрата.
- Резултатите на SWE-bench Pro v2 са измерени от Recursive и не могат да бъдат сравнявани с публичния SWE-Bench Pro.
Вижте техническите подробности, теглата на модела и енд жина rec в GitHub. Цялата заслуга е на изследователя по този проект. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия ML SubReddit с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.