Nace AI пуска с отворен код Drex 1.5: 9-милиарден модел за решения, който оценява варианти, а не текст
Nace.AI пусна Drex 1.5 с отворен код — модел за вземане на решения с 9 млрд. параметъра за агенти и бекенд работни процеси. Моделът за вземане на решения Drex 1.5 не пише текст. Той прочита състояние и типизирани въпроси, след което връща вероятност за всяка опция. Nace съобщава резултат 58.08 в публичния Decision Index 0.3.1 — най-високия резултат при модели с под 10 млрд. параметъра. Теглата са налични в Hugging Face, а хоствана версия е достъпна в OpenRouter.
Накратко
- Размер: 8.95 млрд. параметъра (плътен модел), тегла в bf16 с размер около 18 GB. Контекстът по подразбиране е 16 384 токена, а максималният е 131 072.
- Работи на: 1 CUDA GPU в bf16 (тестван върху 24 GB A10G). Q8_0 GGUF (около 9.5 GB) работи на Apple silicon и CPU.
- Производителност: 58.08 в Decision Index 0.3.1 (публичен), в рамките на диапазона за равенство на класацията спрямо Jev 1.13.0 (57.96).
- Най-добър резултат: 93.4% точност при документи с 32K до 128K токена.
- Най-слаб резултат: 7.4% F1 на ниво преглед при аспектен сентимент в ACOS, спрямо 29.5% за Jev.
- Извод:
- Най-добро: отворени тегла, които се изравняват със затворен модел на 1 GPU.
- Най-слабо: слаб при общи знания и детайлен анализ на сентимента.
Какво представлява Drex 1.5?
Drex 1.5 е модел за вземане на решения от Nace.AI, който оценява фиксиран набор от опции с 1 проход напред. Изпращате state (текст или JSON) и именувани въпроси. Моделът поддържа 3 типа въпроси: choice, noul (да/не) и пореден score. Не се семплират токени, затова temperature и top_p не се прилагат. Моделът може да отговаря само с предоставените от вас опции.
Той обслужва API заявките към POST /v1/systemone. Това е същият формат на заявките, използван от Jev на TypeSafe — затворения модел, с който започна тази категория. Nace твърди, че съществуващите клиенти на Jev работят след промяна на няколко променливи на средата.
Как работи Drex 1.5?
Основата е MiMo-V2.6-Distill-Qwen-9B — дистилиран модел Qwen 3.5 9B. Той има 32 слоя с хибридно внимание: 3 слоя с линейно внимание на всеки слой с пълно внимание. Отделна pointer глава (head.pt) оценява всяка опция чрез скритите състояния на основния модел.
Всеки въпрос извършва 1 проход върху състоянието и съответния въпрос. В llama.cpp състоянието се кодира веднъж и се споделя между въпросите. Страницата на Nace за Drex посочва, че моделът е обучен върху официалните обучаващи части на бенчмарковете от индекса. Оценен е само върху отделени тестови части.
Как се представя Drex 1.5 в бенчмарковете?
В публичния Decision Index 0.3.1 (37 бенчмарка, коригиран спрямо случайното отгатване) картата на модела отчита:
- Drex 1.5: 58.08
- Jev 1.13.0: 57.96
- Bespoke Nimble 9B v3: 57.19
- Cloudflare clef-flash: 56.15
Drex 1.5, Jev и Nimble попадат в рамките на диапазона от 0.9 точки за равенство в класацията. Drex изпреварва Jev в 20 от 37 бенчмарка. Резултатът на Drex е получен от собствено изпълнение на Nace на официалния пакет. Най-силните му области са Tools (75.0), а най-слабите — Knowledge и Reasoning (44.6). Графиката на Nace за представянето при старта използва по-стария Decision Index 0.2.1, където Drex е постигнал 58.28 спрямо 57.91 за Jev.
В JevBench (231 публични елемента) Drex постига 86.2% спрямо 87.0% за Jev. И двата модела достигат 73.9% при трудните елементи. При директно сравнение в 8 игри на OpenSpiel Drex е записал 122 победи, 47 равенства и 87 загуби срещу Jev (56.8%).
Дългите документи са явна силна страна:
- 8K до 32K токена: 89.5% точност, медиана 0.65 s
- 32K до 128K токена: 93.4% точност, медиана 2.0 s
Съкращаването на същите заявки до 8K токена намалява точността съответно до 76.5% и 78%.
Как разработчиците могат да стартират Drex 1.5?
Има 4 начина за внедряване, като всички обслужват един и същ API:
- Python (среда за изпълнение Kev):
inference.pyиserve.pyвърху CUDA GPU. - llama.cpp: форк на Nace с GGUF в bf16 или Q8_0, върху CUDA, Metal или CPU.
- Ollama: форк на Nace, който добавя възможност
decision. - Хостван: OpenRouter посочва цена от $0.04 за 1 млн. входни токена и $0 за изход, като услугата се предоставя от DeepInfra. Nace поддържа и собствен Console API.
Nace е тествала bf16 и Q8_0 върху AWS g5.2xlarge (A10G 24 GB) и е получила идентични отговори. Q8_0 GGUF също е дал същите резултати на Apple M5 Pro както с Metal, така и с CPU.
Умението за агенти Drex интегрира модела с Claude Code, Codex, Cursor, OpenCode, Hermes Agent, Gemini CLI и GitHub Copilot. Публикацията за старта на Nace предлага и бонус от $25 при регистрация за потребители на облачни услуги.
Как се сравнява Drex 1.5 с други модели за вземане на решения?
| Функция | Drex 1.5 | Jev 1.13.0 | Bespoke Nimble 9B v3 |
|---|---|---|---|
| Разработчик | Nace.AI | TypeSafe AI | Bespoke Labs |
| Параметри | 8.95 млрд. | Не е разкрито | LoRA върху Qwen3.5-9B |
| Тегла | Отворени | Затворени (само чрез API) | Отворени (адаптер) |
| Лиценз | Nace.AI Open RAIL-M | Собственически | CC BY-NC 4.0 |
| Контекст | 16 384 по подразбиране, до 131 072 | 64K на заявка, 32K състояние плюс най-дългият въпрос | Не е разкрито |
| Decision Index 0.3.1 (публичен) | 58.08 | 57.96 | 57.19 |
| Decision Index 0.2.1 | 58.28 | 57.91 | 56.88 |
| JevBench (231 елемента) | 86.2% | 87.0% | Не е разкрито |
| Локален хардуер | 1 CUDA GPU (bf16), Apple silicon или CPU (Q8_0) | Неприложимо | Базов Qwen3.5-9B плюс адаптер |
| Цена на API (вход / изход на 1 млн.) | $0.04 / $0 (OpenRouter) | $0.042 / $0 | Не е разкрита |
Редовете за Decision Index 0.3.1 са от картата на модела Drex 1.5, която цитира публичната класация за Jev и Nimble. Резултатът на Nimble за 0.2.1 е от собствената му карта на модела.
Какви са ограниченията?
Drex 1.5 е слой за вземане на решения, а не общ модел. Той не може да генерира текст, код или обяснения. Тестовете, изискващи задълбочени знания, са слабата му страна: 45.4% на GPQA Diamond спрямо 78.6% за Jev и 58.7% на MMLU-Pro спрямо 82.7%.
Обучението върху обучаващите части на бенчмарковете от индекса му помага при познати типове решения. Резултатите в нови области може да се различават. Локалното внедряване чрез Ollama и llama.cpp изисква форковете на Nace, а не основните версии. Теглата използват лиценз RAIL-M с ограничения за употребата, затова проверете условията преди комерсиална употреба.
Основни изводи
- Drex 1.5 е отворен модел за вземане на решения с 9 млрд. параметъра, който оценява опциите с 1 проход.
- Той постига 58.08 в Decision Index 0.3.1, наравно със затворения Jev 1.13.0.
- Точността при дълги документи достига 93.4% при 32K до 128K токена.
- Работи на 1 GPU или като Q8_0 GGUF с размер 9.5 GB на Mac.
- Слаби места: GPQA Diamond (45.4%) и сентимент в ACOS (7.4%).
Разгледайте теглата на модела в Hugging Face, GitHub хранилището и продуктовата страница на Drex. Всички заслуги са за изследователя на този проект. Също така, не се колебайте да ни последвате в Twitter и не забравяйте да се присъедините към нашия 150k+ ML SubReddit и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? сега можете да се присъедините към нас и в Telegram.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.