Sakhanda Wire
NVDA — MSFT — GOOGL — META — AMZN —
← Към новините

Nace AI пуска с отворен код Drex 1.5: 9-милиарден модел за решения, който оценява варианти, а не текст

Nace.AI пусна Drex 1.5 с отворен код — модел за вземане на решения с 9 млрд. параметъра за агенти и бекенд работни процеси. Моделът за вземане на решения Drex 1.5 не пише текст. Той прочита състояние и типизирани въпроси, след което връща вероятност за всяка опция. Nace съобщава резултат 58.08 в публичния Decision Index 0.3.1 — най-високия резултат при модели с под 10 млрд. параметъра. Теглата са налични в Hugging Face, а хоствана версия е достъпна в OpenRouter.

Накратко

  • Размер: 8.95 млрд. параметъра (плътен модел), тегла в bf16 с размер около 18 GB. Контекстът по подразбиране е 16 384 токена, а максималният е 131 072.
  • Работи на: 1 CUDA GPU в bf16 (тестван върху 24 GB A10G). Q8_0 GGUF (около 9.5 GB) работи на Apple silicon и CPU.
  • Производителност: 58.08 в Decision Index 0.3.1 (публичен), в рамките на диапазона за равенство на класацията спрямо Jev 1.13.0 (57.96).
  • Най-добър резултат: 93.4% точност при документи с 32K до 128K токена.
  • Най-слаб резултат: 7.4% F1 на ниво преглед при аспектен сентимент в ACOS, спрямо 29.5% за Jev.
  • Извод:
    • Най-добро: отворени тегла, които се изравняват със затворен модел на 1 GPU.
    • Най-слабо: слаб при общи знания и детайлен анализ на сентимента.

Какво представлява Drex 1.5?

Drex 1.5 е модел за вземане на решения от Nace.AI, който оценява фиксиран набор от опции с 1 проход напред. Изпращате state (текст или JSON) и именувани въпроси. Моделът поддържа 3 типа въпроси: choice, noul (да/не) и пореден score. Не се семплират токени, затова temperature и top_p не се прилагат. Моделът може да отговаря само с предоставените от вас опции.

Той обслужва API заявките към POST /v1/systemone. Това е същият формат на заявките, използван от Jev на TypeSafe — затворения модел, с който започна тази категория. Nace твърди, че съществуващите клиенти на Jev работят след промяна на няколко променливи на средата.

Как работи Drex 1.5?

Основата е MiMo-V2.6-Distill-Qwen-9B — дистилиран модел Qwen 3.5 9B. Той има 32 слоя с хибридно внимание: 3 слоя с линейно внимание на всеки слой с пълно внимание. Отделна pointer глава (head.pt) оценява всяка опция чрез скритите състояния на основния модел.

Всеки въпрос извършва 1 проход върху състоянието и съответния въпрос. В llama.cpp състоянието се кодира веднъж и се споделя между въпросите. Страницата на Nace за Drex посочва, че моделът е обучен върху официалните обучаващи части на бенчмарковете от индекса. Оценен е само върху отделени тестови части.

Как се представя Drex 1.5 в бенчмарковете?

В публичния Decision Index 0.3.1 (37 бенчмарка, коригиран спрямо случайното отгатване) картата на модела отчита:

  • Drex 1.5: 58.08
  • Jev 1.13.0: 57.96
  • Bespoke Nimble 9B v3: 57.19
  • Cloudflare clef-flash: 56.15

Drex 1.5, Jev и Nimble попадат в рамките на диапазона от 0.9 точки за равенство в класацията. Drex изпреварва Jev в 20 от 37 бенчмарка. Резултатът на Drex е получен от собствено изпълнение на Nace на официалния пакет. Най-силните му области са Tools (75.0), а най-слабите — Knowledge и Reasoning (44.6). Графиката на Nace за представянето при старта използва по-стария Decision Index 0.2.1, където Drex е постигнал 58.28 спрямо 57.91 за Jev.

В JevBench (231 публични елемента) Drex постига 86.2% спрямо 87.0% за Jev. И двата модела достигат 73.9% при трудните елементи. При директно сравнение в 8 игри на OpenSpiel Drex е записал 122 победи, 47 равенства и 87 загуби срещу Jev (56.8%).

Дългите документи са явна силна страна:

  • 8K до 32K токена: 89.5% точност, медиана 0.65 s
  • 32K до 128K токена: 93.4% точност, медиана 2.0 s

Съкращаването на същите заявки до 8K токена намалява точността съответно до 76.5% и 78%.

Как разработчиците могат да стартират Drex 1.5?

Има 4 начина за внедряване, като всички обслужват един и същ API:

  • Python (среда за изпълнение Kev): inference.py и serve.py върху CUDA GPU.
  • llama.cpp: форк на Nace с GGUF в bf16 или Q8_0, върху CUDA, Metal или CPU.
  • Ollama: форк на Nace, който добавя възможност decision.
  • Хостван: OpenRouter посочва цена от $0.04 за 1 млн. входни токена и $0 за изход, като услугата се предоставя от DeepInfra. Nace поддържа и собствен Console API.

Nace е тествала bf16 и Q8_0 върху AWS g5.2xlarge (A10G 24 GB) и е получила идентични отговори. Q8_0 GGUF също е дал същите резултати на Apple M5 Pro както с Metal, така и с CPU.

Умението за агенти Drex интегрира модела с Claude Code, Codex, Cursor, OpenCode, Hermes Agent, Gemini CLI и GitHub Copilot. Публикацията за старта на Nace предлага и бонус от $25 при регистрация за потребители на облачни услуги.

Как се сравнява Drex 1.5 с други модели за вземане на решения?

ФункцияDrex 1.5Jev 1.13.0Bespoke Nimble 9B v3
РазработчикNace.AITypeSafe AIBespoke Labs
Параметри8.95 млрд.Не е разкритоLoRA върху Qwen3.5-9B
ТеглаОтворениЗатворени (само чрез API)Отворени (адаптер)
ЛицензNace.AI Open RAIL-MСобственическиCC BY-NC 4.0
Контекст16 384 по подразбиране, до 131 07264K на заявка, 32K състояние плюс най-дългият въпросНе е разкрито
Decision Index 0.3.1 (публичен)58.0857.9657.19
Decision Index 0.2.158.2857.9156.88
JevBench (231 елемента)86.2%87.0%Не е разкрито
Локален хардуер1 CUDA GPU (bf16), Apple silicon или CPU (Q8_0)НеприложимоБазов Qwen3.5-9B плюс адаптер
Цена на API (вход / изход на 1 млн.)$0.04 / $0 (OpenRouter)$0.042 / $0Не е разкрита

Редовете за Decision Index 0.3.1 са от картата на модела Drex 1.5, която цитира публичната класация за Jev и Nimble. Резултатът на Nimble за 0.2.1 е от собствената му карта на модела.

Какви са ограниченията?

Drex 1.5 е слой за вземане на решения, а не общ модел. Той не може да генерира текст, код или обяснения. Тестовете, изискващи задълбочени знания, са слабата му страна: 45.4% на GPQA Diamond спрямо 78.6% за Jev и 58.7% на MMLU-Pro спрямо 82.7%.

Обучението върху обучаващите части на бенчмарковете от индекса му помага при познати типове решения. Резултатите в нови области може да се различават. Локалното внедряване чрез Ollama и llama.cpp изисква форковете на Nace, а не основните версии. Теглата използват лиценз RAIL-M с ограничения за употребата, затова проверете условията преди комерсиална употреба.

Основни изводи

  • Drex 1.5 е отворен модел за вземане на решения с 9 млрд. параметъра, който оценява опциите с 1 проход.
  • Той постига 58.08 в Decision Index 0.3.1, наравно със затворения Jev 1.13.0.
  • Точността при дълги документи достига 93.4% при 32K до 128K токена.
  • Работи на 1 GPU или като Q8_0 GGUF с размер 9.5 GB на Mac.
  • Слаби места: GPQA Diamond (45.4%) и сентимент в ACOS (7.4%).

Разгледайте теглата на модела в Hugging Face, GitHub хранилището и продуктовата страница на Drex. Всички заслуги са за изследователя на този проект. Също така, не се колебайте да ни последвате в Twitter и не забравяйте да се присъедините към нашия 150k+ ML SubReddit и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? сега можете да се присъедините към нас и в Telegram.

Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Текстът и изображенията са собственост на MarkTechPost и са възпроизведени тук с посочване на авторството и връзка към оригиналната публикация.

← Към новините

Още новини

Всички последни новини