Sakhanda Wire
NVDA $229.28 -0.52% MSFT $535.07 +2.38% GOOGL $351.66 +0.97% META $718.67 -0.31% AMZN $262.43 +3.29%
← До новин

Nace AI відкриває код Drex 1.5: 9-мільярдна модель ухвалення рішень, що оцінює варіанти, а не текст

Nace.AI відкрила вихідний код Drex 1.5 — моделі рішень із 9B параметрів для агентів і бекенд-процесів. Модель рішень Drex 1.5 не пише текст. Вона читає стан і типізовані запитання, а потім повертає ймовірність для кожного варіанта. Nace повідомляє результат 58.08 у загальнодоступному Decision Index 0.3.1 — це найвищий показник серед моделей із менш ніж 10B параметрів. Ваги доступні на Hugging Face, а розміщена версія працює на OpenRouter.

Коротко

  • Розмір: 8.95B параметрів (щільна модель), ваги bf16 займають близько 18 ГБ. Контекст за замовчуванням — 16,384 токенів, максимум — 131,072.
  • Працює на: 1 CUDA GPU у bf16 (протестовано на A10G із 24 ГБ). Q8_0 GGUF (близько 9.5 ГБ) працює на Apple silicon і CPU.
  • Продуктивність: 58.08 у Decision Index 0.3.1 (загальнодоступний), у межах діапазону нічиєї таблиці — Jev 1.13.0 (57.96).
  • Найкращий результат: 93.4% точності на документах обсягом від 32K до 128K токенів.
  • Найгірший результат: 7.4% F1 для окремого огляду в аналізі тональності аспектів ACOS, проти 29.5% у Jev.
  • Підсумок:
    • Найкраще: відкриті ваги, які відповідають закритій моделі на 1 GPU.
    • Найгірше: слабкі результати у широких знаннях і детальному аналізі тональності.

Що таке Drex 1.5?

Drex 1.5 — це модель рішень від Nace.AI, яка оцінює фіксований набір варіантів за 1 прямий прохід. Ви надсилаєте state (текст або JSON) і названі запитання. Вона підтримує 3 типи запитань: choice, noul (так/ні) та порядкову оцінку score. Токени не генеруються, тому temperature і top_p не застосовуються. Модель може відповідати лише варіантами, які ви надали.

Вона обслуговує API POST /v1/systemone. Це той самий формат запитів, який використовує Jev від TypeSafe — закрита модель, із якої почалася ця категорія. Nace стверджує, що наявні клієнти Jev працюють після зміни кількох змінних середовища.

Як працює Drex 1.5?

Основою є MiMo-V2.6-Distill-Qwen-9B — дистильована модель Qwen 3.5 9B. Вона має 32 шари з гібридною увагою: 3 шари лінійної уваги на кожен шар повної уваги. Окрема голова вказівників (head.pt) оцінює кожен варіант на основі прихованих станів основної моделі.

Кожне запитання виконує 1 прохід над станом і цим запитанням. У llama.cpp стан кодується один раз і спільно використовується для всіх запитань. На сторінці Drex Nace зазначає, що модель навчалася на офіційних навчальних вибірках бенчмарків індексу. Оцінювання проводилося лише на відкладених вибірках.

Як Drex 1.5 показує себе в бенчмарках?

У загальнодоступному Decision Index 0.3.1 (37 бенчмарків, скоригований на рівень випадковості) картка моделі містить такі результати:

  • Drex 1.5: 58.08
  • Jev 1.13.0: 57.96
  • Bespoke Nimble 9B v3: 57.19
  • Cloudflare clef-flash: 56.15

Drex 1.5, Jev і Nimble перебувають у межах 0.9-бального діапазону нічиєї таблиці. Drex випереджає Jev у 20 із 37 бенчмарків. Результат Drex отримано під час власного запуску Nace офіційного набору інструментів. Найсильніші показники за напрямами — у Tools (75.0), а найслабші — у Knowledge і Reasoning (44.6). На графіку запуску Nace використовується старіший Decision Index 0.2.1, де Drex набрав 58.28 проти 57.91 у Jev.

У JevBench (231 загальнодоступне завдання) Drex набирає 86.2% проти 87.0% у Jev. На складних завданнях обидві моделі досягають 73.9%. У прямому порівнянні у 8 іграх OpenSpiel Drex здобув 122 перемоги, 47 нічиїх і 87 поразок проти Jev (56.8%).

Довгі документи є очевидною сильною стороною:

  • Від 8K до 32K токенів: 89.5% точності, медіана 0.65 с
  • Від 32K до 128K токенів: 93.4% точності, медіана 2.0 с

Усікання тих самих запитів до 8K токенів знижує точність до 76.5% і 78%.

Як розробники можуть запускати Drex 1.5?

Існує 4 способи розгортання, усі вони використовують один і той самий API:

  • Python (середовище виконання Kev): inference.py і serve.py на CUDA GPU.
  • llama.cpp: форк Nace із GGUF у bf16 або Q8_0, на CUDA, Metal або CPU.
  • Ollama: форк Nace, який додає можливість decision.
  • Хостинг: OpenRouter вказує ціну $0.04 за 1 млн вхідних токенів і $0 за вихідні; обслуговування здійснює DeepInfra. Nace також підтримує власний Console API.

Nace протестувала bf16 і Q8_0 на AWS g5.2xlarge (A10G, 24 ГБ) і отримала ідентичні відповіді. Q8_0 GGUF також показав збіг на Apple M5 Pro і в режимі Metal, і на CPU.

Навичка агента Drex підключає модель до Claude Code, Codex, Cursor, OpenCode, Hermes Agent, Gemini CLI і GitHub Copilot. У своєму дописі про запуск Nace також пропонує бонус $25 за реєстрацію для користувачів хмарних сервісів.

Як Drex 1.5 порівнюється з іншими моделями рішень?

ХарактеристикаDrex 1.5Jev 1.13.0Bespoke Nimble 9B v3
РозробникNace.AITypeSafe AIBespoke Labs
Параметри8.95BНе розкритоLoRA на Qwen3.5-9B
ВагиВідкритіЗакриті (лише API)Відкриті (адаптер)
ЛіцензіяNace.AI Open RAIL-MПропрієтарнаCC BY-NC 4.0
Контекст16,384 за замовчуванням, до 131,07264K на запит, стан 32K плюс найдовше запитанняНе розкрито
Decision Index 0.3.1 (загальнодоступний)58.0857.9657.19
Decision Index 0.2.158.2857.9156.88
JevBench (231 завдання)86.2%87.0%Не розкрито
Локальне обладнання1 CUDA GPU (bf16), Apple silicon або CPU (Q8_0)Не застосовуєтьсяБазова Qwen3.5-9B плюс адаптер
Ціна API (вхідні / вихідні за 1 млн)$0.04 / $0 (OpenRouter)$0.042 / $0Не розкрито

Рядки Decision Index 0.3.1 взято з картки моделі Drex, у якій наведено посилання на загальнодоступну таблицю лідерів для Jev і Nimble. Результат Nimble у 0.2.1 взято з його власної картки моделі.

Які є обмеження?

Drex 1.5 — це рівень прийняття рішень, а не універсальна модель. Вона не може генерувати текст, код або пояснення. Її слабке місце — тести, що потребують значних знань: 45.4% у GPQA Diamond проти 78.6% у Jev і 58.7% у MMLU-Pro проти 82.7%.

Навчання на навчальних вибірках бенчмарків індексу допомагає моделі у знайомих типах рішень. Результати в нових предметних галузях можуть відрізнятися. Для локального розгортання через Ollama і llama.cpp потрібні форки Nace, а не основні збірки. Ваги використовують ліцензію RAIL-M з обмеженнями використання, тому перед комерційним застосуванням перевірте умови.

Ключові висновки

  • Drex 1.5 — це відкрита модель рішень із 9B параметрів, яка оцінює варіанти за 1 прохід.
  • Вона набирає 58.08 у Decision Index 0.3.1, зрівнявшись із закритою Jev 1.13.0.
  • Точність на довгих документах досягає 93.4% для 32K–128K токенів.
  • Вона працює на 1 GPU або як Q8_0 GGUF розміром 9.5 ГБ на Mac.
  • Слабкі місця: GPQA Diamond (45.4%) і тональність ACOS (7.4%).

Перегляньте ваги моделі на Hugging Face, репозиторій GitHub і сторінку продукту Drex. Уся заслуга належить досліднику цього проєкту. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого субреддіту 150k+ ML та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? тепер ви також можете приєднатися до нас у Telegram.

Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.

Вперше опубліковано виданням MarkTechPost

Читати оригінал на MarkTechPost ↗

Текст і зображення належать MarkTechPost і наводяться тут із зазначенням авторства та посиланням на оригінальну публікацію.

← До новин

Ще новини

Усі останні новини