vLLM Semantic Router пусна d3-ultra: 27B мултимодален модел за вземане на решения с отворени тегла

Екипът на vLLM Semantic Router пусна d3-ultra — мултимодален модел за вземане на решения с 27B параметъра под лиценза Apache-2.0. Моделът за вземане на решения d3-ultra не генерира текст. Той прочита входа веднъж и връща вероятност за всеки отговор на всеки въпрос. За разработчиците това означава маршрутизиране, класификация, визуално локализиране и проверки на видео чрез 1 извикване към модел с отворени тегла.

Накратко

• Размер: 26,09B параметъра (плътен модел, включително визуален енкодер с 0,46B параметъра); контекст от 131 072 токена на въпрос.
• Работи на: тестван на 1 AMD Instinct MI325X с тегла BF16; все още няма официално посочен квантизиран вариант.
• Производителност: най-висок резултат SR-Text сред 6-те модела за вземане на решения в собствените частни тестове на екипа.
• Най-добър резултат: 97,8 за инструменти и автоматизация в SR-Text (коригирана спрямо случайността точност).
• Най-слаб резултат: 54,6% в SR-Box (9 домейна), с 5,0 пункта под сродния d3-turbo.

Какво представлява d3-ultra?

d3-ultra е модел за вземане на решения System One от vLLM Semantic Router, който отговаря на типизирани въпроси с вероятности. Той е най-новият член на Decision 3.0 — семейство, обхващащо модели от 0,6B до 27B.

Изпращате състояние (текст или JSON, плюс изображения или видеоклипове) и набор от въпроси. Всеки въпрос има тип:

• Избор: избиране на 1 от няколко опции.
• Да / Не: връщане на вероятността за „да“.
• Оценка: оценяване по скала.
• Кутия: локализиране на нещо в изображение или във видео момент.
• Проследяване: следене на обект в рамките на цял видеоклип.

Изображенията могат също да бъдат част от въпросите и опциите. Един тест може да покаже снимка, след което да предложи 4 гравюри като отговори.

Как работи d3-ultra?

Основната идея е еднократно състояние. Моделът прочита входа веднъж за всяка заявка и отговаря на всички въпроси въз основа на това еднократно прочитане.

Конфигурацията показва гръбнак с архитектура Qwen3.5 и 64 слоя. 48 са слоеве с линейно внимание, а 16 са слоеве с пълно внимание. Картата не посочва базовата контролна точка. Рецептата на vLLM посочва, че сродният d3 е обучен от Qwen3.8-27B.

Отговорите тип „кутия“ винаги връщат точно 1 кутия с увереност. Увереност, близка до 0, означава, че целта не се намира на изображението. Въпросите с над 131 072 токена се провалят с max_length_exceeded; нищо не се съкращава тихомълком.

Как се представя d3-ultra на бенчмаркове?

Изследователският екип сравнява d3-ultra с GLiDE V1.2, d1-ultra, d3-turbo, d3 и Jev 1.14 в 2 вътрешни теста.

SR-Text включва 10 411 текстови заявки със 73 495 въпроса. Повечето пресъздават умения от 34 публични бенчмарка с нови елементи. Други 4 896 въпроса идват от 43 нови семейства задачи, като проверки на SQL и маршрутизиране на заявки за поддръжка. Резултатите са коригирани спрямо случайността: 0 означава случайност, а 100 — съвършен резултат.

• d3-ultra: 87,2
• GLiDE V1.2: 85,1
• d1-ultra: 83,4
• d3-turbo: 83,1
• d3: 81,4
• Jev 1.14: 73,1

d3-ultra води във всяка област с изключение на изкуствата и човешкия вкус. Там d1-ultra постига 90,8 спрямо 89,6 — в рамките на допустимата грешка.

SR-Box включва 5 678 въпроса тип „кутия“ върху 4 984 изображения в 10 домейна. Кутията се счита за правилна при IoU 0,5 или повече. d3-ultra постига 58,2% в 10 домейна и 54,6% в 9. d3-turbo постига съответно 60,0% и 59,6%. Jev 1.14 постига 45,7% и 46,9%. Екипът посочва, че d3-turbo остава по-силен при естествени изображения, докато d3-ultra води при диаграми.

Латентност: на 1 AMD Instinct MI325X с AutoModel 1 въпрос за снимка отнема 304 ms. 255 въпроса отнемат 2,16 s, или около 7,3 ms за всеки допълнителен въпрос.

Как внедрявате d3-ultra?

Има 4 начина:

• Transformers: AutoModel.from_pretrained("vllm-sr/d3-ultra", trust_remote_code=True) с transformers==5.17.0. Незадължителният пакет flash-linear-attention добавя бързи GPU ядра.
• vLLM Semantic Router Engine: vllm-sr serve -e vllm-sr/d3-ultra, добавен в PR #5449 на 25 октомври 2026 г.
• Безплатен API: в картата се посочва, че decision.vllm-sr.ai предоставя d3-ultra с безплатен ключ.
• Демо: официалното пространство в Hugging Face.

d3-ultra спрямо GLiDE V1.2, d1-ultra, Jev 1.14 и d3-turbo

Характеристика	d3-ultra	d3-turbo	GLiDE V1.2	d1-ultra	Jev 1.14
Разработчик	vLLM Semantic Router	vLLM Semantic Router	Fastino Labs	Liquid AI	TypeSafe
Параметри	26,09B	26,09B	26B	Не е разкрито	Не е разкрито
Контекст на въпрос	131 072	32 768 по подразбиране; 131 072 с long_context	40 000 по подразбиране	32 768	262 144
Тегла / лиценз	Отворени, Apache-2.0	Отворени, Apache-2.0	Отворени, Fastino Community License	Само хостван	Само хостван, собственически
Входове	Текст, JSON, изображения, видео	Текст, JSON, изображения, видео	Текст, JSON, изображения	Текст, изображения	Текст, изображения
Кутия / проследяване	Кутия + проследяване	Кутия + проследяване	Не	Не	Само кутия
SR-Text (самоотчетени от vLLM-SR)	87,2	83,1	85,1	83,4	73,1
SR-Box, 10 домейна	58,2%	60,0%	Не се поддържа	Не се поддържа	45,7%
Резултат в публичния индекс	Изпратен, все още не е в класацията	70,2 Jev DI (собствена оценка)	71,5 Decision Index 0.4.1	65 AA Decision Index	57 AA Decision Index
Цена	Безплатен API, самостоятелно хостване	Безплатен API, самостоятелно хостване	0,04 $ / M вход	0,042 $ / M вход	0,042 $ / M вход

Основни изводи

• d3-ultra е модел за вземане на решения с 27B параметъра и лиценз Apache-2.0, който никога не генерира текст.
• Той прочита входа веднъж: 255 въпроса за 1 снимка отнемат 2,16 s.
• Той оглавява теста SR-Text на екипа с 87,2, пред GLiDE V1.2 с 85,1.
• Изостава от d3-turbo при локализирането с кутии: 58,2% спрямо 60,0%.
• Всички числа от бенчмарковете са самоотчетени върху частни тестови набори.

---

Разгледайте картата на модела, GitHub хранилището, колекцията Decision 3.0 и пространството в Hugging Face. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия SubReddit за машинно обучение с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Вече можете да се присъедините към нас и в Telegram.

Имате нужда от партньорство с нас за популяризиране на вашето GitHub хранилище, страница в Hugging Face, продуктово издание, уебинар и т.н.? Свържете се с нас