vLLM Semantic Router выпустил d3-ultra: мультимодальная модель принятия решений с открытыми весами на 27B
Команда vLLM Semantic Router выпустила d3-ultra — мультимодальную модель принятия решений на 27 млрд параметров под лицензией Apache-2.0. Модель принятия решений d3-ultra не генерирует текст. Она однократно считывает входные данные и возвращает вероятность каждого ответа на каждый вопрос. Для разработчиков это означает маршрутизацию, классификацию, визуальное заземление и проверку видео за 1 вызов модели с открытыми весами.
Кратко
- Размер: 26,09 млрд параметров (плотная модель, включая визуальный энкодер на 0,46 млрд параметров); контекст объёмом 131 072 токена на вопрос.
- Запуск: протестирована на 1 AMD Instinct MI325X с весами BF16; официального квантованного варианта пока нет в списке.
- Производительность: самый высокий показатель SR-Text среди 6 моделей принятия решений в собственном закрытом тесте команды.
- Лучший результат: 97,8 в инструментах и автоматизации SR-Text (скорректированная с учётом случайного угадывания точность).
- Худший результат: 54,6% в SR-Box (9 доменов), на 5,0 пункта ниже родственной модели d3-turbo.
Что такое d3-ultra?
d3-ultra — модель принятия решений System One от vLLM Semantic Router, которая отвечает на типизированные вопросы с указанием вероятностей. Это новейший представитель семейства Decision 3.0, охватывающего модели от 0,6 до 27 млрд параметров.
Вы отправляете состояние (текст или JSON, а также изображения или видео) и набор вопросов. У каждого вопроса есть тип:
- Выбор: выбрать 1 из нескольких вариантов.
- Да / Нет: вернуть вероятность ответа «да».
- Оценка: оценить по шкале.
- Область: найти что-либо на изображении или в моменте видео.
- Трекинг: отслеживать объект на протяжении всего видео.
Изображения также могут находиться внутри вопросов и вариантов ответа. В викторине можно показать фотографию, а затем предложить 4 гравюры в качестве ответов.
Как работает d3-ultra?
Основная идея — однократное считывание состояния. Модель считывает входные данные один раз за запрос и отвечает на каждый вопрос на основе этого единственного считывания.
Конфигурация показывает базовую архитектуру Qwen3.5 с 64 слоями. 48 из них — слои линейного внимания, а 16 — слои полного внимания. В карточке не указана базовая контрольная точка. В рецепте vLLM говорится, что родственная модель d3 обучалась на основе Qwen3.8-27B.
Ответы типа «Область» всегда возвращают ровно 1 область с показателем уверенности. Уверенность, близкая к 0, означает, что целевой объект отсутствует на изображении. Вопросы объёмом более 131 072 токенов завершаются ошибкой max_length_exceeded; данные не усекаются без уведомления.
Как d3-ultra показывает себя на бенчмарках?
Исследовательская команда сравнивает d3-ultra с GLiDE V1.2, d1-ultra, d3-turbo, d3 и Jev 1.14 в 2 собственных тестах.
SR-Text включает 10 411 текстовых запросов с 73 495 вопросами. Большинство из них воспроизводит навыки из 34 общедоступных бенчмарков с новыми заданиями. Ещё 4 896 вопросов относятся к 43 новым семействам задач, таким как проверки SQL и маршрутизация тикетов. Показатели скорректированы с учётом случайного угадывания: 0 — случайный результат, 100 — идеальный.
- d3-ultra: 87,2
- GLiDE V1.2: 85,1
- d1-ultra: 83,4
- d3-turbo: 83,1
- d3: 81,4
- Jev 1.14: 73,1
d3-ultra лидирует во всех областях, кроме искусства и человеческого вкуса. Там d1-ultra получает 90,8 против 89,6, что находится в пределах погрешности.
SR-Box включает 5 678 вопросов типа «Область» по 4 984 изображениям в 10 доменах. Область считается правильной при IoU 0,5 или выше. d3-ultra набирает 58,2% по 10 доменам и 54,6% по 9. d3-turbo набирает 60,0% и 59,6%. Jev 1.14 набирает 45,7% и 46,9%. Команда утверждает, что d3-turbo остаётся сильнее на естественных изображениях, тогда как d3-ultra лидирует на диаграммах.
Задержка: на 1 AMD Instinct MI325X с AutoModel 1 вопрос о фотографии занимает 304 мс. 255 вопросов занимают 2,16 с, то есть около 7,3 мс на каждый дополнительный вопрос.
Как развернуть d3-ultra?
Есть 4 способа:
- Transformers:
AutoModel.from_pretrained("vllm-sr/d3-ultra", trust_remote_code=True)сtransformers==5.17.0. Необязательный пакетflash-linear-attentionдобавляет быстрые GPU-ядра. - vLLM Semantic Router Engine:
vllm-sr serve -e vllm-sr/d3-ultra, добавленный в PR #5449 25 октября 2026 года. - Бесплатный API: в карточке указано, что decision.vllm-sr.ai предоставляет d3-ultra с бесплатным ключом.
- Демонстрация: официальное пространство Hugging Face.
d3-ultra против GLiDE V1.2, d1-ultra, Jev 1.14 и d3-turbo
| Характеристика | d3-ultra | d3-turbo | GLiDE V1.2 | d1-ultra | Jev 1.14 |
|---|---|---|---|---|---|
| Разработчик | vLLM Semantic Router | vLLM Semantic Router | Fastino Labs | Liquid AI | TypeSafe |
| Параметры | 26,09 млрд | 26,09 млрд | 26 млрд | Не раскрыто | Не раскрыто |
| Контекст на вопрос | 131 072 | 32 768 по умолчанию; 131 072 с long_context | 40 000 по умолчанию | 32 768 | 262 144 |
| Веса / лицензия | Открытые, Apache-2.0 | Открытые, Apache-2.0 | Открытые, Fastino Community License | Только хостинг | Только хостинг, проприетарная |
| Входные данные | Текст, JSON, изображения, видео | Текст, JSON, изображения, видео | Текст, JSON, изображения | Текст, изображения | Текст, изображения |
| Область / трекинг | Область + трекинг | Область + трекинг | Нет | Нет | Только область |
| SR-Text (по данным vLLM-SR) | 87,2 | 83,1 | 85,1 | 83,4 | 73,1 |
| SR-Box, 10 доменов | 58,2% | 60,0% | Не поддерживается | Не поддерживается | 45,7% |
| Показатель публичного индекса | Отправлено, ещё не опубликовано в таблице | 70,2 Jev DI (собственная оценка) | 71,5 Decision Index 0.4.1 | 65 AA Decision Index | 57 AA Decision Index |
| Цена | Бесплатный API, самостоятельный хостинг | Бесплатный API, самостоятельный хостинг | $0.04 / млн входных данных | $0.042 / млн входных данных | $0.042 / млн входных данных |
Ключевые выводы
- d3-ultra — модель принятия решений на 27 млрд параметров под лицензией Apache-2.0, которая никогда не генерирует текст.
- Она считывает входные данные один раз: 255 вопросов об одной фотографии занимают 2,16 с.
- Она возглавляет собственный тест SR-Text команды с результатом 87,2, опережая GLiDE V1.2 с результатом 85,1.
- Она уступает d3-turbo в заземлении областей: 58,2% против 60,0%.
- Все показатели бенчмарков предоставлены самой командой и получены на закрытых наборах тестов.
Ознакомьтесь с карточкой модели, репозиторием на GitHub, коллекцией Decision 3.0 и пространством Hugging Face. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту о машинном обучении с более чем 150 тысячами участников и подписаться на нашу рассылку. Стоп! вы есть в Telegram? теперь к нам можно присоединиться и в Telegram.
Хотите сотрудничать с нами для продвижения вашего репозитория на GitHub, страницы на Hugging Face, выпуска продукта, вебинара и т. д.? Свяжитесь с нами
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.