NVIDIA представила Nemotron 3.5 Lightning і маршрутизатор Switchyard
NVIDIA представила дві відкриті технології для постійно активних ШІ-агентів: модель Nemotron 3.5 Lightning і бібліотеку маршрутизації NeMo Switchyard. Lightning — це модель mixture-of-experts класу 30B із 3B активних параметрів, призначена для великої кількості операцій, зокрема виклику інструментів, перевірки результатів і делегування підлеглим агентам. Її гібридна архітектура Mamba-2, MoE та Attention підтримує контекст обсягом 1M токенів.
Модель попередньо навчали на понад 20 трильйонах токенів. Вона доступна з відкритими вагами, даними навчання та рецептами за дозвільною ліцензією OpenMDW-1.1. NVIDIA заявляє про можливість комерційного використання, а також запуск на одному DGX Spark із GB10 або одному H100. Компанія повідомляє про швидкість виведення до чотирьох разів вищу, ніж у моделей подібного розміру. У тесті з 10 000 завдань PinchBench NVIDIA зафіксувала точність 86% і виконання на 30% швидше за Qwen3.6 35B за порівнянної точності. Доступні контрольні точки BF16 і NVFP4, а також моделі DSpark і DFlash для спекулятивного декодування.
Switchyard спрямовує кожен етап роботи агента до найефективнішої моделі, здатної його виконати. У тесті LangChain зі 145 багатоетапними завданнями маршрутизатор ескалації скоротив витрати на 74% порівняно зі сценарієм, де використовувалася лише передова модель. До неї було спрямовано 7% запитів, а різниця в точності становила приблизно шість процентних пунктів.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.