NVIDIA представила Nemotron 3.5 Lightning и маршрутизатор Switchyard
NVIDIA представила две открытые технологии для постоянно работающих ИИ-агентов: модель Nemotron 3.5 Lightning и библиотеку маршрутизации NeMo Switchyard. Lightning — это модель mixture-of-experts класса 30B с 3B активных параметров, рассчитанная на массовые задачи выполнения, включая вызов инструментов, проверку результатов и делегирование подагентам. Ее гибридная архитектура Mamba-2, MoE и Attention поддерживает контекст длиной 1M токенов.
Модель обучали более чем на 20 триллионах токенов. Она поставляется с открытыми весами, данными для обучения и рецептами по разрешительной лицензии OpenMDW-1.1. NVIDIA заявляет о разрешении коммерческого использования и запуске на одном DGX Spark с GB10 или одном H100. Компания сообщает о приросте скорости вывода до четырех раз по сравнению с моделями сопоставимого размера. В тесте из 10 000 задач PinchBench заявлены точность 86% и выполнение на 30% быстрее, чем у Qwen3.6 35B при близкой точности. Доступны контрольные точки BF16 и NVFP4, а также модели DSpark и DFlash для спекулятивного декодирования.
Switchyard направляет каждый этап работы агента к наиболее подходящей и эффективной модели. В тестировании LangChain на 145 многошаговых задачах маршрутизатор эскалации снизил затраты на 74% против конфигурации только с передовой моделью. На нее пришлось 7% обращений, при этом разница в точности составила примерно шесть процентных пунктов.
Текст подготовлен ИИ Sakhanda Wire по материалу MarkTechPost. Факты, цитаты и полный контекст — в оригинальной статье ниже.