Sakhanda Wire
NVDA $152.58 -2.28% MSFT $506.11 -2.29% GOOGL $279.81 -1.38% META $619.07 -1.17% AMZN $256.55 -0.47%
← До новин

NVIDIA представила Nemotron 3.5 Lightning і маршрутизатор Switchyard

NVIDIA представила дві відкриті технології для постійно активних ШІ-агентів: модель Nemotron 3.5 Lightning і бібліотеку маршрутизації NeMo Switchyard. Lightning — це модель mixture-of-experts класу 30B із 3B активних параметрів, призначена для великої кількості операцій, зокрема виклику інструментів, перевірки результатів і делегування підлеглим агентам. Її гібридна архітектура Mamba-2, MoE та Attention підтримує контекст обсягом 1M токенів.

Модель попередньо навчали на понад 20 трильйонах токенів. Вона доступна з відкритими вагами, даними навчання та рецептами за дозвільною ліцензією OpenMDW-1.1. NVIDIA заявляє про можливість комерційного використання, а також запуск на одному DGX Spark із GB10 або одному H100. Компанія повідомляє про швидкість виведення до чотирьох разів вищу, ніж у моделей подібного розміру. У тесті з 10 000 завдань PinchBench NVIDIA зафіксувала точність 86% і виконання на 30% швидше за Qwen3.6 35B за порівнянної точності. Доступні контрольні точки BF16 і NVFP4, а також моделі DSpark і DFlash для спекулятивного декодування.

Switchyard спрямовує кожен етап роботи агента до найефективнішої моделі, здатної його виконати. У тесті LangChain зі 145 багатоетапними завданнями маршрутизатор ескалації скоротив витрати на 74% порівняно зі сценарієм, де використовувалася лише передова модель. До неї було спрямовано 7% запитів, а різниця в точності становила приблизно шість процентних пунктів.

Текст підготовлено ШІ Sakhanda Wire за матеріалом MarkTechPost. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням MarkTechPost

Читати оригінал на MarkTechPost ↗

Репортаж і зображення належать MarkTechPost і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини