Sakhanda Wire
NVDA $152.58 -2.28% MSFT $506.11 -2.29% GOOGL $279.81 -1.38% META $619.07 -1.17% AMZN $256.55 -0.47%
← Към новините

NVIDIA представи Nemotron 3.5 Lightning и маршрутизатора Switchyard

NVIDIA представи две отворени технологии за постоянно работещи AI агенти: модела Nemotron 3.5 Lightning и библиотеката за маршрутизиране NeMo Switchyard. Lightning е 30B модел от типа mixture-of-experts с 3B активни параметри, предназначен за задачи с голям обем като извикване на инструменти, проверка на резултати и делегиране към подагенти. Хибридната му архитектура Mamba-2, MoE и Attention поддържа контекст от 1M токена.

Моделът е предварително обучен с повече от 20 трилиона токена и се разпространява с отворени тегла, данни за обучение и рецепти по разрешителния лиценз OpenMDW-1.1. NVIDIA посочва, че е разрешена търговска употреба и че моделът работи на един DGX Spark с GB10 или на един H100. Компанията отчита до четири пъти по-висока скорост на генериране спрямо сходни по размер модели. При 10 000 задачи от PinchBench NVIDIA посочва 86% точност и изпълнение с 30% по-бързо от Qwen3.6 35B при сравнима точност. Налични са BF16 и NVFP4 контролни точки, както и моделите DSpark и DFlash за спекулативно декодиране.

Switchyard насочва всяка стъпка от работния процес към модел според неговите възможности и ефективност. В тест на LangChain със 145 многостъпкови задачи маршрутизаторът за ескалация е намалил разходите със 74% спрямо конфигурация само с водещ модел. До него са достигнали 7% от заявките, при приблизително шест процентни пункта компромис в точността.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на MarkTechPost. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Репортажът и изображението принадлежат на MarkTechPost и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини