Nvidia выпускает новые открытые модели для запуска агентов в компаниях и на ПК

В четверг Nvidia представила новые модели с открытыми весами, разработанные для постоянно работающих агентов и периферийных вычислений.

Nemotron 3.5 Super VL — это крупная модель со 120 миллиардами параметров, ориентированная на агентов для корпоративного использования. Хотя в ней используется меньше параметров, чем в модели Nemotron 3 Ultra, Nvidia заявляет, что она обеспечивает сопоставимую точность в задачах следования инструкциям и использования инструментов.

На другом конце спектра компания также представила две облегчённые модели Bolt. Они предназначены для локального запуска на новых ИИ-ПК (работающих на чипе Nvidia RTX Spark) и рабочих станциях с DGX Spark. Такие ПК, ориентированные на потребителей, программистов и корпоративных сотрудников, работающих со знаниями, прямо сейчас выходят на рынок через таких партнёров, как Microsoft и Dell.  

«Теперь у любой организации, которая хочет запускать агентов на инфраструктуре Nvidia, есть открытая оптимизированная модель для её уровня — без необходимости выбирать между возможностями и удобством развёртывания», — написала вице-президент Nvidia по открытым моделям и программному обеспечению Кари Бриски в записи в блоге, посвящённой анонсу этих моделей.  

Nvidia утверждает, что Super VL выполняет задачи быстрее, чем конкурирующие модели Anthropic и OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra), если дообучить её на конкретных агентных задачах. К ним относятся работа с документами, финансовый учёт, научные эксперименты, обработка страховых медицинских требований и устойчивость к атакам на системы безопасности. 

Хотя подобные заявления стандартны при анонсе новой модели крупной технологической компанией, Nvidia подкрепила их списком крупных компаний, которые, по её словам, используют Super VL. В их число входят Skydance, EY, Ramp, Crowdstrike, Perplexity и Salesforce.  

Разумеется, это не первые модели с открытыми весами, выпущенные Nvidia и конкурирующие с закрытыми передовыми лабораториями — компаниями, которые одновременно являются её клиентами и объектами инвестиций. У гиганта рынка графических процессоров есть целое семейство моделей Nemotron, предназначенных для самых разных задач: от мультимодального искусственного интеллекта до рассуждений, программирования, математики и корпоративной автоматизации. 

Однако эти быстрорастущие закрытые ИИ-лаборатории теперь обращаются за вычислительными ресурсами ко множеству других производителей чипов и ИИ-систем, помимо Nvidia (например, к Trainium от AWS и Cerebras, а также разрабатывают собственные чипы).  

Поэтому Nvidia активно поддерживает тенденцию, при которой корпоративные компании хотят запускать собственные открытые модели в собственных центрах обработки данных. «В отличие от закрытых передовых моделей, организации могут дообучать Super VL на собственных данных, развёртывать её на собственной инфраструктуре и владеть тем, что они создают», — написала Бриски. 

Но, объявляя о меньших моделях для локальных ПК, компания также пытается продвинуть зарождающуюся тенденцию потребительских ИИ-ассистентов. Хотя кажется, что стартапы и крупные технологические компании ежедневно представляют нового ИИ-ассистента, обеспокоенные конфиденциальностью потребители могут не захотеть настолько глубоко впускать таких агентов в свою жизнь, предоставляя им доступ к информации о своих семьях, здоровье, финансах и так далее.  

Таким образом Nvidia надеется создать для себя новый рынок, продавая ПК на базе своих чипов и создавая машины, на которых модели и агенты работают локально: пользователи ПК «могут поручать им повседневные проекты … не отправляя эти задачи в облако», — написала Бриски. 

Из двух моделей Bolt Nemotron 3.5 Bolt 74B-A9B 24GB — это модель с 74 миллиардами параметров, предназначенная для локальных агентных задач. Она призвана сочетать скорость с рассуждением для выполнения многоэтапных рассуждений, вызова инструментов и просмотра веб-страниц. Самая маленькая Bolt E4B предназначена для разговорных агентов. 

Super VL и Bolt 74B-A9B уже доступны, а Bolt E4B, по словам Nvidia, выйдет позднее в этом месяце.