Nvidia запускає нові відкриті моделі для роботи агентів у компаніях і на ПК

Nvidia у четвер представила нові моделі з відкритими вагами, розроблені для агентів, що працюють постійно, та периферійних обчислень.

Nemotron 3.5 Super VL — це велика модель зі 120 мільярдами параметрів, орієнтована на агентів, яких використовують підприємства. Хоча вона має менше параметрів, ніж модель Nemotron 3 Ultra, Nvidia стверджує, що може забезпечувати подібну точність у завданнях із виконання інструкцій та використання інструментів.

На іншому кінці спектра компанія також представила дві полегшені моделі Bolt. Вони призначені для локального запуску на нових ШІ-ПК (з чипом Nvidia RTX Spark) і робочих станціях із DGX Spark. Такі ПК, орієнтовані на споживачів, програмістів і корпоративних працівників розумової праці, саме зараз виходять на ринок через таких партнерів, як Microsoft і Dell.  

«Будь-яка організація, яка хоче запускати агентів на інфраструктурі Nvidia, тепер має відкриту оптимізовану модель для свого рівня, не змушуючи обирати між функціональністю та можливістю розгортання», — написала віцепрезидентка Nvidia з відкритих моделей і програмного забезпечення Kari Briski у дописі в блозі, у якому оголосила про ці моделі.  

Nvidia стверджує, що Super VL виконує завдання швидше за конкуруючі моделі Anthropic і OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra), якщо їх додатково навчити на конкретних агентних завданнях. До таких завдань належать інтелектуальний аналіз документів, фінансовий облік, наукові експерименти, обробка медичних страхових вимог і стійкість до атак на безпеку. 

Хоча такі заяви є стандартними щоразу, коли велика технологічна компанія представляє нову модель, Nvidia підкріпила їх переліком відомих компаній, які, за її словами, використовують Super VL. Серед них — Skydance, EY, Ramp, Crowdstrike, Perplexity і Salesforce.  

Звісно, це не перші моделі Nvidia з відкритими вагами, які конкурують із пропрієтарними передовими лабораторіями — компаніями, що водночас є її клієнтами та об’єктами інвестицій. Гігант GPU має ціле сімейство моделей Nemotron, які охоплюють усе — від мультимодального штучного інтелекту до міркування, програмування, математики й автоматизації підприємств. 

Однак ці пропрієтарні ШІ-лабораторії, що швидко розвиваються, тепер звертаються до багатьох інших виробників чипів і ШІ-систем, окрім Nvidia, щоб забезпечити свої потреби (зокрема до Trainium від AWS і Cerebras, а також розробляють власні чипи).  

Тож Nvidia активно підтримує тенденцію, за якої корпоративні компанії прагнуть запускати власні відкриті моделі у власних центрах обробки даних. «На відміну від закритих передових моделей, організації можуть додатково навчати Super VL на власних даних, розгортати її на власній інфраструктурі та володіти тим, що вони створюють», — написала Briski. 

Анонсувавши менші моделі для локальних ПК, компанія також намагається просунути молоду тенденцію споживчих ШІ-помічників. Хоча здається, що стартапи та великі технологічні компанії щодня представляють нового ШІ-помічника, споживачі, стурбовані приватністю, можуть не захотіти так глибоко впускати таких агентів у своє життя, надаючи їм доступ до інформації про свої сім’ї, здоров’я, фінанси тощо.  

Тож Nvidia сподівається створити для себе новий ринок, продаючи ПК на базі власних чипів, — створюючи машини, які запускають моделі та агентів локально, користувачі ПК «можуть доручати їм повсякденні проєкти … не надсилаючи ці робочі навантаження у хмару», — написала Briski. 

Із двох моделей Bolt, Nemotron 3.5 Bolt 74B-A9B 24GB — це модель із 74 мільярдами параметрів, розроблена для локальних агентних завдань. Вона має забезпечувати баланс між швидкістю та міркуванням для роботи з багатокроковим міркуванням, викликом інструментів і переглядом вебсторінок. Найменша Bolt E4B орієнтована на розмовних агентів. 

Super VL і Bolt 74B-A9B уже доступні, а Bolt E4B, за словами Nvidia, вийде пізніше цього місяця.