Nvidia пуска нови отворени модели за работа на агенти в предприятия и на персонални компютри

В четвъртък Nvidia представи нови модели с отворени тегла, предназначени за постоянно активни агенти и периферни изчисления.

Nemotron 3.5 Super VL е голям модел със 120 милиарда параметъра, насочен към използваните от предприятията агенти. Въпреки че използва по-малко параметри от модела Nemotron 3 Ultra, Nvidia заявява, че може да осигури сходна точност при задачи, свързани със следване на инструкции и използване на инструменти.

В другия край на спектъра компанията представи и два олекотени модела Bolt. Те са предназначени да работят локално на новите AI компютри (задвижвани от чипа Nvidia RTX Spark) и работните станции, работещи с DGX Spark. Такива компютри, насочени към потребители, програмисти и служители в предприятия, работещи със знания, се пускат на пазара именно сега чрез партньори като Microsoft и Dell.  

„Всяка организация, която иска да използва агенти върху инфраструктура на Nvidia, вече разполага с отворен, оптимизиран модел за своето ниво, без да се налага да избира между възможности и приложимост“, написа вицепрезидентът на Nvidia по отворените модели и софтуера Кари Бриски в публикацията в блога, с която обяви тези модели.  

Nvidia твърди, че Super VL изпълнява задачите по-бързо от конкурентни модели на Anthropic и OpenAI (Opus 5, GPT 6.1 Sol, Luna, Astra), когато е дообучен за специфични агентни задачи. Те включват работа с документи, финансово счетоводство, научни експерименти, медицински застрахователни искове и устойчивост срещу атаки за сигурността. 

Макар подобни твърдения да са стандартни, когато голяма технологична компания обявява нов модел, Nvidia ги подкрепя със списък от компании от най-висок калибър, които според нея използват Super VL. Сред тях са Skydance, EY, Ramp, Crowdstrike, Perplexity и Salesforce.  

Разбира се, това не са първите модели с отворени тегла, които Nvidia пуска и които се конкурират със затворените водещи лаборатории — компании, които са едновременно нейни клиенти и инвестиции. Гигантът в производството на графични процесори разполага с цяло семейство модели Nemotron, които обхващат всичко — от мултимодален изкуствен интелект до разсъждение, програмиране, математика и автоматизация на предприятията. 

Междувременно тези бързо разрастващи се частни AI лаборатории вече се обръщат към множество други производители на чипове и AI системи, освен Nvidia, за да задоволят нуждите си (например Trainium на AWS и Cerebras, както и разработването на собствени чипове).  

Затова Nvidia се възползва активно от тенденцията предприятията да искат да изпълняват собствени отворени модели в собствените си центрове за данни. „За разлика от затворените водещи модели, организациите могат да дообучат Super VL със собствените си данни, да го внедрят в собствената си инфраструктура и да притежават това, което изграждат“, написа Бриски. 

Но с обявяването на по-малките локални модели за компютри компанията също така се опитва да ускори зараждащата се тенденция към потребителски AI асистенти. Макар че изглежда, че всеки ден стартъпи и големи технологични компании представят нов AI асистент, потребителите, загрижени за поверителността, може да не искат да допускат подобни агенти толкова дълбоко в живота си, като им предоставят достъп до информация за семействата, здравето, финансите си и т.н.  

Така Nvidia се надява да създаде нов пазар за себе си, продавайки компютри, задвижвани от нейните чипове, чрез създаването на машини, които изпълняват моделите и агентите локално. Потребителите на компютри „могат да делегират ежедневни задачи … без да изпращат тези работни натоварвания в облака“, написа Бриски. 

От двата модела Bolt, Nemotron 3.5 Bolt 74B-A9B 24GB е модел със 74 милиарда параметъра, предназначен за локални агентни задачи. Той е създаден така, че да балансира скоростта с разсъждението и да се справя с многоетапни разсъждения, извикване на инструменти и сърфиране в мрежата. Най-малкият Bolt E4B е насочен към разговорни агенти. 

Super VL и Bolt 74B-A9B са налични още сега, а Bolt E4B ще бъде пуснат по-късно този месец, съобщава Nvidia.