Предимството на Nvidia в ИИ излиза извън рамките на GPU

До тази седмица водещият разказ за Nvidia звучеше приблизително така: През първите няколко години на бума на изкуствения интелект Nvidia беше единственият източник на най-съвременни графични процесори, които станаха изключително печеливши с разрастването на индустрията. През последните няколко години хипермащабните компании като Amazon и Google започнаха да създават собствени чипове и Nvidia вече не е единствената възможност на пазара, което накара много инвеститори да се запитат доколко устойчиво е реалното ѝ предимство.

Това е убедителен разказ и в голяма степен е верен. След като пазарната ѝ капитализация нарасна десетократно между началото на 2023 г. и средата на 2025 г., акциите на Nvidia се движат по-умерено през последната година, водени от опасенията за конкуренцията при графичните процесори.

След финансовите резултати на компанията в сряда започна да се оформя нов разказ и инвеститорите започват да осъзнават, че предимството на Nvidia се простира далеч отвъд графичните процесори. С разрастването на изчислителните мощности за изкуствен интелект до мащаб от гигавати, оркестрацията се превърна във все по-сложна задача. Не е изненадващо, че Nvidia е изградила голяма част от най-съвременния хардуер, необходим за справянето с нея, което дава на компанията огромно предимство в системите около графичния процесор, дори когато се сблъсква с по-голяма конкуренция при самите графични процесори. 

Въпреки всички разговори за изчислителните мощности като стока, все още е изключително трудно да се управлява център за данни с мегамащаб при максимална ефективност — а с увеличаването на мащаба и скоростта на внедряванията това предизвикателство нараства.

Стелаж по стелаж

Можете да видите част от това просто като разгледате подробностите за това, което Nvidia всъщност продава. В момента компанията внедрява архитектурата Vera Rubin, която съчетава графичния процесор Rubin с набор от други модули, включително централния процесор Vera, ускорителя за инференция Groq 3 LPX и сходни стелажи за съхранение и мрежи.

През последната седмица разговарях с хора от Nvidia за това какво всъщност правят тези системи и резултатите бяха изненадващи. Подобно на самия графичен процесор Rubin, те са изключително специализирани системи, но вместо да обработват токени, се грижат всичко извън графичния процесор да работи възможно най-ефективно. Ако графичният процесор е двигателят, това е всичко останало от автомобила.

По-специално, централният процесор Vera е насочен към проблема с оркестрацията на данните. „Vera е важен, защото има ограничение за това колко памет можете да поставите в един сървър или в която и да е изчислителна платформа“, каза ми Джейсън Харди, вицепрезидентът на Nvidia по технологиите за съхранение. 

С увеличаването на изчислителната мощност на центровете за данни се е увеличил и капацитетът на паметта, поради което компании като Micron забогатяха по време на втората вълна на инфраструктурния бум. Но доставянето на тези данни до графичния процесор в точния момент не е лесна задача — а докато компаниите се стремят да намаляват все повече показателя токени на ват, те осъзнават колко важно е това насочване на трафика.

„Видяхме над трикратно подобрение при тези операции, при което централният процесор Vera осигурява ускорение“, каза Харди. „Така вече можем да използваме флаш паметта си пълноценно, защото можем да извлечем цялата ѝ производителност, без да създаваме тесни места.“

Можете да видите версии на същия проблем и извън Nvidia. Когато OpenAI разработваше своя чип Jalapeño, основен фокус беше пълното избягване на тези предизвикателства чрез минимизиране на количеството данни, които трябва да бъдат премествани.

„Проектирахме Jalapeño така, че да минимизираме преместването на данни и комуникационните забавяния“, заяви компанията в публикация в блога по-рано този месец. „Големият му домейн позволява цялото натоварване да остане в рамките на една свързана система, като минимизира преместването на данни и помага на цялата заявка да остане бърза и ефективна от началото до края.“

Това е различен подход — пълно избягване на преместването на данни чрез изпълнение на натоварването в един интегриран чип. Но цялостната логика е същата: повишаване на ефективността чрез по-интелигентен контрол на трафика, вместо просто чрез повече процесорни цикли. Това от своя страна отваря изцяло нов слой от инфраструктурата, в който компаниите могат да се конкурират.

Този нов фокус върху оркестрацията на данните не означава автоматично победа за Nvidia. Компанията ще трябва да се конкурира с други производители на чипове и хипермащабни компании, както се конкурира при графичните процесори. Но конкуренцията се премести на нов слой, където създаването на конкурентен графичен процесор е по-малко важно от способността цялата система да работи ефективно. 

А поне в ранните етапи Nvidia изглежда има убедителна преднина.