Перевага Nvidia у сфері ШІ виходить за межі GPU

До цього тижня домінантна історія про Nvidia виглядала приблизно так: протягом перших кількох років буму ШІ Nvidia була єдиним постачальником найсучасніших графічних процесорів, які стали надзвичайно прибутковими в міру масштабування галузі. Останніми роками такі гіперскейлери, як Amazon і Google, почали створювати власні чипи, і Nvidia більше не є єдиним гравцем на ринку, через що багато інвесторів замислюються, наскільки стійкою насправді є її перевага.

Це переконлива історія, і здебільшого правдива. Після того як між початком 2023 року та серединою 2025 року ринкова капіталізація Nvidia зросла в 10 разів, акції компанії протягом останнього року демонструють скромнішу динаміку через занепокоєння щодо конкуренції на ринку графічних процесорів.

Після публікації фінансових результатів компанії в середу сформувався новий наратив, і інвестори починають усвідомлювати, що перевага Nvidia виходить далеко за межі графічних процесорів. Оскільки обчислювальні потужності ШІ зростають до масштабів у гігавати, оркестрація стала дедалі складнішим завданням. Не дивно, що Nvidia створила значну частину найсучаснішого обладнання, необхідного для цього, надавши компанії величезну перевагу в системах, що оточують графічний процесор, навіть попри посилення конкуренції безпосередньо на ринку GPU. 

Попри всі розмови про обчислювальні потужності як біржовий товар, експлуатувати дата-центр мегамасштабу з максимальною ефективністю все ще неймовірно складно — і в міру того, як розгортання систем стають більшими та швидшими, цей виклик лише посилюється.

Стійка за стійкою

Дещо з цього можна побачити, просто поглянувши на деталі того, що саме продає Nvidia. Компанія наразі розгортає архітектуру Vera Rubin, яка поєднує GPU Rubin із набором інших компонентів, зокрема CPU Vera, прискорювачем інференсу Groq 3 LPX, а також аналогічними стійками для зберігання даних і мережевої інфраструктури.

Протягом останнього тижня я спілкувався з представниками Nvidia про те, що саме роблять ці системи, і результати виявилися дивовижними. Як і сам GPU Rubin, це надзвичайно спеціалізовані системи, але замість обробки токенів вони забезпечують максимально ефективну роботу всього, що знаходиться за межами графічного процесора. Якщо GPU — це двигун, то ці системи — решта автомобіля.

CPU Vera, зокрема, зосереджений на проблемі оркестрації даних. «Vera важлива, тому що існує обмеження щодо обсягу пам’яті, який можна встановити в одному сервері чи на будь-якій обчислювальній платформі», — сказав мені Джейсон Гарді, віцепрезидент Nvidia з технологій зберігання даних. 

У міру того як дата-центри нарощували обчислювальні потужності, збільшувалася й місткість пам’яті, саме тому такі компанії, як Micron, розбагатіли під час другої хвилі інфраструктурного буму. Але доставити ці дані до GPU в потрібний момент непросто — і в міру того, як компанії прагнуть дедалі більше знижувати показник токенів на ват, вони усвідомлюють, наскільки важливим є таке спрямування трафіку.

«Ми побачили більш ніж трикратне підвищення ефективності цих операцій, де CPU Vera забезпечує прискорення, — сказав Гарді. — Тож тепер ми можемо повною мірою використовувати нашу флеш-пам’ять, оскільки здатні отримати від неї всю продуктивність, не створюючи вузького місця».

Версії тієї самої проблеми можна побачити й за межами Nvidia. Коли OpenAI розробляла свій чип Jalapeño, основна увага приділялася тому, щоб повністю уникнути цих викликів, мінімізувавши обсяг даних, які потрібно переміщувати.

«Ми розробили Jalapeño, щоб мінімізувати переміщення даних і затримки комунікації», — заявила компанія в дописі у блозі на початку цього місяця. «Його великий домен дає змогу всьому робочому навантаженню залишатися в межах однієї підключеної системи, мінімізуючи переміщення даних і допомагаючи повному запиту залишатися швидким та ефективним від початку до кінця».

Це інший підхід: він повністю уникає переміщення даних, виконуючи робоче навантаження в межах одного інтегрованого чипа. Але загальна логіка та сама — підвищення ефективності завдяки розумнішому керуванню трафіком, а не просто збільшенню кількості циклів процесора. Це, своєю чергою, відкриває цілком новий рівень інфраструктури, за який компанії можуть конкурувати.

Ця нова увага до оркестрації даних не означає автоматичної перемоги Nvidia. Компанії доведеться конкурувати з іншими виробниками чипів і гіперскейлерами так само, як вона конкурує на ринку GPU. Але конкуренція перемістилася на новий рівень, де створення конкуруючого GPU має менше значення, ніж здатність забезпечити ефективну роботу всієї системи. 

І принаймні на ранніх етапах Nvidia, схоже, має переконливу перевагу.