Google приєдналася до Amazon в атаці на твердиню Nvidia серед розробників ШІ-застосунків

У вівторок Google оголосила, що TorchTPU, її довгоочікувана версія PyTorch, тепер доступна як проєкт із відкритим кодом. Таким чином Google приєднується до Amazon у спробі послабити монополію Nvidia в індустрії штучного інтелекту, де більшість ШІ-застосунків за замовчуванням розробляють для роботи на чипах Nvidia, або графічних процесорах.

PyTorch — популярний набір інструментів із відкритим кодом, який розробники ШІ-застосунків і стартапи використовують для створення, навчання та запуску моделей штучного інтелекту. За деякими оцінками, його використовують 85% ШІ-застосунків. Спочатку PyTorch розробила Meta (тоді Facebook) у 2016 році — задовго до того, як світ усвідомив, що великі мовні моделі змінять його. На той час графічні процесори Nvidia вже були стандартним апаратним забезпеченням для досліджень у сфері ШІ, тож багато функцій PyTorch створювалися спеціально для роботи з ними. У 2022 році Meta передала PyTorch Linux Foundation — неприбутковій організації, яка опікується багатьма важливими проєктами з відкритим кодом.

Версія Google, TorchTPU, дає змогу ШІ-застосункам працювати на чипах Google для штучного інтелекту, які називаються тензорними процесорними модулями (TPU). Вона також спрощує перенесення наявних застосунків PyTorch на TPU і, відповідно, у Google Cloud. Розробники можуть зробити це за допомогою простої зміни конфігурації, не переписуючи свої застосунки.

У понеділок Amazon зробила подібне оголошення, випустивши власну версію PyTorch під назвою TorchNeuron. TorchNeuron дає змогу переносити ШІ-застосунки на власний чип Amazon для штучного інтелекту Trainium і в AWS без переписування коду. Amazon також заявила, що піде ще далі у своїх зусиллях послабити вплив Nvidia на PyTorch. Компанія передає код до основного проєкту PyTorch, який відокремлює різні функції від чипів Nvidia, завдяки чому за замовчуванням вони стають більш відкритими для будь-якого апаратного забезпечення.

Втім, Google може перевершувати Amazon у кількох аспектах. Компанія заявляє, що безпосередньо співпрацювала з Meta, Hugging Face, Inferact (розробником vLLM), RadixArk (розробником SGLang) та іншими, щоб забезпечити сумісність функцій і бібліотек коду TorchTPU з цими популярними інструментами розробки ШІ — так само, як у оригінального PyTorch.

Крім того, пошуковий гігант запустив спеціальний інструмент — набір інструментів TPU agent suite, який допомагає розробникам переносити свої застосунки на чипи та хмарну платформу Google і виправляти помилки в процесі. Компанія також оновила свій популярний інструмент LiteRT, що запускає ШІ на телефонах, ноутбуках і вбудованих пристроях, щоб він краще працював із ШІ-застосунками PyTorch.

Усе це не означає, що розробники ШІ-застосунків масово відмовляться від апаратного забезпечення Nvidia лише тому, що тепер вони можуть легко переходити на альтернативні чипи та хмарні платформи. Але Amazon і Google явно працюють над тим, щоб позбавити Nvidia її переваги.