Google се присъедини към Amazon в атаката срещу крепостта на Nvidia при разработчиците на приложения с ИИ

Във вторник Google обяви, че TorchTPU, дългоочакваната му версия на PyTorch, вече е достъпна като проект с отворен код. С това Google се присъединява към Amazon в опита да разбие хватката на Nvidia върху индустрията за изкуствен интелект, където повечето приложения с изкуствен интелект по подразбиране са създадени да работят върху чиповете на Nvidia, или графични процесори.

PyTorch е популярният инструментариум с отворен код, който разработчиците и стартъпите в областта на изкуствения интелект използват за създаване, обучение и стартиране на AI модели. Според някои оценки той се използва от 85% от приложенията с изкуствен интелект. PyTorch първоначално е разработен от Meta (тогава Facebook) през 2016 г., много преди светът да подозира, че големите езикови модели ще променят света. По това време графичните процесори на Nvidia вече са били стандартният хардуер за изследвания в областта на изкуствения интелект, така че много от функциите на PyTorch са създадени специално за работа с тях. През 2022 г. Meta предаде PyTorch на Linux Foundation — организация с нестопанска цел, която управлява много важни проекти с отворен код.

Версията на Google, TorchTPU, позволява на приложенията с изкуствен интелект да работят върху AI чиповете на Google, наречени тензорни процесорни модули (TPU). Тя също така улеснява прехвърлянето на съществуващи приложения на PyTorch към TPU и съответно към Google Cloud. Разработчиците могат да направят това с обикновена промяна в конфигурацията, без да пренаписват приложенията си.

Amazon направи подобно съобщение в понеделник, когато представи собствената си версия на PyTorch, наречена TorchNeuron. TorchNeuron позволява приложенията с изкуствен интелект да бъдат пренесени към разработения от Amazon AI чип Trainium и към AWS, без да се налага пренаписване. Amazon също така заяви, че ще отиде още по-далеч в усилията си да отслаби влиянието на Nvidia върху PyTorch. Компанията изпраща код към основния проект PyTorch, който отделя различни функции от чиповете на Nvidia и по подразбиране ги прави по-отворени към всеки хардуер.

Google обаче може да изпреварва Amazon по няколко начина. Компанията заявява, че е работила директно с Meta, Hugging Face, Inferact (създателите на vLLM), RadixArk (създателите на SGLang) и други, за да гарантира, че функциите и кодовите библиотеки на TorchTPU работят добре с тези популярни инструменти за разработка на изкуствен интелект, както работи и оригиналният PyTorch.

Освен това гигантът в търсенето представи специален инструмент, пакета TPU agent, който помага на разработчиците да прехвърлят приложенията си към чиповете и облака на Google и да отстраняват грешките по пътя. Компанията дори обнови популярния си инструмент LiteRT, който изпълнява AI върху телефони, лаптопи и вградени устройства, така че да работи по-добре с AI приложения на PyTorch.

Всичко това не означава, че разработчиците на приложения с изкуствен интелект автоматично ще изоставят хардуера на Nvidia масово само защото вече могат лесно да преминават към алтернативни чипове и облачни услуги. Но Amazon и Google очевидно работят за премахване на предимството на Nvidia.