Google присоединилась к Amazon в атаке на оплот Nvidia среди разработчиков ИИ-приложений

Во вторник Google объявила, что TorchTPU — её долгожданная версия PyTorch — теперь доступна в качестве проекта с открытым исходным кодом. Тем самым Google присоединяется к Amazon в попытке поколебать монопольное положение Nvidia в индустрии ИИ, где большинство приложений с ИИ по умолчанию пишутся для работы на чипах Nvidia, то есть графических процессорах (GPU).

PyTorch — популярный инструментарий с открытым исходным кодом, который разработчики приложений с ИИ и стартапы используют для создания, обучения и запуска моделей ИИ. По некоторым оценкам, он используется в 85% приложений с ИИ. Изначально PyTorch был разработан компанией Meta (тогда ещё Facebook) в 2016 году — задолго до того, как мир начал подозревать, что большие языковые модели (LLM) изменят его. В то время графические процессоры Nvidia уже были стандартным оборудованием для исследований в области ИИ, поэтому многие функции PyTorch создавались специально для работы с ними. В 2022 году Meta передала PyTorch Linux Foundation — некоммерческой организации, которая управляет множеством важных проектов с открытым исходным кодом.

Версия Google под названием TorchTPU позволяет приложениям с ИИ работать на чипах Google для ИИ, называемых тензорными процессорами (TPU). Она также упрощает перенос существующих приложений на PyTorch на TPU и, следовательно, в Google Cloud. Разработчики могут сделать это, просто изменив конфигурацию, без переписывания приложений.

В понедельник Amazon сделала похожее объявление, выпустив собственную версию PyTorch под названием TorchNeuron. TorchNeuron позволяет переносить приложения с ИИ на разработанный Amazon чип для ИИ Trainium и в AWS без переписывания. Amazon также заявила, что намерена пойти ещё дальше в своих усилиях по ослаблению влияния Nvidia на PyTorch. Компания передаёт код в основной проект PyTorch, отделяющий различные функции от чипов Nvidia и по умолчанию делающий их более открытыми для любого оборудования.

Однако в некоторых отношениях Google, возможно, опережает Amazon. Компания заявляет, что напрямую работала с Meta, Hugging Face, Inferact (создателем vLLM), RadixArk (создателем SGLang) и другими компаниями, чтобы обеспечить хорошую совместимость функций и библиотек кода TorchTPU с этими популярными инструментами разработки ИИ — так же, как у оригинального PyTorch.

Кроме того, поисковый гигант запустил специальный инструмент — набор инструментов TPU Agent Suite, — который помогает разработчикам переносить приложения на чипы и в облако Google, а также исправлять возникающие ошибки. Компания даже обновила свой популярный инструмент LiteRT, запускающий ИИ на телефонах, ноутбуках и встраиваемых устройствах, чтобы он лучше работал с приложениями с ИИ на PyTorch.

Всё это не означает, что разработчики приложений с ИИ автоматически массово откажутся от оборудования Nvidia только потому, что теперь они могут легко переходить на альтернативные чипы и облачные платформы. Но Amazon и Google явно работают над тем, чтобы положить конец преимуществу Nvidia.