Amazon отправя най-сериозното си предизвикателство към Nvidia досега с новия инструмент за разработчици TorchNeuron

В понеделник Amazon Web Services пусна инструмент, наречен TorchNeuron, който позволява на стартъпи в областта на изкуствения интелект лесно да прехвърлят своите AI приложения към AI чипа на Amazon — Trainium. По този начин Amazon също така нанася пряк удар по софтуерното предимство, което помогна на Nvidia да се превърне в стандартния хардуерен избор за AI приложения и да затвърди позицията си на предпочитан доставчик на AI хардуер.

TorchNeuron работи с PyTorch — безплатен инструментариум с отворен код, който разработчиците използват за създаване, обучение и изпълнение на AI модели. Според Amazon той позволява на AI приложенията, написани с PyTorch, да работят на Trainium чрез промяна само на един конфигурационен ред — без да е необходимо пренаписване на кода.

Amazon твърди, че около 85% от AI приложенията са написани с PyTorch. Първоначално той е разработен от Facebook, но от 2022 г. е част от Linux Foundation, която поддържа проекти с отворен код. Nvidia от години гарантира, че нейният софтуер CUDA — софтуерната инфраструктура, която позволява на приложенията да работят върху графичните процесори на Nvidia и другия ѝ хардуер — поддържа безпроблемно AI приложения, написани с PyTorch. В резултат на това хардуерът на Nvidia вече е дълбоко интегриран в инструментариума и на практика се използва по подразбиране.

TorchNeuron е адаптиран от PyTorch, така че разработчиците, които познават PyTorch, вече знаят как да го използват. Amazon не е първата компания, която се опитва лесно да пренесе своите чипове към платформата. Потребителите на PyTorch също могат да прехвърлят приложенията си към графични процесори на AMD или дори към чиповете на Apple чрез проста промяна в конфигурацията.

Amazon обаче твърди, че пренасянето към Trainium не е просто лесно — то също така дава на стартъпите в областта на AI достъп до целия облак на Amazon. Не е изненадващо, че AWS твърди, че това е по-добър избор за стартъпите от използването на неооблаци, много от които са обвързани с Nvidia и нейния хардуер, като Coreweave, Nebius и Firmus.

„Изграждате върху AWS. Не залагате на доставчик на изчислителни ресурси с едно предназначение и не се лутате в опити да изградите всичко останало около него“, каза пред TechCrunch по имейл Колин Брейс, вицепрезидент по технологичния софтуер в AWS Annapurna Labs (подразделението, което произвежда персонализираните чипове на Amazon). „В AWS“, продължи той, „инфраструктурата, необходима за преминаване от прототип към производствена среда, вече е налице, което позволява на основателя да действа бързо и да се разраства, когато е необходимо.“

AWS заявява, че тъй като един и същ чип обработва както обучението (научаването на AI модела), така и извеждането на резултати (използването на готовия модел, например когато отговаря на въпрос на потребител), и е тясно интегриран с облачната инфраструктура, от която стартъпите се нуждаят, неговият облак ще им спести пари, дори ако AWS не предлага най-ниската цена на токен.

„Стойността на Trainium се състои в съотношението цена-производителност, както и във факта, че това е една платформа за обучение и извеждане на резултати, което подобрява икономическата ефективност при цялостно натоварване“, каза Брейс. „Погледнете Deepgram — те преминаха към Trainium с помощта на естествена поддръжка за PyTorch и обработват с 70% повече аудио за всеки долар при точност на производствено ниво.“ Deepgram е доставчик на AI приложения за глас, конкурент на ElevenLabs.

Но Amazon не се задоволява просто да даде на разработчиците на приложения за PyTorch лесна възможност да преминат към неговия облак.

Amazon също така заявява, че насърчава PyTorch да бъде по-малко автоматично ориентиран към Nvidia и ще допринесе с необходимия за това код към основния проект PyTorch. В публикацията в блога, с която обяви новия инструмент, компанията написа:

„Подходът на Amazon се простира отвъд собствения му хардуер. Компанията допринася с промени към самия PyTorch, като работи с общността на PyTorch за премахване на кода, който обвързва платформата с конкретни чипове. Целта е PyTorch да стане по-независим от хардуера за цялата общност от разработчици, а не само за потребителите на Trainium.“

Макар че подобна тактика несъмнено е добра за онези, които продават хардуер и облачни услуги, конкуриращи се с Nvidia, една от целите на PyTorch е да скрие всички досадни трудности при стартирането на AI код върху хардуер. Ще трябва да изчакаме и да видим дали изтласкването на Nvidia толкова далеч ще даде на разработчиците повече избор и по-достъпни възможности, както обещава Amazon, или просто ще доведе до повече проблеми с конфигурацията.

Във всеки случай, ако Amazon успее да отдели дълбоко PyTorch от Nvidia, това може да има много по-сериозни последици за гиганта в областта на графичните процесори, отколкото просто да се справя с конкуренти при чиповете. Както каза Брейс: „Истинската история е премахването на обвързването, което не позволяваше на разработчиците изобщо да имат реален избор.“