AWS використовує Qualcomm для інференсу ШІ, тоді як Qualcomm використовує AWS Bedrock для проєктування чипів

Qualcomm розробляє для AWS спеціалізовані чипи для кількох поколінь продуктів, зосереджуючись на ШІ-інференсі. Дві компанії також працюють над оптичними інтерконектами з пропускною здатністю до 1,6 терабіта, щоб впоратися зі зростаючим потоком даних у ШІ-інфраструктурі. Qualcomm привносить свій досвід у розробці енергоефективних чипів, тоді як Amazon надає хмарну інфраструктуру. Натомість Qualcomm використовує такі сервіси AWS, як Amazon Bedrock, щоб пришвидшити процес розробки чипів.

Amazon став третьою великою перемогою Qualcomm у сфері центрів обробки даних із червня. Meta використовує серверний процесор Dragonfly C1000, а Microsoft розгортає архітектуру пам’яті Qualcomm HBC в Azure. Qualcomm прагне досягти 15 мільярдів доларів доходу від центрів обробки даних до 2029 року.

AWS додає розробки Qualcomm до власних сімейств чипів Trainium, Graviton і Nitro. Цей крок орієнтований на робочі навантаження інференсу, де вартість енергії на токен безпосередньо впливає на прибутковість. Енергоефективність також є пріоритетом Qualcomm на іншому рівні стеку — в периферійних пристроях. У березні дослідницький підрозділ Qualcomm у сфері ШІ випустив фреймворк, який запускає моделі міркування на смартфонах.

Новини ШІ без ажіотажу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.