AWS избира чипове на Qualcomm за AI инференция
Qualcomm разработва персонализирани чипове за AWS в рамките на няколко поколения продукти, като основният акцент е върху AI инференцията. AWS ще добави тези решения към собствените си семейства чипове Trainium, Graviton и Nitro. Двете компании работят и върху оптични интерконекти с пропускателна способност до 1,6 терабита за нарастващия трафик от данни в AI инфраструктурата.
Партньорството съчетава опита на Qualcomm в проектирането на енергийно ефективни чипове с облачната инфраструктура на Amazon. Qualcomm използва услуги на AWS, включително Amazon Bedrock, за да ускори разработването на своите чипове. За AWS споразумението е насочено към инференционни натоварвания, при които разходът на енергия за токен влияе върху оперативните разходи.
Това е третият голям договор на Qualcomm за центрове за данни с Amazon от юни насам, според материала. Meta използва сървърния процесор Dragonfly C1000, а Microsoft внедрява архитектурата за HBC памет на Qualcomm в Azure. Компанията си е поставила цел за 15 милиарда долара приходи от центрове за данни до 2029 г. През март нейното звено за AI изследвания представи рамка за работа на reasoning модели върху смартфони.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.