AWS използва Qualcomm за AI инференс, докато Qualcomm използва AWS Bedrock за проектиране на чиповете

Qualcomm проектира персонализирани чипове за AWS в рамките на няколко поколения продукти, с акцент върху AI инференцията. Двете компании работят и върху оптични интерконектори с пропускателна способност до 1,6 терабита, за да се справят с нарастващия трафик на данни в AI инфраструктурата. Qualcomm допринася със своя опит в проектирането на енергийно ефективни чипове, а Amazon – със своята облачна инфраструктура. В замяна Qualcomm използва услуги на AWS като Amazon Bedrock, за да ускори процеса по проектиране на чипове.

Amazon е третият голям успех на Qualcomm в центровете за данни от юни насам. Meta ще използва сървърния процесор Dragonfly C1000, а Microsoft внедрява архитектурата за HBC памет на Qualcomm в Azure. Qualcomm се стреми да достигне приходи от 15 милиарда долара от центрове за данни до 2029 г.

AWS добавя проектите на Qualcomm към собствените си продуктови семейства чипове Trainium, Graviton и Nitro. Целта са работните натоварвания за инференция, при които разходът на енергия за токен е от решаващо значение за крайните финансови резултати. Ефективността е във фокуса на Qualcomm и в другия край на технологичния стек – при периферните устройства. През март подразделението за AI изследвания на Qualcomm представи рамка, която изпълнява модели за разсъждение на смартфони.

AI новини без сензация – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за AI, нашия ексклузивен годишен шестмесечен доклад за новите тенденции „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.