AWS использует Qualcomm для ИИ-инференса, а Qualcomm — AWS Bedrock для разработки чипов
Qualcomm разрабатывает специализированные чипы для AWS в рамках нескольких поколений продуктов, уделяя особое внимание инференсу ИИ. Две компании также работают над оптическими соединениями с пропускной способностью до 1,6 терабита для обработки растущего потока данных в инфраструктуре ИИ. Qualcomm привносит свой опыт разработки энергоэффективных чипов, а Amazon — облачную инфраструктуру. В свою очередь, Qualcomm использует такие сервисы AWS, как Amazon Bedrock, чтобы ускорить процесс разработки чипов.
Amazon стала третьим крупным успехом Qualcomm в сфере центров обработки данных с июня. Meta приобретает серверный процессор Dragonfly C1000, а Microsoft внедряет архитектуру памяти Qualcomm HBC в Azure. Qualcomm планирует достичь выручки в размере 15 млрд долларов от деятельности в центрах обработки данных к 2029 году.
AWS добавляет разработки Qualcomm к собственным семействам чипов Trainium, Graviton и Nitro. Этот шаг ориентирован на рабочие нагрузки инференса, где стоимость энергии на токен напрямую влияет на итоговую прибыль. Энергоэффективность также является приоритетом Qualcomm на другом конце стека — в периферийных устройствах. В марте исследовательское подразделение Qualcomm в области ИИ выпустило фреймворк, который запускает рассуждающие модели на смартфонах.
Новости ИИ без шумихи — отобраны людьми
Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный ежегодный отчет о передовых разработках "AI Radar", выходящий шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.