Новият AI чип на Microsoft намалява зависимостта ѝ от графичните процесори на Nvidia

Новият чип Maia 300 ще започне да се внедрява за производствени AI натоварвания през 2027 г.

Новият чип Maia 300 ще започне да се внедрява за производствени AI натоварвания през 2027 г.

Днес Microsoft представя своя AI чип Maia от трето поколение, разработен да бъде „основната AI система за инференс“ за продуктите и услугите на Microsoft. Maia 300 не само подобрява разходите и ефективността при изпълнение на AI натоварвания в облака, но и е по-способен да обработва най-новите модели за разсъждение и агентни задачи.

Maia 300 ще започне да се внедрява в производството през 2027 г. и е проектиран с мисъл за ефективността. „Очакваме Maia 300 да осигури 40 процента повече токени на мегават в сравнение с водещите системи, базирани на графични процесори“, казва Scott Guthrie, изпълнителен вицепрезидент на облачната група на Microsoft. „А в конфигурация с пълните 96 ускорителя той осигурява до 7 пъти по-висока пропускателна способност на токени на ниво шкаф в сравнение с Maia 200.“

Тези подобрения в ефективността скоро ще позволят на Microsoft да разчита основно на собствените си AI чипове вместо на чипове от Nvidia и AMD. „Ще разширим семейството Azure Maia до внедрявания с мощност от няколко гигавата, започвайки през 2027 г., превръщайки Maia в основната AI система за инференс за продуктите и услугите на Microsoft“, казва Guthrie.

Maia 300 е наследник на 200, който беше представен през януари. Maia 200 вече се използва при производствени AI натоварвания в Microsoft, включително Microsoft Copilot, GitHub Copilot, Microsoft Foundry и собствените AI модели на Microsoft.

„Maia 200 е най-производителната AI инфраструктура в нашия парк, измерено чрез реални показатели за AI услугите“, казва Guthrie. „Maia 300 е цялостна AI система, проектирана за новите типове AI натоварвания, които се появяват днес: разсъждение с дълъг контекст, разговорни изживявания, чувствителни към латентността, и продължителни многостъпкови агентни задачи.“

Microsoft използва нова чиплетна архитектура, за да постигне изключително важните подобрения в ефективността. Изградена по технологичния процес N2P на TSMC, най-новата архитектура Maia 300 разделя функциите за изчисления, контролер на паметта и вход/изход. „Това увеличава силициевата площ, предназначена за изчислителна производителност, и позволява на всяка функция да използва технологията, която най-добре отговаря на нейната роля“, казва екипът за хардуер и инфраструктура на Azure.

Maia 300 е и ключова част от работата на Microsoft върху собствените ѝ AI модели и може да помогне на компанията да постигне целта си да настигне Google DeepMind, OpenAI и Anthropic. „Трябва да работим по целия стек, чак до нивото на силиция“, казва главният изпълнителен директор на Microsoft AI Mustafa Suleyman. „При такъв мащаб се нуждаем от платформа, която притежаваме и която проектираме съвместно с нашите модели. Ето защо изпълнението на нашите AI модели на Microsoft върху чипа Maia е основен приоритет за екипа ни.“

• Tom Warren