Cerebras представила CS-4 с двукратным ростом производительности на том же чипе

Cerebras представила свой ИИ-ускоритель CS-4, который генеральный директор компании Эндрю Фелдман называет самой быстрой системой в отрасли. CS-4 — это продукт стоечного масштаба, то есть полноценный серверный шкаф, который устанавливается в дата-центрах как единый блок, включающий вычислительные модули, системы питания и охлаждения.

CS-4 по-прежнему работает на 5-нм чипе WSE-3, но вдвое превосходит по производительности предыдущую систему CS-3 благодаря повышению тактовой частоты за счёт большей мощности и улучшенного охлаждения. Теперь одна стойка вмещает три пластины вместо двух и обеспечивает до 4 400 токенов в секунду на пользователя. По словам Cerebras, это до 30 раз быстрее конфигураций на базе графических процессоров Nvidia. Объём памяти остаётся прежним — 44 ГБ на пластину.

Cerebras использует новую модульную конструкцию «Backpack» для ускорения сборки, а также раздельный инференс с помощью таких партнёров, как AMD и AWS Trainium. Аналитики SemiAnalysis считают прирост сетевой производительности довольно небольшим. Дополнительные подробности появятся на конференции Hot Chips. Оборудование Cerebras, среди прочих, используется OpenAI для Codex Spark.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ и наш эксклюзивный обзор передовых разработок «AI Radar» шесть раз в год, иметь полный доступ к архиву и разделу комментариев.