Cerebras представила CS-4 із удвічі вищою продуктивністю на тому самому чипі

Cerebras представила свій прискорювач ШІ CS-4, який генеральний директор Ендрю Фелдман називає найшвидшою системою в галузі. CS-4 — це продукт масштабу серверної стійки, тобто повна серверна шафа, яка встановлюється в центрах обробки даних як єдиний блок разом із обчислювальними модулями, системами живлення та охолодження.

CS-4, як і раніше, працює на 5-нм чипі WSE-3, але подвоює продуктивність попередньої системи CS-3 завдяки підвищенню тактової частоти за рахунок більшої потужності та кращого охолодження. Тепер одна стійка вміщує три пластини замість двох і забезпечує до 4 400 токенів на секунду для кожного користувача. Cerebras стверджує, що це до 30 разів швидше, ніж конфігурації на базі графічних процесорів Nvidia. Обсяг пам’яті залишається незмінним — 44 ГБ на пластину.

Cerebras використовує нову модульну конструкцію «Backpack» для швидшого складання, а також дезагреговану інференцію за участю таких партнерів, як AMD і AWS Trainium. Аналітики SemiAnalysis вважають, що переваги в мережевій взаємодії досить незначні. Детальніша інформація з’явиться на конференції Hot Chips. Обладнання Cerebras, зокрема, використовується OpenAI для Codex Spark.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.