Cerebras представи CS-4 с двойна производителност на същия чип

Cerebras представи своя AI ускорител CS-4, който главният изпълнителен директор Андрю Фелдман нарича най-бързата система в индустрията. CS-4 е продукт за цял сървърен шкаф, което означава цял шкаф със сървъри, който се инсталира в центровете за данни като единен модул, включващ изчислителни модули, захранване и охлаждане.

CS-4 все още работи с 5-нанометровия чип WSE-3, но удвоява производителността на по-ранния CS-3, като повишава тактовата честота чрез повече енергия и по-добро охлаждане. Един шкаф вече побира три пластини вместо две и осигурява до 4400 токена в секунда на потребител. Cerebras твърди, че това е до 30 пъти по-бързо от конфигурациите, работещи с графични процесори на Nvidia. Капацитетът на паметта остава същият — 44 GB на пластина.

Cerebras използва нова модулна конструкция „Backpack“ за по-бързо сглобяване, както и дезагрегиран инференс чрез партньори като AMD и AWS Trainium. Анализаторите от SemiAnalysis смятат, че подобренията в мрежовата свързаност са сравнително малки. Повече подробности ще бъдат представени на конференцията Hot Chips. Хардуерът на Cerebras се използва, наред с други, от OpenAI за Codex Spark.

AI новини без сензация — подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен AI бюлетин, нашия ексклузивен доклад „AI Radar“ за водещите разработки шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.