Sakhanda Wire
NVDA $153.93 -1.41% MSFT $506.53 -2.21% GOOGL $280.96 -0.97% META $620.53 -0.94% AMZN $256.87 -0.34%
← К новостям

Google расширила линейку TPU 8 двумя специализированными системами

Google представила две новые системы в семействе ускорителей искусственного интеллекта восьмого поколения: TPU 8tx для конфиденциальных вычислений и TPU 8i Max для задач с высокими требованиями к памяти. Обе конфигурации построены на уже существующих процессорах. Изменения касаются упаковки, сетевого взаимодействия и организации памяти. Компания заявляет, что такой модульный подход позволяет выпускать новые варианты за месяцы, а не за годы.

TPU 8tx предназначен для предприятий и государственных организаций, работающих с чувствительными данными. По данным Google, информация и веса моделей остаются зашифрованными и изолированными во время обработки. Система использует сеть Boardfly; Google утверждает, что она обеспечивает до двукратного снижения задержки по сравнению с TPU 8t. Конфигурация рассчитана на дообучение моделей, дистилляцию крупных моделей и обучение AI-агентов с подкреплением без перемещения чувствительных данных между кластерами.

В TPU 8i Max два чипа TPU 8i размещены в одном корпусе. Это вдвое увеличивает вычислительную мощность, объем памяти и пропускную способность памяти в том же стоечном формате. Google сообщает, что за один год поставила четыре системы TPU. Открытый TorchTPU, а также поддержка vLLM и SGLang должны упростить переход разработчиков. По словам компании, ее TPU используют почти 100 внешних клиентов, поскольку Google расширяет предложение для рынка инференса.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости