Google представи два AI чипа за поверителни задачи и по-големи модели
Google представи два нови варианта на своите тензорни процесори (TPU), разширявайки разработваното вътрешно портфолио от чипове за облачни AI натоварвания. TPU 8tx и TPU 8i Max са част от осмото поколение TPU, представено през април. То включва и чипове, насочени към по-голям капацитет за инференция и поддръжка на мащабно обучение.
TPU 8tx е разработен с AMD и е базиран на TPU 8t. Според Google той е предназначен за поверително обучение и изпълнение на AI модели, като защитите на хардуерно ниво изолират чувствителните данни и теглата на моделите по време на работа. Персонализирана мрежа за инференция позволява едновременно извършване на разсъждение и обучение, включително дистилиране и обучение на по-малки модели в движение. Google посочва, че това може да позволи обучение с фирмени данни без прехвърлянето им между устройства.
TPU 8i Max обединява два ориентирани към инференция чипа TPU 8i в един корпус. Компанията заявява, че така се удвояват паметта, изчислителната мощност и пропускателната способност, което позволява обработка на повече информация при заявки. Представянето се случва, докато облачни доставчици и AI компании разработват собствени чипове и софтуер, за да намалят зависимостта си от Nvidia.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.