AMD придобива стартъпа за AI чипове Taalas
AMD придобива канадския стартъп Taalas, който разработва специализирани чипове за инференс. Компанията е основана в Торонто през 2023 г. и представи публично своя подход през февруари. Той записва архитектурата и обучените параметри на даден модел директно в силиция. Това позволява много висока скорост, но обвързва всеки чип с конкретния модел, за който е създаден.
Демонстрационен чип на Taalas, работещ с Llama 3.1-8B, е достигнал над 16 000 токена в секунда за потребител. Според публикацията това е многократно над резултатите на конкурентен хардуер. По данни от публикацията Google също разработва подобен чип за Gemini, но не са посочени допълнителни подробности.
AMD възнамерява да включи технологията на Taalas в пътната си карта за ускорители и да я предлага заедно с графичните процесори Instinct като системно решение. Vamsi Boppana, старши вицепрезидент на AI подразделението на AMD, заяви, че сделката разширява портфолиото на компанията. Съоснователят на Taalas Ljubisa Bajic посочи мащаба и обхвата на AMD като нужната за стартъпа подкрепа. Придобиването подлежи на стандартни регулаторни одобрения.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.