AMD придобива Taalas — стартъп, който вгражда AI модели директно в силиция

AMD придобива канадския стартъп за AI Taalas, който разработва специализирани чипове за инференс. Основана в Торонто през 2023 г., Taalas излезе от режим на пълна секретност през февруари с необичаен подход: компанията вгражда архитектурата на модела и обучените му параметри директно в чипа. Това прави инференса изключително бърз, но ограничава всеки чип до един-единствен модел. Демонстрационен чип достигна над 16 000 токена в секунда на потребител при работа с Llama 3.1-8B — многократно по-бързо от конкурентния хардуер. Според съобщенията Google разработва подобен чип за Gemini.

AMD планира да интегрира технологията в пътната си карта за ускорители и да я предлага заедно с графичните процесори Instinct като системно решение. Vamsi Boppana, старши вицепрезидент на AI подразделението на AMD, заяви, че сделката укрепва портфолиото на компанията в областта на AI. Съоснователят на Taalas Ljubisa Bajic заяви, че AMD осигурява мащаба и обхвата, от които стартъпът се нуждае. Придобиването подлежи на стандартни регулаторни одобрения.

AI новини без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за AI, нашия ексклузивен годишен доклад „AI Radar“ за водещите технологии, публикуван шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.