AMD придбає розробника AI-чипів Taalas
AMD купує канадський стартап Taalas, який створює спеціалізовані чипи для інференсу. Компанію заснували в Торонто 2023 року, а в лютому вона розповіла про підхід, за якого архітектуру моделі та її навчені параметри записують безпосередньо в кремній. Це забезпечує дуже високу швидкість обробки, але водночас прив’язує кожен чип до однієї конкретної моделі.
На демонстраційному чипі Taalas із моделлю Llama 3.1-8B швидкість перевищила 16 000 токенів за секунду на користувача. У публікації цей результат названо в рази вищим за показники конкурувального обладнання. Також повідомляється, що Google, за наявними даними, розробляє подібний чип для Gemini, однак додаткових подробиць про цей проєкт немає.
AMD планує додати технологію Taalas до дорожньої карти своїх прискорювачів і пропонувати її разом із графічними процесорами Instinct як системне рішення. Vamsi Boppana, старший віцепрезидент AI-підрозділу AMD, заявив, що угода посилить портфоліо компанії у сфері штучного інтелекту. Співзасновник Taalas Ljubisa Bajic сказав, що AMD надасть стартапу потрібні масштаб і охоплення. Придбання потребує стандартних регуляторних погоджень.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.