AMD купує Taalas — стартап, що вбудовує ШІ-моделі безпосередньо в кремній

AMD купує канадський стартап у сфері ШІ Taalas, який розробляє спеціалізовані чипи для інференсу. Заснований у Торонто в 2023 році, Taalas вийшов із режиму прихованої розробки в лютому з незвичайним підходом: компанія вбудовує архітектуру моделі та навчені параметри безпосередньо в чип. Це робить інференс надзвичайно швидким, але прив’язує кожен чип до однієї моделі. Демонстраційний чип досяг швидкості понад 16 000 токенів на секунду для одного користувача під час роботи Llama 3.1-8B — у багато разів швидше за конкуруюче обладнання. Повідомляється, що Google працює над подібним чипом для Gemini.

AMD планує інтегрувати цю технологію у свою дорожню карту прискорювачів і пропонувати її разом із графічними процесорами Instinct як системне рішення. Вамсі Боппана, старший віцепрезидент підрозділу ШІ AMD, заявив, що угода посилює портфоліо компанії у сфері ШІ. Співзасновник Taalas Любіша Баїч зазначив, що AMD забезпечує стартапу необхідні масштаби та охоплення. Угода підлягає стандартному регуляторному схваленню.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний шість разів на рік звіт про передові розробки «AI Radar», повний доступ до архіву та доступ до розділу коментарів.