AMD приобретает Taalas — стартап, встраивающий ИИ-модели непосредственно в кремний

AMD приобретает канадский стартап Taalas, создающий специализированные чипы для инференса. Основанная в Торонто в 2023 году компания Taalas вышла из режима скрытой разработки в феврале с необычным подходом: компания встраивает архитектуру модели и обученные параметры непосредственно в чип. Это делает инференс чрезвычайно быстрым, но привязывает каждый чип к одной модели. Демонстрационный чип обеспечил более 16 000 токенов в секунду на пользователя при работе с Llama 3.1-8B — во много раз быстрее конкурирующего оборудования. По сообщениям, Google работает над аналогичным чипом для Gemini.

AMD планирует интегрировать эту технологию в свою дорожную карту ускорителей и предлагать её вместе с графическими процессорами Instinct в качестве системного решения. Вамси Боппана, старший вице-президент подразделения ИИ AMD, заявил, что сделка укрепит портфолио компании в сфере ИИ. Сооснователь Taalas Любиша Баич сказал, что AMD располагает масштабом и охватом, необходимыми стартапу. Приобретение подлежит стандартному регуляторному одобрению.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный годовой отчёт «AI Radar» о передовых разработках шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.