Anthropic заявила, что сократила кражу токенов рассуждений Claude до 99% в борьбе с промышленной дистилляцией

Anthropic противостоит атакам по широкомасштабной дистилляции своих моделей Claude. В ходе таких атак компании систематически копируют возможности ИИ-модели, чтобы обучать собственные, более компактные модели. Anthropic заявляет, что ее новые средства защиты сократили объем извлеченных токенов рассуждений — внутренних шагов цепочки рассуждений модели — на 90–99 процентов. Для этого злоумышленники используют сети из сотен тысяч поддельных аккаунтов.

Anthropic называет участниками китайские компании Zhipu и Moonshot. Предположительно, Zhipu извлекла кибервозможности из ведущих американских моделей для своей модели GLM-5.3, тогда как Moonshot тайно направляла запросы через Claude. Украденные возможности могут оказаться в зарубежных военных системах и системах наблюдения.

Теперь Anthropic ограничивает доступ к внутренним шагам рассуждений Claude, использует классификатор для выявления попыток извлечения данных и автоматически блокирует отмеченные аккаунты. Уже заблокированы десятки тысяч аккаунтов. Anthropic призывает других разработчиков ИИ внедрить аналогичные меры защиты, хотя компания признает, что в этот процесс также попадают добросовестные пользователи.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный доклад о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.