Anthropic заявила, що скоротила крадіжку токенів міркувань Claude до 99% у боротьбі з промисловою дистиляцією

Anthropic бореться з широкомасштабними атаками дистиляції на свої моделі Claude. Під час цих атак компанії систематично копіюють можливості моделі ШІ, щоб навчати власні, менші моделі. Anthropic заявляє, що її нові засоби захисту скоротили обсяг вилучених токенів міркувань — внутрішніх кроків ланцюжка міркувань моделі — на 90–99 відсотків. Для цього зловмисники використовують мережі з сотень тисяч фальшивих облікових записів.

Anthropic називає серед учасників китайські компанії Zhipu та Moonshot. За твердженням компанії, Zhipu викачувала кібернетичні можливості з провідних американських моделей для своєї моделі GLM-5.3, тоді як Moonshot таємно спрямовувала запити через Claude. Викрадені можливості можуть опинитися в іноземних військових і системах спостереження.

Тепер Anthropic обмежує доступ до внутрішніх кроків міркувань Claude, використовує класифікатор для виявлення спроб вилучення даних і автоматично блокує позначені облікові записи. Уже заблоковано десятки тисяч облікових записів. Anthropic закликає інших розробників ШІ запровадити подібний захист, хоча компанія визнає, що в цьому процесі також блокуються легітимні користувачі.

Новини ШІ без галасу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, мати повний доступ до архіву та доступ до розділу коментарів.