Anthropic сообщила о масштабных кампаниях по дистилляции ИИ
Anthropic заявила, что базирующиеся в Китае компании, занимающиеся искусственным интеллектом, проводят все более сложные попытки извлечь возможности моделей Claude. В опубликованном в четверг отчете компания описала пять кампаний, связанных почти с 200 миллионами обменов. Атакующие, по ее данным, стремились получить возможности работы агентов и инструментами, программирования, анализа данных и логического рассуждения. Ранее OpenAI сообщала о похожей активности и связывала ее непосредственно с DeepSeek.
Дистилляция предполагает извлечение цепочки рассуждений модели и использование этих данных для обучения меньшей модели с помощью контролируемой тонкой настройки. Обычно Anthropic показывает пользователям обобщенное описание размышлений Claude, а не внутренние рассуждения. Однако участники кампаний, как утверждается, нашли способы заставить модель раскрывать их. Один из приемов маскировал запрос под перевод предыдущей рабочей памяти на японский язык, записанный только катаканой.
Крупнейшую кампанию Anthropic приписала Alibaba: с мая по июль 2026 года она включала 151 миллион обменов через 3500 аккаунтов, достигая почти трех миллионов в сутки. Кампания, связанная с Moonshot AI, за десять дней направила к Claude почти 300 000 запросов через 5000 аккаунтов, главным образом к модели Opus. Один запрос касался анализа записей камер наблюдения на предмет необычного поведения и, предположительно, проходил через китайскую военную сеть.
Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.