Anthropic анонсировала API для обнаружения водяных знаков, который позволит третьим сторонам выявлять тексты ИИ Claude

Anthropic вскоре предложит API для обнаружения водяных знаков, который позволит сторонним разработчикам интегрировать обнаружение текстов ИИ в собственные приложения.

Компания использует вариант метода SynthID Text, который Google DeepMind опубликовала в журнале Nature в 2024 году, для своей ИИ-модели Claude. Водяной знак изменяет источник случайности при выборе слов, создавая отслеживаемый шаблон. Согласно Anthropic, это не влияет «на содержание, уровень креативности или удобство чтения текста Claude». Google DeepMind визуализировала этот процесс в 2024 году с помощью следующей анимации.

Водяной знак работает менее надёжно на коротких текстах или в насыщенных фактами фрагментах, где не так много вариантов формулировок. То же касается кода. В результате простых исправлений, когда каждое слово выбирает человек, водяной знак также не появляется. С переводами всё иначе, поскольку там Claude выбирает все слова. По словам Anthropic, глубокая переработка текста может удалить водяной знак, как компания сообщает в опубликованном разделе часто задаваемых вопросов.

Водяной знак может лишь указать, что Claude, вероятно, участвовал в создании текста. Он не может определить, написал ли Claude весь текст или только существенно его отредактировал, а также не способен установить, создан ли текст человеком или другой моделью ИИ.

Регулирование ЕС способствует глобальному запуску

Anthropic добавляет водяные знаки, чтобы соответствовать требованиям Закона ЕС об ИИ. Вместе с примерно 190 другими подписантами компания подписала Кодекс практики ЕС по обеспечению прозрачности контента, созданного ИИ, в июле 2026 года. Поскольку в настоящее время не существует технической возможности ограничить эту функцию по регионам, водяные знаки запускаются по всему миру. Согласно Anthropic, компания продолжает изучать дополнительные варианты, и в дальнейшем появятся обновления.

Все модели, выпущенные после 2 августа 2025 года, поддерживают водяные знаки из коробки. Старые модели Claude получат эту функцию в ближайшие месяцы. Для файлов Anthropic использует открытый стандарт C2PA, который добавляет метаданные, не изменяя сам файл.

Система водяных знаков Anthropic работает иначе, чем внешние инструменты обнаружения ИИ, такие как Pangram. У таких сервисов нет доступа к ключам Anthropic. Вместо этого они ищут типичные особенности текста, созданного ИИ, например характерные формулировки или чрезмерно часто используемые слова. Проверка водяного знака — принципиально иной подход, который на практике должен оказаться более надёжным.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный обзор передовых разработок «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.