Claude будет добавлять невидимые водяные знаки к текстам и изображениям, созданным ИИ

Anthropic упрощает идентификацию контента, созданного ИИ, соблюдая правила ЕС.

Anthropic упрощает идентификацию контента, созданного ИИ, соблюдая правила ЕС.

Anthropic пообещала начать маркировать текст и изображения, созданные Claude, машиночитаемыми данными, стремясь соблюдать европейские правила прозрачности ИИ. «Сгенерированный текст будет содержать встроенные водяные знаки, а сгенерированные файлы — метаданные происхождения с цифровой подписью, если это поддерживается», — говорится в новой справочной странице Claude. Эти изменения невидимы человеческому глазу, но позволят людям и онлайн-платформам проще определять, был ли контент создан моделями Claude.

Эти обновления являются обязательством на будущее, а не чем-то, что вступит в силу немедленно. Новые обязательства по маркировке и прозрачности ИИ в соответствии с Законом ЕС об ИИ, вступившим в силу 2 августа, предусматривают четырехмесячный льготный период для соблюдения требований существующими ИИ-продуктами, запущенными до этой даты. Поэтому Anthropic заявляет, что новые модели Claude будут маркировать контент, созданный ИИ, с первого дня после выпуска, однако поддержка существующих моделей всё еще находится в разработке.

Машиночитаемые метки будут применяться по всему миру к поддерживаемым моделям Claude, включая Claude Platform (API), Claude, Claude Code, Claude Cowork и Claude Tag. Используются два разных метода маркировки: для изображений, обработанных Claude, к поддерживаемым файлам будет применяться стандарт происхождения метаданных C2PA, уже принятый Adobe, OpenAI и Google, однако подробностей о процессе маркировки текста, созданного Claude, гораздо меньше.

По словам Anthropic, «незаметный водяной знак» встраивается непосредственно в текст, созданный моделями Claude, не изменяя смысл, качество или читаемость ответа чат-бота. Anthropic не называет эту систему водяных знаков, но заявляет, что такие текстовые водяные знаки также будут применяться при доступе к моделям Claude через AWS, Google Cloud или Microsoft Foundry.

«Поскольку водяной знак является частью текста, он будет перемещаться вместе с текстом при его копировании и вставке в другое место и может сохраняться после некоторых видов редактирования, — говорится на справочной странице Claude. — Маркировка будет применяться на уровне модели, а это означает, что она будет присутствовать независимо от того, из какого продукта или интерфейса Claude происходит текст».

Anthropic также работает над тем, чтобы пользователи и другие третьи стороны могли обнаруживать водяные знаки и метаданные происхождения, встроенные в контент, созданный Claude, и заявляет, что поделится подробностями этой системы обнаружения в будущей технической документации. Уже доступно несколько инструментов, предназначенных для обнаружения метаданных C2PA, включая чат-бота Gemini от Google, однако неясно, будут ли они работать с файлами, созданными Claude. Я запросил у Anthropic разъяснения.

Это еще один шаг к тому, чтобы текст и изображения, созданные ИИ, четко маркировались на онлайн-платформах, и потенциальная победа для тех, кто хочет избегать потребления такого контента. Читатели фанфика уже создают более примитивные системы обнаружения, чтобы отмечать случаи, когда инструменты Claude использовались в фанатских работах на AO3, но эти системы маркировки могут применяться гораздо шире — если, конечно, они будут работать.

Известно, что данные C2PA легко удалить, иногда даже случайно, когда содержащие их медиафайлы загружаются на онлайн-платформы, и неясно, насколько надежно решение Anthropic для маркировки текста. Даже сама компания оговаривает, что эти системы маркировки далеки от безошибочности и что любой контент без обнаруживаемых меток всё равно может происходить от генеративных ИИ-моделей.

• Джесс Уэзербед