Новый водяной знак Scarlet Letter в Claude невидим — пока
Anthropic сообщила, что вскоре будет добавлять водяные знаки к контенту, который обрабатывается (а не только генерируется!) любой из её моделей. В статье службы поддержки Anthropic объяснила, что внедряет машиночитаемые водяные знаки для соблюдения закона Европейского союза об ИИ, который требует от всех поставщиков систем ИИ маркировать созданные или изменённые ИИ аудио-, графические, текстовые и видеоматериалы. Закон распространяется на любые модели ИИ, выпущенные после 2 августа, и предусматривает для поставщиков льготный период до декабря 2026 года, чтобы обновить ранее выпущенные модели.
Anthropic подтвердила, что в дальнейшем все новые модели, доступные по всему миру, — не только в ЕС — будут помечать созданный ИИ контент «с первого дня». Текстовые результаты будут «содержать встроенные водяные знаки», невидимые для пользователя, а другие «созданные файлы будут включать криптографически подписанные метаданные о происхождении, если это поддерживается», заявила Anthropic.
Примечательно, что Anthropic применяет подход «уничтожить с орбиты», добавляя водяные знаки ко всему обрабатываемому контенту, если это поддерживается, хотя законодательство ЕС не требует этого в случаях, когда система ИИ выполняет «вспомогательную функцию для стандартного редактирования» (в качестве собственного примера в рекомендациях приводится исправление грамматики) или когда она не «существенно изменяет» текст пользователя или его смысл. Водяной знак, добавляемый на уровне модели, не способен отличить полностью сгенерированный текст от исправления запятой, поэтому Claude может в итоге помечать именно тот контент, который закон призван оставить без таких отметок. Насколько тщательно на самом деле будут наноситься водяные знаки, станет известно лишь после выпуска Anthropic инструмента обнаружения, который можно будет протестировать. Компания заявила, что планирует со временем раскрыть подробности о способах обнаружения таких отметок, чтобы обеспечить техническую поддержку, предусмотренную законодательством ЕС.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.