Новият воден знак Scarlet Letter на Claude е невидим — засега
Anthropic разкри, че скоро ще поставя воден знак върху съдържанието, което е обработено (не само генерирано!) от който и да е от нейните модели. В статия в помощния център Anthropic обясни, че въвежда машинночетими водни знаци, за да спази Закона на Европейския съюз за изкуствения интелект, който изисква от всички доставчици на системи с изкуствен интелект да поставят водни знаци върху генерирани или манипулирани от ИИ аудио-, графични, текстови и видеоматериали. Законът се прилага за всеки модел с изкуствен интелект, пуснат след 2 август, и предвижда гратисен период до декември 2026 г. за актуализиране на вече пуснатите модели.
Anthropic потвърди, че занапред всички нови модели, предлагани в световен мащаб — не само в ЕС — ще обозначават генерираното от ИИ съдържание „от първия ден“. Текстовите резултати ще „съдържат вградени водни знаци“, невидими за потребителя, а други „генерирани файлове ще включват цифрово подписани метаданни за произхода, когато това се поддържа“, заяви Anthropic.
Показателно е, че Anthropic прилага подхода „унищожи го от орбита“, като поставя водни знаци върху цялото обработено съдържание, когато това е възможно, въпреки че ЕС не го изисква в случаите, когато системата с ИИ изпълнява „помощна функция за стандартно редактиране“ (собственият пример в указанията е корекция на граматиката) или когато не „променя съществено“ текста на потребителя или неговото значение. Воден знак, поставен на ниво модел, не може да различи цялостното генериране от корекцията на една запетая, така че Claude може в крайна сметка да поставя знак именно върху съдържанието, което законът е създаден да остави извън обхвата си. Колко задълбочено действително ще поставя водни знаци няма да стане ясно, докато Anthropic не пусне инструмент за откриване, който може да бъде тестван. Компанията заяви, че планира в крайна сметка да сподели подробности за откриването на знаците, за да предложи техническата поддръжка, изисквана от закона на ЕС.
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.