Claude застосовуватиме невидимі водяні знаки до текстів і зображень, створених ШІ

Anthropic робить свій контент, створений ШІ, простішим для ідентифікації відповідно до правил ЄС.

Anthropic робить свій контент, створений ШІ, простішим для ідентифікації відповідно до правил ЄС.

Anthropic пообіцяла почати маркувати текст і зображення, створені Claude, даними, придатними для машинного зчитування, намагаючись дотриматися європейських правил прозорості у сфері ШІ. «Створений текст міститиме вбудовані водяні знаки, а створені файли — метадані походження з цифровим підписом, якщо це підтримується», — повідомляє Anthropic на новій сторінці підтримки Claude. Зміни невидимі для людського ока, але спростять людям і онлайн-платформам визначення того, чи був контент створений моделями Claude.

Ці оновлення є майбутнім зобов’язанням, а не змінами, які набудуть чинності негайно. Нові зобов’язання щодо маркування та прозорості ШІ відповідно до Акту ЄС про ШІ, який набув чинності 2 серпня, передбачають чотиримісячний пільговий період для дотримання вимог щодо наявних продуктів ШІ, запущених до цієї дати. Тому Anthropic повідомляє, що нові моделі Claude маркуватимуть контент, створений ШІ, від першого дня після випуску, але підтримка наявних моделей ще розробляється.

Мітки, придатні для машинного зчитування, застосовуватимуться глобально до підтримуваних моделей Claude, зокрема Claude Platform (API), Claude, Claude Code, Claude Cowork і Claude Tag. Використовуються два різні методи маркування: для зображень, оброблених Claude, C2PA — стандарт метаданих походження, який уже підтримують Adobe, OpenAI і Google, — застосовуватиметься до підтримуваних файлів, але процес маркування тексту, створеного Claude, описаний значно менш детально.

За словами Anthropic, «непомітний водяний знак» безпосередньо вплітається в текст, створений моделями Claude, не змінюючи змісту, якості чи читабельності відповіді чатбота. Anthropic не називає цю систему водяних знаків, але зазначає, що такі текстові водяні знаки також застосовуватимуться, коли доступ до моделей Claude здійснюється через AWS, Google Cloud або Microsoft Foundry.

«Оскільки водяний знак є частиною тексту, він переміщуватиметься разом із текстом, коли його копіюють і вставляють в іншому місці, та може зберігатися після деяких редагувань, — повідомляє Anthropic на сторінці підтримки Claude. — Водяні знаки застосовуватимуться на рівні моделі, а це означає, що вони будуть присутні незалежно від того, з якого продукту або інтерфейсу Claude походить текст».

Anthropic також працює над тим, щоб користувачі та інші треті сторони могли виявляти водяні знаки й метадані походження, вбудовані в контент, створений Claude, і повідомляє, що поділиться деталями цієї системи виявлення в майбутній технічній документації. Уже доступні кілька інструментів, призначених для виявлення метаданих C2PA, зокрема чатбот Gemini від Google, але незрозуміло, чи працюватимуть вони з файлами, створеними Claude. Я попросив Anthropic про уточнення.

Це ще один крок до того, щоб текст і зображення, створені ШІ, чітко маркувалися на онлайн-платформах, і потенційна перемога для людей, які хочуть уникати споживання такого контенту. Читачі фанфіків уже створюють примітивніші системи виявлення, щоб позначати випадки, коли інструменти Claude використовувалися у фанатських роботах на AO3, але ці системи маркування можна застосовувати значно ширше — якщо вони справді працюватимуть.

Відомо, що дані C2PA легко видаляються, іноді навіть випадково, коли медіафайл, який їх містить, завантажують на онлайн-платформи, і незрозуміло, наскільки надійним є рішення Anthropic для нанесення водяних знаків на текст. Навіть сама компанія застерігає, що ці системи маркування далеко не безпомилкові, а будь-який контент без виявлених міток усе одно міг походити від генеративних моделей ШІ.

• Джесс Везербед