Claude ще прилага невидими водни знаци към текстове и изображения, генерирани от ИИ

Anthropic прави съдържанието, генерирано от неговия AI, по-лесно за идентифициране в съответствие с правилата на ЕС.

Anthropic прави съдържанието, генерирано от неговия AI, по-лесно за идентифициране в съответствие с правилата на ЕС.

Anthropic пое ангажимент да започне да маркира текста и изображенията, генерирани от Claude, с машинночетими данни в опит да спази европейските правила за прозрачност при използването на AI. „Генерираният текст ще съдържа вградени водни знаци, а генерираните файлове ще включват цифрово подписани метаданни за произхода, когато това се поддържа“, казва Anthropic на нова страница за поддръжка на Claude. Промените са невидими за човешкото око, но ще улеснят хората и онлайн платформите да откриват дали съдържанието е генерирано от моделите на Claude.

Тези актуализации са бъдещ ангажимент, а не нещо, което ще влезе в сила незабавно. Новите задължения за етикетиране и прозрачност при AI съгласно Закона на ЕС за изкуствения интелект, който влезе в сила на 2 август, включват четиримесечен гратисен период за спазване на изискванията от съществуващи AI продукти, стартирали преди тази дата. Затова Anthropic казва, че новите модели Claude ще маркират генерираното от AI съдържание още от първия ден след пускането си, но поддръжката за съществуващите модели все още е в процес на разработка.

Машинночетимите маркери ще бъдат прилагани глобално към поддържаните модели Claude, включително Claude Platform (API), Claude, Claude Code, Claude Cowork и Claude Tag. Използват се две различни техники за маркиране: за изображенията, обработени от Claude, C2PA — стандарт за метаданни за произхода, който вече е възприет от Adobe, OpenAI и Google — ще бъде прилаган към поддържаните файлове, но процесът за маркиране на текст, генериран от Claude, е описан с много по-малко подробности.

Според Anthropic „неуловим воден знак“ се вплита директно в текста, генериран от моделите Claude, без да променя смисъла, качеството или четливостта на отговора на чатбота. Anthropic не назовава тази система за водни знаци, но казва, че тези текстови водни знаци ще се прилагат и когато моделите Claude се използват чрез AWS, Google Cloud или Microsoft Foundry.

„Тъй като водният знак е част от текста, той ще се пренася заедно с текста, когато той бъде копиран и поставен на друго място, и може да се запази след някои редакции“, казва Anthropic на страницата за поддръжка на Claude. „Маркирането с водни знаци ще се извършва на ниво модел, което означава, че ще присъства независимо от това от кой продукт или интерфейс на Claude произхожда текстът.“

Anthropic също работи за предоставяне на възможност на потребителите и други трети страни да откриват водните знаци и метаданните за произхода, вградени в съдържанието, генерирано от Claude, и казва, че ще сподели подробности за тази система за откриване в предстояща техническа документация. Вече са налични няколко инструмента, предназначени да откриват метаданни C2PA, включително чатботът Gemini на Google, но не е ясно дали те ще работят с файлове, генерирани от Claude. Поисках от Anthropic разяснение.

Това е още една стъпка към ясното обозначаване на текстовете и изображенията, генерирани от AI, в онлайн платформите и потенциална победа за хората, които искат да избягват консумацията на подобно съдържание. Читателите на фенфикшън вече изграждат по-примитивни системи за откриване, с които да сигнализират кога инструментите на Claude са използвани във фенските произведения в AO3, но тези системи за маркиране могат да бъдат прилагани в много по-широк мащаб — ако работят, разбира се.

Известно е, че данните C2PA могат лесно да бъдат премахнати, понякога дори случайно, когато медията, която ги съдържа, бъде качена в онлайн платформи, а не е ясно колко надеждно е решението на Anthropic за поставяне на водни знаци в текста. Дори самата компания уточнява, че тези системи за маркиране далеч не са безпогрешни и че всяко съдържание, в което липсват откриваеми маркери, все пак може да произхожда от генеративни AI модели.

• Джес Уедърбед