Anthropic поставя водни знаци върху всички изходни данни на Claude в световен мащаб с маркировки, които „може да се запазят при някои редакции“

Anthropic подписа Кодекса за поведение на ЕС относно прозрачността на съдържанието, генерирано от изкуствен интелект. Считано от август 2026 г., новите модели Claude ще вграждат водни знаци в текста и ще добавят подписани метаданни за произход към файловете.

Моделите Claude, които бъдат пуснати в ЕС на или след 2 август 2026 г., ще се доставят с вградено обозначаване. Изискването няма да спре на границите на ЕС. То ще се прилага в световен мащаб за всички продукти на Claude, включително API, Claude, Claude Code, Claude Cowork и Claude Tag.

Генерираният текст ще съдържа вградени водни знаци, а генерираните файлове ще получават цифрово подписани метаданни за произход. Съществуващите модели получават преходен период съгласно закона, но Anthropic заявява, че вече работи по адаптирането им.

Компанията също планира да пусне инструменти за проверка, така че потребителите и третите страни да могат да проверяват обозначенията, макар че не е съобщила кога. Според Anthropic разработчиците, които интегрират Claude в своите продукти, трябва да определят кои изисквания на член 50 се прилагат за техните услуги.

Два метода за разпознаване на съдържание от изкуствен интелект

Anthropic планира да използва два вида обозначения. Според компанията текстът, генериран от Claude, ще съдържа невидим воден знак, който не влияе на смисъла, качеството или четливостта му. Водният знак се запазва при копиране и поставяне и „може да се запази при известно редактиране“. Той се прилага на ниво модел, така че няма значение кой продукт на Claude използвате.

Поддържаните файлове, включително изображения във формати .svg, .png и .jpg, ще съдържат подписани метаданни за произход, базирани на отворения стандарт C2PA, разработен от Коалицията за произход и автентичност на съдържанието. Подписът показва, че Claude е обработил файла, и може да разкрие последваща манипулация. Водните знаци в текста би трябвало да работят и чрез облачни партньори като AWS, Google Cloud и Microsoft Foundry, макар че тези платформи може да не поддържат подписани метаданни.

Откриването има някои ограничения

Anthropic откровено говори за ограниченията. Откритият воден знак не означава, че Claude действително е написал съдържанието. Хората постоянно използват Claude за корекция, превод или обобщаване, така че изходът може да носи воден знак, въпреки че идеите са дошли от човек.

Липсата на воден знак също не изяснява ситуацията. Моделът може да е бил пуснат преди въвеждането на водните знаци, текстът може да е бил сериозно редактиран или преведен, откъсът може да е твърде кратък за надеждно откриване, или метаданните да са били премахнати при конвертиране на формата или чрез екранна снимка.

Истинският тест е доколко тези водни знаци ще се запазват при редактиране, преформатиране и превод. Ако издържат, проверката за известен воден знак би трябвало да е по-надеждна от инструменти като Pangram, чиито патентовани методи за откриване не разкриват какво е предизвикало даден резултат. Детектори на трети страни могат да добавят поддръжка за водния знак на Anthropic, което би им осигурило по-надежден сигнал.

Откриването на текст от изкуствен интелект остава чувствителен обществен въпрос

Anthropic не е единствената компания в тази област. Google DeepMind пусна с отворен код своята система за поставяне на водни знаци SynthID, като я вгради в моделите Gemini. SynthID леко променя стойностите на вероятностите при предсказването на токени, за да създаде воден знак, без да влошава качеството на текста. Той работи на различни езици, но среща трудности с текст, който е бил редактиран след генерирането.

OpenAI разполага с детектор на текст с точност 99,9 процента от около две години, но все още не го е пуснала. Причините включват колко лесно потребителите могат да го заобиколят чрез превод или пренаписване, риска от стигматизиране на определени групи и вероятните опасения, че публичен детектор може да навреди на собствения бизнес на OpenAI.

Този риск е особено сериозен в образованието, където ненадеждните детектори могат да доведат до фалшиви обвинения в измама. Същевременно има основателни причини да се знае кога и до каква степен е използван изкуствен интелект. Проучванията показват, че прекомерната зависимост от инструменти с изкуствен интелект може да отслаби критичното мислене и уменията за писане, особено сред студентите които ги възприемат като пряк път, а не като помощно средство за учене. Проблемът надхвърля академичната сфера, тъй като измамници вече записват фиктивни студенти в американски колежи и използват изкуствен интелект, за да преминават безпроблемно през курсовете и да получават финансова помощ.

Решението на Anthropic може да засегне и бизнеса ѝ. Claude е популярен за интелектуален труд, особено сред ученици и студенти, тъй като дори по-старите модели създават сравнително естествен текст. В условията, в които училища и университети вече спорят за използването на изкуствен интелект в академичната работа, по-надеждното откриване може да направи Claude по-малко привлекателен за тези потребители.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за изкуствения интелект, нашия ексклузивен доклад за новостите „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.