Anthropic обявява API за откриване на водни знаци, който ще позволи на трети страни да откриват текстове, генерирани от Claude

Anthropic скоро ще предложи API за откриване на водни знаци, което ще позволи на разработчици от трети страни да интегрират откриването на текст, генериран от AI, в собствените си приложения.

Компанията използва вариант на метода SynthID Text, който Google DeepMind публикува в Nature през 2024 г., за своя AI модел Claude. Водният знак променя източника на случайност при избора на думи, като създава проследим модел. Според Anthropic това не оказва влияние „върху съдържанието, нивото на креативност или четливостта на текста на Claude“. Google DeepMind визуализира процеса през 2024 г. със следната анимация.

Водният знак работи по-ненадеждно при кратки текстове или наситени с факти пасажи, в които няма много алтернативни формулировки. Същото важи и за кода. При чисти корекции, при които човек е избрал всяка дума, водният знак също няма да бъде наличен. Преводите са различен случай, тъй като там Claude избира всички думи. Силното пренаписване може да премахне водния знак, посочва Anthropic в публикуваните често задавани въпроси.

Водният знак може единствено да покаже, че Claude вероятно е участвал в създаването на даден текст. Той не може да определи дали Claude е написал целия текст или само го е редактирал значително, нито може да установи дали текстът е създаден от човек или от друг AI модел.

Регулацията на ЕС стимулира глобалното внедряване

Anthropic добавя водни знаци, за да спази изискванията на Закона на ЕС за изкуствения интелект. Заедно с приблизително 190 други подписали страни компанията подписа Кодекса за практики на ЕС относно прозрачността на съдържанието, генерирано от AI, през юли 2026 г. Тъй като в момента няма технически начин функцията да бъде ограничена по региони, водните знаци се въвеждат в световен мащаб. Според Anthropic компанията непрекъснато проучва допълнителни възможности, като предстоят актуализации.

Всички модели, пуснати след 2 август 2025 г., поддържат водни знаци по подразбиране. По-старите модели Claude ще получат функцията през следващите месеци. За файлове Anthropic използва отворения стандарт C2PA, който добавя метаданни, без да променя самия файл.

Водните знаци на Anthropic работят по различен начин от външните инструменти за откриване на AI, като Pangram. Тези услуги нямат достъп до ключовете на Anthropic. Вместо това те сканират за типични модели в текстовете, генерирани от AI, като характерни фрази или прекомерно често използвани думи. Проверката за воден знак е фундаментално различен подход и на практика би трябвало да се окаже по-надеждна.

AI новини без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен AI бюлетин, нашия ексклузивен шест пъти годишно доклад за новостите в AI „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.