Някои потребители на Claude са бесни, че новите водни знаци на Anthropic ще разкрият, че го използват на работа и в час

Наскоро Anthropic взе решение да поставя водни знаци върху изходните данни на Claude — да вмъква невидим код в редакционния текст на чатбота, който го обозначава като генериран от изкуствен интелект.

Anthropic въведе тази нова политика, за да изпълни изискванията на Кодекса за прозрачност на Закона за ИИ на ЕС, който вече изисква от технологичните компании да обозначават съдържанието, генерирано или редактирано от ИИ по начин, разпознаваем за компютърните системи. И докато европейските регулатори може и да са доволни, някои потребители на ИИ определено не са.

Достатъчно е човек да погледне Reddit, за да открие доказателства за назряващо недоволство, макар че други потребители на сайта не са съгласни. Една от по-истеричните публикации, на които попаднах, беше от потребител на име visionode, чийто акаунт е създаден забележително едва преди три седмици. Според visionode новата система за поставяне на водни знаци е драконовски заговор, замислен да превърне невинните потребители на чатботове по целия свят в жертви.

Основният аргумент на visionode изглежда е, че докато опитните потребители на Claude може да успеят да прикрият доказателствата за употребата на ИИ, като перифразират или по друг начин обработят изходните си данни чрез други услуги с ИИ, средностатистическият потребител на Claude ще бъде заловен.

„Кой ще бъде заловен? Вие. Студентът, който е използвал Claude, за да пренареди един абзац. Журналистът, който е помолил ИИ да обобщи стенограма от двеста страници. Писателят, който е изпаднал в творчески блокаж и е поискал синоними. Тези хора излизат от процеса с дигитална татуировка на челото.“

Далеч съм от мисълта да подценявам възмущението на visionode, но това не са най-добрите примери. Журналист, който моли ИИ да обобщи стенограма от двеста страници, няма да бъде обезпокоен от водния знак върху това обобщение, освен ако не копира и постави обобщението дословно в статията си — което очевидно е неетично и не би трябвало да се случва.

Също толкова неетично е студент да копира и постави изходните данни на Claude в есе, след като го е помолил да „пренареди един абзац“.

Други потребители на Reddit също не подкрепиха особено възмущението на автора на публикацията.

„Вижте го този“, просто коментира един потребител.

Друг призова автора на публикацията да си поеме „дълбоко въздух“.

visionode не беше единственият, който се оплакваше. Друг недоволен потребител нарече водните знаци „неетични“ и „отвратителни“ и заяви, че използвайки Claude, той е свършил лъвския пай от работата. Според него чатботът е бил просто „инструмент“, улеснил тежкия му труд.

„Аз дадох инструкциите, контекста, решенията и безбройните уточнения, Claude беше инструментът. Ако Claude започне да поставя водни знаци върху кода или върху всичко друго, което генерира, за какво точно претендира, че има заслуга?“ попита авторът на публикацията.

Отново други потребители се нахвърлиха върху критика.

„Той не претендира за заслуги“, отвърна един потребител. „Става въпрос за възможността да се разпознават изходни данни, генерирани от ИИ, заради рисковете, които генерираните от ИИ изходни данни могат да създадат в различни ситуации.“

„Пичът дори не е успял да се оплаче от Claude, без да използва Claude, за да му напише оплакването“, пошегува се друг.

Някои критици се дистанцираха от наратива за превръщането в жертва и изложиха малко по-нюансирани аргументи срещу новата политика на Anthropic.

Например един потребител се оплака от общо лицемерие при поставянето на воден знак върху редакционен продукт, който сам по себе си е бил генериран чрез изгребване на труда на други хора. „Мисля, че това е много зловеща посока“, каза потребителят. „Не използвам Claude, за да пиша каквото и да било, но ИИ, който поставя воден знак върху работата ти, е плашещо ироничен предвид начина, по който много от водещите модели са се сдобили с данните си за обучение.“

Като цяло обаче потребителите са склонни да подкрепят системата за поставяне на водни знаци като разумен начин за проследяване на материали, генерирани от алгоритъм. „Буквално няма добър аргумент защо това да не е добра идея“, каза потребител в друга тема. „Единствената причина да не искате това е, че искате да лъжете хората.“