Anthropic поставя воден знак върху съдържанието на Claude, но критиците поставят под въпрос компромисите

Водният знак на Anthropic за текстовете на Claude би трябвало да прави съдържанието, генерирано от изкуствен интелект, откриваемо. Критиците обаче се съмняват, че изборът на думи остава незасегнат, а адвокатите се сблъскват с нови проблеми около прозрачността.

Anthropic настоява, че поставянето на воден знак върху текста на Claude не влияе на съдържанието, креативността или четливостта. Методът се основава на подхода SynthID-Text на Google и променя източника на случайност при избора на думи по време на генерирането на текста, създавайки статистически откриваем модел. Не се добавят видими знаци. Не се добавят скрити символи.

Блогърът John Gruber не е съгласен. В подробна публикация в Daring Fireball той твърди, че никои два синонима не носят напълно еднакво значение. Когато Claude избира между „overcast“ и „grey“ въз основа на таен ключ на водния знак, а не на семантична прецизност, качеството на текста неизбежно страда. Понякога системата увеличава вероятността за по-лоша дума и я намалява за най-добрата, пише Gruber. Твърдението на Anthropic, че разликата е „незабележима“, просто е погрешно, казва той.

Gruber поддържа влиятелния технологичен блог Daring Fireball от 2002 г. Той е и един от създателите на Markdown — езика за форматиране, който днес широко се използва от чатботове.

Дори изследването за SynthID, публикувано от Google DeepMind в Nature и цитирано от Anthropic, не убеждава Gruber. Измерените там съотношения на положителни и отрицателни оценки не са валиден показател за качеството на текста, твърди той. Никой не дава отрицателна оценка на чатбот, защото е написал „банани“ вместо „ананаси“. Gruber предполага, че репутацията на Gemini като по-слаб от Claude и ChatGPT може отчасти да се дължи на факта, че SynthID вече е активен.

Адвокатските кантори трябва да се подготвят за въпроси относно прозрачността

Правното издание Artificial Lawyer анализира какво означават водните знаци на Anthropic за адвокатските кантори. Изданието като цяло оценява ситуацията спокойно. Маркировките са безвредни, твърди Artificial Lawyer, и в повечето случаи нито клиентите, нито съдилищата биха възразили срещу използването на изкуствен интелект. В анализа се отбелязва, че някои клиенти дори активно го изискват.

Според оценката на Artificial Lawyer обаче нещата стават сложни в определени ситуации. Ако клиентите изрично са забранили използването на изкуствен интелект по делата си или ако съдията е скептичен към него, приносът на изкуствения интелект може да бъде доказан дори когато представеният документ е напълно безупречен от фактическа гледна точка. Това може да има последици за начина, по който протичат производствата или съдебният процес.

Водните знаци също се пренасят заедно с текста, посочва Artificial Lawyer. В един сложен договор може да има клаузи, маркирани като генерирани от изкуствен интелект, докато останалата част е написана от човек. Бъдещи договори, създадени въз основа на по-стари шаблони със секции, генерирани от изкуствен интелект, ще пренасят тези маркировки. Когато се използват няколко големи езикови модела, различни водни знаци дори могат да се припокриват в един и същ документ.

Преговорите за хонорари също могат да се променят. Ако клиентите поискат отстъпки, защото изкуственият интелект е улеснил работата, делът на изкуствения интелект по принцип става проверим, отбелязва изданието.

Самата Anthropic казва, че водният знак е по-рядък в пасажи, богати на факти, тъй като съществуват по-малко алтернативи при избора на думи. За правни текстове, които зависят от прецизността, това е важна уговорка, макар че по темата все още няма емпирични изследвания.

Всеки, който иска да премахне маркировките, може да го направи с инструменти за перифразиране като Declaude. Неговият разработчик James Padolsey критикува съответната регулация на ЕС като произволна. По думите му системата засяга най-вече обикновените потребители, като същевременно прави малко срещу умишленото заобикаляне.

Anthropic въвежда водните знаци, за да спази Закона на ЕС за изкуствения интелект, но ги прилага глобално, тъй като не може да ограничи функцията по региони. Всички модели Claude, пуснати след 2 август, поддържат маркирането. По-старите модели ще бъдат адаптирани през следващите месеци.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен информационен бюлетин за изкуствения интелект, ексклузивния ни доклад за новостите в ИИ „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.