Anthropic уточни как ще работят водните знаци в Claude
Anthropic публикува допълнителна информация за плана си да поставя водни знаци върху текст, генериран от Claude. Компанията обяснява, че системата ще кодира разпознаваем модел чрез избори при думи с малко значение за съдържанието — например между няколко еднакво подходящи описания. Моделът трябва да е невидим за читателя, но да може да бъде открит с подходящ ключ. Според Anthropic това няма да променя качеството или видимия вид на отговорите.
Компанията възнамерява да използва подхода SynthID-Text, описан от екипа на Google DeepMind през 2024 г., и да пусне API за откриване на водни знаци. Anthropic разграничава тази технология от инструментите, които търсят характерни стилови модели в текстове, създадени от изкуствен интелект. Леката редакция вероятно няма да премахне напълно знака, докато цялостното пренаписване с подмяна на всяка дума ще го направи. Тогава, посочва компанията, може да се спори дали текстът все още е генериран от AI.
При текст, който Claude само е коригирал, откриването ще зависи от дължината и степента на редакциите. Кодът вероятно ще съдържа по-слаб воден знак, тъй като работещият код предлага по-малко равностойни избори, но коментарите могат да бъдат маркирани. Anthropic заяви, че и други големи разработчици, подписали Кодекса за прозрачност съгласно Закона на ЕС за изкуствения интелект, планират свои водни знаци.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.