Anthropic добавя статистически водни знаци към текстовете на Claude
Anthropic въвежда система за водни знаци в текстовете, генерирани от Claude, за да изпълни изискванията на Закона на ЕС за изкуствения интелект. Методът, базиран на SynthID-Text на Google, променя източника на случайност при избора на думи и създава статистически разпознаваем модел. Няма видими знаци или скрити символи. Anthropic заявява, че системата не променя съдържанието, творческите възможности или четливостта и се прилага глобално, тъй като не може да бъде ограничена по региони.
Блогърът John Gruber оспорва тази оценка. Според него синонимите не са напълно взаимозаменяеми и изборът според секретен ключ, а не според най-точното значение, може да влоши текста. Той също поставя под съмнение дали използваните в изследването на Google DeepMind оценки на качеството отчитат такива разлики. Водният знак може да бъде премахнат с инструменти за перифразиране като Declaude. Разработчикът му James Padolsey критикува съответната регулация на ЕС като произволна.
Според анализ на употребата в юридическата сфера проблемите обикновено са ограничени, но могат да възникнат при забрана от клиент, скептично настроен съдия или искане за по-ниски хонорари. Маркировките могат да се запазят в шаблони и да се наслагат при използване на няколко езикови модела. Claude моделите, пуснати след 2 август, поддържат системата, а по-старите ще бъдат обновени през следващите месеци.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.