Anthropic обясни как ще работят невидимите водни знаци в текста на Claude
Anthropic представи повече подробности за планираната система за поставяне на невидими водни знаци в текст, генериран от Claude. Компанията посочва, че маркирането трябва да помогне за спазването на европейските изисквания за прозрачност при изкуствения интелект. В петък Anthropic обяви, че системата е вариант на подхода SynthID-Text.
Методът използва избори, които почти не променят смисъла на текста. Например след изречението „The weather today was cold and…“ думите „overcast“ и „grey“ са вероятни продължения, докато „sugary“ е малко вероятна. Обикновено моделът избира между подходящи думи чрез произволно число. При водния знак изборът пак е случаен, но се определя чрез ключ и няколко думи от предходния контекст. Многократното прилагане на този процес създава разпознаваем шаблон в текста. Той остава невидим за читателя, но може да бъде установен от всеки, който разполага със съответния ключ.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Verge. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.