Anthropic объяснила принцип работы невидимых водяных знаков в тексте Claude
Anthropic раскрыла детали планируемой системы невидимой маркировки текста, созданного Claude. Компания заявляет, что этот механизм должен помочь соблюдать европейские требования к прозрачности искусственного интеллекта. В пятницу Anthropic сообщила, что система представляет собой вариант подхода SynthID-Text.
В основе метода лежат выборы, почти не влияющие на смысл фразы. Например, после слов «The weather today was cold and…» продолжения «overcast» или «grey» выглядят вероятными, а «sugary» — нет. Обычно модель выбирает подходящее слово с помощью случайного числа. При использовании водяного знака выбор по-прежнему остается случайным, однако на него влияют специальный ключ и несколько слов из предыдущего контекста. Повторение таких решений на протяжении всего текста формирует определенный узор. Читатель его не замечает, но обнаружить маркировку сможет тот, у кого есть соответствующий ключ.
Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.