Anthropic раскрыла детали водяных знаков в тексте Claude
Anthropic сообщила дополнительные сведения о планах маркировать текст, созданный Claude. Компания объяснила, что система будет формировать скрытый узор за счёт выборов в ситуациях, где несколько слов одинаково подходят по смыслу — например, при описании погоды. Читатель не должен заметить этот узор, но его сможет обнаружить тот, у кого есть специальный ключ. По словам Anthropic, водяные знаки не повлияют на качество и внешний вид ответа.
Компания намерена применить метод SynthID-Text, который команда Google DeepMind описала в 2024 году, а также выпустить API для обнаружения маркировки. Anthropic отличает этот подход от систем, выявляющих использование ИИ по особенностям стиля и формулировок. Лёгкое редактирование, вероятно, не удалит знак полностью, тогда как полная переработка с заменой каждого слова его уберёт. В таком случае, отметила компания, спорным становится сам статус текста как созданного ИИ.
Для текста, который Claude лишь вычитал или немного отредактировал, результат будет зависеть от длины материала и объёма изменений. В коде водяной знак должен быть слабее, поскольку рабочая программа оставляет меньше равноценных вариантов, однако он может появиться в комментариях и других местах со свободным выбором слов. Anthropic заявила, что собственные знаки внедрят и другие крупные разработчики, подписавшие Кодекс прозрачности в рамках Закона ЕС об искусственном интеллекте.
Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.