Sakhanda Wire
NVDA $154.93 -0.77% MSFT $505.37 -2.44% GOOGL $279.95 -1.33% META $618.13 -1.32% AMZN $257.42 -0.13%
← К новостям

Anthropic раскрыла детали водяных знаков в тексте Claude

Anthropic сообщила дополнительные сведения о планах маркировать текст, созданный Claude. Компания объяснила, что система будет формировать скрытый узор за счёт выборов в ситуациях, где несколько слов одинаково подходят по смыслу — например, при описании погоды. Читатель не должен заметить этот узор, но его сможет обнаружить тот, у кого есть специальный ключ. По словам Anthropic, водяные знаки не повлияют на качество и внешний вид ответа.

Компания намерена применить метод SynthID-Text, который команда Google DeepMind описала в 2024 году, а также выпустить API для обнаружения маркировки. Anthropic отличает этот подход от систем, выявляющих использование ИИ по особенностям стиля и формулировок. Лёгкое редактирование, вероятно, не удалит знак полностью, тогда как полная переработка с заменой каждого слова его уберёт. В таком случае, отметила компания, спорным становится сам статус текста как созданного ИИ.

Для текста, который Claude лишь вычитал или немного отредактировал, результат будет зависеть от длины материала и объёма изменений. В коде водяной знак должен быть слабее, поскольку рабочая программа оставляет меньше равноценных вариантов, однако он может появиться в комментариях и других местах со свободным выбором слов. Anthropic заявила, что собственные знаки внедрят и другие крупные разработчики, подписавшие Кодекс прозрачности в рамках Закона ЕС об искусственном интеллекте.

Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием TechCrunch

Читать оригинал на TechCrunch ↗

Репортаж и изображение принадлежат TechCrunch и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости