Anthropic внедряет статистическую маркировку текста Claude
Anthropic внедряет систему маркировки для текстов, созданных Claude, чтобы выполнить требования закона ЕС об искусственном интеллекте. Метод, основанный на SynthID-Text компании Google, меняет источник случайности при выборе слов и формирует статистически распознаваемый шаблон. Видимых отметок и скрытых символов нет. Anthropic утверждает, что система не влияет на содержание, творческие возможности и удобство чтения, а применяется во всем мире, поскольку ограничить ее отдельными регионами невозможно.
Блогер John Gruber не согласен с такой оценкой. По его мнению, синонимы не полностью равнозначны, поэтому выбор слова по секретному ключу маркировки, а не по точности смысла, может ухудшать текст. Он также считает, что показатели качества в исследовании Google DeepMind не отражают подобных различий. Маркировку можно убрать с помощью инструментов перефразирования, включая Declaude. Его разработчик James Padolsey назвал соответствующее регулирование ЕС произвольным.
Анализ последствий для юридических фирм показывает, что обычно маркировка не создает серьезных проблем, но они возможны при запрете клиента на ИИ, недоверии судьи или требовании снизить гонорар. Отметки могут сохраняться в шаблонах и накладываться друг на друга при использовании нескольких языковых моделей. Все модели Claude, выпущенные после 2 августа, поддерживают систему; старые модели планируют обновить в ближайшие месяцы.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.