Anthropic маркирует результаты Claude водяными знаками, но критики ставят под сомнение компромиссы

Маркировка текстов Claude водяными знаками, внедрённая Anthropic, должна сделать контент, созданный ИИ, обнаруживаемым. Однако критики сомневаются, что выбор слов остаётся неизменным, а юристы сталкиваются с новыми проблемами прозрачности.

Anthropic настаивает, что маркировка текстов Claude водяными знаками не влияет на содержание, креативность или читаемость. Метод основан на подходе SynthID-Text от Google и изменяет источник случайности при выборе слов во время генерации текста, создавая статистически обнаруживаемую закономерность. Видимые отметки не добавляются. Скрытые символы также не используются.

Блогер Джон Грубер с этим не согласен. В обширной публикации на Daring Fireball он утверждает, что никакие два синонима не имеют абсолютно одинакового значения. Когда Claude выбирает между «пасмурный» и «серый» на основе секретного ключа водяного знака, а не смысловой точности, качество текста неизбежно страдает. По словам Грубера, система иногда повышает вероятность менее удачного слова и снижает её для лучшего варианта. Заявление Anthropic о том, что разница «незаметна», попросту неверно, считает он.

Грубер ведёт влиятельный технологический блог Daring Fireball с 2002 года. Он также участвовал в создании Markdown — языка разметки, который сегодня широко используется чат-ботами.

Грубера не убеждает даже исследование SynthID, опубликованное Google DeepMind в журнале Nature и цитируемое Anthropic. По его мнению, измеренные там показатели положительных и отрицательных оценок не являются достоверным критерием качества текста. Никто не поставит чат-боту отрицательную оценку за то, что тот написал «бананы» вместо «ананасы». Грубер предполагает, что репутация Gemini как более слабой модели по сравнению с Claude и ChatGPT отчасти может объясняться тем, что SynthID уже активен.

Юридическим фирмам нужно готовиться к вопросам о прозрачности

Отраслевое юридическое издание Artificial Lawyer изучило, что водяные знаки Anthropic означают для юридических фирм. Вывод издания в целом спокоен. Маркировка безвредна, утверждает Artificial Lawyer, и в большинстве случаев ни клиенты, ни суды не будут возражать против использования ИИ. Как отмечается в анализе, некоторые клиенты уже сами активно требуют его применения.

Однако в отдельных ситуациях всё становится сложнее, согласно оценке Artificial Lawyer. Если клиенты прямо запретили использование ИИ в своих делах или судья относится к нему скептически, вклад ИИ можно будет доказать, даже если представленный документ безупречен с фактической точки зрения. Это может повлиять на ход разбирательства или судебного процесса.

Водяные знаки также сохраняются в тексте, отмечает Artificial Lawyer. В сложном договоре могут содержаться помеченные ИИ положения, тогда как остальной текст написал человек. В будущих договорах, созданных на основе старых шаблонов с разделами, сгенерированными ИИ, эта маркировка будет сохраняться. При использовании нескольких больших языковых моделей разные водяные знаки могут даже накладываться друг на друга в одном документе.

Переговоры о гонораре тоже могут измениться. Если клиенты потребуют скидки, поскольку ИИ облегчил работу, долю участия ИИ в принципе можно будет подтвердить, отмечает издание.

Сама Anthropic утверждает, что в насыщенных фактами фрагментах водяных знаков меньше, поскольку вариантов выбора слов там меньше. Для юридических текстов, зависящих от точности формулировок, это важная оговорка, хотя эмпирических исследований на эту тему пока нет.

Желающие удалить маркировку могут сделать это с помощью инструментов перефразирования вроде Declaude. Его разработчик Джеймс Падолси критикует лежащее в основе регулирование ЕС как произвольное. По его словам, система в основном затрагивает обычных пользователей, почти ничего не делая для предотвращения преднамеренного обхода.

Anthropic внедряет маркировку водяными знаками для соблюдения Закона ЕС об ИИ, но применяет её по всему миру, поскольку не может ограничить эту функцию отдельными регионами. Все модели Claude, выпущенные после 2 августа, поддерживают маркировку. Старые модели будут доработаны в ближайшие месяцы.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный ежегодный отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.