OpenAI будет по умолчанию добавлять водяные знаки к результатам ChatGPT — но только в ЕС
OpenAI начнёт автоматически добавлять водяные знаки к текстам, созданным ChatGPT, в Европейском союзе, объявила компания. Функция добавления водяных знаков также будет доступна в других регионах, но за пределами ЕС по умолчанию будет отключена.
Решение в Европе обусловлено необходимостью соблюдать Закон ЕС об искусственном интеллекте, вступивший в силу в августе. Он требует маркировать контент, созданный моделями ИИ, таким образом, чтобы это могла обнаружить другая программа. К сожалению, до сих пор не существует полностью эффективного и надёжного способа делать это. Уже есть несколько стандартов, например SynthID и проект C2PA, но их относительно легко обойти любому, кто обладает базовыми техническими знаниями.
Вероятно, то же самое относится и к водяному знаку OpenAI. Его метод является проприетарным; компания называет его textGrain и опубликовала техническую статью, объясняющую принцип его работы. Но в целом он работает так же, как и другие инструменты для добавления водяных знаков в тексты больших языковых моделей, которые мы видели раньше: он создаёт закономерности в выборе слов, незаметные для человека и не оказывающие существенного влияния на общее качество результата, но позволяющие обладателю ключа обнаружить их с помощью специализированного детектора. OpenAI заявляет, что предоставит доступ к детектору ограниченному числу исследователей и организаций, а для остальных со временем будет создан процесс подачи заявок на получение разрешения.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.