OpenAI ще започне да маркира текста на ChatGPT в ЕС

OpenAI ще започне да добавя невидим воден знак към текста, генериран от ChatGPT и Codex в Европейския съюз, за да спази изискванията на Закона на ЕС за изкуствения интелект, съобщи компанията в понеделник в публикация в блога си.

Правилата за прозрачност в Закона на ЕС за изкуствения интелект, които влязоха в сила на 2 август, изискват от компаниите за изкуствен интелект да обозначават генерираното от ИИ съдържание по начин, по който други системи могат да го идентифицират.

OpenAI заяви, че през следващите седмици водният знак ще бъде въведен за отговарящите на условията потребители на ChatGPT и Codex във всички планове, но само в ЕС. Разработчиците, използващи API на OpenAI навсякъде по света, могат да го активират за избрани модели още от днес; по подразбиране той е изключен. OpenAI заяви, че при стартирането няма да превръща поставянето на водни знаци върху текста в глобална настройка по подразбиране.

Водният знак не представлява истински символ, а работи чрез леко насочване на избора на думи от модела, оставяйки модел, който читателите не могат да видят, но детекторът може да улови. Тъй като е заложен в самите думи, той се запазва в текста при копиране и поставяне. OpenAI заяви, че водният знак не идентифицира потребителя и че не е видяла съществена промяна в работата на моделите си при включването му.

OpenAI публикува и технически доклад за своя метод, наречен textGrain, заедно с обявяването. Съавтори на доклада са изследователи от Университета на Пенсилвания и Йейл. В него е описан пример за използване на секретен ключ за подреждане на прогнозите за следващата дума, с което се завършва изречението. Когато стотици подобни насочвания бъдат събрани заедно, детекторът може да установи съдържание, генерирано от ИИ, използвайки само текста и ключа.

Може ли водният знак да бъде премахнат чрез редактиране? Тестовете на OpenAI показват, че да. При един от тестовете замяната на 10% от думите със синоними намали откриването от около 92% на 66%. Компанията също така заяви, че кратките пасажи, математическите отговори и преведеният текст се откриват по-трудно.

„Тези ограничения допринасят за решението ни първоначално да предоставим достъп до детектора само на одобрени изследователи и експертни организации, които могат да ни помогнат да оценим надеждността и отговорните му приложения“, заяви компанията.

OpenAI също предупреди, че липсващият воден знак „не доказва авторство от човек“. Текстът може да е твърде кратък или прекалено редактиран, или да произхожда от изкуствения интелект на друга компания.

„[Водните знаци] могат да покажат, че система на OpenAI е генерирала или обработила част от даден пасаж, но не и колко човешка преценка, редактиране или творчество са вложени в него“, заяви компанията.

Обявяването идва два месеца след като Anthropic заяви, че ще поставя водни знаци върху текста, генериран от Claude — мярка, която компанията прилага в световен мащаб. Това решение предизвика негативна реакция от някои потребители на Claude, които заявиха, че те са предоставили „инструкциите, контекста, решенията“, докато Claude е бил само „инструментът“.

OpenAI беше разработила воден знак за текст и преди, но се въздържа от пускането му, отчасти заради опасения, че потребителите ще преминат към конкуренти, които не използват водни знаци, съобщи The Wall Street Journal през 2024 г.

Anthropic, Google, Meta, Microsoft и OpenAI са сред компаниите, които са поели ангажимент да спазват кодекса на ЕС за практики относно съдържанието, генерирано от ИИ.