OpenAI за замовчуванням додаватиме водяні знаки до результатів ChatGPT — але лише в ЄС
OpenAI оголосила, що автоматично додаватиме водяні знаки до текстів, згенерованих ChatGPT, у Європейському Союзі. Функція водяних знаків також буде доступна в інших регіонах, але за межами ЄС її буде вимкнено за замовчуванням.
Такий крок у Європі зумовлений необхідністю дотримуватися Закону ЄС про штучний інтелект, який набув чинності в серпні. Він вимагає позначати контент, створений моделями ШІ, у спосіб, який може виявити інший інструмент. На жаль, досі не існує цілком ефективного й надійного способу це зробити. Уже є кілька стандартів, зокрема SynthID і проєкт C2PA, але їх відносно легко обійти будь-кому, хто має базові знання.
Імовірно, те саме стосується й водяного знака OpenAI. Його метод є пропрієтарним; компанія називає його textGrain і опублікувала технічну статтю з поясненням принципу його роботи. Але загалом він працює так само, як інші інструменти для додавання водяних знаків до текстів великих мовних моделей, які ми вже бачили: створює шаблони у виборі слів, непомітні для людини й такі, що істотно не змінюють загальну якість результату, але які людина з ключем може виявити за допомогою спеціалізованого детектора. OpenAI заявляє, що надасть доступ до детектора обмеженій кількості дослідників і організацій, а згодом запровадить процес подання запитів на схвалення для інших охочих отримати доступ.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.