В OpenAI сотні підрядників читають ваші розмови в ChatGPT

OpenAI залучає сотні контрактних працівників, які читають реальні розмови користувачів із ChatGPT, щоб покращувати відповіді чат-бота, згідно з розслідуванням 404 Media.

Видання отримало внутрішні документи, що просочилися в мережу, і поспілкувалося з додатковими джерелами. Рецензенти оцінюють відповіді ChatGPT за шкалою від одного до семи та мають завдання зменшувати надмірну улесливість і людиноподібну поведінку у відповідях моделі.

Один із рецензентів розповів 404 Media, що не думає, ніби користувачі знають про читання їхніх чатів людьми. Переглянуті запити це підтверджують: деякі розмови містили прямі прохання користувачів до ChatGPT зберігати їхній зміст у таємниці. Запити анонімізовані, але все одно можуть містити конфіденційні персональні дані. OpenAI використовує фільтр конфіденційності, але визнає, що він може помилятися.

Контрактних працівників залучають через Crossing Hurdles («Поєднуємо кваліфікованих фахівців із майбутнім роботи у сфері ШІ»), а виплати здійснює компанія з навчання ШІ Mercor, повідомляє 404 Media. Один із рецензентів, який працює в Північній Америці, сказав, що заробляє понад 50 доларів на годину.

Користувачі можуть вимкнути налаштування «Покращувати модель для всіх», яке за замовчуванням увімкнене, щоб припинити використання їхніх чатів для навчання моделі та потенційний перегляд людьми. Налаштування застосовується лише до нових розмов. OpenAI також пропонує режим тимчасового чату, який, за словами компанії, не використовує вхідні дані для навчання моделі.

OpenAI згадує про перевірку людьми лише в малопомітному розділі поширених запитань

Коли 404 Media запитало, де саме користувачів прямо повідомляють про перевірку людьми, OpenAI спочатку не відповіла. На сторінці поширених запитань компанія пояснює, що уповноважені працівники та постачальники послуг можуть переглядати дані користувачів для покращення роботи моделі, і радить не вводити конфіденційну інформацію. Це повідомлення доступне онлайн щонайменше з 2023 року і за ці роки змінилося лише незначно.

404 Media стверджує, що це повідомлення надто приховане й розмите, щоб користувачі усвідомлювали, наскільки масштабною насправді є перевірка людьми. А формулювання «Покращувати модель для всіх» більше схоже на дружній внесок у спільноту, ніж на згоду з тим, щоб люди читали ваші розмови. Однак розмите формулювання, ймовірно, є добре продуманим. Якби OpenAI запитувала явну згоду, частка користувачів, які відмовилися б, напевно, була б високою.

Для лабораторій ШІ, однак, такий відгук від людей є ключовою частиною вдосконалення їхніх моделей. Ця практика також широко поширена. Anthropic підтвердила 404 Media, що використовує людей-рецензентів для перевірки відповідей Claude та покращення майбутніх моделей. Це стосується користувачів, у яких у налаштуваннях конфіденційності ввімкнено параметр «Допомагати покращувати наші моделі ШІ». Anthropic також анонімізує розмови перед перевіркою людьми, видаляючи дані облікового запису, як-от адреси електронної пошти. Google теж використовує людей-рецензентів і зазначає в Gemini, що люди можуть переглядати збережені чати.

Новини ШІ без зайвого галасу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний передовий звіт «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.