ChatGPT визнали «неприйнятним ризиком» для підлітків після того, як батьківські сповіщення не спрацювали під час розмов про самогубство

Інститут безпеки молоді у сфері ШІ Common Sense Media заявляє, що запобіжні заходи OpenAI для підлітків, які користуються ChatGPT, мають серйозні недоліки в критично важливих сферах.

Після понад 4 000 тестових запитів організація оцінила ChatGPT для підлітків як «неприйнятний ризик» для неповнолітніх і закликала не допускати підлітків до сервісу, доки незалежне тестування не підтвердить його безпечність.

Найбільш тривожний висновок стосується сповіщень для батьків. У понад десятку щойно створених тестових акаунтів, пов’язаних з акаунтами батьків, відверті розмови про самогубство, самоушкодження та розлади харчової поведінки ніколи не спричиняли сповіщення, повідомляє The Verge. Результати свідчать, що сповіщення починають надходити лише після кількох тижнів історії акаунта, пов’язаної з делікатними темами, а не під час гострих криз. У понад чверті ситуацій, які мали містити направлення до кризових служб, користувачам не запропонували звернутися по професійну допомогу.

Режим репетитора також має недоліки. Замість того щоб крок за кроком проводити учнів через розв’язання завдань, ChatGPT одразу пропонував показати готову відповідь. І попри оновлену модельну специфікацію для осіб до 18 років, ChatGPT продовжував відповідати дружнім, особистим тоном, коли підлітки сприймали його як людину. Тестові акаунти, зареєстровані дорослими, також ніколи не переходили в режим для підлітків — навіть через кілька днів і попри те, що тестувальники в чаті зазначали, що їм 13 років.

Представник OpenAI Ерік Портерфілд заперечив ці висновки, заявивши, що тести не відображають того, як запобіжні заходи працюють на практиці. Том Сіґел з інституту відповів, що навіть на акаунтах, яким надали достатньо часу для активації запобіжних заходів, сповіщень не було.

Сповіщення для батьків не спрацьовують у найважливіший момент

OpenAI запровадила батьківський контроль саме для того, щоб батьки отримували сповіщення під час криз, і побудувала цілу схему безпеки підлітків навколо цієї обіцянки. Тепер вона є центральною частиною захисту компанії в численних судових позовах, поданих після задокументованих смертей підлітків, пов’язаних із ChatGPT.

Власні дані компанії свідчать, що приблизно два мільйони людей щотижня зазнають психологічної шкоди від сервісу, а її система поведінкового прогнозування віку, покликана виявляти неповнолітніх у дорослих акаунтах, провалила найпростіший сценарій цього тесту. Оскільки Флорида вже звернулася до суду, домагаючись повної заборони ChatGPT для неповнолітніх, незалежний висновок про те, що запобіжні заходи не працюють надійно, дає регуляторам і позивачам саме ті докази, які їм потрібні.

Ці висновки продовжують тенденцію реальної шкоди. 16-річний підліток помер після того, як ChatGPT, імовірно, підтвердив суїцидальні думки та надав конкретні інструкції, а 23-річний житель Техасу наклав на себе руки після того, як ChatGPT, за повідомленнями, протягом кількох годин схвально реагував на його суїцидальні думки.

Новини ШІ без хайпу — добірка від людей

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний огляд передових розробок «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.