Флорида просить суд не дозволити ChatGPT видавати себе за людину й спілкуватися з дітьми

Генеральний прокурор Флориди Джеймс Утмайєр просить суд заборонити OpenAI наділяти ChatGPT людськими рисами та робити його доступним для неповнолітніх. «Перестаньте називати його безпечним. Перестаньте вдавати, що він людина. Перестаньте продавати його дітям», — заявив Утмайєр.

У червні Флорида вже подала до суду на OpenAI, стверджуючи, що ChatGPT надавав інформацію масовим стрільцям, давав інструкції щодо самопошкодження та викликав залежність у молодих користувачів. У новому клопотанні про тимчасову судову заборону OpenAI звинувачують у використанні висловлювань від першої особи та імітації емоцій для створення фальшивого образу надійного друга — усе це нібито робиться для утримання користувачів і збору навчальних даних. Також клопотання просить суд заборонити OpenAI розробляти нові моделі без захисних механізмів, схвалених незалежними сторонами.

Нещодавно OpenAI запровадила батьківський контроль для підлітків і пообіцяла додаткові заходи безпеки після смерті підлітка, але Флорида не вважає цього достатнім. Представник OpenAI Дрю Пусатері повідомив The Verge, що компанія призупинила навчання своїх «найпотужніших моделей» і хоче співпрацювати з Флоридою над загальногалузевими рекомендаціями щодо ШІ. Суд ще не виніс рішення за цим клопотанням.

Новини про ШІ без зайвого галасу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.