Флорида просит суд не позволить ChatGPT выдавать себя за человека и общаться с детьми

Генеральный прокурор Флориды Джеймс Утмайер просит суд запретить OpenAI наделять ChatGPT человеческими чертами и делать его доступным для несовершеннолетних. «Перестаньте называть его безопасным. Перестаньте притворяться, что это человек. Перестаньте продавать его детям», — заявил Утмайер.

Флорида уже подала иск против OpenAI в июне, утверждая, что ChatGPT предоставлял информацию массовым стрелкам, давал инструкции по причинению себе вреда и вызывал зависимость у молодых пользователей. В новом ходатайстве о временном судебном запрете OpenAI обвиняется в использовании формулировок от первого лица и имитации эмоций для создания видимости надежной дружбы — всё ради удержания пользователей и сбора данных для обучения. Также суд просят запретить OpenAI разрабатывать новые модели без утвержденных третьими сторонами защитных механизмов.

Недавно OpenAI внедрила родительский контроль для подростков и пообещала принять дополнительные меры безопасности после смерти подростка, но Флорида считает этого недостаточным. Представитель OpenAI Дрю Пусатери сообщил The Verge, что компания приостановила обучение своих «самых мощных моделей» и хочет сотрудничать с Флоридой в разработке общеотраслевых рекомендаций по использованию ИИ. Суд пока не вынес решение по этому ходатайству.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный отчет о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.