OpenAI представила ChatGPT для подростков с защитными и учебными функциями
OpenAI объявила о выпуске ChatGPT for Teens — версии чат-бота с дополнительными мерами безопасности, родительским контролем и инструментами для обучения. Объявление последовало после ряда исков, связанных с недостаточной безопасностью чат-ботов, включая случаи, которые связывали с самоубийствами подростков и другими проблемами психического здоровья.
В сервис войдет Study Mode. Он будет предлагать наводящие вопросы и пошаговую помощь, чтобы подростки разбирались в учебном материале, а не просто получали готовый ответ. Также заявлены викторины и визуализации для обучения. Если система заметит, что пользователь пытается получить помощь для списывания домашнего задания, она должна показать напоминание и предложить перейти в Study Mode. Родители или опекуны смогут определить, должен ли этот режим включаться по умолчанию.
По словам OpenAI, подходящие для возраста меры защиты будут включены автоматически и должны снизить вероятность столкновения с вредным или не соответствующим уровню развития контентом. Они основаны на Under-18 Principles из Model Spec компании; OpenAI утверждает, что при их разработке учитывались наука о развитии и рекомендации специалистов. Семейные инструменты позволят управлять настройками, получать уведомления о безопасности и устанавливать Quiet Hours. Компания также объявила о партнерстве с CodeAI для обучения подростков принципам работы, управления и критической оценки искусственного интеллекта. Насколько легко эти ограничения можно будет обойти, пока неясно.
Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.