OpenAI запускает более безопасный ChatGPT для подростков — спустя годы после того, как подростки начали им пользоваться

После многочисленных исков из-за отсутствия мер безопасности в чат-ботах на базе ИИ, что привело к самоубийствам подростков и другим проблемам с психическим здоровьем, OpenAI в понедельник объявила о запуске ChatGPT для подростков. Новый продукт обещает включать дополнительные меры безопасности, а также решать образовательную проблему списывания в школах с помощью ChatGPT.

В образовательной сфере ChatGPT для подростков предлагает новую функцию «Режим обучения» и другие инструменты, призванные побуждать пользователей-подростков проявлять любознательность и самостоятельно решать задачи, а не просто получать быстрые ответы.

Как объясняет OpenAI в записи в блоге, функция «Режим обучения» будет предлагать подросткам наводящие вопросы и пошаговую поддержку, помогая им понять учебный материал. Кроме того, в интерфейсе для подростков будут появляться напоминания о домашних заданиях, если подросток, по всей видимости, пытается списать, а не разобраться в материале. После этого чат-бот на базе ИИ предложит подростку вместо этого воспользоваться «Режимом обучения».

По словам компании, приложение также будет поддерживать викторины и визуализацию учебного материала, а также элементы управления, позволяющие родителям или опекунам решать, должен ли «Режим обучения» быть включен по умолчанию.

Тем не менее неясно, насколько сложно подросткам будет обходить эти новые системы, если они решат не сотрудничать. Подростки исключительно хорошо умеют обходить родительский контроль и другие попытки ограничить цифровой опыт. Пока подростковый режим ChatGPT не пройдет более серьезные испытания, неясно, насколько легко будет в действительности обходить эти меры безопасности.

OpenAI заявляет, что в ChatGPT для подростков по умолчанию будут включены меры защиты, соответствующие приложению и предназначенные для снижения вероятности столкновения с вредоносным или не соответствующим возрасту контентом. Эти меры основаны на принципах для пользователей младше 18 лет в спецификации нашей модели OpenAI, которые, по утверждению компании, разработаны с учетом «науки о развитии и рекомендаций экспертов».

Родители также смогут использовать ранее представленные семейные инструменты и функции родительского контроля для управления настройками, получения уведомлений о безопасности и установки «часов тишины», а также для других целей.

OpenAI объявила о партнерстве с CodeAI, чтобы помочь подросткам больше узнать об ИИ, в том числе о принципах его работы, о том, как им управлять или задавать ему вопросы, а также как его использовать. Для учебных заведений OpenAI уже предлагает ChatGPT для преподавателей, который помогает школам получать управляемый на уровне учреждения доступ к ИИ и поддержку.