OpenAI пуска по-безопасен ChatGPT за тийнейджъри — години след като тийнейджърите започнаха да го използват

След многобройни съдебни дела заради липсата на мерки за безопасност при чатботовете с изкуствен интелект, довела до самоубийства на тийнейджъри и други проблеми с психичното здраве, OpenAI обяви в понеделник старта на ChatGPT за тийнейджъри. Новият продукт обещава да включва допълнителни мерки за безопасност, както и да се справи с образователната криза, породена от използването на ChatGPT за преписване в училищата.

От образователна гледна точка ChatGPT за тийнейджъри въвежда нова функция „Режим на учене“ и други инструменти, предназначени да насърчат тийнейджърите да проявяват любопитство и да решават задачите, вместо просто да получават бързи отговори.

Както обяснява OpenAI в публикация в блога си, опцията „Режим на учене“ ще предоставя на тийнейджърите насочващи въпроси и подкрепа стъпка по стъпка, за да им помогне да разберат материала. Междувременно изживяването за тийнейджъри ще включва и напомняния за домашни, които се появяват, когато изглежда, че тийнейджърът се опитва да преписва, вместо да разбере материала. Тогава чатботът с изкуствен интелект ще насочи тийнейджъра да използва „Режим на учене“ вместо това.

Приложението ще поддържа и тестове и визуализации на учебния материал, както и настройки, които позволяват на родителите или настойниците да решават кога „Режимът на учене“ да бъде активиран по подразбиране, съобщава компанията.

Все пак не е ясно колко трудно ще бъде за тийнейджърите да заобиколят тези нови системи, ако решат да не съдействат. Тийнейджърите са изключително умели в заобикалянето на родителския контрол и други опити за ограничаване на цифровите изживявания. Докато режимът за тийнейджъри на ChatGPT не бъде подложен на по-сериозни тестове, не е ясно колко трудно ще бъде тези мерки за безопасност да бъдат заобиколени на практика.

OpenAI заявява, че в ChatGPT за тийнейджъри по подразбиране ще бъдат активирани защити, подходящи за приложението, които са предназначени да ограничат излагането на вредно или неподходящо за възрастта и развитието съдържание. Тези мерки се основават на Принципите за лица под 18 години в нашата спецификация на модела на OpenAI, за които компанията твърди, че са разработени с помощта на „науката за развитието и насоките на експерти“.

Родителите също ще могат да използват въведените по-рано семейни инструменти и родителския контрол, за да управляват настройките, да получават известия за безопасност и да задават часове за тишина, наред с други неща.

OpenAI обяви партньорство с CodeAI, което ще помогне на тийнейджърите да научат повече за изкуствения интелект, включително как работи, как да го насочват или поставят под въпрос и как да го използват. В класната стая OpenAI вече предлага ChatGPT за учители, за да помогне на училищата да получат управляван от институцията достъп до изкуствен интелект и подкрепа.