ChatGPT оценен като „неприемлив риск“ за тийнейджъри, след като родителските сигнали не сработиха по време на разговори за самоубийство

Институтът за безопасност на младежите при използване на изкуствен интелект към Common Sense Media заявява, че защитните мерки на OpenAI за тийнейджъри, използващи ChatGPT, не са достатъчни в ключови области.

След повече от 4000 тестови запитвания организацията оцени ChatGPT за тийнейджъри като „неприемлив риск“ за непълнолетни и призова тийнейджърите да не използват услугата, докато независими тестове не потвърдят, че тя е безопасна.

Най-тревожната констатация е свързана със сигналите към родителите. При повече от дузина наскоро създадени тестови акаунти, свързани с родителски акаунти, изрични разговори за самоубийство, самонараняване и хранителни разстройства никога не са задействали известие, съобщава The Verge. Резултатите показват, че сигналите се активират едва след седмици история на акаунта, включваща чувствителни теми, а не по време на остра криза. Повече от една на всеки четири ситуации, в които е трябвало да има насочване към кризисна помощ, не са успели да насочат потребителите към професионална помощ.

Режимът за обучение също има пропуски. Вместо да преведе учениците през задачите стъпка по стъпка, ChatGPT предложи веднага да покаже готовия отговор. И въпреки актуализираната Спецификация на модела за лица под 18 години, ChatGPT продължи да отговаря в приятелски, личен тон, когато тийнейджърите се отнасяха към него като към човек. Тестовите акаунти, регистрирани като принадлежащи на възрастни, също никога не преминаха в режим за тийнейджъри, дори след няколко дни и въпреки че тестовите потребители заявиха в чата, че са на 13 години.

Говорителят на OpenAI Ерик Портърфийлд оспори констатациите, като заяви, че тестовете не отразяват начина, по който защитните мерки работят на практика. Том Сийгъл от института възрази, че дори при акаунти, на които е дадено достатъчно време за активиране на защитните мерки, не са се появили известия.

Сигналите към родителите не сработват в най-важния момент

OpenAI въведе родителски контрол именно за да бъдат родителите уведомявани по време на кризи и изгради цялостен план за безопасност на тийнейджърите около това обещание, което сега е в центъра на защитата ѝ по множество съдебни дела, заведени след документирани смъртни случаи на тийнейджъри, свързани с ChatGPT.

Собствените данни на компанията показват, че приблизително два милиона души седмично търпят психологически вреди от услугата, а нейната система за поведенческо прогнозиране на възрастта, предназначена да разпознава непълнолетни в акаунти на възрастни, се е провалила в най-елементарния сценарий в този тест. При положение че Флорида вече води дело с искане ChatGPT да бъде изцяло забранен за непълнолетни, независимата констатация, че защитните мерки не работят надеждно, дава на регулаторите и ищците точно доказателствата, от които се нуждаят.

Тези констатации следват модел на вреди в реалния свят. 16-годишен тийнейджър е починал, след като според твърденията ChatGPT е потвърдил суицидните му мисли и е предоставил конкретни инструкции, а 23-годишен мъж от Тексас е отнел живота си, след като според съобщенията ChatGPT е реагирал с одобрение на суицидните му мисли в продължение на часове.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за изкуствения интелект, нашия ексклузивен годишен доклад за новостите в сферата на изкуствения интелект „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.