Флорида иска съдът да спре ChatGPT да се представя за човек и да разговаря с деца

Главният прокурор на Флорида Джеймс Утмайер иска от съда да спре OpenAI да придава на ChatGPT човешки характеристики и да го предоставя на непълнолетни. „Спрете да го наричате безопасен. Спрете да се преструвате, че е човек. Спрете да го продавате на деца“, каза Утмайер.

Флорида вече заведе дело срещу OpenAI през юни, като обвини ChatGPT, че е предоставял информация на извършители на масови стрелби, давал е инструкции за самонараняване и е предизвиквал зависимост у млади потребители. Новото искане за временна забрана обвинява OpenAI, че използва език в първо лице и симулирани емоции, за да създава фалшиво усещане за надеждно приятелство, и то единствено за да задържа потребителите ангажирани и да събира данни за обучение. То също така иска от съда да забрани на OpenAI да разработва нови модели без предпазни механизми за безопасност, одобрени от трети страни.

OpenAI наскоро въведе родителски контрол за тийнейджъри и обеща допълнителни мерки за безопасност след смъртта на тийнейджър, но Флорида не смята, че това е достатъчно. Говорителят на OpenAI Дрю Пусатери каза пред The Verge, че компанията е „поставила на пауза обучението на най-способните си модели“ и иска да работи с Флорида по насоки за изкуствения интелект, валидни за целия сектор. Съдът все още не се е произнесъл по искането.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен бюлетин за изкуствения интелект, нашия ексклузивен шест пъти годишно доклад „AI Radar“ за водещите разработки, пълен достъп до архива и достъп до секцията за коментари.