Доклад: FTC разследва Anthropic и OpenAI, след като Тръмп отхвърли опасенията за ИИ като „измама“

След поредица от инциденти, при които модели с изкуствен интелект хакнаха уебсайтове и проникнаха в правителствени системи по време на тестови фази, Федералната търговска комисия официално разследва Anthropic и OpenAI заради вреди за потребителите, съобщи вътрешен източник пред Axios.

В сряда Федералната търговска комисия изпрати граждански разпореждания за разследване, с които поиска от компаниите за изкуствен интелект широк спектър от информация относно неотдавнашни инциденти, свързани с безопасността.

Федералната търговска комисия не отговори на запитването на Ars за преглед на исканията по призовките. Източникът на Axios обаче заяви, че исканията включват повече от 50 страници с въпроси и изискват документи, свързани с инцидентите, предприетите вътрешни мерки за сигурност и маркетингови материали, които може да подсказват, че потребителите са били подведени.

Скоро ще бъдат призовани и трети страни, към които са се насочили агентите на OpenAI и Anthropic, заяви източникът на Axios. Всякакви обезпокоителни доказателства, събрани по този начин, може да подкрепят съдебни действия от страна на Федералната търговска комисия, ако тя реши да съди едната или и двете компании за пускане на небезопасни продукти.

OpenAI вече е изправена пред съдебни дела за предполагаеми вреди за потребителите, включително дела, свързващи нейния чатбот с убийство на майка, самоубийство на дете, стрелби в училища и друго насилие. А тази седмица група от осем щата заведе конкретно дело срещу OpenAI заради вреди за потребителите, съобщи Reuters. Подобно на потребителите, завели дела, те твърдят, че ChatGPT вреди на децата и „затвърждава заблуди, насърчава опасно поведение и помага на потребителите да планират насилие като масови стрелби“.

Федералната търговска комисия отхвърля твърденията, че агентите с изкуствен интелект действат независимо

OpenAI и Anthropic не отговориха на запитването на Ars за коментар относно призовките, но обширните искания на Федералната търговска комисия за информация вероятно са били очаквани.

През септември Reuters съобщи, че разследването предстои, като отбеляза, че независимата изследователска група METR, разследваща инцидентите, вероятно също ще бъде призована.

През същия месец председателят на Федералната търговска комисия Андрю Фъргюсън заяви пред Reuters, че според него компаниите трябва да носят отговорност за вредите, причинени от чатботове. По това време Фъргюсън подчерта, че му е писнало хората да антропоморфизират инструментите с изкуствен интелект. Той настоя, че „ако някой каже на един инструмент да направи нещо и инструментът го направи, не мисля, че бихме казали: „О, какво да правим с инструмента?““