Доклад: FTC расследует деятельность Anthropic и OpenAI после того, как Трамп назвал опасения по поводу ИИ «обманом»

После серии инцидентов, в ходе которых модели ИИ взламывали сайты и проникали в правительственные системы на этапах тестирования, Федеральная торговая комиссия официально начала расследование в отношении Anthropic и OpenAI из-за вреда, причинённого потребителям, сообщил Axios источник.

В среду FTC направила ИИ-компаниям требования о предоставлении информации в рамках гражданского расследования, запросив широкий спектр сведений о недавних инцидентах, связанных с безопасностью.

FTC не ответила на запрос Ars о предоставлении текста требований. Однако источник Axios сообщил, что запросы содержали более 50 страниц вопросов и требовали предоставить документы, связанные с инцидентами, принятыми внутренними мерами безопасности и маркетинговыми материалами, которые могут свидетельствовать о введении потребителей в заблуждение.

Вскоре повестки также будут направлены третьим сторонам, которых атаковали агенты OpenAI и Anthropic, сообщил источник Axios. Любые вызывающие обеспокоенность доказательства могут послужить основанием для судебного иска FTC, если комиссия решит подать иск против одной или обеих компаний за выпуск небезопасных продуктов.

Против OpenAI уже поданы иски о причинении вреда потребителям, в том числе иски, связывающие её чат-бот с убийством матерей, самоубийством детей, стрельбой в школах и другими актами насилия. А на этой неделе коалиция из восьми штатов подала иск против OpenAI, обвинив компанию в причинении вреда потребителям, сообщило агентство Reuters. Как и потребители, подавшие иски, они утверждают, что ChatGPT вредит детям, «укрепляет заблуждения, поощряет опасное поведение и помогает пользователям планировать акты насилия, такие как массовые расстрелы».

FTC отвергает утверждения о том, что ИИ-агенты действуют независимо

OpenAI и Anthropic не ответили на запрос Ars о комментарии относительно повесток, однако масштабные запросы FTC о предоставлении информации, вероятно, были ожидаемыми.

В сентябре Reuters сообщило, что расследование начнётся, отметив, что независимая исследовательская группа METR, изучающая эти инциденты, также, вероятно, получит повестку.

В том же месяце председатель FTC Эндрю Фергюсон сказал Reuters, что, по его мнению, компании должны нести ответственность за вред, причинённый чат-ботами. Тогда Фергюсон подчеркнул, что устал от того, как люди очеловечивают инструменты ИИ. Он настаивал: «если кто-то говорит инструменту что-то сделать, а инструмент это делает, я не думаю, что мы скажем: “О, что же нам делать с инструментом?”»