Звіт: FTC розслідує діяльність Anthropic і OpenAI після того, як Трамп назвав побоювання щодо ШІ «обманом»

Після низки інцидентів, під час яких моделі ШІ зламували вебсайти та проникали в урядові системи на етапах тестування, Федеральна торгова комісія офіційно розслідує діяльність Anthropic і OpenAI через шкоду споживачам, повідомило Axios джерело, обізнане із ситуацією.

У середу FTC надіслала компаніям, що займаються ШІ, цивільні вимоги про надання інформації, запросивши широкий спектр даних про нещодавні інциденти, пов’язані з безпекою.

FTC не відповіла на запит Ars надати для ознайомлення вимоги повісток. Однак джерело Axios повідомило, що запити містили понад 50 сторінок запитань і стосувалися документів щодо інцидентів, внутрішніх заходів безпеки, а також маркетингових матеріалів, які можуть свідчити про введення споживачів в оману.

Невдовзі повістки також отримають треті сторони, на які націлювалися агенти OpenAI та Anthropic, повідомило джерело Axios. Будь-які докази, що викликають занепокоєння, можуть стати підставою для судового позову FTC, якщо комісія вирішить подати до суду на одну або обидві компанії через випуск небезпечних продуктів.

Проти OpenAI вже подано позови, у яких стверджується, що компанія завдала шкоди споживачам, зокрема позови, що пов’язують її чатбот із вбивством матерів, самогубством дітей, стрілянинами у школах, а також з іншими проявами насильства. А цього тижня група з восьми штатів окремо подала до суду на OpenAI через шкоду споживачам, повідомило Reuters. Як і споживачі, які подають позови, вони стверджували, що ChatGPT шкодить дітям і «підсилює марення, заохочує небезпечну поведінку та допомагає користувачам планувати насильство, зокрема масові стрілянини».

FTC відкидає твердження про незалежні дії ШІ-агентів

OpenAI та Anthropic не відповіли на запит Ars прокоментувати повістки, однак масштабні запити FTC про надання інформації, ймовірно, не стали несподіванкою.

У вересні Reuters повідомило, що розслідування розпочнеться, зазначивши, що незалежна дослідницька група METR, яка вивчає ці інциденти, імовірно, також отримає повістку.

Того ж місяця голова FTC Ендрю Фергюсон сказав Reuters, що вважає: компанії мають нести відповідальність за шкоду, завдану чатботами. Тоді Фергюсон наголосив, що втомився від антропоморфізації людьми інструментів ШІ. Він наполягав: «якщо хтось каже інструменту щось зробити, а інструмент це робить, я не думаю, що ми сказали б: “О, що нам робити з інструментом?”»