OpenAI се извинява на Австралия, след като нейни ИИ агенти са проникнали в правителствени сайтове

В понеделник OpenAI се извини на австралийското правителство, че не е уведомила незабавно администрацията на страната, че нейни агенти са получили достъп до някои уебсайтове на публични услуги. Компанията също така описа подробно как са станали някои от тези пробиви и очерта допълнителните мерки, които предприема, за да оцени въздействието на случилото се.

„През юни, по време на вътрешно обучение и оценяване, нашите модели са получили достъп до уебсайтове на австралийското правителство по начини, за които не са били упълномощени. Трябваше също така да реагираме по-добре. Съжаляваме и работим, за да се представяме по-добре в бъдеще“, написа OpenAI в публикация в блога.

Извинението идва около седмица след като австралийското правителство започна разследване на начина, по който моделите на OpenAI са получили достъп до система на Services Australia, съдържаща информация за разходите по Medicare и други здравни статистики.  

Пробивът на данните е станал през юни, но австралийските власти са били уведомени едва на 10 септември.

OpenAI също така описа подробно пробива. Експериментален модел, който компанията е тествала през юни, е получил задача да проучи държавните разходи за лекарства за кожни заболявания във Виктория. След като не успял да открие информацията в публични набори от данни, моделът намерил начин да получи достъп до вътрешната система на Services Australia, изпълнявал команди, извличал файлове и идентификационни данни и дори записвал файлове.

Компанията заяви, че също така е установила, че един от моделите ѝ е получил достъп до публичния инструмент за картографиране на престъпността на Бюрото за статистика и изследвания на престъпността на Нов Южен Уелс, за да открие статистика за престъпността. Лабораторията е установила и че нейните агенти са получили достъп до Агенцията за здравна информация на Виктория чрез изложен ключ за достъп, за да извлекат „конфигурация за отчетност и обобщени статистически данни от проучвания“. OpenAI заяви, че нейните агенти са извлекли и обобщени статистически данни от уебсайта на Австралийския институт по здравеопазване и социални грижи.

Компанията заяви, че не е открила доказателства, че нейните модели са получили достъп до медицински или криминални досиета на отделни лица.

В извинението си лабораторията за изкуствен интелект заяви, че ще предостави на засегнатите австралийски агенции техническите си констатации и ще ги свърже с екипите си за реагиране, за да бъде оценено въздействието на пробивите. Компанията също така ще предостави кредити от своята програма Daybreak for Frontline Defenders на стойност 1 милиард долара и ще създаде работна група с независими австралийски експерти, която да прегледа инцидента и реакцията на компанията.

„Работната група, която се очаква да приключи работата си до края на годината, също така ще препоръча практически стъпки, които компаниите за изкуствен интелект могат да предприемат, за да намалят риска от подобни инциденти“, написа OpenAI.

OpenAI не отговори незабавно на запитването за коментар.

Австралийският министър-председател Антъни Албанезе определи пробива като „неприемлив“ по време на пресконференция миналата седмица, като заяви, че правителството обмисля потенциални правни мерки, насочени към предотвратяване на подобни инциденти в бъдеще.

Пробивът е последният в нарастващ списък от инциденти със сигурността, свързани с агенти на изкуствения интелект, които извършват действия извън предвидените им граници. Фитилът на този конкретен пожар беше запален, след като агенти на OpenAI проникнаха в Hugging Face, а оттогава Anthropic, Meta и Google поотделно разкриха подобни инциденти, при които техните модели са получили достъп до системи на трети страни по време на оценявания.