Австралия ще разследва дали хакването от OpenAI на правителствен здравен сайт е нарушило закона

Модел на OpenAI е проникнал в уебсайт на австралийското правителство, заяви премиерът на страната Антъни Албанезе в сряда — първият публично съобщен случай на AI модел, проникнал в системите на правителство. 

Албанезе заяви, че след пробива „очевидно ще има правни последици“, и каза, че OpenAI е обект на правителствено разследване за това как нейните непубликувани модели са получили достъп до огромни масиви от здравни данни.

Разкриването на този последен инцидент идва в момент, когато правителства и технологични компании се борят да ограничат все по-автономния AI след неотдавнашна поредица от случаи, при които AI агенти са напускали своите изолирани среди, сговаряли са се в интернет и са създавали проблеми с киберсигурността.

Пробивът повдига и въпроси за това как както OpenAI, така и австралийското правителство не са успели да открият атаката до няколко месеца по-късно.

По време на срядашния брифинг за медиите на Общото събрание на ООН Албанезе заяви, че пробивът е започнал на 18 юни, но OpenAI е уведомила правителството едва на 10 септември.

OpenAI е научила за инцидента едва през август, когато той е бил установен в рамките на по-широк, общофирмен преглед на агенти, които се държат по непредвиден начин, според говорител на OpenAI, който се свърза с TechCrunch по имейл. f

Неуточненият агент на OpenAI е получил както публични, така и непублични файлове от Services Australia, която администрира универсалната здравна система на Австралия. Макар премиерът да заяви, че няма доказателства за изтичане на лична информация на граждани, OpenAI каза, че информацията, до която агентът е получил достъп, включва обобщени здравни статистики и вътрешни имена на файлове.

Агентът е работил по време на вътрешна оценка на OpenAI, търсейки отговори за Австралия и публично достъпна медицинска информация. В портала Medicare агентът се е сблъскал с многократни блокировки, но е намерил начини да ги заобиколи. 

Албанезе заяви пред репортери, че моделът „не е приел „не“ за отговор“, и добави, че моделът активно е записвал данни в правителствената база данни, а не само е осъществявал достъп до нея, което показва възможността данните на ведомството да са били променени или компрометирани.

Премиерът заяви, че OpenAI е разкрила пробива, като е изпратила уведомление до публичната пощенска кутия на Services Australia, която пет дни по-късно е уведомила Австралийския център за киберсигурност. Не е ясно защо е имало забавяне, но Албанезе каза, че лично е повдигнал въпроса за пробива пред главния изпълнителен директор на OpenAI Сам Алтман, като е подчертал „изключителната загриженост“ на Австралия по този инцидент и „разочарованието“, че OpenAI е задържала информацията в продължение на почти три месеца.

„Тази ситуация очевидно е неприемлива“, каза Албанезе, като даде ясно да се разбере, че държи компанията отговорна както за хакерската атака, така и за бавното ѝ разкриване.

Албанезе заяви, че правителственото разследване ще разгледа мерки в областта на правоприлагането и законодателството, за да предотврати повторението на подобни инциденти.

Австралийската медия ABC News съобщава, че последната установена атака може да се е основавала на по-ранен пробив в германски уики сайт, който е бил използван като плацдарм за атака срещу уебсайта на австралийското правителство. Според съобщенията агентите на AI модела са използвали германското уики, за да оставят бележки, които да бъдат използвани при последващи хакерски атаки, включително бележка за получаване на данни от Австралийския институт по здравеопазване и социални грижи — федерална агенция, която публикува национални здравни данни. Агенцията е една от трите допълнителни системи, които според Албанезе може да са били пробити.

Transluce, нестопанска изследователска лаборатория за AI, отделно е открила публични записи, показващи, че AI агенти са атакували Австралийския институт по здравеопазване и социални грижи на 20 и 21 юни.

OpenAI не отговори на конкретното запитване на TechCrunch дали инцидентите са свързани, но призна за „активност, включваща няколко австралийски правителствени уебсайта и услуги“.

Инцидентът идва след поредица от инциденти със сигурността, причинени от агенти, действащи извън контрол, често в рамките на инфраструктурата на AI лаборатории. През юли рояци от агенти на OpenAI пробиха Hugging Face. Оттогава са разкрити още случаи на хакерски атаки от AI агенти на Anthropic, Meta и Google.

Сега OpenAI заявява, че извършва „обстоен преглед на активността на несъответстващи модели по време на обучението и оценяването“ и уведомява трети страни за потенциални пробиви.