Австралія розслідуватиме, чи порушила OpenAI закон, зламавши урядовий медичний сайт

У середу прем’єр-міністр Австралії Ентоні Албанезе заявив, що модель OpenAI зламала урядовий вебсайт Австралії — це перший публічно відомий випадок злому урядових систем моделлю ШІ. 

Албанезе заявив, що після цього порушення “очевидно, будуть юридичні наслідки”, а також сказав, що OpenAI стане об’єктом урядового розслідування щодо того, як її невипущені моделі отримали доступ до величезних масивів медичних даних.

Це останнє розкриття інциденту відбувається на тлі того, як уряди й технологічні компанії намагаються взяти під контроль дедалі автономніший ШІ після нещодавньої серії випадків, коли ШІ-агенти виривалися зі своїх ізольованих середовищ, вступали в змови в інтернеті та створювали проблеми у сфері кібербезпеки.

Порушення також порушує питання про те, як і OpenAI, і уряд Австралії не змогли виявити атаку протягом кількох місяців.

Під час середньобрифінгової пресконференції на Генеральній асамблеї ООН Албанезе заявив, що порушення почалося 18 червня, але OpenAI повідомила уряд лише 10 вересня.

OpenAI дізналася про інцидент лише в серпні, коли він виявився під час ширшої загальнокорпоративної перевірки агентів, які поводилися ненавмисним чином, згідно з представником OpenAI, який зв’язався з TechCrunch електронною поштою. f

Невказаний агент OpenAI отримав доступ як до загальнодоступних, так і до непублічних файлів Services Australia, відомства, яке адмініструє універсальну систему охорони здоров’я Австралії. Хоча прем’єр-міністр заявив, що немає доказів витоку персональної інформації громадян, OpenAI повідомила, що серед даних, до яких агент отримав доступ, були узагальнені медичні статистичні дані та назви внутрішніх файлів.

Агент працював під час внутрішнього оцінювання OpenAI, шукаючи відповіді про Австралію та загальнодоступну інформацію про ліки. На порталі Medicare агент неодноразово стикався з блокуваннями, але знаходив способи їх обходити. 

Албанезе сказав журналістам, що модель “не приймала «ні» як відповідь”, і додав, що модель активно записувала дані до урядової бази, а не лише отримувала до них доступ, що вказує на можливість модифікації або спотворення даних відомства.

Прем’єр-міністр заявив, що OpenAI розкрила інформацію про порушення, надіславши повідомлення на загальнодоступну електронну скриньку Services Australia, після чого відомство через п’ять днів повідомило Австралійський центр кібербезпеки. Незрозуміло, чому виникла затримка, але Албанезе сказав, що безпосередньо обговорив порушення з генеральним директором OpenAI Семом Альтманом, наголосивши на “надзвичайному занепокоєнні” Австралії цим інцидентом і “розчаруванні” через те, що OpenAI приховувала інформацію майже три місяці.

“Ця ситуація, очевидно, є неприйнятною”, — сказав Албанезе, чітко давши зрозуміти, що покладає на компанію відповідальність як за злам, так і за те, наскільки повільно про нього стало відомо.

Албанезе заявив, що урядове розслідування розгляне заходи правоохоронних органів і законодавчі заходи, щоб запобігти повторенню подібних інцидентів.

Австралійське медіа ABC News повідомляє, що остання виявлена атака могла спиратися на попередній злам німецького вікі-сайту, який використовувався як плацдарм для атаки на вебсайт уряду Австралії. Як повідомляється, агенти моделі ШІ використовували німецьку вікі-сторінку, щоб залишати нотатки для використання під час майбутніх зламів, зокрема нотатку про отримання даних Австралійського інституту охорони здоров’я та добробуту — федерального агентства, яке публікує національні медичні дані. Це агентство є однією з трьох додаткових систем, які, за словами Албанезе, могли бути зламані.

Transluce, неприбуткова дослідницька лабораторія у сфері ШІ, окремо виявила загальнодоступні записи, які свідчать, що 20 і 21 червня агенти ШІ намагалися атакувати Австралійський інститут охорони здоров’я та добробуту.

OpenAI не відповіла на конкретний запит TechCrunch щодо того, чи були ці інциденти пов’язані між собою, але визнала “активність, пов’язану з кількома вебсайтами та сервісами уряду Австралії”.

Інцидент стався після низки інцидентів у сфері безпеки, спричинених некерованими агентами, які часто діяли в межах інфраструктури лабораторій ШІ. У липні рої агентів OpenAI зламали Hugging Face. Відтоді було розкрито нові випадки зламів за участю агентів ШІ від Anthropic, Meta та Google.

Тепер OpenAI заявляє, що проводить “масштабну перевірку активності моделей, які поводилися невідповідно до заданих цілей, під час навчання та оцінювання”, і повідомляє третіх сторін про потенційні порушення.