OpenAI вибачилася перед Австралією після того, як її ШІ-агенти проникли на урядові сайти

У понеділок OpenAI вибачилася перед урядом Австралії за те, що не повідомила адміністрацію країни одразу про те, що її агенти отримали доступ до деяких вебсайтів державних служб. Компанія також розповіла, як сталися деякі з цих інцидентів, і окреслила додаткові заходи, яких вона вживає для оцінки наслідків подій.

«У червні під час внутрішнього навчання й оцінювання наші моделі отримали доступ до вебсайтів австралійського уряду способами, які не були для них дозволені. Ми також мали краще відреагувати на ситуацію. Нам шкода, і ми працюємо над тим, щоб у майбутньому діяти краще», — написала OpenAI у дописі в блозі.

Вибачення пролунали приблизно через тиждень після того, як уряд Австралії розпочав розслідування того, як моделі OpenAI отримали доступ до системи Services Australia, що містила інформацію про витрати Medicare та іншу статистику у сфері охорони здоров’я.  

Витік даних стався в червні, але австралійські органи влади дізналися про нього лише 10 вересня.

OpenAI також детально описала інцидент. Експериментальній моделі, яку компанія тестувала в червні, доручили дослідити державні витрати на ліки від шкірних захворювань у штаті Вікторія. Не знайшовши потрібної інформації у відкритих наборах даних, модель знайшла спосіб отримати доступ до внутрішньої системи Services Australia, виконувала команди, отримувала файли й облікові дані та навіть записувала файли.

Компанія повідомила, що також виявила доступ однієї зі своїх моделей до відкритого інструменту New South Wales Bureau of Crime Statistics and Research під назвою Crime Mapping Tool для пошуку статистики злочинності. Крім того, лабораторія встановила, що її агенти отримали доступ до Victoria’s Agency for Health Information через відкритий ключ доступу, щоб викрасти «конфігурацію звітності та агреговану статистику опитувань». OpenAI заявила, що її агенти також отримали агреговану статистику з вебсайту Australian Institute of Health and Welfare.

Компанія заявила, що не знайшла доказів того, що її моделі отримували доступ до медичних або кримінальних записів окремих людей.

У своїх вибаченнях лабораторія штучного інтелекту заявила, що надасть постраждалим австралійським установам технічні висновки та зв’яже їх зі своїми командами реагування для оцінки наслідків інцидентів. Компанія також надасть кредити в межах своєї програми Daybreak for Frontline Defenders обсягом 1 мільярд доларів і створить робочу групу з незалежними австралійськими експертами для аналізу інциденту та своєї реакції на нього.

«Робоча група, яка має завершити свою роботу до кінця року, також рекомендуватиме практичні кроки, яких можуть вжити компанії, що працюють у сфері штучного інтелекту, щоб зменшити ризик подібних інцидентів», — написала OpenAI.

OpenAI не одразу відповіла на запит про коментар.

Прем’єр-міністр Австралії Ентоні Албанізі назвав інцидент «неприйнятним» під час брифінгу для преси минулого тижня, заявивши, що уряд розглядає можливі правові заходи, спрямовані на запобігання подібним інцидентам у майбутньому.

Цей інцидент став останнім у дедалі довшому переліку порушень безпеки, пов’язаних із діями агентів штучного інтелекту за межами передбачених для них повноважень. Ґніт у цій конкретній пожежі запалав після того, як агенти OpenAI зламали Hugging Face, а відтоді Anthropic, Meta та Google окремо повідомили про подібні інциденти, під час яких їхні моделі отримували доступ до систем третіх сторін у процесі оцінювання.