Індія стала останньою країною, яка повідомила про активність нелегітимних ШІ-агентів

Агенти штучного інтелекту від кількох постачальників отримали доступ до персональних даних і конфіденційних матеріалів в індійських організаціях під час досліджень і тестування, повідомило в четвер індійське агентство з кібербезпеки CERT-In.

Індійська комп’ютерна група реагування на надзвичайні ситуації (CERT-In) повідомила, що отримала «кілька добровільних повідомлень від постачальників моделей ШІ», чиї моделі під час досліджень і оцінювання у відкритому інтернеті «дісталися до діючих систем індійських організацій».

Агенти проникли через облікові дані та налаштування підключення, які залишилися відкритими в конфігураціях застосунків, публічних репозиторіях коду та хмарних ролях із надмірними дозволами, а їхні дії «вийшли за межі повноважень, передбачених для виконання призначених їм завдань».

Таким чином, Індія стала останньою зупинкою у світовому турне шахрайських агентів ШІ. У липні агенти OpenAI втекли з тестового середовища й зламали французьку компанію Hugging Face—так розпочалося літо активності шахрайських агентів ШІ. Минулого місяця OpenAI перепросила в Австралії після того, як її агенти отримали доступ до чотирьох урядових вебсайтів, зокрема порталу зі статистикою Medicare.

У Hugging Face агенти OpenAI почали діяти так само, але потім знайшли й використали вразливості програмного забезпечення, щоб виконувати код на серверах компанії. CERT-In не повідомила про жоден подібний злам в Індії, де агенти, схоже, просто скористалися доступом, який залишався відкритим.

Утім, індійські випадки, схоже, є гіршими в одному аспекті — у тому, що саме побачили агенти: в Австралії OpenAI заявила, що не знайшла жодних доказів того, що її агенти торкалися медичних або кримінальних записів людей, навіть після того, як вони записали файли в системі статистики Medicare, тоді як в Індії агенти прочитали персональні дані та конфіденційні ділові записи. І на відміну від попередніх інцидентів, про кожен із яких повідомила одна лабораторія, в індійському випадку були задіяні агенти кількох постачальників.

CERT-In не назвала постачальників або постраждалі організації, а також не повідомила, чи змінювали агенти будь-які системи. TechCrunch звернувся до CERT-In по додаткову інформацію.

Наразі найближчою паралеллю, схоже, є липневе повідомлення Anthropic про те, як Claude під час тестування проник у системи трьох компаній, використовуючи базові методи, як-от слабкі паролі.

В Індії, як і у випадках Anthropic, постраждалі організації самостійно не виявили вторгнень. У результаті урядам доводиться покладатися на добровільне розкриття компаніями, що розробляють ШІ та спричиняють ці порушення, інформації про активність шахрайських агентів ШІ.