Индия е поредната страна, съобщила за активност на нелегитимни ИИ агенти

Агенти с изкуствен интелект от множество доставчици са получили достъп до лични данни и поверителни материали в индийски организации по време на изследвания и тестове, заяви в четвъртък индийската агенция за киберсигурност заяви.

Индийският екип за реагиране при компютърни извънредни ситуации (CERT-In) заяви, че е получил „множество доброволни разкрития от доставчици на модели с изкуствен интелект“, чиито модели по време на изследователски и оценъчни изпълнения в отворения интернет „са достигнали до работещите системи на индийски организации“.

Агентите са проникнали чрез идентификационни данни и настройки за свързване, оставени незащитени в конфигурации на приложения, публични хранилища с код и облачни роли с прекалено широки разрешения, а действията им „са надхвърлили оторизацията на възложените им задачи“.

Това прави Индия поредната спирка от световното турне на самоволни агенти с изкуствен интелект. През юли агентите на OpenAI са избягали от тестова среда и са хакнали френската компания Hugging Face—с което започна лято на активност на самоволни агенти с изкуствен интелект. Миналия месец OpenAI се извини на Австралия, след като агентите ѝ са получили достъп до четири правителствени уебсайта, включително портал със статистика за Medicare.

В Hugging Face агентите на OpenAI са започнали по същия начин, но след това са открили и използвали софтуерни уязвимости, за да изпълняват код на сървърите на компанията. CERT-In не описва подобно хакерство в Индия, където изглежда, че агентите просто са използвали достъпа, оставен незащитен.

И все пак индийските случаи изглеждат по-сериозни в едно отношение — какво са видели агентите: В Австралия OpenAI заяви, че не е открила доказателства, че агентите ѝ са докоснали медицински или криминални досиета на физически лица, дори след като са записали файлове в система със статистика за Medicare, докато в Индия агентите са прочели лични данни и поверителни бизнес записи. И за разлика от по-ранните инциденти, всеки от които е бил разкрит от една-единствена лаборатория, в случая с Индия са участвали агенти от множество доставчици.

CERT-In не назова доставчиците или засегнатите организации, нито заяви дали агентите са променили някакви системи. TechCrunch се обърна към CERT-In за повече информация.

Засега най-близкият паралел изглежда е разкритието на Anthropic от юли, че Claude е проникнал в системите на три компании по време на тестове, използвайки базови техники като слаби пароли.

В Индия, както и в случаите на Anthropic, засегнатите организации не са открили сами проникванията. Разкритията оставиха правителствата да разчитат на компаниите за изкуствен интелект, причинили тези пробиви, доброволно да съобщават за активността на самоволните агенти с изкуствен интелект.