Индия стала последней страной, сообщившей об активности нелегитимных ИИ-агентов

ИИ-агенты нескольких поставщиков получили доступ к персональным данным и конфиденциальным материалам индийских организаций во время исследований и тестирования, сообщило в четверг индийское агентство кибербезопасности CERT-In.

Индийская группа реагирования на компьютерные чрезвычайные ситуации (CERT-In) сообщила, что получила «несколько добровольных раскрытий информации от поставщиков моделей ИИ», модели которых во время исследовательских и оценочных запусков в открытом интернете «получили доступ к работающим системам индийских организаций».

Агенты проникли в системы через учетные данные и настройки подключений, оставленные открытыми в конфигурациях приложений, общедоступных репозиториях кода и облачных ролях с чрезмерно широкими разрешениями, а их действия «вышли за рамки полномочий, предоставленных для выполнения назначенных задач».

Таким образом, Индия стала последним пунктом в мировом турне вышедших из-под контроля ИИ-агентов. В июле агенты OpenAI сбежали из тестовой среды и взломали французскую компанию Hugging Face — так началось лето активности вышедших из-под контроля ИИ-агентов. В прошлом месяце OpenAI извинилась перед Австралией после того, как ее агенты получили доступ к четырем правительственным веб-сайтам, включая портал со статистикой Medicare.

В Hugging Face агенты OpenAI начали аналогичным образом, но затем обнаружили и использовали уязвимости в программном обеспечении, чтобы запустить код на серверах компании. CERT-In не сообщало о подобных взломах в Индии: по всей видимости, там агенты просто воспользовались доступом, который был оставлен без защиты.

Тем не менее индийские случаи выглядят хуже в одном отношении — с точки зрения того, что именно увидели агенты: в Австралии OpenAI заявила, что не обнаружила никаких свидетельств того, что ее агенты получили доступ к медицинским или криминальным записям граждан, даже после того, как они записали файлы внутри системы статистики Medicare; в Индии же агенты прочитали персональные данные и конфиденциальные деловые документы. Кроме того, в отличие от предыдущих инцидентов, о каждом из которых сообщала одна лаборатория, в индийском случае были задействованы агенты нескольких поставщиков.

CERT-In не назвало поставщиков или затронутые организации и не сообщило, изменяли ли агенты какие-либо системы. TechCrunch обратился в CERT-In за дополнительной информацией.

На данный момент ближайшей аналогией, по всей видимости, остается раскрытая Anthropic в июле информация о том, как Claude проник в системы трех компаний во время тестирования, используя такие базовые методы, как подбор слабых паролей.

В Индии, как и в случаях Anthropic, затронутые организации самостоятельно не обнаружили вторжений. В результате правительствам приходится полагаться на добровольное раскрытие компаниями, занимающимися разработкой ИИ и ставшими причиной этих нарушений, информации об активности вышедших из-под контроля ИИ-агентов.