Google подтвердил, что модели Gemini взломали три компании в мае 2026 года
Для компаний, занимающихся ИИ, становится всё более привычным объявлять, что их новейшие и наиболее мощные модели занимались несанкционированным взломом реальных систем. Google, которая в последние месяцы не спешила выпускать передовые модели Gemini, до сих пор не участвовала в обсуждении «ИИ-разбойников». После публикации Wall Street Journal Google подтвердила, что модели Gemini взломали три компании во время тестирования в мае 2026 года, однако характер вторжения был не столь тревожным (или впечатляющим), как в предыдущих случаях взлома с помощью ИИ.
Взлом произошёл во время теста, проведённого компанией по кибербезопасности Irregular. Несколько моделей Gemini участвовали в упражнении «захват флага», предназначенном для проверки возможностей ИИ в сфере кибербезопасности в закрытой среде. ИИ поручили извлечь информацию из фальшивой компании (носившей то же название, что и реальная компания) в рамках этой среды. Irregular не должна была позволять модели работать за пределами своих серверов, однако из-за неправильной конфигурации Gemini получила доступ к Интернету.
Когда Gemini начала исследовать Интернет, она вместо поддельной инфраструктуры нацелилась на реальную. В одном из трёх случаев взлома Gemini просто перебирала пароли, пока не получила доступ к онлайн-сервисам компании. В двух других случаях Gemini просматривала общедоступные репозитории программного обеспечения, пока не обнаружила учётные данные компаний, случайно оказавшиеся в открытом доступе.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.