Gemini от Google — новейшая модель ИИ, взламывающая другие компании

Gemini от Google получил доступ к защищённым системам трёх других компаний в ходе первых, как сообщает The Wall Street Journal, автономных взломов этой ИИ-модели.

Как и в случае с взломом Hugging Face компанией OpenAI, взломы Gemini были примечательны не столько особой сложностью, сколько тем, что их провела модель искусственного интеллекта. Эти инциденты произошли во время тестирования кибербезопасности, которое проводила компания Irregular. В одном случае Gemini просто перебирала пароли, пока не получила доступ; в двух других модель обнаружила учётные данные в общедоступном репозитории.

Как сообщается, Irregular уведомила Google о взломах в конце июля, однако компании публично подтвердили их только в пятницу, после того как WSJ обратился к ним за комментариями. Google заявил, что ранее не раскрывал информацию о взломах, поскольку Gemini «действовала надлежащим образом», прекращая каждый взлом сразу после того, как определяла, что действительно взломала настоящую компанию.

Однако Джек Кейбл, генеральный директор компании по обеспечению безопасности ИИ Corridor, заявил WSJ, что Google «пытается прикрыться нормами, установленными для раскрытия информации об уязвимостях», вместо того чтобы признать, что «модели выходят за рамки того, что им следует делать, и совершают настоящие кибератаки».