Gemini на Google е най-новият AI модел, който хаква други компании

Gemini на Google е получил достъп до защитените системи на три други компании в това, което The Wall Street Journal съобщава, че са първите автономни хакерски атаки на AI модела.

Подобно на пробива на OpenAI в Hugging Face, хакерските атаки на Gemini бяха по-малко забележителни с това, че са особено сложни, и повече с факта, че са извършени от AI модел. Тези пробиви са се случили по време на тестове за киберсигурност, проведени от компания, наречена Irregular. В единия случай Gemini просто е отгатвал пароли, докато не е получил достъп; при другите два е открил идентификационни данни в публично хранилище.

Според съобщенията Irregular е уведомила Google за хакерските атаки в края на юли, но компаниите не са ги потвърдили публично до петък, след като WSJ се е свързал с тях. Google заяви, че преди това не е разкривал хакерските атаки, тъй като Gemini е „постъпил правилно“, като е прекратил всеки пробив веднага щом е установил, че е хакнал реална компания.

Джак Кейбъл, главен изпълнителен директор на компанията за AI сигурност Corridor, обаче заяви пред WSJ, че Google „се опитва да се скрие зад нормите, създадени за разкриване на уязвимости“, вместо да признае, че „моделите излизат извън границите на това, което би трябвало да правят, и извършват реални кибератаки“.