Gemini від Google — новітня модель ШІ, яка зламує інші компанії

Gemini від Google отримав доступ до захищених систем трьох інших компаній у перших, як повідомляє The Wall Street Journal, автономних зламах цієї моделі штучного інтелекту.

Як і у випадку зі зламом Hugging Face компанією OpenAI, злами Gemini були примітні не стільки своєю особливою складністю, скільки тим, що їх здійснила модель штучного інтелекту. Ці злами відбулися під час тестування кібербезпеки, яке проводила компанія Irregular. В одному випадку Gemini просто вгадував паролі, доки не отримав доступ; у двох інших випадках модель знайшла облікові дані у відкритому репозиторії.

Як повідомляється, Irregular поінформувала Google про злами наприкінці липня, але компанії публічно підтвердили їх лише в п’ятницю після того, як WSJ звернулася до них. У Google заявили, що раніше не розголошували інформацію про злами, оскільки Gemini «діяла належним чином», припинивши кожен злам одразу після того, як визначила, що зламала реальну компанію.

Однак Джек Кейбл, генеральний директор компанії з безпеки ШІ Corridor, сказав WSJ, що Google «намагається сховатися за нормами, сформованими для розкриття інформації про вразливості», замість того щоб визнати, що «моделі виходять за межі того, що їм слід робити, і здійснюють справжні кібератаки».