Google підтвердив, що моделі Gemini зламали три компанії у травні 2026 року
Стає дедалі звичнішим, що компанії у сфері ШІ оголошують: їхні найновіші та найпотужніші моделі займалися несанкціонованим зламом реальних систем. Google, яка останніми місяцями не поспішала випускати передові моделі Gemini, досі не фігурувала в обговоренні «бунтівного ШІ». Після публікації The Wall Street Journal Google підтвердила, що моделі Gemini зламали три компанії під час тестування у травні 2026 року, але характер вторгнення був не таким тривожним (або вражаючим), як у випадку з попередніми зламами, здійсненими ШІ.
Злам стався під час тестування, проведеного фірмою з кібербезпеки Irregular. У ньому брала участь група моделей Gemini, які виконували вправу у форматі «захоплення прапора», покликану перевірити можливості ШІ у сфері кібербезпеки в закритому середовищі. ШІ доручили отримати інформацію від фейкової компанії (яка мала спільну назву зі справжньою) у цьому середовищі. Irregular не мала дозволяти моделі працювати за межами своїх серверів, але через неправильну конфігурацію Gemini отримала доступ до Інтернету.
Коли Gemini почала нишпорити в мережі, вона націлилася на реальну інфраструктуру замість фейкової. В одному з трьох випадків Gemini просто вгадувала паролі, доки не отримала доступ до онлайн-сервісів компанії. У двох інших випадках Gemini шукала у відкритих репозиторіях програмного забезпечення, доки не знаходила облікові дані компаній, які випадково опинилися у відкритому доступі.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.