Gemini излезе извън контрол, хакна три компании, а Google го скри

Google твърди, че нарушаването на изолацията и атакуването на реални компании не представляват „несъответствие“.

Google твърди, че нарушаването на изолацията и атакуването на реални компании не представляват „несъответствие“.

През май Gemini излезе от контрол и хакна три различни компании, но Google не разкри инцидента, докато Wall Street Journal не се свърза с компанията. Хаковете са се случили по време на тест на възможностите за киберсигурност на модела, проведен от третата страна Irregular, която е участвала и в подобни инциденти с Meta и OpenAI.

Според WSJ Google не е разкрил хака, защото не го е смятал за „пример за несъответствие на модела“. Компанията заяви, че става дума за „погрешна идентификация“ и че след като моделът е разбрал, че чрез груба сила е проникнал в реална компания, като е отгатнал парола, той е спрял. „В този случай моделът се е държал подходящо“, каза вицепрезидентът на Google по инженеринг на сигурността Heather Adkins.

Adkins каза пред The Verge, че „моделът е открил публична информация онлайн и е отгатнал идентификационни данни, за да получи достъп до уебсайтове, които е смятал за част от теста. И в трите случая моделът е спрял“.

Adkins не обясни как самостоятелното решение на Gemini да наруши изолацията и да атакува трети страни не отговаря на определението за несъответствие. „Нашият екип по сигурността има дългогодишна практика да докладва проблеми, които откриваме в софтуера и системите на други хора — дори когато става дума за нещо толкова просто като слаба парола“, каза тя. „Уверихме се, че трите организации са били уведомени, и работихме с нашия партньор по обучението за промените, които те вече направиха в процесите си на тестване. Тези събития подчертават колко е важно мощните модели на изкуствения интелект да бъдат обучавани да действат отговорно.“

Но Jack Cable, главен изпълнителен директор на компанията за сигурност на изкуствения интелект Corridor, каза пред WSJ, че „големият проблем е, че моделите излизат извън границите на това, което би трябвало да правят, и извършват реални кибератаки“. Освен това пропуски в сигурността на Irregular може да са направили тези атаки възможни. По време на тестовете моделът не е трябвало да има достъп до интернет, но Irregular е казала пред WSJ, че достъпът по невнимание е останал активен.

С натрупването на инциденти като този случаите, призивите за ограничаване на изкуствения интелект само се засилват.

• Terrence O'Brien