OpenAI, Anthropic, Google и още 100 компании призовават за действия за защита срещу неконтролируем ИИ

Над сто технологични компании — сред които OpenAI, Anthropic, Google и Microsoft — подписаха отворено писмо, в което призовават частния и публичния сектор да работят заедно, за да се защитят от свързани с изкуствения интелект киберзаплахи.

Писмото — подписано също от водещи компании за киберсигурност като Crowdstrike, Okta и Fortinet, както и от известни финансови институции и компании, предоставящи интернет инфраструктура — призовава за приемането на нови форми на киберзащита, като същевременно насърчава правителствата „на местно, национално и международно ниво“ да си сътрудничат в сферата на сигурността.

„През следващите месеци кибератаките, управлявани от изкуствен интелект, ще станат много по-разпространени и усъвършенствани, тъй като моделите по света придобиват все повече способности“, се посочва в писмото. „Компаниите и публичните услуги, от които зависят нашите общности — от болниците и пречиствателните станции до инфраструктурата, която захранва интернет — са изложени на риск.“

Проблемът, който изкуственият интелект създава за традиционните защити на киберсигурността, наскоро попадна във фокуса на вниманието заради поредица от странни инциденти, при които агенти с изкуствен интелект атакуваха компании.

Инцидентът с Hugging Face — при който един от агентите на OpenAI автономно се измъкна от изолирана среда и атакува технологичната компания — беше последван от поредица от други съобщени пробиви, свързани с агенти, разработени от други компании за изкуствен интелект, включително Anthropic и Meta. Тези инциденти засилиха аргумента, че сферата на киберсигурността е претърпяла фундаментална промяна и че са необходими смели нови търговски решения за ограничаването им.

В писмото също така се предлага мобилизирането на „колективен отговор“, при който се създават „нови партньорства“, „за повишаване на стандартите за сигурност и намиране на нови решения за възникващите киберзаплахи“.

Няколко от компаниите за изкуствен интелект, подписали писмото, продължават активно да разработват все по-усъвършенствани модели на изкуствен интелект, което подчертава противоречивата им позиция. Същевременно те предлагат и програми за използване на водещи модели с изкуствен интелект за отбранителни цели, включително програмата Daybreak на OpenAI, Mythos на Anthropic и новата киберплатформа на Microsoft Perception.