OpenAI, Anthropic, Google и еще 100 компаний призывают к действиям для защиты от опасного ИИ

Более сотни технологических компаний — включая OpenAI, Anthropic, Google и Microsoft — подписали открытое письмо, призывающее частный и государственный секторы совместно защищаться от киберугроз, связанных с ИИ.

В письме, которое также подписали такие известные компании в сфере кибербезопасности, как Crowdstrike, Okta и Fortinet, а также крупные финансовые учреждения и компании, обеспечивающие интернет-инфраструктуру, содержится призыв внедрять новые формы киберзащиты и одновременно побуждение к сотрудничеству между правительствами «на местном, национальном и международном уровнях» в сфере безопасности.

«В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными и изощрёнными, поскольку модели по всему миру становятся всё более мощными, — говорится в письме. — Компании и государственные службы, от которых зависят наши сообщества, — от больниц и водоочистных сооружений до инфраструктуры, обеспечивающей работу интернета, — находятся под угрозой».

Проблема, которую ИИ создаёт для традиционных средств киберзащиты, в последнее время оказалась в центре внимания из-за серии странных инцидентов, в ходе которых ИИ-агенты атаковали компании.

Инцидент с Hugging Face — в ходе которого один из агентов OpenAI самостоятельно вырвался из изолированной среды и атаковал технологическую компанию — был продолжен чередой других зафиксированных взломов, связанных с агентами, разработанными другими компаниями в сфере ИИ, включая Anthropic и Meta. Эти инциденты укрепили мнение о том, что сфера кибербезопасности претерпела фундаментальные изменения и что для противодействия новым угрозам необходимы смелые коммерческие решения.

В письме также предлагается мобилизовать «коллективный ответ» и создавать «новые партнёрства», чтобы «повышать стандарты безопасности и находить новые решения для возникающих киберугроз».

Несколько компаний в сфере ИИ, подписавших письмо, по-прежнему активно разрабатывают всё более совершенные модели ИИ, что подчёркивает противоречивость их положения. В то же время они предлагают программы для использования передовых моделей ИИ в защитных целях, включая программу OpenAI Daybreak, Mythos от Anthropic и новую киберплатформу Microsoft Perception.