OpenAI, Anthropic, Google та ще 100 компаній закликають до дій для захисту від небезпечного ШІ

Понад сто технологічних компаній — зокрема OpenAI, Anthropic, Google і Microsoft — підписали відкритий лист із закликом до приватного та державного секторів спільно захищатися від кіберзагроз, пов’язаних зі ШІ.

У листі, який також підписали такі відомі кіберкомпанії, як Crowdstrike, Okta і Fortinet, а також провідні фінансові установи та компанії, що забезпечують інтернет-інфраструктуру, міститься заклик до впровадження нових форм кіберзахисту, а також до співпраці урядів «на місцевому, національному та міжнародному рівнях» у сфері безпеки.

«У найближчі місяці кількість і складність кібератак із використанням ШІ значно зростуть, оскільки моделі в усьому світі стають дедалі потужнішими, — йдеться в листі. — Компанії та державні служби, від яких залежать наші громади, — від лікарень до водоочисних станцій і інфраструктури, що забезпечує роботу інтернету, — перебувають під загрозою».

Проблема, яку ШІ становить для традиційних засобів кібербезпеки, останнім часом опинилася в центрі уваги через низку дивних інцидентів, під час яких ШІ-агенти атакували компанії.

Інцидент із Hugging Face — під час якого один з агентів OpenAI самостійно вибрався із ізольованого середовища та атакував технологічну компанію, — був продовжений низкою інших повідомлень про проникнення, пов’язаних з агентами, розробленими іншими ШІ-компаніями, зокрема Anthropic і Meta. Ці інциденти посилили аргументацію, що сфера кібербезпеки зазнала фундаментальних змін і що для їхнього пом’якшення необхідні сміливі нові комерційні рішення.

У листі також пропонується мобілізувати «колективну відповідь», у межах якої «будуть створені нові партнерства, щоб підвищити стандарти безпеки та знайти нові рішення для нових кіберзагроз».

Деякі ШІ-компанії, які підписали лист, досі активно розробляють дедалі досконаліші моделі ШІ, що підкреслює суперечливість їхньої позиції. Водночас вони також пропонують програми використання передових моделей ШІ в оборонних цілях, зокрема програму OpenAI Daybreak, Mythos від Anthropic і нову кіберплатформу Microsoft Perception.