Експерти зі США та Китаю закликають запровадити спільні правила, що забороняють ШІ контролювати ядерну зброю

Експерти зі США та Китаю хочуть не допустити, щоб системи ШІ самостійно ухвалювали рішення про застосування ядерної зброї. Мелані Сіссон із Brookings Institution і Тяньцзяо Цзян з Університету Фудань опублікували конкретні пропозиції напередодні запланованої зустрічі Трампа і Сі 24 вересня.

У пропозиціях окреслено кілька червоних ліній. Жодній системі ШІ не можна дозволяти самостійно запускати ядерну зброю або атакувати системи ядерного командування. Люди повинні зберігати одноосібний контроль над кібератаками на стратегічну інфраструктуру, керованими ШІ. Обидві країни мають погодити спільне визначення поняття «людський контроль». Рекомендації розвивають угоду, якої Байден і Сі досягли в листопаді 2024 року.

Цзян також пропонує створити гарячу лінію для інцидентів, пов’язаних із ШІ. Якщо оборонна система ШІ автоматично реагує на підозрілу активність, інша сторона може сприйняти це як атаку. Прямий зв’язок дозволив би одному уряду пояснити, що інцидент був випадковим, перш ніж ситуація загостриться.

Це не перший випадок, коли хтось б’є на сполох. Національна комісія з питань штучного інтелекту (NSCAI) ще у 2021 році закликала зберегти людський контроль над ядерною зброєю. Однак обов’язкових механізмів досі не існує. Карла Фрімен з Університету Джонса Гопкінса сумнівається, що такі гарячі лінії взагалі працюватимуть. Під час кризи з повітряною кулею-шпигуном у 2023 році Китай не відповів на дзвінок зі США.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний піврічний звіт про передові технології «AI Radar», повний доступ до архіву та доступ до розділу коментарів.