Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← К новостям

Эксперты США и Китая предложили общие ограничения для ИИ и ядерного оружия

Эксперты из США и Китая предложили общие правила, которые не позволят системам искусственного интеллекта самостоятельно принимать решения о применении ядерного оружия. Мелани Сиссон из Brookings Institution и Тяньцзяо Цзян из Университета Фудань представили рекомендации перед запланированной на 24 сентября встречей Дональда Трампа и Си Цзиньпина.

В предложениях обозначены несколько ограничений. Системам ИИ нельзя разрешать автономно запускать ядерное оружие или атаковать системы ядерного командования. Люди должны сохранять исключительный контроль над кибератаками с использованием ИИ против стратегической инфраструктуры. Кроме того, США и Китай должны согласовать общее определение «человеческого контроля».

Рекомендации развивают договорённость, которой Байден и Си достигли в ноябре 2024 года. Цзян также предложил создать горячую линию для инцидентов, связанных с ИИ. Автоматизированная оборонительная система может принять подозрительную активность за нападение, а прямая связь позволила бы уточнить, что произошедшее было случайностью. Национальная комиссия по искусственному интеллекту при рассмотрении вопросов безопасности призывала сохранять человеческий контроль над ядерным оружием ещё в 2021 году, однако обязательных механизмов пока нет. Карла Фриман из Университета Джонса Хопкинса усомнилась в эффективности такой линии, напомнив, что Китай не ответил на звонок США во время кризиса с аэростатом в 2023 году.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости