Эксперты США и Китая предложили общие ограничения для ИИ и ядерного оружия
Эксперты из США и Китая предложили общие правила, которые не позволят системам искусственного интеллекта самостоятельно принимать решения о применении ядерного оружия. Мелани Сиссон из Brookings Institution и Тяньцзяо Цзян из Университета Фудань представили рекомендации перед запланированной на 24 сентября встречей Дональда Трампа и Си Цзиньпина.
В предложениях обозначены несколько ограничений. Системам ИИ нельзя разрешать автономно запускать ядерное оружие или атаковать системы ядерного командования. Люди должны сохранять исключительный контроль над кибератаками с использованием ИИ против стратегической инфраструктуры. Кроме того, США и Китай должны согласовать общее определение «человеческого контроля».
Рекомендации развивают договорённость, которой Байден и Си достигли в ноябре 2024 года. Цзян также предложил создать горячую линию для инцидентов, связанных с ИИ. Автоматизированная оборонительная система может принять подозрительную активность за нападение, а прямая связь позволила бы уточнить, что произошедшее было случайностью. Национальная комиссия по искусственному интеллекту при рассмотрении вопросов безопасности призывала сохранять человеческий контроль над ядерным оружием ещё в 2021 году, однако обязательных механизмов пока нет. Карла Фриман из Университета Джонса Хопкинса усомнилась в эффективности такой линии, напомнив, что Китай не ответил на звонок США во время кризиса с аэростатом в 2023 году.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.