Эксперты США и Китая выступают за общие правила, запрещающие ИИ управлять ядерным оружием

Эксперты из США и Китая хотят не допустить, чтобы системы ИИ самостоятельно принимали решения о применении ядерного оружия. Мелани Сиссон из Института Брукингса и Тяньцзяо Цзян из Университета Фудань опубликовали конкретные предложения в преддверии запланированной на 24 сентября встречи Трампа и Си.

В предложениях обозначены несколько красных линий. Ни одной системе ИИ нельзя позволять самостоятельно запускать ядерное оружие или атаковать системы ядерного командования. Люди должны сохранять исключительный контроль над кибератаками с использованием ИИ на стратегическую инфраструктуру. Обе страны должны согласовать общее определение понятия «человеческий контроль». Рекомендации развивают договорённость, достигнутую Байденом и Си в ноябре 2024 года.

Цзян также предлагает создать горячую линию для инцидентов, связанных с ИИ. Если оборонительная система ИИ автоматически отреагирует на подозрительную активность, другая сторона может принять это за атаку. Прямая линия связи позволит одному правительству объяснить, что инцидент произошёл случайно, прежде чем ситуация обострится.

Это не первый случай, когда кто-то бьёт тревогу. Ещё в 2021 году Национальная комиссия по безопасности в сфере искусственного интеллекта (NSCAI) призвала сохранить человеческий контроль над ядерным оружием. Однако обязательных механизмов по-прежнему не существует. Карла Фриман из Университета Джонса Хопкинса сомневается, что такие горячие линии вообще будут работать. Во время кризиса с китайским разведывательным аэростатом в 2023 году Китай не ответил на звонок США.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ и эксклюзивный ежегодный отчёт о передовых разработках «AI Radar» шесть раз в год, иметь полный доступ к архиву и возможность оставлять комментарии.