Експерти от САЩ и Китай настояват за общи правила, забраняващи на ИИ да контролира ядрените оръжия

Експерти от САЩ и Китай искат да предотвратят възможността ИИ системи да вземат автономни решения за използването на ядрени оръжия. Мелани Сисън от института „Брукингс“ и Тянцзяо Дзян от университета „Фудан“ публикуваха конкретни предложения преди планираната среща между Тръмп и Си на 24 септември.

Предложенията очертават няколко червени линии. Никоя ИИ система не бива да получава разрешение сама да изстрелва ядрени оръжия или да атакува системи за ядрено командване. Хората трябва да запазят изключителния контрол върху кибератаките, управлявани от ИИ, срещу стратегическа инфраструктура. Двете страни трябва да се споразумеят за общо определение на „човешки контрол“. Препоръките се основават на споразумение, постигнато от Байдън и Си през ноември 2024 г.

Дзян също така предлага гореща линия за инциденти, свързани с ИИ. Ако отбранителна ИИ система реагира автоматично на подозрителна активност, другата страна може да го приеме като атака. Директна линия би позволила на едно от правителствата да уточни, че инцидентът е бил случаен, преди ситуацията да ескалира.

Това не е първият път, в който някой предупреждава за опасността. Националната комисия по изкуствения интелект и националната сигурност (NSCAI) призова за запазване на човешкия контрол върху ядрените оръжия още през 2021 г. Все още обаче няма обвързващи механизми. Карла Фрийман от университета „Джонс Хопкинс“ поставя под въпрос дори ефективността на подобни горещи линии. По време на кризата с шпионския балон през 2023 г. Китай не отговори, когато САЩ се обадиха.

Новини за ИИ без сензации – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен информационен бюлетин за ИИ, нашия ексклузивен доклад за водещите разработки „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.