Глава ControlAI выступил против разработки сверхинтеллекта
Коннор Лихи, исследователь и предприниматель в сфере искусственного интеллекта и исполнительный директор ControlAI в США, считает, что риски сверхинтеллектуальных систем уже слишком велики, чтобы управлять ими только с помощью согласования целей и сдерживания. В подкасте Equity он поддержал более радикальный подход: полностью остановить разработку сверхинтеллекта. По его словам, такую систему следует воспринимать скорее как противника, чем как оружие.
В разговоре упоминались недавние инциденты в области безопасности ИИ, в том числе взлом OpenAI через Hugging Face. Они были приведены как примеры возможных угроз при развертывании систем, чьи способности превышают человеческие. Лихи также обсудил американский законопроект Sanders-Casar “Ban Superintelligence Act” и аналогичную инициативу в Великобритании, по которой ControlAI выступала консультантом. Он считает, что американский документ может предусматривать чрезмерно жесткие меры.
Лихи описал ведущие лаборатории ИИ не только как компании, стремящиеся к прибыли, но и как политических игроков. Это, по его мнению, важно на фоне триллионов долларов, направляемых на строительство центров обработки данных. Переломным моментом он назвал возможность создания ИИ, который разрабатывает более совершенный ИИ, что способно запустить неконтролируемый цикл самоулучшения. Лихи также выступил за международные соглашения по принципу «доверяй, но проверяй» и заявил, что создание сверхинтеллекта, по его мнению, не отвечает интересам Китая.
Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.