Коннор Лихи из ControlAI о том, почему сверхинтеллект — «не оружие, а противник»

Компании, занимающиеся ИИ, говорят о сверхинтеллектуальном ИИ так, будто его появление неизбежно, однако недавние инциденты в сфере безопасности, такие как взлом Hugging Face, связанный с OpenAI, демонстрируют потенциальные опасности внедрения систем ИИ, превосходящих человека по своим возможностям. Что же произойдет, когда мы не сможем надежно контролировать действия этих систем?

В этом выпуске подкаста TechCrunch Equity к Ребекке Беллан присоединился Коннор Лихи — исследователь в области ИИ, предприниматель и нынешний исполнительный директор американской некоммерческой организации ControlAI, которая выступает за гораздо более радикальный подход к безопасности ИИ: полный запрет на разработку сверхинтеллекта компаниями. Лихи объясняет, почему, по его мнению, риски стали слишком велики, чтобы управлять ими только с помощью согласования и сдерживания, а также как то, что еще шесть месяцев назад казалось неправдоподобным, теперь получает поддержку благодаря новой волне законодательных инициатив.

Послушайте полный выпуск, чтобы узнать больше о следующем:

• Его мнение о «Законе о запрете сверхинтеллекта» Сандерса — Касара, аналогичном законопроекте в Великобритании, разработку которого консультировала Control AI, и о том, почему он считает, что американский законопроект может оказаться более жестким, чем необходимо.

• Как он воспринимает передовые лаборатории ИИ — не столько как компании, стремящиеся лишь к доходности, сколько как политических игроков, и что это означает для триллионов долларов, направляемых на строительство центров обработки данных.

• Почему Лихи считает настоящей точкой невозврата момент, когда ИИ сможет создавать более совершенный ИИ, запуская потенциально неконтролируемый цикл самосовершенствования

• Аргументы в пользу международных соглашений по принципу «доверяй, но проверяй» и почему, по мнению Лихи, создание сверхинтеллекта на самом деле не отвечает интересам Китая.

Подпишитесь на Equity в YouTube, Apple Podcasts, Overcast, Spotify и всех других приложениях для подкастов. Вы также можете подписаться на Equity в X и Threads по адресу @EquityPod.