Сверхинтеллект приближается. Стоит ли его допускать?

Компании, занимающиеся ИИ, говорят о сверхинтеллектуальном ИИ так, будто его появление неизбежно, однако недавние инциденты, связанные с безопасностью, такие как взлом Hugging Face у OpenAI, демонстрируют потенциальные опасности внедрения систем ИИ, превосходящих людей по своим возможностям. Так что же произойдет, когда мы не сможем надежно контролировать действия этих систем?

В этом выпуске подкаста TechCrunch Equity к Ребекке Беллан присоединяется Коннор Лихи — исследователь ИИ, предприниматель и нынешний исполнительный директор американского отделения некоммерческой организации ControlAI, которая выступает за гораздо более радикальный подход к безопасности ИИ: полностью остановить разработку сверхинтеллекта компаниями. Лихи объясняет, почему, по его мнению, риски стали слишком велики, чтобы справляться с ними только с помощью выравнивания и сдерживания, а также как то, что еще шесть месяцев назад казалось несбыточным, теперь получает поддержку благодаря новой волне законов.

Подпишитесь на Equity в YouTube, Apple Podcasts, Overcast, Spotify и на всех подкаст-платформах. Вы также можете следить за Equity в X и Threads по адресу @EquityPod.