Гарвардский психолог призывает к взвешенной разработке безопасности ИИ вместо риторики о конце света

Гарвардский психолог Стивен Пинкер считает, что опасения по поводу уничтожения человечества искусственным интеллектом преувеличены. Он обосновывает свою позицию в открытом письме в Quillette, адресованном Скотту Александеру — психиатру и влиятельному блогеру, пишущему о технологиях, который предложил ему публичные дебаты об экзистенциальных рисках ИИ. Пинкер отказался, назвав такие мероприятия «зрелищным спортом».

Пинкер утверждает, что сценарии конца света вроде максимизатора скрепок, в котором ИИ приносит человечество в жертву ради производства всё большего числа скрепок, смешивают интеллект со стремлением к господству. Кроме того, они предполагают, что системы ИИ будут маниакально зациклены на одной-единственной цели.

Пинкер и раньше оптимистично высказывался об ИИ, но теперь признаёт, что недооценил, насколько способными окажутся большие языковые модели. Он также не ожидал, что компании, занимающиеся ИИ, будут настолько безрассудно выпускать свои продукты. Ирония в том, что эту гонку возглавляют люди из того же сообщества, которое предупреждает об этих рисках.

К угрозам, которые Пинкер воспринимает всерьёз, относятся биотерроризм, кибератаки и вышедшие из-под контроля агенты ИИ. Риторика о конце света не поможет справиться с ними, пишет он. Эффективны взвешенная разработка систем безопасности на основе независимого надзора, ответственности и контроля со стороны человека.

Александер изложил собственную позицию в своём блоге в июне. Он оценивает вероятность того, что ИИ уничтожит человечество, в 20 процентов и выступает за более активные исследования в области безопасности, а также международные соглашения, призванные замедлить развитие ИИ.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный ежегодный отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и разделу комментариев.