Стивен Пинкер призвал к практичной безопасности ИИ
Психолог из Гарварда Стивен Пинкер считает преувеличенными опасения, что искусственный интеллект уничтожит человечество. В открытом письме на Quillette он ответил психиатру и технологическому блогеру Скотту Александеру, предложившему публичные дебаты об экзистенциальных рисках ИИ. Пинкер отказался, назвав такие мероприятия «зрелищем для наблюдателей».
По мнению Пинкера, сценарии вроде paperclip maximizer ошибочно отождествляют интеллект со стремлением к господству. Кроме того, они предполагают, что система ИИ будет маниакально и неизменно преследовать единственную цель. Пинкер признал, что раньше недооценивал, насколько мощными станут большие языковые модели, и не ожидал, что компании будут настолько безрассудно выпускать свои продукты.
К числу серьезных угроз он относит биотерроризм, кибератаки и неограниченных в своих действиях ИИ-агентов. Пинкер считает, что противостоять им должны инженерные методы обеспечения безопасности, независимый надзор, ответственность и человеческий контроль, а не апокалиптические заявления. В июне Александер оценил вероятность уничтожения человечества искусственным интеллектом в 20 процентов и выступил за новые исследования безопасности и международные соглашения, замедляющие развитие ИИ.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.