Стивън Пинкър призовава за практична безопасност при ИИ
Психологът от Харвард Стивън Пинкър смята, че опасенията, че изкуственият интелект ще унищожи човечеството, са преувеличени. В отворено писмо в Quillette той отговори на психиатъра и технологичен блогър Скот Александър, който го беше поканил на публичен дебат за екзистенциалните рискове от ИИ. Пинкър отказа, като определи подобни събития като „зрелищен спорт“.
Според Пинкър сценарии като paperclip maximizer погрешно приписват на интелигентността стремеж към господство. Те приемат и че една система с ИИ би преследвала маниакално само една цел. Пинкър признава, че по-рано е подценил способностите, които ще достигнат големите езикови модели, и не е предвидил колко безразсъдно компаниите ще пускат продуктите си.
Той определя биотероризма, кибератаките и неконтролираните агенти с ИИ като реални опасности. По думите му те изискват солидно инженерство за безопасност, независим надзор, отговорност и човешки контрол, а не апокалиптична реторика. В публикация от юни Александър оценява на 20 процента вероятността ИИ да унищожи човечеството и настоява за повече изследвания и международни споразумения за забавяне на развитието.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.