Sakhanda Wire
NVDA $152.58 -2.28% MSFT $506.11 -2.29% GOOGL $279.81 -1.38% META $619.07 -1.17% AMZN $256.55 -0.47%
← Към новините

Стивън Пинкър призовава за практична безопасност при ИИ

Психологът от Харвард Стивън Пинкър смята, че опасенията, че изкуственият интелект ще унищожи човечеството, са преувеличени. В отворено писмо в Quillette той отговори на психиатъра и технологичен блогър Скот Александър, който го беше поканил на публичен дебат за екзистенциалните рискове от ИИ. Пинкър отказа, като определи подобни събития като „зрелищен спорт“.

Според Пинкър сценарии като paperclip maximizer погрешно приписват на интелигентността стремеж към господство. Те приемат и че една система с ИИ би преследвала маниакално само една цел. Пинкър признава, че по-рано е подценил способностите, които ще достигнат големите езикови модели, и не е предвидил колко безразсъдно компаниите ще пускат продуктите си.

Той определя биотероризма, кибератаките и неконтролираните агенти с ИИ като реални опасности. По думите му те изискват солидно инженерство за безопасност, независим надзор, отговорност и човешки контрол, а не апокалиптична реторика. В публикация от юни Александър оценява на 20 процента вероятността ИИ да унищожи човечеството и настоява за повече изследвания и международни споразумения за забавяне на развитието.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Decoder на

Прочетете оригинала в The Decoder ↗

Репортажът и изображението принадлежат на The Decoder и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини