Харвардски психолог призовава за трезва инженерия на безопасността на ИИ вместо за реторика за края на света

Харвардският психолог Стивън Пинкър смята, че страховете, че ИИ ще унищожи човечеството, са преувеличени. Той излага аргументите си в открито писмо в Quillette, адресирано до Скот Александър — психиатър и влиятелен технологичен блогър, който го бе предизвикал на публичен дебат за екзистенциалните рискове от ИИ. Пинкър отказал, определяйки подобни събития като „спорт за зрители“.

Пинкър твърди, че апокалиптични сценарии като максимизатора на кламери, при който ИИ жертва човечеството, за да произведе повече кламери, смесват интелигентността с стремеж към господство. Те също така предполагат, че системите с ИИ биха се вкопчили маниакално в една-единствена цел.

Пинкър и преди е бил оптимистично настроен към ИИ, но сега признава, че е подценил докъде ще достигнат възможностите на големите езикови модели. Той също така не е предвидил колко безразсъдно компаниите за ИИ ще пуснат продуктите си. Иронично, това надпреварване се води от хора от същата общност, която предупреждава за тези рискове.

Опасностите, които Пинкър приема сериозно, са биотероризмът, кибератаките и неконтролираните агенти с ИИ. Апокалиптичната реторика няма да направи нищо за предотвратяването им, пише той. Това, което работи, е трезво инженерство на безопасността, основано на независим надзор, отговорност и човешки контрол.

Александър изложи собствената си позиция в своя блог през юни. Той оценява на 20 процента вероятността ИИ да унищожи човечеството и иска както по-добри изследвания в областта на безопасността, така и международни споразумения за забавяне на развитието на ИИ.

Новини за ИИ без сензацията – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен водещ доклад „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.