Паниката около безопасността на ИИ навлиза в мейнстрийма, след като предупрежденията на изследовател от Anthropic стигнаха до CNN и Fox News

Идеята, че ИИ може да унищожи човечеството, официално стана мейнстрийм. Предупрежденията на напускащия изследовател на Anthropic Джейкъб Коксън за самоусъвършенстващия се ИИ като екзистенциална заплаха предизвикаха достатъчно шум, за да го отведат в CNN и Fox News. Няколко американски политици подхванаха темата в социалните мрежи, а Джо Роугън посвети цял епизод на безопасността на ИИ.

Други изследователи на безопасността от Anthropic и OpenAI подкрепиха възгледите на Коксън. Пол Кристиано предупреди, че без по-добър надзор човечеството може завинаги да загуби контрол над свръхинтелигентност. Кристиано току-що се присъедини към борда на фондацията OpenAI и нейния Комитет по безопасност и сигурност, който контролира практиките на компанията в областта на безопасността, макар и без право на глас.

Ако това ви кара да се тревожите, не изпадайте в паника. Зад тези предупреждения стоят множество пластове от културни и финансови интереси. Това не означава, че всички опасения за безопасността са безсмислени, както показаха неконтролируемите хакерски агенти от OpenAI и Anthropic. Но пълният сценарий на изчезване на човечеството остава крайна и оспорвана позиция. Също така е неясно дали от днешните технологии изобщо може да възникне нещо, наподобяващо свръхинтелигентен ИИ. Така че това може просто да е масова психоза в Силициевата долина. А може и да не е — в такъв случай: успех.

Новини за ИИ без сензацията – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за ИИ, ексклузивния ни фронтирен доклад „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.