Някои ветерани на Anthropic според съобщения купуват отдалечена земя, в случай че „AI излезе извън контрол“

Някои от най-дългогодишните служители на Anthropic предприемат конкретни планове за действие в случай, че изкуственият интелект излезе извън контрол. През последните няколко седмици „някои от най-ранните ѝ служители“ са казали на колега от индустрията, че обмислят да купят земя в отдалечени части на САЩ, където биха могли да се преместят, „ако изкуственият интелект излезе извън контрол“, съобщава WSJ.

Идеята за бягство от изкуствения интелект не е нова за тази общност. Бивши служители си спомнят, че дори на фирмени вечери в ранните дни на Anthropic хората са обсъждали сценарий в стила на проекта „Манхатън“. Възможно е да бъдат помолени да се преместят в пустинята и да продължат да разработват изкуствен интелект в защитено от електромагнитни полета правителствено съоръжение.

Докладът проследява колко тесни са връзките на първите служители на Anthropic и OpenAI с субкултурата на ефективния алтруизъм (EA). Някои от тях произхождат от мрежа на „думъри“ в района на залива на Сан Франциско, които от години разработват сценарии за края на света. Елиезер Юдковски алармира за неконтролирания изкуствен интелект още в средата на 2000-те години, превръщайки се в интелектуален кръстник на тази субкултура. Преди изкуственият интелект да се изкачи на върха на списъка със заплахи, групата беше обсебена от катастрофални рискове — от сблъсъци с астероиди до супервулкани.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за изкуствения интелект, нашия ексклузивен шест пъти годишно доклад за водещите разработки „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.