Изследовател на Anthropic напуска с предупреждение: самоусъвършенстващият се ИИ може да „ни убие всички“
Когато изтъкнат изследовател напусне работа във водеща лаборатория за изкуствен интелект в наши дни, често го прави, за да създаде нов стартъп или да протестира срещу нов бизнес модел. Но изследователят на ИИ Джейкъб Коксън използва напускането си на Anthropic, за да предупреди публично, че водещите компании за ИИ „играят на хазарт с живота ни“ със системи, за които „искрено вярват... че биха могли да убият всички ни до края на десетилетието“.
В публикувана във вторник вечерта поредица от публикации в социалните мрежи Коксън заяви, че този екзистенциален риск произтича не толкова от днешните модели, колкото от предстоящата възможност „самоусъвършенстващ се свръхинтелект“ да създаде „свръхчовешки системи, които могат да хакнат всичко, да революционизират всяка сфера за една нощ и да придобият реална власт и ресурси“. Други, които работят по тези модели, или не са „осъзнали докрай цивилизационния залог“, или вярват, че трябва да „надбягат“ надпреварата към свръхинтелигентността, за да попречат на безотговорна страна да стигне първа до нея, пише той.
За да не си помислите, че това е просто мнение на един напускащ изследовател, което не се споделя широко, ръководителят на екипа по научно изследване на подравняването в Anthropic Евън Хубингер се включи в социалните мрежи, за да заяви, че „Джейкъб е прав — ние наистина искрено вярваме, че ИИ може да убие всички хора! Лично аз смятам, че вероятността е >10% в рамките на следващото десетилетие.“
Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.