Изследовател на Anthropic предупреди за самоподобряващ се суперинтелект
Изследователят на изкуствения интелект Джейкъб Коксън е напуснал Anthropic и в публикация в социалните мрежи предупреди, че водещите компании в областта на ИИ поемат рискове с потенциално цивилизационни последици. По думите му тези компании искрено вярват, че ИИ може да убие всички хора до края на десетилетието, и „хазартът“ им е с човешки животи.
Коксън посочи, че основната опасност не идва толкова от днешните модели, колкото от възможната поява на самоподобряващ се суперинтелект. Според него подобни системи могат да станат свръхчовешки, да проникват във всякакви системи, да променят цели области за кратко време и да придобият реална власт и ресурси.
Той написа, че част от изследователите не са осмислили напълно мащаба на риска, а други ускоряват надпреварата към суперинтелект, за да не позволят на безотговорен участник да стигне пръв до него. Евън Хюбингър, ръководител на научния екип по подравняване в Anthropic, публично се съгласи. Той заяви, че компанията действително смята тази заплаха за възможна и лично оценява вероятността на над 10% през следващото десетилетие.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на Ars Technica. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.