42 математици предупреждават за спешни екзистенциални рискове от ИИ
Четиридесет и двама членове на Кралското дружество подписаха открито писмо, в което призовават президента на институцията да поиска от Британската академия на науките да предупреди правителството и медиите за екзистенциалните рискове от напредналия изкуствен интелект. Сред подписалите са носителите на медала „Фийлдс“ Мартин Хайрер, Питър Шолце и Венделин Вернер. Нито един от тях не е свързан с компания за изкуствен интелект.
В писмото се посочва, че водещи модели на OpenAI и Anthropic са решили нерешени изследователски задачи в рамките на три месеца, включително една от седемте задачи на хилядолетието. Авторите добавят, че скоро е възможно да бъде решена и втора. По думите им моделите вече работят на равнището на водещи човешки математици в много области и може да развият свръхчовешки способности за сходно кратко време.
Математиците предупреждават, че подобно ускорение може да засегне киберсигурността, управлението на автономни оръжия, създаването на биологични и химически агенти и целевата дезинформация. Те заявяват, че оценките на лаборатории за риск над 10 процента не бива да бъдат отхвърляни като сензация и че общественото осъзнаване може да настъпи твърде късно.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.