Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← Към новините

42 математици предупреждават за спешни екзистенциални рискове от ИИ

Четиридесет и двама членове на Кралското дружество подписаха открито писмо, в което призовават президента на институцията да поиска от Британската академия на науките да предупреди правителството и медиите за екзистенциалните рискове от напредналия изкуствен интелект. Сред подписалите са носителите на медала „Фийлдс“ Мартин Хайрер, Питър Шолце и Венделин Вернер. Нито един от тях не е свързан с компания за изкуствен интелект.

В писмото се посочва, че водещи модели на OpenAI и Anthropic са решили нерешени изследователски задачи в рамките на три месеца, включително една от седемте задачи на хилядолетието. Авторите добавят, че скоро е възможно да бъде решена и втора. По думите им моделите вече работят на равнището на водещи човешки математици в много области и може да развият свръхчовешки способности за сходно кратко време.

Математиците предупреждават, че подобно ускорение може да засегне киберсигурността, управлението на автономни оръжия, създаването на биологични и химически агенти и целевата дезинформация. Те заявяват, че оценките на лаборатории за риск над 10 процента не бива да бъдат отхвърляни като сензация и че общественото осъзнаване може да настъпи твърде късно.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Decoder на

Прочетете оригинала в The Decoder ↗

Репортажът и изображението принадлежат на The Decoder и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини