42 водещи математици предупреждават, че екзистенциалният риск от ИИ е реален и неотложен

Това истинският „Не гледай нагоре“ ли е? Водещи математици предупреждават за екзистенциални рискове от усъвършенствания ИИ. В отворено писмо до президента на Кралското дружество 42 математици членове призовават Британската академия на науките да предупреди правителството и медиите. Сред подписалите са носителите на медала „Фийлдс“ Мартин Хайрер, Петер Шолце и Венделин Вернер. Никой от тях не е свързан с компании за ИИ.

В рамките на три месеца водещи модели на OpenAI и Anthropic решиха нерешени научни проблеми, включително една от седемте задачи на хилядолетието (забележка: втора вероятно ще последва скоро). В писмото се посочва, че тези модели вече се представят „на нивото на най-добрите математици в света в много области на дисциплината“, като има „значителна вероятност да развият свръхчовешки способности в подобен кратък период от време“.

Именно въздействието върху математиката обаче не е поводът за писмото. Групата предупреждава, че „трябва да приемем, че темпът на промяна на способностите им ще бъде сходен“ в области като киберсигурността, управлението на автономни оръжия, разработването на биологични и химически агенти и целенасочената дезинформация. Оценките на лабораториите за ИИ, според които екзистенциалният риск надхвърля десет процента, „не трябва да бъдат отхвърляни като „медийна сензация“, пишат те. „Когато ситуацията стане очевидна за широката публика, може вече да е твърде късно за действие.“

Новини за ИИ без сензация – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен шест пъти годишно доклад за водещите технологии „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.