Над 20 водещи изследователи на ИИ предупреждават, че автоматизираните изследвания на ИИ крият изключителни рискове

Ако предупрежденията за ИИ досега не са ви били достатъчни, ето още едно: Повече от 20 изследователи в областта на ИИ, сред които Джефри Хинтън, Йошуа Бенджио и ръководителят на изследователския отдел на OpenAI Якуб Пачоцки, предупреждават за възможна „интелектуална експлозия“, предизвикана от самоусъвършенстващ се ИИ, в нов научен труд. „Въпреки че все още има много неизвестни, автоматизирането на научноизследователската и развойната дейност в областта на ИИ може скоро да предизвика такава“, пишат те.

Според изследването системите с ИИ вече пишат по-голямата част от кода в компаниите, които ги разработват, и могат да автоматизират целия процес на научноизследователска и развойна дейност в областта на ИИ в рамките на няколко години. Тогава напредък, който обикновено отнема години, може да бъде постигнат за месеци. Авторите предупреждават, че обществото може да не успее да се адаптира, контролът над свръхчовешкия ИИ може да бъде изгубен, а балансът на силите между нации, компании и правителства може да се разклати. Те призовават политиците да получат значително по-добра представа за това как се автоматизират изследванията в областта на ИИ.

Този научен труд се присъединява към нарастващия списък с предупреждения. 42 водещи математици наскоро призоваха за повече внимание към екзистенциалните рискове от ИИ, няколко служители на лаборатории за ИИ изразиха опасения, че ИИ може да унищожи човечеството, а самият Пачоцки заяви, че никоя лаборатория не е решила проблема с подравняването достатъчно добре, „за да продължи отговорно да разширява мащаба с максимална скорост за много по-дълго време“. Според съобщения някои служители на Anthropic вече проучват сигурни убежища в случай, че ИИ излезе извън контрол.

Новини за ИИ без сензации – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен информационен бюлетин за ИИ, нашия ексклузивен шест пъти годишно публикуван доклад за напредъка „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.