Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← К новостям

42 математика предупредили о срочных экзистенциальных рисках ИИ

Сорок два члена Лондонского королевского общества подписали открытое письмо. Они призывают президента общества попросить Британскую академию наук предупредить правительство и СМИ об экзистенциальных рисках, связанных с передовым искусственным интеллектом. Среди подписантов — лауреаты медали Филдса Мартин Хайрер, Питер Шольце и Венделин Вернер. Ни один из них не связан с компаниями в сфере ИИ.

В письме говорится, что ведущие модели OpenAI и Anthropic за три месяца решили нерешённые исследовательские задачи, включая одну из семи задач тысячелетия. Авторы допускают, что вскоре будет решена ещё одна. По их оценке, модели уже работают на уровне ведущих математиков-людей во многих областях и за сопоставимый короткий срок могут получить сверхчеловеческие способности.

Авторы письма считают, что аналогичное ускорение может проявиться в кибербезопасности, управлении автономным оружием, создании биологических и химических агентов, а также в адресной дезинформации. Они заявляют, что оценки лабораторий ИИ, согласно которым экзистенциальный риск превышает 10 процентов, нельзя списывать на ажиотаж. По их словам, к моменту, когда опасность станет очевидной для широкой публики, действовать может быть уже поздно.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости