42 ведущих математика предупреждают, что экзистенциальный риск от ИИ реален и неотложен

Неужели «Не смотрите наверх» — это реальность? Ведущие математики предупреждают об экзистенциальных рисках, связанных с продвинутым ИИ. В открытом письме президенту Королевского общества 42 члена математического сообщества призывают Британскую академию наук предупредить правительство и СМИ. Среди подписавших — лауреаты медали Филдса Мартин Хайрер, Петер Шольце и Венделин Вернер. Ни один из них не связан с компаниями, занимающимися ИИ.

За последние три месяца ведущие модели OpenAI и Anthropic решили нерешённые исследовательские задачи, включая одну из семи задач тысячелетияs (примечание: вскоре, вероятно, будет решена и вторая). Согласно письму, теперь эти модели работают «на уровне лучших математиков-людей во многих областях математики», и существует «значительная вероятность, что в течение столь же короткого периода времени они приобретут сверхчеловеческие способности».

Однако именно влияние на математику не стало причиной написания письма. Группа предупреждает, что «мы должны исходить из того, что темпы изменения их возможностей будут аналогичными» в таких областях, как кибербезопасность, управление автономным оружием, разработка биологических и химических агентов, а также целевая дезинформация. Оценки лабораторий ИИ, согласно которым экзистенциальный риск превышает десять процентов, «нельзя списывать на „шумиху“», пишут они. «К тому времени, когда ситуация станет очевидной для широкой общественности, действовать может быть уже слишком поздно».

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ и эксклюзивный ежегодный отчёт о передовых разработках «AI Radar» шесть раз в год, иметь полный доступ к архиву и разделу комментариев.