Ведущие математики опасаются, что ИИ делает их область глупее, и предупреждают: следующими будем все мы

Двадцать пять лауреатов Филдсовской премии предупреждают, что цели индустрии ИИ и математики «катастрофически расходятся». Массовое производство решённых с помощью ИИ задач может подорвать истинную цель этой дисциплины: понимание.

В совместном заявлении 25 лауреатов Филдсовской премии — высшей награды в математике — предупреждают о влиянии ИИ на их область. За последние месяцы большие языковые модели настолько преуспели в математике, что теперь могут решать «крупные нерешённые задачи во многих областях математики». Именно это и вызывает у них беспокойство.

Компании, разрабатывающие ИИ, относятся к математическим задачам как к эталонам, которые нужно покорить, и это вредит науке и окружающему её сообществу, говорится в заявлении. Цели компаний, занимающихся ИИ, и математиков «катастрофически расходятся». Подписант Теренс Тао уже предупреждал о вызванном ИИ кризисе оснований математики.

Решение задач — не цель, а путь к ней

Известные нерешённые задачи «часто служили ориентирами и маяками, по которым можно измерять углубление понимания этого ландшафта», говорится в заявлении. Когда кто-то решает одну из них, сама разгадка менее важна, чем новое мышление, которое потребовалось для её получения. Затем математики годами разбирают это мышление в рамках «долгого и трудного процесса докладов, обсуждений и упрощений».

ИИ угрожает прервать этот процесс. «Решение задач — лишь инструмент и косвенный показатель достижения главной цели — концептуального понимания и озарения», — пишут подписанты. Заполнение области ответами с машинной скоростью может «уничтожить плодородную почву вместо того, чтобы вдохнуть жизнь в новые идеи».

Решения, сгенерированные ИИ, объявляются «без времени на надлежащее описание, выделение новых методов и идей и ссылки на соответствующие предыдущие работы других исследователей». Это поднимает «серьёзные вопросы атрибуции и плагиата».

«Без готовых работать математиков, которые должны заботиться об их развитии и интеграции в математический канон, идеи, придуманные ИИ, никогда не станут полностью живыми, — говорится в заявлении. — Важнейшая человеческая цепочка передачи знаний между математиками будет утрачена».

Заявление прозвучало на фоне спора между двумя математиками и OpenAI. Обвинение заключается в следующем: OpenAI узнала из слухов о частичном решении одной из задач тысячелетия и попыталась опередить исследователей ради публичности. Главный исследователь OpenAI Пачоцки заявил во время презентации Astra, что компания намеренно не стала оптимизировать модель для математики. Вскоре после этого OpenAI, по всей видимости, всё же обучила математические модели — по-видимому, напрямую отреагировав на эти слухи.

Угроза выходит далеко за пределы математики

Подписанты видят в этом «общую угрозу интеллектуальному труду». Во многих областях годы обучения «служили не только созданию конечного ответа или продукта, но и развитию понимания и способности формулировать новые вопросы и идеи». Когда ИИ «непосредственно выдаёт результаты такой работы», эти цели разделяются.

«Проблемы, с которыми сейчас сталкивается математическое сообщество, схожи с проблемами других научных и творческих профессий и указывают на проблемы, с которыми может столкнуться всё человечество: как убедиться, что по мере того, как ИИ меняет способы выполнения работы, мы не забываем, для чего эта работа изначально предназначалась».

Этот разрыв уже проявляется в образовании. Домашние задания всё чаще можно выполнять с помощью ИИ, тогда как на экзаменах он по-прежнему запрещён. Разрыв между этими двумя показателями, измеряемый оценками, продолжает увеличиваться.

ИИ может помочь, но люди должны решить, как именно

Математики не призывают к запрету. ИИ «обладает потенциалом для улучшения и ускорения настоящего математического обучения и понимания». Профессии придётся адаптироваться. Но «то, принесут ли эти изменения в конечном счёте пользу области или окажут разрушительное воздействие, во многом будет определяться решениями людей, контролирующих эту новую технологию».

«Эти вопросы необходимо решать срочно», — заявляют подписанты, обращаясь к математическому сообществу, компаниям, создающим эти инструменты, и «обществу, которое столкнётся с аналогичными проблемами во многих других формах интеллектуального труда».

Среди 25 первоначальных подписантов, наряду с Тао, — Пьер Делинь (Филдсовская премия 1978 года), Петер Шольце (2018), Марина Вязовская (2022), Мартин Хайрер (2014), Седрик Вилани (2010), Манджул Бхаргава (2014) и лауреат этого года Юй Дэн (2026).

В недавней исследовательской работе Университета специальных операций НАТО описывается связанная с этим закономерность: «трагедия когнитивного общего достояния». Каждая компания, заменяющая начинающих специалистов ИИ, получает выгоду от повышения эффективности, но цена разрушения экспертизы распределяется между всем кадровым резервом. То, что исследователь описывает применительно к целым профессиям, математики уже наблюдают в собственной области.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER и получите чтение без рекламы, еженедельную рассылку об ИИ, наш эксклюзивный годовой отчёт о передовых разработках «AI Radar», выходящий шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.