Что последний скандал вокруг OpenAI говорит нам о будущем математики

Последнее математическое достижение OpenAI быстро оказалось втянутым в скандал. Сегодня компания объявила, что её агенты решили одну из задач тысячелетия — одних из важнейших нерешённых проблем математики. В обычных обстоятельствах это решение стало бы огромным достижением для OpenAI. Однако заявление было омрачено обвинениями в том, что OpenAI использовала работу математика из Нью-Йоркского университета Тристана Бакмастера и сотрудника Anthropic Левента Альпёге, выполненную ими с помощью ИИ, в качестве отправной точки и не указала их вклад. OpenAI отрицает эти обвинения.

Остаётся неясным, использовали ли модели OpenAI работу Бакмастера и Альпёге, хотя Себастьен Бюбек, сотрудник технического подразделения OpenAI, сказал на пресс-брифинге, что команда решила заняться этой проблемой после того, как услышала слухи об усилиях Бакмастера и Альпёге. Но независимо от того, воспользовались ли модели OpenAI исследованиями Бакмастера и Альпёге, этот эпизод может ознаменовать поворотный момент в истории математики.

Теперь модели ИИ, по-видимому, необходимы для продвижения в решении важнейших математических задач современности, а их решение может потребовать ресурсов, доступных лишь нескольким ведущим компаниям в сфере ИИ, которые зачастую не придерживаются норм академического сотрудничества, лежащих в основе большинства достижений математики. Если именно к такому будущему мы движемся, то неясно, какое место в нём займут математики-люди. 

Задача, которую, по утверждению OpenAI, удалось решить, известна как проблема существования и гладкости решений уравнений Навье—Стокса. Это одна из семи задач тысячелетия, выбранных Математическим институтом Клэя в 2000 году. За решения полагается приз в один миллион долларов; до сегодняшнего дня была решена лишь ещё одна задача тысячелетия. 

Проблема Навье—Стокса касается системы уравнений, описывающей, как со временем движутся жидкости, такие как вода и воздух. Эти уравнения широко используются в гидродинамике и доказали свою эффективность, однако физики и математики не до конца их понимают. В частности, до сегодняшнего дня было неизвестно, могут ли уравнения при некоторых условиях перестать работать и предсказать невозможное состояние — например, бесконечную скорость жидкости.

В понедельник Бакмастер из Нью-Йоркского университета опубликовал на сайте Mastodon доказательство, показывающее, что упрощённая версия уравнений Навье—Стокса действительно может перестать работать, — важный шаг вперёд в решении задачи тысячелетия. Он и Альпёге почти год работали над этой проблемой, используя общедоступные модели OpenAI и Anthropic. А сегодня OpenAI представила доказательство того, что и полные уравнения Навье—Стокса могут перестать работать. Доказательство было получено с помощью внутренней модели, которая значительно превосходит уже впечатляющую модель Astra, выпущенную всего на прошлой неделе. Компания заявляет, что не планирует претендовать на миллионный приз за решение этой задачи.

Эти математические достижения бесспорно впечатляют, однако они привлекли гораздо меньше внимания, чем споры об их происхождении. Вместе с доказательством Бакмастер опубликовал документ, подробно описывающий его взаимодействие с сотрудниками OpenAI после того, как он услышал слухи об их работе и связался с одним из них. По его словам, сотрудники OpenAI предложили ему два варианта: либо он и Альпёге опубликуют свою работу, а OpenAI на следующий день опубликует своё решение проблемы Навье—Стокса, либо он будет работать с OpenAI над статьёй о Навье—Стоксе, исключив Альпёге из числа авторов из-за его связи с Anthropic, крупнейшим конкурентом OpenAI. Бакмастер также написал, что спрашивал сотрудников, получили ли агенты доступ к расшифровкам работы, которую он и Альпёге проделали с моделями OpenAI, — они это отрицали; а также обучались ли модели OpenAI на этих расшифровках — на этот вопрос они не ответили. MIT Technology Review обратился к Бакмастеру за комментариями, но до публикации ответа не получил.

Из документа явно следует, что модели OpenAI каким-то образом использовали работу Бакмастера и Альпёге. На первый взгляд этот сценарий вполне правдоподобен. В доказательствах Бакмастера и Альпёге и OpenAI используется один и тот же подход к проблеме Навье—Стокса, впервые предложенный математиками Диего Кордовой и Луисом Мартинесом-Сороа. По словам Хавьера Гомеса-Серрано, профессора математики в Университете Брауна, этот подход был одним из нескольких, которые считались перспективными для решения проблемы Навье—Стокса. Поэтому, хотя нельзя полностью исключить, что обе команды независимо пришли к этому подходу, вполне возможно и то, что работа Бакмастера и Альпёге повлияла на OpenAI.

На пресс-брифинге Марк Чен, главный научный руководитель OpenAI, вновь отрицал, что агенты или сотрудники OpenAI получали доступ к расшифровкам Бакмастера и Альпёге, однако, учитывая то, что стало известно о взломе Hugging Face, очевидно, что OpenAI не всегда полностью осведомлена о действиях своих агентов. 

Если модели OpenAI действительно обучались на работе Бакмастера и Альпёге или если её агентам каким-то образом удалось получить к ней доступ, то неспособность компании установить истину и воздать этим исследователям должное бросает на неё тень. Однако у такой версии событий может быть небольшой положительный момент для математиков: она указывала бы на то, что упорная работа двух людей, один из которых является признанным экспертом по проблеме Навье—Стокса, была необходима для способности агентов решить задачу тысячелетия. Эксперты давно называют «исследовательское чутьё» — способность выбирать перспективные исследовательские вопросы и направления — серьёзным препятствием для применения ИИ в науке и математике. Если агенты OpenAI действительно выбрали подход Кордовы—Мартинеса-Сороа потому, что Бакмастер и Альпёге сделали то же самое, значит, человеческое исследовательское чутьё сыграло важнейшую роль в успехе OpenAI.

И всё же общая картина здесь неутешительна. Прогресс, которого Бакмастер и Альпёге добились почти за год сотрудничества с общедоступными моделями, говорит о перспективах взаимодействия людей и ИИ. Но им не удалось получить полное решение. Тем временем OpenAI за несколько дней добилась решения методом перебора с помощью внутренней модели, причём успех обошёлся астрономически дорого: на пресс-брифинге Бюбек и Чен заявили, что команде удалось решить проблему, лишь одновременно запустив около 10 000 агентов, что стоило миллионы долларов.

За последние несколько месяцев несколько исследователей рассказывали мне, что математики впадают в депрессию, и нетрудно понять почему. Математика быстро становится сферой ведущих компаний в области ИИ, располагающих впечатляющими закрытыми моделями, огромными средствами и не отличающихся духом сотрудничества. «Решат ли компании, занимающиеся ИИ, потратить свои деньги на одно или на другое, я действительно не знаю, — говорит Гомес-Серрано. — Ясно одно: очень немногие математики будут располагать ресурсами такого масштаба».

Если OpenAI и Anthropic продолжат добиваться всё более впечатляющих математических достижений, для математиков-людей за пределами этих компаний может не остаться нерешённых проблем, над которыми они могли бы работать. Это радикально изменило бы математику. На прошлой неделе математик из Калифорнийского университета в Лос-Анджелесе Теренс Тао опубликовал тред на Mastodon, в котором описал, насколько важны для этой области ошибки, неверные направления и незавершённые решения. «В большинстве случаев в чистой математике задачи ставят не потому, что нам отчаянно необходимо решить их сами по себе, а потому, что прошлый опыт показывает: направленные людьми попытки решить эти задачи обычно способствуют дальнейшему развитию области, — написал Тао. — Преждевременное решение задачи с помощью исключительно ИИ, особенно при отсутствии полной прозрачности процесса решения, может нарушить этот процесс настолько, что в итоге окажется чистым минусом для развития математики в целом».

Людям может потребоваться больше времени, чем агентам, чтобы решить математические задачи, но в процессе они открывают новые математические подходы и идеи, которые могут вдохновить коллег и даже привести к возникновению собственных подразделов математики. Но когда вместо них эти задачи решают агенты ИИ, а частные компании скрывают от публики их ошибочные шаги, эти преимущества исчезают. Ещё предстоит выяснить, что именно ещё исчезнет в этом процессе.