OpenAI поступила нечестно с математической задачей, способной сделать карьеру, утверждает математик из Нью-Йоркского университета

Профессор математики Нью-Йоркского университета Тристан Бакмастер во вторник объявил о трех доказательствах и предварительном результате по одной из главных нерешенных задач теоретической математики. Полученные в сотрудничестве с математиком из Anthropic Левентом Альпёге и с использованием моделей искусственного интеллекта Codex и Claude, эти результаты сами по себе имеют большое значение — но их также сопровождает необычный спор вокруг попыток OpenAI решить ту же задачу.

«В этой истории есть еще одна часть, — написал Бакмастер в своем заявлении, объявляя о доказательствах, — и, честно говоря, я очень хотел бы, чтобы мне не пришлось об этом беспокоиться».

Пока Бакмастер и Альпёге завершали работу над результатами, они узнали, что «информация о нашем прогрессе была передана OpenAI». Связавшись с OpenAI по этому поводу, они услышали, что компания уже получила полное доказательство центральной задачи. Однако когда они задали дополнительные вопросы о том, когда OpenAI начала исследовать эту проблему и насколько велик был вклад людей, ответы стали более уклончивыми.

«Выяснилось, что над задачей работала целая команда, — говорит Бакмастер, — и что было использовано безумное количество вычислительных ресурсов… В конце концов было согласовано, что [первый запрос] был отправлен в последние несколько дней, после того как информация о нашей работе дошла до OpenAI».

Если это так, то это может означать, что команда OpenAI убедилась в правильности подхода Бакмастера и Альпёге и решила использовать свое преимущество в вычислительных ресурсах, чтобы первой получить формальное доказательство.

Себастьян Бубек, руководящий математическими исследованиями в OpenAI, назвал эти утверждения «ложными и провокационными».

«Чтобы прояснить ситуацию: я вступил в обсуждение, следуя академическим нормам, и разочарован тем, к чему это привело, — написал он в публикации после заявления Бакмастера. — Все, кто меня знает, понимают, что академические стандарты имеют для меня первостепенное значение». Бубек заявил, что вскоре выступит с более подробным заявлением.

Спор сосредоточен вокруг задачи «существование и гладкость решений уравнений Навье — Стокса», одной из семи «задач тысячелетия» — набора важнейших нерешенных математических проблем, за решение каждой из которых Институт математики Клея предлагает $1 млн первому человеку или группе, предоставившим решение. Уравнения Навье — Стокса широко используются в механике жидкостей, однако с теоретической точки зрения изучены недостаточно. Решение этой задачи стало бы значительным шагом вперед в коллективном понимании математической физики.

Хотя математики широко работают над этой проблемой, конкретный подход, выбранный Бакмастером и его соавтором, встречается гораздо реже. Поэтому Бакмастер счел подозрительным, что OpenAI одновременно пришла к тому же подходу.

«Путь к задаче Клея через гладкую силу, варианты c и d в формулировке задачи Феффермана, — это путь, который открыли Луис и Диего и который мы с Левентом негласно выбрали для исследования, — написал Бакмастер. — Насколько мне известно, почти никто другой над ним не работал, — продолжил он. — К этому направлению невозможно прийти за несколько дней, просто передав модели формулировку задачи».

Хотя Альпёге работает в Anthropic, он проводил это исследование не от имени компании. Поэтому дуэт использовал сочетание моделей, опираясь в основном на OpenAI Codex. Тем не менее принадлежность Альпёге к конкурирующей лаборатории, по-видимому, стала для OpenAI болезненной темой, и Бакмастер утверждает, что Бубек попросил убрать упоминание Альпёге в качестве соавтора в рамках предложенного компромисса.

Когда Бакмастер настоял на публичном обсуждении спора, по его словам, Бубек ответил: «Зачем вам губить свою карьеру?» Бакмастер говорит, что после его возражений Бубек добавил: «Если вы не хотите, чтобы я был добр, я не обязан быть добрым».

Бакмастер также выразил обеспокоенность тем, что, поскольку он активно использовал Codex при подготовке проекта, информация из его работы могла повлиять на собственные попытки OpenAI решить задачу. OpenAI оставляет за собой право обучать модели на основе взаимодействий с Codex, хотя пользователи могут отказаться от этого. Если команда OpenAI использовала модель, обученную на взаимодействиях Бакмастера с Codex, возможно, она воспроизвела его работу, столкнувшись с аналогичной задачей.

OpenAI не ответила на просьбу прокомментировать эту возможность.

В любом случае этот вопрос, вероятно, вновь разожжет продолжающиеся споры о роли искусственного интеллекта в математических исследованиях и о конкретных стимулах OpenAI. Сам Бакмастер, по-видимому, считает, что лучший ответ — предать как можно больше информации об исследовании огласке.

«Я не видел доказательства OpenAI, — написал Бакмастер. — Я не знаю, что именно сделала их модель и как. Я не знаю, использовались ли наши данные. Я никого ни в чем не обвиняю. Я сообщаю, что мне сказали, когда это произошло и что мне предложили. Я заявляю об этом, потому что альтернатива — позволить череде объявлений сообщить нечто, что я знаю как ложь».