Спор вокруг доказательства задачи тысячелетия, созданного OpenAI, ставит вопрос о том, могут ли исследователи доверять лабораториям ИИ

После того как математик Тристан Бакмастер обвинил OpenAI в нарушении научной этики, все стороны теперь публично изложили свои позиции. Этот случай поднимает сложные вопросы об открытой науке.

Спор вокруг заявленного OpenAI результата, созданного ИИ, для уравнений Навье — Стокса привёл к публичным заявлениям всех участников. Проблема Навье — Стокса — одна из задач тысячелетия Института Клэя, за решение которой полагается приз в размере 1 миллиона долларов.

Математик Тристан Бакмастер ранее выдвинул серьёзные обвинения против OpenAI, заявив, что после утечки информации о его исследовании компания оказывала на него давление, пыталась убрать его соавтора Левента Альпёге из числа авторов статьи, поскольку Альпёге работает в Anthropic, и угрожала ему последствиями для карьеры. Также есть подозрения, что OpenAI могла обучать свои модели на черновиках, загруженных двумя исследователями в Codex.

Одно обстоятельство не оспаривается. По собственным словам OpenAI, компания услышала слухи о том, что модели Anthropic решили задачу тысячелетия, и направила свои ресурсы на ту же проблему. В отношении ряда других моментов версии расходятся.

Бакмастер называет это «абсолютным нарушением академической этики»

Альпёге и Бакмастер оспаривают заявление OpenAI о том, что её собственное решение существенно отличается от их решения. Они утверждают, что вводили похожий подход в системы OpenAI. Насколько понимает Бакмастер, эти данные в итоге попали в обучающую выборку. Бакмастер считает это «абсолютным нарушением академической этики».

Сотрудники OpenAI заявляют, что вероятность того, что OpenAI действительно обучала модель на представленных решениях, невелика — особенно если исследователи отключили возможность использовать их вводимые данные для обучения. Публично неизвестно, сделали ли они это. Сотрудник OpenAI Боаз Барак также отверг предположение, что модели вообще требовалась внешняя помощь. «Просто самоуспокоение — думать, что модели это понадобилось. Она фактически начала с доказательства более сильного утверждения, чем то, которое доказали они. Любой, кто видел эту модель в работе, не стал бы думать, что ей нужны “подсказки”».

В официальной публикации в блоге OpenAI признаёт отсутствие полной уверенности. «Хотя это маловероятно, мы не можем исключить, что обезличенные данные, полученные в результате использования наших продуктов, помогли улучшить наши модели⁠».

Альтман поддерживает Бубека, а Альпёге возражает

Генеральный директор OpenAI Сэм Альтман поддержал Бубека в X, заявив, что команда «на протяжении всего времени действовала добросовестно и великодушно». Он сказал, что предлагал присудить награду Бакмастеру и Альпёге, но команда столкнулась с «необоснованными обвинениями в плагиате».

Альтман также написал, что работа началась из-за «слухов в интернете на прошлой неделе о том, что модели Anthropic решили задачу тысячелетия, и нам стало интересно, смогут ли наши сделать то же самое».

Альпёге опровергает один важный момент в словах Альтмана. Альтман пишет, что было сложно сделать Альпёге такое же предложение, поскольку тот «всё равно не хотел с нами разговаривать или координировать действия». Альпёге говорит, что хотел бы работать с OpenAI, а вопрос авторства для него не имел значения. «Мне также нравится идея сотрудничества лабораторий, особенно ради научного прогресса. Очень жаль!» — пишет Альпёге.

Что это означает для открытой науки

Независимо от того, кто прав в каждой конкретной детали, этот случай поднимает принципиальный вопрос о взаимодействии лабораторий ИИ с исследовательским сообществом. Одних слухов оказалось достаточно, чтобы OpenAI в короткие сроки направила огромные ресурсы на исследовательскую проблему, пытаясь решить её и, возможно, первой опубликовать результат. Нельзя также исключить, что компания обучалась на данных, введённых в её собственные системы.

Для академических исследователей и компаний вывод прост. Любой, кто загружает исследовательские данные в системы OpenAI, рискует оказаться побеждённым собственными открытиями. Отключение использования данных для обучения через настройки обеспечивает лишь весьма ограниченную защиту, особенно с учётом того, что лаборатории ИИ ещё не заслужили презумпцию доверия в вопросах обучения моделей и работы с данными.

Математик Теренс Тао, один из самых влиятельных ныне живущих математиков, предупреждает в Mastodon, что «даже слух о том, что кто-то работает над проблемой, может запустить огромный объём усилий с использованием ИИ, чтобы решить её до того, как первоначальный исследовательский проект успеет полностью реализовать свой потенциал».

«Теперь стимулы, возможно, подталкивают к тому, чтобы больше не делиться перспективными направлениями исследований с широким сообществом, что перечеркнуло бы многовековые традиции открытой науки и нанесло бы серьёзный долгосрочный ущерб будущему этой области», — пишет Тао.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный ежегодный отчёт о передовых разработках «AI Radar», выходящий шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.