OpenAI вчинила нечесно з математичною задачею, здатною зробити кар’єру, стверджує математик із Нью-Йоркського університету

Професор математики Нью-Йоркського університету Трістан Бакмастер у вівторок оголосив про три доведення та попередній результат щодо однієї з головних нерозв’язаних проблем теоретичної математики. Отримані у співпраці з математиком Anthropic Левентом Альпоге та за допомогою моделей штучного інтелекту Codex і Claude результати самі по собі є значущими — але їх також супроводжує незвичайна суперечка навколо спроб OpenAI розв’язати ту саму проблему.

«У цій історії є ще одна частина, — написав Бакмастер у своїй заяві, у якій оголосив про доведення, — і, чесно кажучи, я дуже хотів би, щоб мені не довелося нею перейматися».

Коли Бакмастер і Альпоге завершували роботу над своїми результатами, вони дізналися, що «інформацію про наш прогрес було передано OpenAI». Коли вони звернулися до OpenAI з цього приводу, їм повідомили, що OpenAI вже отримала повне доведення центральної проблеми. Але коли вони поставили додаткові запитання про те, коли OpenAI розпочала дослідження цієї проблеми і наскільки значним був внесок людей, відповіді стали більш ухильними.

«З’ясувалося, що над проблемою працювала ціла команда, — каже Бакмастер, — і було використано безумну кількість обчислювальних ресурсів… Зрештою було визнано, що [перший запит] надіслали протягом останніх кількох днів, після того як інформація про нашу роботу дійшла до OpenAI».

Якщо це правда, це означало б, що команда OpenAI переконалася: підхід Бакмастера й Альпоге є правильним, — і вирішила використати свою перевагу в обчислювальних ресурсах, щоб першою отримати формальне доведення.

Себастьян Бубек, який очолює математичні дослідження OpenAI, називає ці твердження «хибними та провокативними».

«Щоб прояснити ситуацію: я долучився до обговорення, дотримуючись академічних норм, і розчарований тим, до чого це призвело, — написав він у дописі після заяви Бакмастера. — Кожен, хто мене знає, розуміє, що академічні стандарти мають для мене надзвичайно важливе значення». Бубек заявив, що незабаром зробить більш розгорнуту заяву.

Суперечка точиться навколо проблеми «існування та гладкості розв’язків рівнянь Нав’є—Стокса», однієї із семи «проблем тисячоліття» — набору основних нерозв’язаних математичних задач, за розв’язання кожної з яких Інститут математики Клея призначив винагороду в розмірі 1 мільйона доларів першій людині або групі, яка надасть розв’язок. Рівняння Нав’є—Стокса широко використовуються в механіці рідин, але з теоретичного погляду залишаються недостатньо зрозумілими. Розв’язання цієї проблеми стало б значним кроком уперед у колективному розумінні математичної фізики.

Хоча математики широко працюють над цією проблемою, конкретна тактика, яку обрали Бакмастер і його співавтор, є значно менш поширеною. У результаті Бакмастер вважав підозрілим те, що OpenAI одночасно обрала такий самий підхід.

«Шлях до проблеми Клея через гладку силу — варіанти c і d у формулюванні проблеми Феффермана — це шлях, який відкрили Луїс і Дієго, і той, який ми з Левентом тихо обрали для дослідження, — написав Бакмастер. — Наскільки мені відомо, майже ніхто інший над ним не працював», — продовжив він. — Це не той напрям, до якого можна дійти за кілька днів, просто надавши моделі формулювання проблеми».

Хоча Альпоге працює в Anthropic, він проводив це дослідження не від імені компанії. Тому дует використовував суміш моделей, покладаючись у своїй роботі переважно на Codex від OpenAI. Попри це, приналежність Альпоге до конкуруючої лабораторії, схоже, стала для OpenAI болючим питанням, і Бакмастер стверджує, що Бубек попросив його прибрати згадку про Альпоге як частину запропонованого компромісу.

Коли Бакмастер наполіг на публічному розголосі суперечки, за його словами, Бубек відповів: «Навіщо ти зруйнуєш свою кар’єру?» Бакмастер каже, що після його заперечення Бубек додав: «Якщо ти не хочеш, щоб я був люб’язним, тоді я не мушу бути люб’язним».

Бакмастер також висловив занепокоєння, що через інтенсивне використання Codex під час підготовки проєкту інформація з його роботи могла вплинути на власні спроби OpenAI розв’язати проблему. OpenAI залишає за собою право навчати моделі на взаємодіях із Codex, хоча користувачі можуть відмовитися від цього. Якщо команда OpenAI використовувала модель, навчену на власних взаємодіях Бакмастера з Codex, цілком можливо, що під час роботи над подібною проблемою вона могла відтворити його напрацювання.

OpenAI не відповіла на запит щодо коментаря з цього приводу.

У будь-якому разі це питання, ймовірно, знову розпалить триваючу дискусію про роль ШІ в математичних дослідженнях і конкретні стимули OpenAI. Бакмастер, зі свого боку, схоже, вважає, що найкращою відповіддю буде якомога ширше оприлюднення інформації про дослідження.

«Я не бачив доведення OpenAI, — написав Бакмастер. — Я не знаю, що зробила їхня модель і як саме. Я не знаю, чи використовувалися наші дані. Я нікого ні в чому не звинувачую. Я повідомляю, що мені сказали, коли це було сказано і що мені запропонували. Я роблю це тому, що альтернатива — дозволити низці оголошень створити враження, яке, як я знаю, є хибним».