OpenAI е играла нечестно с математически проблем, който може да направи кариера, твърди математик от Нюйоркския университет

Професорът по математика от Нюйоркския университет Тристан Бъкмастър обяви във вторник три доказателства и предварителен резултат по един от основните нерешени проблеми в теоретичната математика. Резултатите, постигнати в сътрудничество с математика от Anthropic Левент Алпьоге и с използването на моделите за изкуствен интелект Codex и Claude, са значими сами по себе си — но са придружени и от необичаен спор около опитите на OpenAI да реши същия проблем.

„Има и друга част от тази история“, написа Бъкмастър в своето изявление, с което обяви доказателствата, „и, честно казано, много ми се искаше да не трябва да се занимавам с нея.“

Докато Бъкмастър и Алпьоге финализирали резултатите си, те научили, че „информация за нашия напредък е била предадена на OpenAI“. Когато се свързали с OpenAI по този въпрос, им било казано, че OpenAI вече е постигнала пълно доказателство на основния проблем. Но когато задали допълнителни въпроси за това кога OpenAI е започнала изследванията си по проблема и доколко е участвал човек, отговорите станали по-уклончиви.

„Стана ясно, че цял екип е работил по проблема“, казва Бъкмастър, „и че е било използвано безумно количество изчислителни ресурси… В крайна сметка беше договорено, че [първият подаден въпрос] е бил изпратен през последните няколко дни, след като информацията за нашата работа е достигнала до OpenAI.“

Ако това е вярно, то би означавало, че екипът на OpenAI се е убедил, че подходът на Бъкмастър и Алпьоге е правилният, и е решил да използва превъзходството си по отношение на изчислителните ресурси, за да достигне първи до формално доказателство.

Себастиан Бубек, който ръководи математическите изследвания на OpenAI, заявява, че тези твърдения са „неверни и тенденциозни“.

„За да внеса яснота, аз се включих в дискусията, следвайки академичните норми, и съжалявам, че се стигна дотук“, написа той в публикация след изявлението на Бъкмастър. „Всеки, който ме познава, знае, че академичните стандарти са от най-висока важност за мен.“ Бубек заяви, че скоро ще направи по-пълно изявление.

Спорът се върти около проблема „Съществуване и гладкост на Навие-Стокс“, един от седемте проблема, носещи наградата „Милениум“ — набор от основни нерешени математически проблеми, за всеки от които Институтът по математика „Клей“ предлага награда от 1 милион долара на първия човек или група, представили решение. Уравненията на Навие-Стокс се използват широко в механиката на флуидите, но са слабо разбрани от теоретична гледна точка. Решението би представлявало значителен напредък в колективното разбиране на математическата физика.

Макар че проблемът се изследва активно от математиците, конкретната тактика, избрана от Бъкмастър и неговия сътрудник, е много по-рядко срещана. В резултат на това на Бъкмастър му се сторило подозрително, че OpenAI е възприела същия подход по същото време.

„Пътят към проблема на „Клей“ чрез гладка сила, варианти „c“ и „d“ в постановката на проблема от Феферман, е пътят, който Луис и Диего откриха, и този, който Левент и аз тихо избрахме да атакуваме“, написа Бъкмастър. „Почти никой друг, за когото знам, не работеше по него“, продължи той. „Това не е посока, до която човек стига за няколко дни, като даде на модел постановката на проблема.“

Макар че Алпьоге работи в Anthropic, той не е провеждал това изследване от името на компанията. В резултат на това двамата използвали комбинация от модели, като в работата си разчитали предимно на Codex на OpenAI. Въпреки това принадлежността на Алпьоге към конкурентна лаборатория изглежда е била повод за недоволство в OpenAI, а Бъкмастър твърди, че Бубек го е помолил да премахне заслугата на Алпьоге като част от предложен компромис.

Когато Бъкмастър настоял спорът да стане публичен, по думите му Бубек отговорил: „Защо ще съсипваш кариерата си?“ Бъкмастър казва, че когато възразил, Бубек продължил: „Ако не искаш да бъда любезен, тогава не е нужно да бъда любезен.“

Бъкмастър също така изразил опасения, че тъй като е използвал широко Codex при разработването на проекта, информация от неговата работа може да е повлияла на собствените усилия на OpenAI за решаване на проблема. OpenAI си запазва правото да обучава модели с взаимодействията в Codex, макар че потребителите могат да се откажат от това. Ако екипът на OpenAI е използвал модел, обучен върху собствените взаимодействия на Бъкмастър с Codex, възможно е той да е възпроизвел неговата работа, когато се е сблъскал със сходен проблем.

OpenAI не отговори на молбата за коментар по този въпрос.

Независимо от това, казусът вероятно ще разпали отново продължаващия дебат за ролята на изкуствения интелект в математическите изследвания и за конкретните стимули пред OpenAI. Що се отнася до Бъкмастър, той изглежда смята, че най-добрият отговор е колкото се може повече информация за изследването да стане публично достояние.

„Не съм виждал доказателството на OpenAI“, написа Бъкмастър. „Не знам какво е направил техният модел или как го е направил. Не знам дали са използвани нашите данни. Не обвинявам никого в нищо. Посочвам какво ми беше казано, кога ми беше казано и какво ми беше предложено. Посочвам го, защото алтернативата е да позволя на поредица от съобщения да каже нещо, за което знам, че е невярно.“