Какво ни казва последният спор около OpenAI за бъдещето на математиката

Последният математически пробив на OpenAI бързо се оказа въвлечен в полемика. Днес компанията обяви, че нейните агенти са решили една от задачите от наградата на хилядолетието — едни от най-важните нерешени проблеми в математиката. При нормални обстоятелства това решение би било голямо постижение за OpenAI. Но съобщението беше засенчено от обвинения, че OpenAI е използвала работата на нюйоркския математик Тристан Бъкмастър и служителя на Anthropic Левент Алпьоге, подпомогната от изкуствен интелект, като отправна точка по проблема, без да им отдаде заслуженото признание. OpenAI отрече обвиненията.

Остава неясно дали моделите на OpenAI са използвали работата, извършена от Бъкмастър и Алпьоге, макар че Себастиен Бюбек, член на техническия екип на OpenAI, заяви на пресконференция, че екипът е бил вдъхновен да се заеме с проблема, след като е чул слух за усилията на Бъкмастър и Алпьоге. Но независимо дали моделите на OpenAI са се възползвали от изследванията на Бъкмастър и Алпьоге, този епизод може да се окаже повратна точка в историята на математиката.

Моделите с изкуствен интелект вече изглеждат незаменими за постигането на напредък по най-важните математически проблеми на нашето време, а решаването им може да изисква ресурси, достъпни единствено за няколко водещи компании за изкуствен интелект, които често пренебрегват нормите на академичното сътрудничество, върху които се основава по-голямата част от математическия напредък. Ако това е бъдещето, към което сме се запътили, не е ясно как човешките математици ще се впишат в него. 

Проблемът, който OpenAI твърди, че е решила, е известен като проблем за съществуването и гладкостта на решенията на Навие–Стокс. Той е една от седемте задачи от наградата на хилядолетието, избрани от Института по математика „Клей“ през 2000 г. За решенията се присъжда награда от един милион долара; преди днес беше решена само още една задача от наградата на хилядолетието. 

Проблемът на Навие–Стокс се отнася до система от уравнения, която описва как флуиди като водата и въздуха се движат във времето. Уравненията се използват широко в областта на динамиката на флуидите и са доказали своята мощ, но физиците и математиците не ги разбираха напълно. По-специално, до днес не беше известно дали при определени условия уравненията могат да се сринат и да предскажат невъзможно състояние — например флуид да има безкрайна скорост.

В понеделник Бъкмастър от Нюйоркския университет публикува доказателство в социалната мрежа Mastodon, показващо, че опростена версия на уравненията на Навие–Стокс наистина може да се срине — важна крачка напред по задачата от хилядолетието. Той и Алпьоге са работили по проблема почти година, използвайки публично достъпни модели както на OpenAI, така и на Anthropic. Днес OpenAI представи доказателство, показващо, че и пълните уравнения на Навие–Стокс могат да се сринат. Доказателството е получено с помощта на вътрешен модел, който значително превъзхожда вече впечатляващия модел Astra, пуснат едва миналата седмица. Компанията заявява, че не планира да претендира за наградата от един милион долара за решаването на проблема.

Тези математически постижения несъмнено са впечатляващи, но привлякоха далеч по-малко внимание от полемиката около техния произход. Заедно с доказателството Бъкмастър публикува документ, в който описва взаимодействията си със служители на OpenAI, след като е чул слухове за тяхната работа и се е свързал с един от тях. По думите му служителите на OpenAI са му представили две възможности: или той и Алпьоге да публикуват работата си, а OpenAI да публикува решението си на проблема на Навие–Стокс на следващия ден, или той да работи с OpenAI по статия за Навие–Стокс, в която Алпьоге да не бъде посочен като автор заради връзката му с Anthropic — най-големия конкурент на OpenAI. Бъкмастър също пише, че е попитал служителите дали агентите са получили достъп до стенограмите на работата, която той и Алпьоге са извършили с моделите на OpenAI, което те отрекли; както и дали моделите на OpenAI са били обучавани върху тези стенограми, на което те не отговорили. MIT Technology Review се свърза с Бъкмастър за коментар, но преди публикуването не получи отговор.

Ясният извод от документа е, че моделите на OpenAI по някакъв начин са използвали работата на Бъкмастър и Алпьоге. Този сценарий изглежда правдоподобен. И доказателствата на Бъкмастър и Алпьоге, и на OpenAI използват подход към проблема на Навие–Стокс, разработен от математиците Диего Кордоба и Луис Мартинес-Сороа. Според Хавиер Гомес-Серано, професор по математика в Университета „Браун“, този подход е бил един от няколкото, смятани за обещаващи за решаването на проблема на Навие–Стокс. Така че, макар да не е никак невъзможно двата екипа да са стигнали независимо един от друг до този подход, възможно е също така работата на Бъкмастър и Алпьоге да е повлияла на OpenAI.

На пресконференцията Марк Чен, главен научен директор на OpenAI, отново отрече агенти или служители на OpenAI да са имали достъп до стенограмите на Бъкмастър и Алпьоге — но предвид разкритото за хакерската атака срещу Hugging Face е ясно, че OpenAI не винаги е напълно наясно какво правят нейните агенти. 

Ако моделите на OpenAI са били обучавани върху работата на Бъкмастър и Алпьоге или ако агентите ѝ по някакъв начин са получили достъп до нея, тогава неспособността на компанията да установи истината и да отдаде заслуженото признание на тези изследователи не говори добре за нея. Но в тази версия на историята може да има и малка утеха за математиците, защото тя би предположила, че усърдната работа на двама души, единият от които е изтъкнат експерт по проблема на Навие–Стокс, е била от съществено значение за способността на агентите да решат задачата от хилядолетието. Експертите отдавна определят „изследователския усет“, или способността да се избират обещаващи изследователски въпроси и направления, като основна пречка пред изкуствения интелект в науката и математиката. Ако агентите на OpenAI действително са избрали да следват подхода на Кордоба–Мартинес-Сороа, защото Бъкмастър и Алпьоге са направили същото, тогава човешкият изследователски усет е изиграл съществена роля за успеха на OpenAI.

Въпреки това по-голямата картина тук е отрезвяваща. Напредъкът, постигнат от Бъкмастър и Алпьоге за почти една година сътрудничество с публично достъпни модели, говори за потенциала на сътрудничеството между хора и изкуствен интелект. Но те не са успели да постигнат пълно решение. Междувременно OpenAI е изчислила решение с груба сила за няколко дни, използвайки вътрешен модел, а успешното ѝ решение е било постигнато на астрономическа цена: на пресконференцията Бюбек и Чен заявиха, че екипът е успял да реши проблема едва след като е стартирал около 10 000 агента едновременно, на стойност милиони долари.

През последните няколко месеца чух от няколко изследователи, че математиците изпадат в депресия, и не е трудно да се разбере защо. Математиката бързо се превръща в сфера на водещите компании за изкуствен интелект с впечатляващи вътрешни модели, огромни средства за харчене и липса на дух на сътрудничество. „Дали компаниите за изкуствен интелект ще решат да харчат парите си за едно или друго, наистина не знам“, казва Гомес-Серано. „Ясно е, че много малко математици ще разполагат с ресурси от такъв мащаб.“

Ако OpenAI и Anthropic продължат да се стремят към все по-впечатляващи математически постижения, може да не останат нерешени проблеми, с които човешките математици извън тези компании да се занимават. Това би променило драстично областта на математиката. Миналата седмица математикът от UCLA Терънс Тао публикува нишка в Mastodon, описваща колко важни са грешките, погрешните направления и незавършените решения за областта. „В повечето случаи в чистата математика проблемите се поставят не защото отчаяно искаме решенията им сами по себе си, а защото от миналия опит знаем, че насочените от хората усилия за решаването им обикновено стимулират по-нататъшното развитие на областта“, пише Тао. „Преждевременното решаване на проблема чрез методи, основани изцяло на изкуствен интелект — особено без пълна прозрачност на процеса на решаване — може да замърси този процес до степен, при която той всъщност да се превърне в нетен негатив за напредъка на математиката като цяло.“

На хората може да им е необходимо повече време от агентите, за да решават математически проблеми, но в процеса те откриват нови математически подходи и идеи, които могат да вдъхновят колегите им и дори да дадат начало на собствени подобласти. Но когато вместо тях тези проблеми бъдат решени от агенти с изкуствен интелект — и когато частните компании държат погрешните стъпки на агентите далеч от публичното пространство — тези ползи изчезват. Остава да видим какво друго ще изчезне в този процес.