Що остання суперечка навколо OpenAI говорить нам про майбутнє математики

Останнє математичне досягнення OpenAI швидко загрузло в суперечках. Сьогодні компанія оголосила, що її агенти розв’язали одну із задач тисячоліття — одних із найважливіших відкритих проблем у математиці. За звичайних обставин таке розв’язання стало б великою заслугою OpenAI. Але оголошення затьмарили звинувачення в тому, що OpenAI використала роботу математика з Нью-Йоркського університету Трістана Бакмастера та співробітника Anthropic Левента Альпьоге, виконану за допомогою ШІ, як відправну точку й не віддала їм належного. OpenAI заперечує ці звинувачення.

Залишається невідомим, чи скористалися моделі OpenAI роботою Бакмастера й Альпьоге, хоча Себастьєн Бюбек, член технічного персоналу OpenAI, під час пресбрифінгу заявив, що команду надихнула чутка про зусилля Бакмастера й Альпьоге, після чого вона вирішила взятися за цю проблему. Але незалежно від того, чи використали моделі OpenAI дослідження Бакмастера й Альпьоге, цей епізод може стати поворотним моментом в історії математики.

Схоже, що моделі ШІ тепер необхідні для досягнення прогресу в найважливіших математичних проблемах нашого часу, а їхнє розв’язання може вимагати ресурсів, доступних лише кільком провідним компаніям у галузі ШІ, які часто нехтують нормами академічної співпраці, що лежать в основі більшості досягнень у математиці. Якщо саме до такого майбутнього ми прямуємо, незрозуміло, яке місце в ньому посідатимуть математики-люди. 

Проблема, яку, за твердженням OpenAI, вдалося розв’язати, відома як проблема існування та гладкості розв’язків рівнянь Нав’є—Стокса. Це одна із семи задач тисячоліття, відібраних Математичним інститутом Клея у 2000 році. За розв’язання передбачено приз у розмірі одного мільйона доларів; до сьогодні було розв’язано лише ще одну задачу тисячоліття. 

Проблема Нав’є—Стокса стосується набору рівнянь, які описують, як рідини, зокрема вода й повітря, рухаються з часом. Ці рівняння широко використовують у галузі гідродинаміки, і вони виявилися потужним інструментом, але фізики та математики не розуміли їх повністю. Зокрема, до сьогодні було невідомо, чи можуть за певних умов рівняння втрачати чинність і передбачати неможливий стан речей — наприклад, нескінченну швидкість рідини.

У понеділок Бакмастер із Нью-Йоркського університету опублікував на соціальній платформі Mastodon доведення, яке показує, що спрощена версія рівнянь Нав’є—Стокса справді може втрачати чинність, — це важливий крок уперед у розв’язанні задачі тисячоліття. Він та Альпьоге працювали над проблемою майже рік, використовуючи загальнодоступні моделі OpenAI й Anthropic. А сьогодні OpenAI представила доведення того, що повні рівняння Нав’є—Стокса також можуть втрачати чинність. Доведення було отримано за допомогою внутрішньої моделі, яка значно перевершує вже вражаючу модель Astra, випущену лише минулого тижня. Компанія заявляє, що не планує претендувати на мільйонний приз за розв’язання задачі.

Ці математичні досягнення безсумнівно вражають, але вони привернули набагато менше уваги, ніж суперечки про їхнє походження. Разом із доведенням Бакмастер опублікував документ, у якому детально описав свої контакти зі співробітниками OpenAI після того, як почув чутки про їхню роботу й звернувся до одного з них. За його словами, співробітники OpenAI запропонували йому два варіанти: або він та Альпьоге опублікують свою роботу, а OpenAI наступного дня опублікує своє розв’язання рівнянь Нав’є—Стокса, або він працюватиме з OpenAI над статтею про Нав’є—Стокса, у якій Альпьоге не буде зазначений як автор через його належність до Anthropic, найбільшого конкурента OpenAI. Бакмастер також написав, що запитав співробітників, чи отримували агенти доступ до стенограм роботи, яку він та Альпьоге виконали з моделями OpenAI, — вони це заперечили; а також чи навчали моделі OpenAI на цих стенограмах — на це вони не відповіли. MIT Technology Review звернувся до Бакмастера по коментар, але до моменту публікації відповіді не отримав.

Очевидний висновок із документа полягає в тому, що моделі OpenAI якимось чином використали роботу Бакмастера й Альпьоге. Такий сценарій на перший погляд видається цілком правдоподібним. У доведенні Бакмастера й Альпьоге та доведенні OpenAI використано підхід до проблеми Нав’є—Стокса, започаткований математиками Дієго Кордобою та Луїсом Мартінесом-Сороа. За словами Хав’єра Гомеса-Серрано, професора математики в Університеті Брауна, цей підхід був одним із кількох, які вважали перспективними для розв’язання проблеми Нав’є—Стокса. Тож хоча аж ніяк не неможливо, що обидві команди незалежно дійшли цього підходу, цілком можливо й те, що робота Бакмастера та Альпьоге вплинула на роботу OpenAI.

Під час пресбрифінгу Марк Чен, головний дослідницький директор OpenAI, знову заперечив, що будь-які агенти або співробітники OpenAI отримували доступ до стенограм Бакмастера й Альпьоге, — але з огляду на те, що стало відомо про злам Hugging Face, очевидно, що OpenAI не завжди повністю усвідомлює, що роблять її агенти. 

Якщо моделі OpenAI навчалися на роботі Бакмастера й Альпьоге або якщо її агенти якимось чином отримали до неї доступ, тоді нездатність компанії встановити правду й належним чином відзначити внесок цих дослідників кидає на неї тінь. Але в такій версії історії для математиків може бути й невеликий позитивний момент, адже вона свідчила б, що наполеглива робота двох людей, один із яких є провідним експертом із рівнянь Нав’є—Стокса, була необхідною для здатності агентів розв’язати задачу тисячоліття. Експерти давно називають «дослідницьке чуття» — здатність обирати перспективні дослідницькі питання та напрями — серйозною перешкодою для ШІ в науці й математиці. Якщо агенти OpenAI справді вирішили дотримуватися підходу Кордоби—Мартінеса-Сороа тому, що Бакмастер і Альпьоге зробили те саме, тоді людське дослідницьке чуття відіграло важливу роль в успіху OpenAI.

Та все ж ширша картина тут невтішна. Прогресу, якого Бакмастер і Альпьоге досягли майже за рік співпраці із загальнодоступними моделями, достатньо, щоб засвідчити перспективність співпраці людей і ШІ. Але їм не вдалося отримати повне розв’язання. Тим часом OpenAI за кілька днів силоміць перебрала всі можливості й отримала розв’язання за допомогою внутрішньої моделі, а успішне розв’язання обійшлося в астрономічну суму: під час пресбрифінгу Бюбек і Чен заявили, що команда змогла розв’язати проблему, лише одночасно запустивши близько 10 000 агентів, що коштувало мільйони доларів.

Протягом останніх кількох місяців я чув від кількох дослідників, що математики впадають у депресію, і зрозуміти чому неважко. Математика швидко стає сферою провідних компаній у галузі ШІ, які мають вражаючі внутрішні моделі, гроші, що їх можна витрачати без обмежень, і брак духу співпраці. «Чи вирішать компанії у сфері ШІ витрачати свої гроші на одне чи інше, я справді не знаю, — каже Гомес-Серрано. — Зрозуміло одне: дуже мало математиків матимуть ресурси такого масштабу».

Якщо OpenAI та Anthropic і далі прагнутимуть здобувати дедалі більш вражаючі математичні досягнення, для математиків-людей за межами цих компаній може не залишитися відкритих проблем, над якими вони могли б працювати. Це докорінно змінило б галузь математики. Минулого тижня математик із Каліфорнійського університету в Лос-Анджелесі Теренс Тао опублікував ланцюжок дописів на Mastodon, у якому описав, наскільки важливими для галузі є помилки, хибні напрями та незавершені розв’язання. «У більшості випадків у чистій математиці проблеми ставлять не тому, що ми відчайдушно хочемо отримати розв’язання саме цих проблем, а тому, що з минулого досвіду ми знаємо: спрямовані людьми спроби розв’язати такі проблеми зазвичай стимулюють подальший розвиток галузі, — написав Тао. — Передчасне розв’язання проблеми суто методами на основі ШІ — особливо без повної прозорості процесу розв’язання — може забруднити цей процес настільки, що зрештою стане чистим мінусом для прогресу математики загалом».

Людям може знадобитися більше часу, ніж агентам, для розв’язання математичних проблем, але в цьому процесі вони відкривають нові математичні підходи та ідеї, які можуть надихнути їхніх колег і навіть започаткувати власні підгалузі. Але коли натомість ці проблеми розв’язують агенти ШІ, а приватні компанії приховують від громадськості хибні кроки агентів, ці переваги зникають. Що ще зникне в цьому процесі, покаже час.