OpenAI заявила, що її внутрішня модель розв’язала понад 100 давно нерозв’язаних математичних задач лише за місяць навчання

На тлі дедалі гострішої критики з боку математиків OpenAI створює незалежну консультативну групу провідних дослідників у цій галузі. Але спочатку компанія вирішила повідомити всім, що нова внутрішня модель розв’язала понад 100 давніх математичних задач лише за місяць навчання.

OpenAI заявляє, що нова внутрішня модель розв’язала понад 100 давніх задач у більшості галузей математики — на додачу до задачі тисячоліття Нав’є—Стокса. Компанія оприлюднила цю заяву, оголошуючи про створення нової консультативної групи з математики.

За даними OpenAI, навчання розпочалося лише 28 серпня, тож увесь процес тривав близько місяця. Навіть власні математики компанії були «здивовані» швидкістю розвитку подій, а внутрішні розмови змістилися до питання, як надати академічній спільноті достатнє попередження, щоб вона могла підготуватися. Серед розв’язаних задач, імовірно, є друга задача тисячоліття — гіпотеза Годжа.

Які саме задачі розв’язала модель, як вона це зробила і що ці результати означають для математики та науки — питання, що залишаються відкритими. Опубліковане розв’язання задачі Нав’є—Стокса вже спричинило гострі суперечки в частині наукової спільноти.

Усе це схоже на зміну курсу. Головний науковий директор Якуб Пахоцький нещодавно заявив, що команда навмисно не оптимізувала модель для математики, а зосередилася натомість на рекурсивному самовдосконаленні. Скептики можуть сприйняти розголос навколо розв’язання відомих математичних задач як спробу утримати інвесторів і залучити нових, особливо з огляду на те, що OpenAI визнала: вона взялася за задачу тисячоліття лише після чуток про те, що інша команда, до складу якої частково входили дослідники Anthropic, уже її розв’язала.

Розв’язання задач — не те саме, що їх розуміння

Заява OpenAI є прямою відповіддю на критику математиків. У відкритому листі «Серйозна невідповідність ШІ в математиці» вони застерігають від оцінювання ефективності ШІ за кількістю відкритих задач, які він може розв’язати. На їхню думку, продукування розв’язань підриває концептуальне розуміння, що є самою суттю математики, і зрештою загрожує людському інтелекту.

OpenAI заявляє, що тепер співпрацює з математиками, які створили Консультативну групу з математики та штучного інтелекту при Інституті перспективних досліджень. Група має налагодити зв’язок між компанією, математичною спільнотою та широкою громадськістю.

Компанія стверджує, що потребує таких рекомендацій, оскільки математичні прориви можуть мати далекосяжне практичне застосування, а отже, відповідальна розробка є питанням, що виходить далеко за межі самої галузі. OpenAI називає цю співпрацю «першим кроком», попереду на неї чекає чимало « складних питань щодо того, як ШІ може підтримувати математичне розуміння і як переваги цих можливостей можуть дійти до ширшої спільноти».

OpenAI зберігає контроль над темпами досліджень

OpenAI заявляє, що група працюватиме незалежно. Її члени можуть надавати поради без відповідного запиту, публічно висловлюватися щодо впливу компанії на математику та публікувати свої рекомендації. OpenAI їм не платить, а вони самі можуть вирішувати, хто приєднається до групи.

Однак група не має права контролювати швидкість, із якою діє OpenAI. «Важливо, що група не відповідатиме за надання нам рекомендацій щодо темпів нашого внутрішнього математичного прогресу», — пише компанія. Група може впливати на те, як поширюються результати, але не на те, чи будуть вони отримані і як швидко.

Ґоверс приєднався до групи, але не підписав листа

Одним із членів-засновників групи є Тімоті Ґоверс, відомий математик і лауреат Філдсівської премії. Він не підписав відкритого листа 25 лауреатів Філдсівської премії та виклав свої міркування у своєму блозі.

Ґоверс погоджується з багатьма положеннями листа і вважає, що математика переживає кризу. Розбіжність між ними полягає в тому, для чого насправді потрібна математика. У листі концептуальне розуміння розглядається як головна мета, а розв’язання задач — лише як засіб її досягнення. Ґоверс бачить спектр підходів: «На одному його кінці — математики, яких передусім мотивує бажання розв’язувати задачі і які вважають концептуальне розуміння дуже важливим засобом досягнення цієї мети. На іншому — математики, яких передусім мотивує бажання здобути концептуальне розуміння і які вважають розв’язання задач дуже важливим засобом для досягнення цієї мети».

За словами Ґоверса, його власний дослідницький проєкт із автоматизованого доведення теорем у Кембриджі втратив сенс після того, як великі мовні моделі (LLM) стали достатньо ефективними. «Іншими словами, нам довелося змиритися з гірким уроком (про який, звісно, ми завжди знали як про цілком можливий сценарій, навіть якщо швидкість, із якою це сталося, застала нас зненацька)».

Справжній ризик полягає в тому, що ніхто не захоче ставати математиком

Найбільше Ґоверса непокоїть те, що соціальні структури, які утримують математичні знання воєдино, можуть зруйнуватися, каже він. Люди, які раніше могли здобути ступінь Ph.D. і стати «хранителями математичної традиції», просто вирішать, що це більше не варте зусиль.

«Якщо говорити особисто про мене, головною мотивацією стати математиком була мрія розв’язати нерозв’язані задачі — що відоміші, то краще». Якщо забрати цю мрію, незрозуміло, що може заповнити утворену прогалину.

Є також питання фінансування. Політики можуть поглянути на математику на основі ШІ й вирішити, що математики-люди стали непотрібними. «Нам терміново потрібно знайти переконливі способи пояснити цінність великої спільноти математиків-людей, навіть якщо пошук нових доведень теорем більше не входитиме до їхніх обов’язків», — пише Ґоверс.

Він також не підписав листа, оскільки не зміг зрозуміти, чого саме він вимагав, чого вже не відбувається. На його думку, LLM, здатні розв’язувати значні математичні задачі, стануть загальнодоступними протягом кількох місяців. «Тож я вирішив, що критика компаній, які займаються ШІ, за надто швидке створення надто великої кількості розв’язань не принесе жодної користі».

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб отримати читання без реклами, щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.