OpenAI заяви, че вътрешният ѝ модел е решил над 100 нерешени отдавна математически задачи само след месец обучение

Изправена пред засилваща се критика от страна на математиците, OpenAI създава независима консултативна група от водещи изследователи в тази област. Но преди това компанията се погрижи всички да разберат, че нов вътрешен модел е решил повече от 100 дългогодишни математически проблема само след месец обучение.

OpenAI твърди, че нов вътрешен модел е решил повече от 100 дългогодишни проблема в повечето области на математиката, в допълнение към задачата за хилядолетната награда „Навие-Стокс“. Компанията отправи това твърдение при обявяването на новата консултативна група по математика.

Според OpenAI обучението е започнало едва на 28 август, което прави целия процес приблизително едномесечен. Дори собствените математици на компанията са били „изненадани“ от скоростта на развитие и вътрешните разговори са се насочили към това как на академичната общност да бъде дадено достатъчно предупреждение, за да се подготви. Сред решените проблеми според сведенията е втора задача за хилядолетната награда — хипотезата на Ходж.

Кои проблеми действително е решил моделът, как ги е решил и какво означават резултатите за математиката и науката остават открити въпроси. Публикуваното решение на задачата на Навие-Стокс вече предизвика разгорещен дебат в части от научната общност.

Всичко това изглежда като промяна на курса. Главният научен директор Якуб Пачоцки неотдавна заяви, че екипът умишлено е избрал да не оптимизира модела за математика и вместо това се е съсредоточил върху рекурсивното самоусъвършенстване. Скептиците могат да възприемат публичността около решаването на известни математически проблеми като опит да се задържат настоящите инвеститори и да се привлекат нови, особено след като OpenAI призна, че се е заела с задачата за хилядолетната награда едва след като е чула слухове, че друг екип, частично съставен от изследователи на Anthropic, вече я е решил.

Решаването на проблеми не е същото като разбирането им

Съобщението на OpenAI е пряк отговор на критиките от страна на математиците. В отвореното писмо „Сериозно разминаване на изкуствения интелект с математиката“ те предупреждават да не се измерва представянето на изкуствения интелект според броя на нерешените проблеми, които може да реши. Според тях механичното създаване на решения подкопава концептуалното разбиране — истинската цел на математиката — и в крайна сметка застрашава човешкия интелект.

OpenAI заявява, че вече работи с математици, които са създали Консултативната група по математика и изкуствен интелект, базирана в Института за перспективни изследвания. Целта на групата е да свърже компанията с математическата общност и широката общественост.

Компанията твърди, че се нуждае от подобни насоки, тъй като пробивите в математиката могат да имат широк спектър от практически приложения, което превръща отговорното развитие в проблем, надхвърлящ далеч самата област. OpenAI нарича сътрудничеството „първа стъпка“, като предстоят множество „трудни въпроси относно това как изкуственият интелект може да подпомогне математическото разбиране и как ползите от тези възможности могат да достигнат до по-широката общност“.

OpenAI запазва контрола върху темпото на изследванията

OpenAI заявява, че групата ще функционира независимо. Членовете могат да дават съвети без да бъдат питани, да говорят публично за влиянието на компанията върху математиката и да публикуват своите препоръки. OpenAI не им плаща и те могат да решават кой да се присъедини към групата.

Групата обаче няма право да контролира колко бързо се движи OpenAI. „Важно е да се отбележи, че групата няма да отговаря за консултирането ни относно темпото на вътрешния ни напредък в математиката“, пише компанията. Групата има думата по отношение на начина, по който се споделят резултатите, но не и относно това дали и колко бързо се създават.

Гауърс се присъединява към групата, но няма да подпише писмото

Един от основателите на групата е Тимъти Гауърс, изтъкнат математик и носител на медала „Фийлдс“. Той не е подписал отвореното писмо на 25-имата носители на медала „Фийлдс“ и изложи мотивите си в своя блог.

Гауърс е съгласен с голяма част от писмото и смята, че математиката е в затруднено положение. Разминаването му с авторите е по въпроса за истинското предназначение на математиката. Писмото разглежда концептуалното разбиране като основна цел, а решаването на проблеми — просто като средство за достигането ѝ. Гауърс вижда спектър: „В единия край на спектъра са математиците, които са мотивирани предимно от желанието да решават проблеми и за които концептуалното разбиране е много важно средство за постигането на тази цел. В другия край са математиците, които са мотивирани предимно от желанието да постигнат концептуално разбиране и за които решаването на проблеми е много важно средство за постигането ѝ.“

Собственият изследователски проект на Гауърс в Кеймбридж върху автоматизираното доказване на теореми е загубил смисъла на съществуването си, след като големите езикови модели (LLM) са станали достатъчно добри, казва той. „Казано по друг начин, трябваше да преглътнем горчивия урок (който, разбира се, винаги сме знаели, че е напълно възможен, дори скоростта, с която се случи, да ни е изненадала).“

Истинският риск е никой да не иска да стане математик

Най-много тревожи Гауърс възможността социалните структури, които поддържат математическото познание, да се разпаднат, казва той. Хората, които някога биха следвали докторантура и станали „пазители на математическата традиция“, може просто да решат, че това вече не си струва.

„Говорейки от свое име, основната ми мотивация да стана математик беше мечтата, че ще решавам нерешени проблеми — колкото по-известни, толкова по-добре.“ Ако тази мечта бъде отнета, не е ясно какво ще запълни празнината.

Съществува и въпросът за финансирането. Политиците могат да погледнат на математиката, задвижвана от изкуствен интелект, и да решат, че човешките математици са излишни. „Спешно трябва да измислим добри начини да обясним стойността на това да разполагаме с голям набор от човешки математически експерти, дори ако намирането на нови доказателства на теореми вече не е част от ролята им“, пише Гауърс.

Той не е подписал писмото и защото не е могъл да разбере какво точно се иска в него, което вече да не се случва. Според него до няколко месеца публично ще бъдат достъпни LLM, способни да се справят с големи математически проблеми. „Затова почувствах, че няма да спечелим нищо, ако критикуваме компаниите за изкуствен интелект, че генерират твърде много решения твърде бързо.“

Новини за изкуствения интелект без сензация – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за изкуствения интелект, нашия ексклузивен годишен доклад за водещите разработки „AI Radar“, публикуван шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.