Добре дошли в кризата на изкуствения интелект в математиката

Днес в Decoder разговарям с Робърт Харт, базирания в Лондон репортер на The Verge, отразяващ изкуствения интелект, за това какво причинява ИИ в областта на математиката и за екзистенциалната криза, която много водещи математици преживяват заради него.

OpenAI току-що публикува набор от решения на отдавна нерешени математически проблеми, които предизвикаха истински трус в областта. Това доведе до огромен дебат в математическата общност, а Роб прекара известно време в разговори с някои от най-изтъкнатите математици на нашето време за случващото се. 

Забавно е, че системите с ИИ все още са доста слаби в елементарната аритметика от началното училище, но стават все по-добри в изключително сложната абстрактна математика. Това повдига големи въпроси пред областта на висшата математика. 

Ако ИИ може да решава математика на такова ниво, означава ли това, че лабораториите за ИИ могат да прехвърлят тези умения към други области? Какъв е смисълът от академичните грантове и университетските програми, които обучават нови поколения човешки математици да откриват нови проблеми, докато се опитват да решат съществуващите, ако водещите модели просто отговорят на всички нерешени въпроси?

Ами ако цялото това внимание към математиката е просто голям маркетингов ход на лабораториите за водещи модели на ИИ, на които изобщо не им пука какво ще се случи с една от най-старите и фундаментални академични дисциплини?

Тук има много теми, а Робърт е разговарял с много хора, които имат множество мнения по всички тях.

Добре: репортерът на Verge за ИИ Робърт Харт за това какво прави ИИ с математиката. Да започваме.

Това интервю е леко редактирано за дължина и яснота. 

Робърт Харт, ти си нашият базиран в Лондон репортер за ИИ в The Verge. Добре дошъл в Decoder.

Благодаря, че ме поканихте.

Много се вълнувам, че ще разговаряме. В частност около ИИ и математиката се случват много неща, в които ти наскоро се задълбочи. Разговарял си с много водещи математици за кризата в математиката, породена от ИИ.

Изглежда като много, но също и като нещо, за което има още страшно много да научим и открием относно взаимодействието между тези две неща. Пълна екзистенциална криза, тоест чиста стръв за Decoder. Разкажи ни най-общо какво се случва.

Мисля, че „много“ го обобщава доста добре. По същество става дума за известна екзистенциална криза около въпросите: „Какво е математиката? Какво правят математиците и каква ще бъде ролята на математиците занапред?“

Голяма част от това беше предизвикана от рязък преход в способностите на ИИ, който се разгърна през последните шест месеца до една година. ИИ премина от много слаб до привидно наистина доста добър на професионално ниво за изключително кратко време. Това е много от онова, с което други области се борят през последните пет години, но в силно концентриран период.

Бих поставил това редом до софтуерното инженерство. От известно време живеем през кризата с ИИ в софтуерното инженерство. Но дори през 2024 г., а и миналата година, общоприетото мнение беше, че моделите с ИИ са особено слаби по математика. Известният пример е, че тези модели не можеха да преброят броя на буквите R в думата strawberry. Дори самото броене им убягваше.

Какво се случи, за да станат по-добри по математика? Все още ли са слаби в общата аритметика, но добри във висшата математика, или истината е някъде по средата?

Все още са наистина, наистина ужасни в някои области на математиката. Проверих — вече могат да се справят със strawberry. Мисля, че някой го е поправил.

Мисля, че strawberry е кодирано предварително. Искам да съм напълно ясен: конспиративната ми теория е, че нещото със strawberry е предварително кодирано във всички модели.

И аз така мисля. В тази конспирация съм готов да повярвам.

Но да, все още са ужасни в такива неща — математика, аритметика, дори дните от седмицата. Онзи ден приятелят ми каза: „То постоянно си мисли, че е сряда. А не е сряда.“ Или пък времето. Преди няколко месеца Елиса Уеле от нашия екип писа, че ChatGPT не може да разбира часа. И още не може. Но това не е всичко в математиката.

Има някакво разминаване. За да си добър по математика, трябва да можеш да броиш, да събираш или да умножаваш. Голяма част от нея всъщност е разсъждение. Ако погледнете академични математически статии, често няма да видите числа — мисля, че това обобщава нещата. Така че моделите все още са ужасни, но вече са много добри и в тази друга част.

Що се отнася до причината, в даден момент достигате критична маса от това, което тези системи могат да правят. Видяхме го при писането, видяхме го при програмирането. Те са много добри в изграждането на връзки между различни области, в прилагането на стари методи по нови начини и в подобни неща. Изглежда, че по-новите модели, които обучават, са достигнали нивото, при което нещо щраква — и вече могат да правят математика.

Важно е също да кажем, че говорим за математиката като за единна дисциплина, особено когато я гледаме отвън. Но представете си, например, биологията. Тя обхваща всичко — от буквалното наблюдение на животни и описването на поведението им до клетъчните механизми и биохимията. Математиката също не е единна дисциплина. ИИ е много добър в някои нейни части. В други, например броенето, все още е много слаб.

Дори на по-абстрактните нива математиците посочват топологията като област, в която ИИ очевидно все още е доста слаб. Честно казано, не мога да потвърдя това. То е извън сферата на експертизата ми. Във всеки случай картината е смесена.

Определи математиката като огромна област, очевидно с безброй академични направления и интереси. В някои части моделите са станали доста добри. В други, може би в основните неща, които хората свързват с математиката — простото броене — те все още изпитват затруднения, а между тях има широк спектър.

Именно в широкия спектър по средата ли е екзистенциалната криза, защото хората не знаят какво ще се случи? Или тя е в частите, в които ИИ е наистина добър?

И в двете, което според мен ще бъде повтаряща се тема в този разговор. Никой всъщност не се страхува ИИ да бъде посредствен математик, но очевидно огромна част от работата в тази област е свързана с изследователските елементи и границата на познанието. Какво може да прави? Вече има области, в които изглежда, че произвежда работа на нивото на добри математици, наред с други части, в които не може да брои.

Всичко това е свързано с въпроса дали ще бъдат променени структурите на заетостта или финансирането. Повдигна и мъглявия въпрос: какво е математическо знание? А също и какви роли ще изпълняват тези работници. Всичко това е опаковано в едно.

Мисля, че това до голяма степен съвпада с възхода на ИИ във всяка област. Когато просто можеш да добавиш мощ или изчислителен ресурс към даден проблем и има някаква проверимост, моделите продължават да стават по-добри. Във всичко по средата, където може да са нужни знания за света или реална интелигентност за самия свят, те сякаш изпитват затруднения.

Тези части от математиката, поне според описаното в твоя материал и според това, за което говорят лабораториите, изглеждат почти изцяло самостоятелни теоретични проблеми. Там моделите могат да създадат доказателство или да решат проблем, който никой не е успявал да реши, а след това да проверят дали то е валидно и просто да го изпълняват отново и отново.

Това ни води, струва ми се, до май тази година, когато вътрешен модел на OpenAI, който всъщност не сме виждали, опроверга хипотезата за единичното разстояние — проблем на 80 години. А съвсем наскоро чухме за Astra от OpenAI. Astra е случаят, в който изглеждаше, че превключвателят е щракнал и всички решиха, че това е екзистенциална криза.

Какво постигна Astra и защо това е толкова важно?

Също съм почти сигурен, че Astra вероятно стои и зад по-ранния резултат. OpenAI просто го представи като неназован вътрешен модел. Вероятно е Astra. Не ми отговориха, когато попитах.

Преди няколко седмици OpenAI публикува блог публикация, придружена от много документация, доказваща твърденията — мисля, че няколкостотин страници. Те я нарекоха „10 постижения в математиката и теоретичната компютърна наука“. По същество това беше набор от области, в които според тях най-новият модел Astra е постигнал решения до известна степен. Мисля, че една от тях беше квантовата теория на игрите, която не знам как дори да започна да обяснявам. Още по-трудна за обяснение е задачата за опаковането на сфери във високи измерения — повече от три — а имаше и множество други различни дисциплини.

Това предизвика голямо вълнение в общността. Беше истински трус. Както казахме, вече бяха настъпили отделни пробиви, но OpenAI представи 10 наведнъж, при това доста значими. Изследователи ми казаха, че ако човек беше решил тези проблеми, щяхме да сме впечатлени. Ако човек беше решил и десетте, вероятно нямаше да повярваме.

Това са проблеми, от които математиците действително се интересуват — важен момент. За много предишни пробиви се твърдеше, че са в области, които математиците не са смятали за особено важни. Тези обаче са проблеми, чието решаване е занимавало добри математици дълго време, без те да успеят.

Нека поговорим за тези 10 резултата. Ти ги описа в материала си. OpenAI наистина предостави документация. Но не всички са получени изцяло от нищото благодарение на изчислителната мощ, нали?

Те се основават на предишна работа. Има известен въпрос за авторството. Каква беше реакцията? „О, моделите направиха това“? Или реакцията, която виждаме към толкова много разработки с ИИ, по същество: „Вие сте откраднали това, не сте посочили никого и сте се изкачили на раменете на гиганти, без да го споменете.“ Как беше прието това?

Като цяло реакцията на хората, с които разговарях, беше на силно впечатление. Както казах, това са проблеми, които математиците смятат за важни. Един от тях привлече особено внимание заради начина, по който беше посочен приносът, както и заради начина, по който всичко беше обявено в публикацията в блога. Първоначално OpenAI каза, че става дума за 10 проблема, по които не е имало никакъв напредък през последните 10 години. А ако действително прочетете статиите, в една от тях съвсем ясно се казва: „Ние надграждаме върху напредъка на тези двама изследователи.“

По-късно това беше тихомълком променено. Но няколко от изследователите, с които разговарях, останаха доста невпечатлени и смятаха, че има елемент на: „Да, не сте посочили нещо, което сте използвали сериозно тук, при това по собственото ви признание.“ Един от изследователите, с които разговарях, беше сред назованите и също беше донякъде двусмислен по отношение на цялата история, така че реакциите наистина бяха разнопосочни.

Общото впечатление беше, че резултатът е доста впечатляващ. Това бяха реални пробиви, които вълнуват хората, и те придвижиха областта напред по начин, който, ако беше дело на човешки математик, щеше да е значителен. Няколко изследователи дори казаха: „Ако някой изследовател беше решил който и да е от тези проблеми, вероятно щеше да си осигури академична кариера.“

Забавно е — кредитът и посочването на авторството в академичните среди са всичко. А изглежда, че компаниите за ИИ се измъкват с небрежност по начин, по който никой човек не би могъл.

Мащабът на откритието или работата компенсира ли небрежността? Ако човек беше постигнал същите цели и беше проявил същата небрежност, реакцията щеше ли да бъде същата?

Част от мен винаги иска да се вкопчи в елемента „О, това изглежда като плагиатство“. Но ако действително прочетете статиите, които са публикували — а един от изследователите, с които говорих, каза, че вероятно около 50 души в света ще си направят труда да ги прочетат задълбочено — става съвсем ясно, че няма опит за плагиатство. Честно казано, мисля, че просто са направили лошо прессъобщение.

И колкото и да обичам понякога да ги критикувам за това, след като повече от десетилетие съм отразявал науката, знам, че прессъобщенията често преувеличават направеното откритие, неговото значение и новаторския му характер. Мисля, че и тук се случи същото.

Изглежда ли това повторяемо? Има доказателства, които предоставиха, че са решили 10 нерешими проблема. Предоставят ли доказателства, че могат да решат още 10?

Това е въпросът. Голямата неизвестна сред почти дузината хора, с които разговарях за материала, беше: „Колко проблема са опитали да решат, за да стигнат до тези 10?“ Кой знае? Те знаят, но няма да кажат.

Но именно това е големият въпрос. Не е ясно колко опита са били нужни, за да се стигне до тези 10. Ще бъда много впечатлен, ако това е било първото, с което са се захванали, и оттам са излезли тези 10 впечатляващи резултата.

Не е ясно върху кои области ще се съсредоточат следващия път и защо. Предполагам, че зад избора на проблеми, чието решаване моделите им могат да демонстрират публично, стоят бизнес причини. Всички лаборатории за ИИ тайно наемат групи от старши математици, така че само можем да гадаем дали ще го направят отново.

Що се отнася до доказателствата, математиката е малко странна дисциплина, защото повторяемостта не е същата като в експерименталните науки. Доказателството е доказателство и ако работи, значи работи. Проблемът тук е дали хората могат да проследят направеното. Всяка област е силно специализирана, така че отделни математици, работещи в тези области, ще прегледат резултатите. Тези, с които разговарях, и които работят в някои от разгледаните направления, казаха, че всичко изглежда напълно легитимно.

В математиката има език за програмиране и изчислително доказване, наречен Lean, чрез който математическите доказателства могат да бъдат формализирани и изпълнени — и той доказва твърдението. Тук постоянно казвам „доказва“. Но системата проверява строгостта и допусканията на всичко, което се случва, а те са публикували и това. Така че изглежда, че резултатите издържат проверката. Макар да се твърди, че прессъобщението и цялата история са изпълнени с рекламна шумотевица, никой от хората, с които съм разговарял, не поставя под съмнение съществените пробиви, за които OpenAI твърди.

Искам да остана още за момент на тази тема. Има математическо доказателство. Създадохме доказателство и то, както казваш, е повторяемо по начин, по който математиката е просто логика. Можеш да преминеш през стъпките и да кажеш: „Това доказателство работи“, а всеки, който е трябвало да пише доказателство по смятане в гимназията, вероятно помни този процес. В него има нещо, което е чиста логика.

След това има софтуерен код, както обясняваш с Lean, където можеш да вземеш чистата логика, да я изразиш в код и да го изпълниш, за да видиш дали работи. Разбирам как ИИ теоретично е добър във всичко това. Просто ще изпълниш разсъждението, а то ще генерира код. Ще изпълниш кода и ще получиш проверимост. Видяхме как това се развива в софтуерното инженерство — кодът или работи, или не, той е проверим или не, а моделите просто могат да разсъждават върху него.

Но за мен остава големият въпрос, към който намекна. Колко пъти трябва да изпълниш всичко това? Можем ли да проверим, че моделите са направили това, а не са били насочвани от човешки математици, наети от лабораториите срещу високи възнаграждения, по начин, който подсказва, че областта се преобръща с главата надолу?

Имаш цитат от Джеймс Мейнард, носител на медала „Фийлдс“, най-високото отличие в математиката, който казва, че е подлагал всичко на дълбоко преосмисляне. Постоянно се връщам към този цитат. Имаш сходни цитати и от всички останали математици в материала, а изглежда, че те преосмислят всичко заради нещо, което — доста иронично — не могат да проверят: „Как моделите направиха това и мащабируемо ли е по начин, който застрашава математиката?“ Какво знаем за начина, по който моделите са направили това?

Бих казал, че знаем толкова, колкото обикновено знаем и не знаем за тези системи. Тук има няколко проблема. Единият е естеството на моделите. Това е непубликуван модел, така че успех на всеки, който иска да го тества независимо. Същото важи за всичко, което е частна собственост. Въпреки това съм склонен почти да им дам кредит на доверие, че по някакъв начин не лъжат за моделите, които използват.

Що се отнася до другата част, може би по-важният въпрос е как сме подканили модела или как е бил насочван. Дали това е било направено от математик, който знае какво прави? Според много математици, с които съм разговарял и които са опитвали да използват тези системи, това вероятно е ключов фактор. Често става дума за потребителски модели, но все пак това говори за по-широката картина.

Те казват, че ако знаеш какво правиш и можеш да посочваш грешките, моделът е добър. Или можеш да го използваш като инструмент по желания от теб начин — нещо, което не би могъл да правиш, ако не знаеш как да проверяваш фактите. Случвало ми се е ChatGPT да прави елементарна сума и да му кажа: „Това число не е вярно.“ То отговаря: „О, извинявай. Прав сте, резултатът е този“, а той отново е грешен. Но такава проверка е необходима и на това ниво.

Това насочва към по-широк проблем. Както каза, става дума за почти екзистенциално преосмисляне: „Ами ако можем да автоматизираме това и стигнем до момент, в който не го разбираме?“ И това води до по-дълбокия въпрос: „Какво е математиката? Защо я правим? Защо я ценим като област?“

Всеки ще има различни отговори. Но страхът на много от хората, с които разговарях, беше, че математиката може да излезе извън сферата на човешкия интерес — и тогава може би просто няма да се занимаваме с нея. Или ще бъде нещо, с което ще продължат да се занимават заинтересованите хора, а останалите ще продължат както досега.

Имаш цитат от изследовател в Цюрих на име Йоханес Шмит, който казва: „Може би се насочваме към ситуация, в която математическите проблеми ще бъдат ‘окосени’ от ИИ, но всъщност няма да движим областта напред, защото хората ще бъдат извадени от процеса и няма нито да проверяват, нито да разбират резултатите, нито да знаят какви могат да бъдат бъдещите пробиви.“ Колко вероятно ти се струва това? Голямо ли е опасението?

Има елемент на „окосване“ на проблемите. Особено на онези, които служат като тренировъчно поле за младите математици, които тепърва навлизат в професията. Но също така мисля, че идеята, че математиката е решаване на проблеми, до голяма степен е гледната точка на външен човек към математическата дейност.

Така че много от математиците, с които разговарях, смятаха, че самото отбелязване на решени задачи е най-малко интересната и ценна част от областта. Ценните за тях неща не са: „О, решил си нещо или си доказал нещо.“ Важното е какво следва от това.

Мисля, че именно Джеймс Мейнард каза, че най-интересните открития в областта не са самото решаване на нещо, а това, което се развива след него. Понякога тези решения откриват цели нови изследователски области, за които никой не е предполагал, че са възможни, или показват: „О, това е нов инструмент, който можеш да прилагаш навсякъде по забавни и вълнуващи начини.“

Ако погледнем популяризирането на математиката — дори теоремите, за които си мисля, че хората са чували — това са въпросите, които остават, а не решенията. Винаги става дума за Последната теорема на Ферма, а не: „Ето решението на каквото там е предложил последният човек.“

Опасението тук е, че ИИ ще отметне всички тези въпроси. Обикновено в процеса човек би се надявал те да се разклонят в нови вълнуващи области или да породят нови въпроси. Но ИИ няма да направи това — и именно това е тревогата. Тогава областта може да остане стерилна: ще има много решени проблеми, но може би нищо, което да остане за изследване.

Общото мнение беше, че още не знаем. Твърде рано е да се каже. Дори при човешките математици е нужно много време, за да се осъзнае въздействието на подобни неща. Както казах, всичко се разви главоломно през последните шест месеца до една година, а математиката не е бързо развиваща се дисциплина дори при най-добрите обстоятелства. Така че е твърде рано да се каже дали това ще бъде проблем. Но е проблем — и то голям.

Имаш и друг цитат от Мейнард: „Ако стандартът за публикуваема математическа статия е нещо, което ИИ не може да направи, особено когато докторантурата обикновено продължава четири години, предизвикателството е, че не се опитваш да измислиш проблем, който ИИ не може да реши сега, а проблем, който ИИ няма да може да реши след четири години.“

Така че това наистина е свързано със скоростта, с която моделите се подобряват — тя, както казваш, особено в математиката, изглежда нараства, но не с равномерни темпове във всички математически области.

Именно това изглежда причинява преосмислянето. Ако си студент и започнеш днес, избереш някаква малко известна област, в която ИИ може би не е добър, а по средата на докторантурата или изследването ти ИИ просто реши проблема и всичко приключи, това е реален проблем за теб.

Областта реагира ли вече на това, или все още са в шока от типа: „О, моделите започват да правят неща, на които не сме смятали, че са способни“?

Да, мисля, че наистина са в шок. Държа си малък бележник, в който записвам общите си впечатления след интервюта, и съм написал „посттравматичен шок“. Това далеч не е всеобщо усещане, но изглежда, че всичко се случи толкова бързо, че много хора бяха изненадани. Дори да са знаели теоретично, че това предстои.

Те са виждали всички тези стартъпи за математически ИИ. Виждали са колеги, които преминават към други лаборатории или области на работа. Но всичко се случи много, много бързо. Така че им остана твърде малко време да го осмислят. Въпросът дори не е непременно в областите, в които ИИ може да бъде добър, а по-скоро: „Какво изобщо може да прави?“

Но не мога да си представя какво би било, ако нещо подобно се беше появило, докато учех, и буквално за половин година беше преобърнало границите на възможното. При това през лятото. Така че студентите може да се върнат след ваканцията към напълно различна дисциплина.

Има известен скептицизъм. Гари Маркъс е последователен скептик по отношение на ИИ и многократно е посочвал, че виждаме как ИИ постига нещо в една област, а след това това се използва, за да се обобщят способностите му във всички области.

Тук има добър цитат от Маркъс: „Както научихме преди десетилетие от хаотичния и в крайна сметка неуспешен опит на ИИ да превърне спечелилия „Jeopardy!“ Watson в машина за борба с рака, успехът в една област не гарантира успех във всички.“

Аз мога да прочета това по два начина. Първият е: „ИИ е решил математиката“, което не е вярно, както посочи по няколко начина, включително факта, че все още е слаб в броенето. Следва: „ИИ е решил математиката и това задължително означава, че ще се насочи към всичко останало.“ Ще се насочи към физиката, правото, към всичко, което можете да посочите. Ако има някаква проверимост, ИИ може да го реши, защото просто изпълнява процеса отново и отново.

Разбирам и двете страни на този аргумент. Очевидно успехът в една област не гарантира успех във всяка друга. Но траекторията на ИИ е да добавя все нови области. Ако има проверимост, по-вероятно е той да свърже тези области, отколкото да не го направи. Как го виждаш ти?

Не съм напълно сигурен, че хората, които Маркъс критикува тук, действително са казали точно това, което той твърди. Има много какво да се каже за рекламната шумотевица. Но да — успехът в една област дори не означава успех в цялата тази област, камо ли в други области.

Въпреки това през последните няколко години има безспорна тенденция към разширяване и увеличаване на способностите. Не е необходимо да сте част от лагера на AGI, за да признаете това и да признаете, че то ще има последствия.

Мисля, че в статията цитирах Андраш Юхас, един от професорите в Оксфорд. Той ми каза и нещо друго: че си е играл с ChatGPT и смята, че „той изобщо няма геометрична интуиция. Което може би обяснява защо има толкова ограничен напредък в области като топологията.“ Не съм в позиция да проверя това твърдение от математическа гледна точка, но според мен то добре илюстрира ситуацията. Наричат това назъбен ръб.

За мен беше лесно да кажа: „Нека критикуваме цялата идея, че сингулярността е близо.“ Това каза Илон Мъск в отговор на Astra, а това е сериозно твърдение. Но мисля, че това е и най-малко великодушната интерпретация на аргумента, с която можеш да спориш. Ако възприемеш по-нюансираната позиция, която признава, че тук има ясен и бърз напредък и, както каза, ИИ натрупва все повече области, според мен има траектория, която заслужава разумно обсъждане, вместо просто да бъде отхвърляна.

Един от по-големите общи аргументи за ИИ е, че той демократизира достъпа. Не бях особено добър софтуерен разработчик, когато се опитвах да пиша код, а сега мога да създавам с vibe coding приложения за всякакви глупости у дома.

Има ли подобен аргумент и тук — че множество хора с математическа интуиция, но без формализирания език или обучението по академична математика, вече могат да получат достъп до модел и да придвижат областта напред? Защото именно това обикновено подкопава критиките на професионалистите: много, много повече хора вече имат достъп до нещо, до което преди сте имали достъп само вие заради парите и обучението си.

Досадно е, но отново ще кажа, че нещата са двупосочни. Но да, в широк смисъл — да. Много от математиците, с които разговарях, всъщност бяха почти притеснени от това. Те харесват идеята за демократизиране на достъпа на теория. В същото време са доста изморени от генерираните или подпомогнатите от ИИ статии, които заливат всяко възможно издание, както и сървърите за препринти, които използват в тези области.

Някои от тях ми казаха неща от рода на: „Само тази седмица получих три имейла от хора, които питат: ‘Това истинско ли е?’“ Те са смятали, че са решили нещо с ChatGPT или Claude, но нямат математическите умения да проверят дали действително са го направили.

От друга страна, има случаи, в които те казват: „Имаме талантлив студент, който е направил нещо, което вероятно никога не би успял да направи, и ето го — извършва работа на ниво магистратура или докторантура и е създал легитимна статия.“ А в по-голямата картина няколко души, с които разговарях, казаха: „Да, голяма част от това се случва в кулата от слонова кост. Глобалният достъп до подобен инструмент наистина може да разшири достъпа до такива възможности.“

От друга страна, идва цената. Тези неща са скъпи за поддръжка. Лесно е да забравим това, когато използваме например безплатната версия на ChatGPT или Claude. На по-високите нива тези неща струват пари. Може и да не са огромни суми — OpenAI твърди, че за тези 10 резултата са били нужни, мисля, 2000 долара, но това не включва буквално нищо друго, след като вече разполагат с тях, така че сумата е доста щедро изчислена. Но дори да приемем тази цифра, математиката е сравнително бедна дисциплина, дори в много заможни институции.

Колва Рони-Дугал от „Сейнт Андрюс“, с която разговарях, каза: „През повечето време дори не си правя труда да кандидатствам за изследователски грант. Не ми е нужен. Имам само една черна дъска.“ Така че ако дори не получавате изследователски грант, 2000 долара са много пари за отделяне. Това може да изключи изследователи по този начин, дори в сравнително добре финансирани институции. Да не говорим за скоростта, с която се случва всичко — почти никой не е имал възможност да включи подобно нещо в предложение за грант — това беше друга тема, която често изникваше.

Всъщност Рони-Дугал има още един чудесен цитат в материала ти за естеството на лабораториите за ИИ и начина, по който те говорят за математиката. Тя казва: „Те третират нашата дисциплина като рекламна площадка.“ Група математици са подписали нещо, наречено Лайденската декларация — отворено писмо, в което обещават да не се поддават на рекламната шумотевица около ИИ.

Тези две неща се сблъскват директно. Лабораториите за ИИ няма да спрат да използват всяка дисциплина като рекламна площадка. А това, че група математици казват „Отказваме да се поддадем на рекламната шумотевица“, със сигурност не изглежда достатъчно, за да я спре.

Тук има елемент на организирана професионална съпротива срещу нещо, което преобръща област, която, както казваш, е била сравнително евтина за поддържане, а сега може да става все по-евтина, по-достъпна или по-лесна за преобръщане с всеки изминал ден. Математиците смятат ли, че това ще бъде ефективно? Исторически те не са особено умели политически играчи. Част от мен си казва: „Те просто ще бъдат прегазени.“

Не знам. Всъщност в историята на математиката много от тях са били доста умели в това. Исак Нютон е първият, за когото се сещам — макар че е бил и доста дребнав политически играч. Но да, това е страхът. Няколко души, с които разговарях, а един от тях особено ярко, споменаха, че често съществува убеждението, че математиката е върхът на знанието. Но той каза: „Това са глупости.“ И не беше единственият, който изрази подобно мнение.

Математиката обаче е добра за демонстрации, по-подредена дисциплина е и е много по-евтина. Спомена как Маркъс прави паралел с Watson на IBM и амбицията му да лекува рак. Това включва множество хаотични експерименти, включително върху хора. В математиката не се нуждаете от това, така че е много лесно да влезете, да демонстрирате силата си и после да се преместите към нещо по-печелившо, ако това е целта ви.

Не казвам, че точно това правят. Много от хората в тези компании са били наети. Не се съмнявам в квалификацията им и със сигурност не се съмнявам в мотивацията им. Това обаче повдига дългосрочен въпрос за жизнеспособността на всичко това. Защото нека бъдем ясни: не мога да си представя математиците като особено доходоносни корпоративни клиенти за тези компании.

Доходоносното нещо може да бъде придвижването на една област напред, така че тя да се превърне в икономически жизнеспособна. Развиваме математиката като област, това води до инженерно или физично откритие, основано на тази математика, а то води до, не знам, още един начин за изстрелване на ракети.

Там се случва някакъв кръговрат, който не разбирам напълно, но това е историята на иновациите — от изследванията през инженерството до продуктите или услугите, които носят пари. Имат ли предвид някои от тези математици, че разширяването на границите тук е в началото на нещо радикално доходоносно в икономически план?

Непосредственият контрааргумент е, че много от тях се страхуват, че областта ще бъде затворена. По дефиниция това означава, че пробивите, които водят до нещо изненадващо и ново, за което можеш да кажеш: „О, това работи и тук“, може вече да не се случват. Така че остава открит въпросът дали изобщо би било възможно да се приложи математиката към изцяло нова област, в която има много пари, ако вместо да отваряме нови пътища, ги затваряме.

Точно така — ако икономическият стимул за решаване на нерешен проблем намалее, защото лично няма да забогатееш, ако компютър решава всеки нерешен проблем, тогава се нарушава нещо фундаментално.

Голяма част от това се свежда до факта, че не става дума само за решаване на проблеми. При много от тези неща, както казахме, въпросът е какво ти казва решаването на проблема за други области. Ако това бяха много доходоносни проблеми, които да решаваш, предполагам, че повече хора щяха да се опитват да ги решат, вместо да са ги оставили нерешени в продължение на десетилетия.

Това е естеството на голяма част от чистата наука и по-широка критика към случващото се с научната политика на администрацията на Тръмп в момента — че тя е силно ориентирана към приложенията. В чистите изследвания има нещо, което може да донесе потенциално огромни дивиденти, но по дефиниция е напълно непредсказуемо. Не можете дÐ