Добро пожаловать в кризис ИИ в математике

Сегодня в Decoder я разговариваю с Робертом Хартом, лондонским корреспондентом The Verge по вопросам ИИ, о том, как ИИ меняет область математики и об экзистенциальном кризисе, который из-за этого переживают многие ведущие математики.

OpenAI недавно опубликовала набор решений давних математических задач, которые произвели в этой области эффект разорвавшейся бомбы. Это вызвало масштабные споры в математическом сообществе, и Роб потратил некоторое время, беседуя с некоторыми из самых выдающихся математиков нашего времени об этом. 

Забавно, что системы ИИ по-прежнему довольно плохо справляются с элементарной школьной арифметикой, но при этом становятся всё лучше в очень сложной абстрактной математике. Это поднимает большие вопросы о будущем передовой математики. 

Если ИИ способен решать задачи такого уровня, означает ли это, что лаборатории ИИ смогут перенести эти способности в другие области? Какой смысл в академических грантах и университетских программах, готовящих новые поколения математиков, которые должны находить новые проблемы, пытаясь решить уже существующие, если передовые модели просто ответят на все нерешённые вопросы?

Что, если всё это внимание к математике — всего лишь масштабная маркетинговая кампания лабораторий передового ИИ, которым совершенно безразлично, что произойдёт с одной из старейших и фундаментальнейших академических дисциплин?

Здесь есть о чём поговорить, и Роберт беседовал со множеством людей, придерживающихся самых разных взглядов на всё это.

Итак: корреспондент Verge по вопросам ИИ Роберт Харт рассказывает о том, как ИИ меняет математику. Начнём.

Это интервью было слегка отредактировано для краткости и ясности. 

Роберт Харт, вы наш лондонский корреспондент по вопросам ИИ в The Verge. Добро пожаловать в Decoder.

Спасибо, что пригласили меня.

Я очень рад поговорить с вами. В сфере ИИ и математики сейчас происходит много всего, и вы недавно подробно исследовали эту тему. Вы поговорили со многими ведущими математиками о кризисе в математике, вызванном ИИ.

Кажется, что всего происходит слишком много, и при этом нам ещё многое предстоит узнать и открыть о взаимодействии этих двух явлений. Полноценный экзистенциальный кризис — чистая приманка для Decoder. В общих чертах расскажите, что происходит.

Думаю, слово «много» довольно хорошо всё это описывает. По сути, внутри сообщества возник своего рода экзистенциальный кризис вокруг вопросов: «Что такое математика? Чем занимаются математики и какова их роль в будущем?» 

Во многом это стало следствием резкого перелома в представлениях о возможностях ИИ, произошедшего за последние шесть месяцев или год. За очень короткий срок ИИ прошёл путь от крайне плохого до, по-видимому, действительно довольно хорошего на профессиональном уровне. Это то, с чем другие области мучительно пытались справиться последние пять лет, но здесь всё произошло в сильно сжатые сроки.

Я бы поставил рядом с математикой программную инженерию. Мы уже некоторое время переживаем кризис ИИ в программной инженерии. Но ещё в 2024 году, даже в прошлом году, общепринятым считалось, что модели ИИ особенно плохо справляются с математикой. Знаменитый пример — эти модели не могли посчитать количество букв R в слове strawberry. Им не давался даже простой подсчёт.

Что произошло, благодаря чему они стали лучше справляться с математикой? Они всё ещё плохо решают обычные арифметические задачи, но хорошо справляются с продвинутой математикой, или истина где-то посередине?

В некоторых областях математики они всё ещё по-настоящему, по-настоящему ужасны. Я проверил: теперь они умеют работать со словом strawberry. Думаю, кто-то это подправил.

Мне кажется, strawberry зашито в код. Хочу предельно ясно выразиться: моя конспирологическая теория заключается в том, что история со strawberry жёстко запрограммирована во всех моделях.

Я тоже так думаю. В эту теорию заговора я готов поверить.

Но да, с такими вещами — математикой, арифметикой, даже днями недели — они по-прежнему справляются ужасно. Недавно мой парень сказал: «Она всё думает, что сегодня среда. Но сегодня не среда». Или со временем. Несколько месяцев назад Элисса Уэлле написала для нас, что ChatGPT не умеет определять время. И до сих пор не умеет. Но это не вся математика.

Итак, возникает разрыв. Чтобы хорошо разбираться в математике, нужно уметь считать, складывать и умножать. Но значительная её часть на самом деле связана с рассуждениями. Если посмотреть на академические математические статьи, во многих из них вы вообще не увидите чисел — это, думаю, многое объясняет. Так что в одних вещах они всё ещё ужасны, но в другой части уже очень хороши.

Что касается причин, то в какой-то момент достигается критическая масса того, на что способны эти системы. Мы видели это с текстами и программированием. Они очень хорошо устанавливают связи между разными областями, применяют старые методы по-новому и делают тому подобные вещи. Похоже, новые модели, которые они обучают, достигли уровня, когда что-то щёлкнуло, — и теперь они умеют решать математические задачи.

Важно также сказать, что со стороны мы часто воспринимаем математику как единую дисциплину. Но представьте, например, биологию. Она охватывает всё — от непосредственного наблюдения за животными и описания их поведения до клеточных механизмов и биохимии. Математика тоже не является единой дисциплиной. ИИ очень хорошо справляется с некоторыми её частями. А с другими, например с подсчётом, по-прежнему очень плохо.

Даже на более абстрактных уровнях математики называют топологию одной из областей, в которых ИИ, по-видимому, всё ещё довольно слаб. Честно говоря, я не могу это проверить: это за пределами моей компетенции. Так что картина неоднозначная.

Итак, вы описали математику как огромную область, включающую множество академических направлений. В некоторых из них модели стали довольно хороши. В других — возможно, в базовых, которые люди обычно ассоциируют с математикой, например в простом подсчёте, — они всё ещё испытывают трудности, а между ними есть широкий спектр промежуточных возможностей.

Экзистенциальный кризис возникает именно в этой широкой промежуточной зоне, где люди не знают, что произойдёт? Или в тех областях, где модели уже действительно хороши?

И там, и там — думаю, это станет повторяющейся темой нашего разговора. Никто особенно не боится, что ИИ станет посредственным математиком, но очевидно, что значительная часть работы этой области связана с исследованиями и передовым краем науки. Если судить по результатам, которые вызывают ажиотаж, то что он способен делать? Уже есть области, где он, похоже, создаёт работы на уровне хороших математиков, наряду с другими областями, где он не умеет считать.

Всё это также связано с вопросом о том, изменит ли ИИ структуру занятости или систему финансирования. Вы также подняли туманный вопрос: что такое математическое знание? И какую работу будут выполнять эти специалисты? Всё это сплетается воедино.

Мне кажется, это в целом соответствует развитию ИИ во всех областях. Там, где к задаче можно просто добавить вычислительную мощность, а результат можно как-то проверить, модели продолжают становиться лучше. Во всём, что находится посередине, где могут потребоваться знания о мире или настоящее понимание окружающей действительности, они, похоже, испытывают трудности.

Эти части математики — по крайней мере, согласно вашему материалу и тому, о чём говорят лаборатории, — представляют собой почти полностью самодостаточные теоретические задачи. Именно здесь модели могут сгенерировать доказательство или решить проблему, которую никто не мог решить, а затем попытаться проверить результат — и просто запускать проверку снова и снова.

Это приводит нас, кажется, к маю этого года, когда внутренняя модель OpenAI, которую мы практически не видели, опровергла гипотезу о единичных расстояниях — задачу, которой уже 80 лет. А совсем недавно мы услышали об Astra от OpenAI. Именно с Astra, казалось, произошёл перелом, после которого все решили, что это экзистенциальный кризис.

Чего добилась Astra и почему это так важно?

Я почти уверен, что именно Astra, вероятно, стояла и за первым результатом. OpenAI просто назвала её безымянной внутренней моделью. Наверное, это Astra. Когда я спросил об этом, мне не ответили.

Несколько недель назад OpenAI опубликовала запись в блоге вместе с большим объёмом подтверждающих материалов — думаю, на несколько сотен страниц. Они назвали это «10 достижений в математике и теоретической информатике». По сути, это был набор результатов в разных дисциплинах, которые, как утверждала компания, новая модель Astra получила в той или иной форме. Один из них касался квантовой теории игр — я даже не знаю, с чего начать объяснение. Ещё сложнее объяснить задачу об упаковке сфер в пространствах более высокой размерности, то есть выше трёх измерений. Были и результаты в других областях.

Это вызвало большой резонанс в сообществе. Стало своего рода сенсацией. Как мы уже говорили, до этого появлялись отдельные прорывы, но OpenAI выдала сразу десять — и довольно значительных. Исследователи говорили мне, что если бы всё это решил человек, мы были бы впечатлены. А если бы человек решил все десять задач, мы, вероятно, просто не поверили бы.

Кроме того, это были задачи, которые действительно интересуют математиков, и это важный момент. Многие предыдущие прорывы критиковали за то, что они относились к областям, которыми математики не особенно занимались. А эти задачи пытались решить сами математики — в том числе выдающиеся — и долгое время безуспешно.

Давайте поговорим об этих десяти задачах. Вы рассказали о них в своём материале. OpenAI действительно предоставила документацию. Но ведь не все результаты были получены исключительно вычислительной мощностью из ничего?

Они основаны на предыдущих работах. Возникают вопросы об атрибуции. Какова была реакция? Это было: «О, модели сделали это»? Или реакция, которую мы видим на столь многие работы с ИИ и которая в основном сводится к: «Вы украли это, никого не указали и встали на плечи гигантов, не упомянув их»? Какой была реакция?

В целом люди, с которыми я разговаривал, отреагировали скорее с большим впечатлением. Как я уже сказал, это задачи, которые важны для математиков. Особое внимание привлекла одна из них — из-за того, как OpenAI указала авторство и объявила обо всём этом в записи блога. Изначально OpenAI заявила, что это десять задач, в решении которых не было прогресса за последние десять лет. Но если действительно прочитать статьи, в одной из них совершенно ясно сказано: «Мы опираемся на достижения этих двух исследователей».

Позже это довольно тихо изменили. Однако несколько исследователей, с которыми я говорил, остались весьма невпечатлены и сочли это проявлением позиции: «Ну да, вы не указали работу, которой здесь активно пользовались, причём сами это признаёте». При этом один из исследователей, с которыми я разговаривал, был среди упомянутых авторов и тоже относился ко всему этому неоднозначно. Так что реакция была действительно смешанной.

Общее впечатление всё же было скорее положительным. Это были настоящие прорывы в задачах, которые волновали людей, и они действительно продвинули область вперёд. Несколько исследователей прямо сказали: «Если бы исследователь решил хотя бы одну из этих задач, этого, вероятно, хватило бы для успешной академической карьеры».

Забавно, что в академической среде авторство и указание источников — это вообще самое главное. И при этом компании, занимающиеся ИИ, могут позволять себе небрежность, за которую ни один человек не смог бы избежать последствий.

Масштаб открытия или проделанной работы перевесил эту небрежность? Если бы человек достиг тех же целей и проявил такую же небрежность, реакция была бы такой же?

Часть меня всегда хочет свести всё к теме «похоже на плагиат». Но если действительно прочитать опубликованные ими статьи — а один из исследователей, с которыми я разговаривал, сказал, что в мире найдётся, вероятно, около 50 человек, которые вообще станут подробно их изучать, — становится совершенно ясно, что попытки плагиата там нет. Честно говоря, думаю, это был просто плохо составленный пресс-релиз.

И при всей моей любви иногда критиковать такие вещи, я больше десяти лет освещаю науку и знаю, что пресс-релизы часто преувеличивают значение сделанного открытия, его новизну и сам факт открытия. Думаю, здесь произошло именно это.

Кажется ли это повторяемым результатом? Они предоставили доказательства того, что решили десять задач, считавшихся нерешаемыми. Есть ли у них доказательства, что они смогут решить ещё десять?

Вот в чём вопрос. Главная неизвестность, о которой говорили почти дюжина исследователей, с которыми я общался, звучит так: «А сколько задач они вообще пытались решить, чтобы получить эти десять?» Кто знает? Они знают, но не скажут.

Но это и есть главный вопрос. Непонятно, сколько попыток потребовалось, чтобы получить эти десять результатов. Я был бы очень впечатлён, если бы это была первая задача, за которую они взялись, и после неё сразу появились эти десять впечатляющих результатов.

Неясно, на каких направлениях они сосредоточатся дальше и почему. Думаю, за выбором задач, о которых они рассказывают как о примерах возможностей своих моделей, стоят коммерческие причины. Все лаборатории ИИ втайне нанимали группы ведущих математиков, так что остаётся только гадать, повторят ли они это.

Что касается доказательств, математика — довольно необычная дисциплина: повторяемость здесь не такая, как в экспериментальных науках. Доказательство есть доказательство: если оно работает, значит, работает. Проблема в том, смогут ли люди проследить весь ход выполненной работы. Каждая область очень специализирована, поэтому отдельные математики, работающие в соответствующих направлениях, будут проверять эти результаты. Те, с кем я говорил и кто работает в некоторых из затронутых областей, сказали, что всё выглядит вполне достоверно.

В математике есть язык программирования и вычислительной проверки доказательств под названием Lean. В нём можно формализовать математические доказательства и пропустить их через систему, которая, так сказать, доказывает их. Я слишком часто повторяю слово «доказательство». Но Lean проверяет строгость и допущения всего происходящего, и результаты такой проверки они тоже опубликовали. Поэтому всё действительно выглядит убедительно. Хотя в пресс-релизе и вокруг него может быть много шумихи, никто из тех, с кем я разговаривал, не ставит под сомнение сами заявленные прорывы.

Я хочу ещё немного задержаться на этой теме. Есть математическое доказательство: мы создали доказательство, и оно, как вы говорите, просто воспроизводимо, потому что математика — это логика. Можно пройти все шаги и сказать: «Это доказательство работает». Любой, кому в старшей школе приходилось писать доказательства по математическому анализу, наверняка помнит этот процесс. Здесь есть нечто, представляющее собой чистую логику.

А затем есть программный код, о котором вы говорите в связи с Lean: чистую логику можно выразить в коде и запустить, чтобы проверить, работает ли она. Я понимаю, почему ИИ теоретически хорошо справляется со всем этим. Вы просто запускаете рассуждение, рассуждение генерирует код, вы запускаете код и получаете проверяемый результат. Мы видели это в программной инженерии: код либо работает, либо нет, он либо проверяем, либо нет, и модели могут просто логически вывести всё необходимое.

Но, на мой взгляд, здесь возникает главный вопрос, на который вы намекнули: сколько раз нужно это запускать? Можем ли мы проверить, что модели сделали это сами, а не действовали под руководством математиков, которых лаборатории наняли за большие деньги, — так, что вся область теперь переворачивается с ног на голову?

В вашем материале есть цитата Джеймса Мейнарда, лауреата Филдсовской премии — высшей награды в математике, — который сказал, что переосмысливает свою жизнь. Я всё время возвращаюсь к этой цитате. В статье вы приводите похожие высказывания других математиков, и кажется, что они пытаются разобраться с тем, чего, забавно, не могут проверить: «Как модели это сделали и масштабируется ли это таким образом, что угрожает математике?» Что мы знаем о том, как модели это сделали?

Скажем так: примерно столько же, сколько мы обычно знаем и не знаем об этом. Здесь есть несколько проблем. Во-первых, природа самих моделей. Это неизданная модель, так что удачи тем, кто захочет самостоятельно её протестировать. То же самое в целом относится ко всему проприетарному. При этом я почти готов дать им презумпцию добросовестности и считать, что они в каком-то смысле не лгут о моделях, которые используют.

Что касается другой части вопроса, возможно, важнее спросить, как мы формулировали запрос модели и как ею руководили. Делал ли это математик, который понимает, что делает? По мнению многих математиков, с которыми я разговаривал и которые пробовали использовать такие модели, это, вероятно, ключевой фактор. Часто речь идёт о пользовательских моделях, но это всё равно указывает на более широкую картину.

Они говорят, что если вы понимаете, что делаете, и можете указывать модели на ошибки, она полезна. Или если можете использовать её как инструмент нужным вам образом — так, как не смогли бы, если бы не умели по-настоящему проверять факты. У меня бывали ситуации, когда ChatGPT выполнял простое сложение, а я говорил: «Это число неверно». Он отвечал: «Ой, простите. Вы правы, вот правильное», — и снова ошибался. Но на таком уровне человеческий контроль тоже необходим.

Это указывает на более широкую проблему. Как вы сказали, возникает своего рода переосмысление: «Что, если мы сможем автоматизировать всё это и дойдём до точки, когда перестанем понимать происходящее?» И это подводит к более глубокому вопросу: «Что такое математика? Зачем мы ею занимаемся? Почему мы ценим её как область?» 

У каждого будут свои ответы. Но многие собеседники опасались, что математика может выйти за пределы человеческого интереса, и тогда мы просто перестанем ею заниматься. Или же ею будут заниматься заинтересованные люди, а остальные продолжат жить как обычно.

В вашей статье есть цитата исследователя из Цюриха Йоханнеса Шмитта: «Мы можем двигаться к ситуации, в которой ИИ “скосит” математические задачи, но мы на самом деле не продвинем область вперёд, потому что люди окажутся выведены из процесса: они либо не будут проверять результаты, либо не будут их понимать, либо не будут знать, какими могут стать будущие прорывы». Насколько вероятным кажется такой сценарий? Это серьёзная проблема?

В определённой степени задачи действительно могут быть «скошены». Особенно те, которые служат тренировочной площадкой для молодых математиков, где они набивают руку, так сказать. Но я также думаю, что представление о математике как о решении задач — это взгляд со стороны на математическую деятельность.

Многие математики, с которыми я разговаривал, считают, что постановка галочек — наименее интересная и ценная часть этой области. Ценность для них заключается не в том, что вы «что-то решили или доказали», а в том, что происходит после этого.

Кажется, именно Джеймс Мейнард сказал, что самые интересные открытия в математике — не в самом решении, а в том, что из него развивается. Иногда решения открывают целые новые области исследований, существование которых никто не мог представить, или становятся новым инструментом, который можно повсюду применять интересными и увлекательными способами.

Если посмотреть на популяризацию математики — даже на те теоремы, которые я имею в виду, — то оказывается, что сохраняются именно вопросы, а не решения. Всегда говорят о Великой теореме Ферма, а не: «Вот решение задачи, которую когда-то поставил какой-то математик».

Опасение заключается в том, что ИИ отметит все эти вопросы как решённые. Обычно в процессе решения мы надеемся выйти на новые интересные области или поставить новые вопросы. Но ИИ этого не сделает — и именно это вызывает тревогу. Тогда область может стать довольно бесплодной: все задачи будут решены, а возможно, ничего больше не останется для изучения.

Общий вывод был таким: пока рано судить. Даже математикам-людям требуется много времени, чтобы осознать влияние подобных вещей. Как я уже сказал, всё взорвалось за последние шесть месяцев или год, а математика даже в лучшие времена не относится к быстро развивающимся дисциплинам. Поэтому пока слишком рано говорить, станет ли это проблемой. Но это действительно проблема, причём большая.

Вы также приводите ещё одну цитату Мейнарда: «Если стандартом опубликованной математической статьи станет то, чего не может сделать ИИ, а кандидатская обычно длится четыре года, то проблема в том, что вы пытаетесь придумать задачу, которую ИИ не может решить сейчас, а не ИИ через четыре года».

То есть всё действительно связано со скоростью совершенствования моделей, которая, как вы говорите, особенно в математике, по-видимому, растёт, но неравномерно в разных математических областях.

Похоже, именно это и заставляет математиков переосмысливать свою ситуацию. Если вы студент, начинаете учёбу сегодня и выбираете какую-нибудь малоизвестную область, в которой ИИ пока не слишком хорош, то где-то в середине вашей докторской диссертации или исследования ИИ просто решит задачу — и на этом всё закончится. Для вас это настоящая проблема.

Успела ли область отреагировать на это или все ещё пребывает в шоке от того, что модели начали делать вещи, которые мы не считали им доступными?

Да, думаю, это именно шок. Я держу рядом небольшой блокнот, чтобы записывать общие впечатления от интервью, и написал там «контузия». Это ощущение далеко не всеобщее, но кажется, что всё произошло настолько быстро, что застало многих врасплох. Даже тех, кто теоретически понимал: «Ну да, это приближается».

Они видели, как появляются стартапы в области математического ИИ. Видели, как коллеги переходят в другие лаборатории или направления работы. Но всё случилось очень, очень быстро. Поэтому у них почти не было времени разобраться. И дело даже не обязательно в тех областях, где ИИ может быть хорош, а просто в вопросе: «На что он способен?»

Я не могу представить, что было бы, если бы нечто подобное появилось, когда я учился, и буквально за полгода перевернуло представление о возможном. Причём всё произошло летом. Так что студенты могут вернуться после каникул в совершенно иную дисциплину.

В мире есть определённый скептицизм. Гэри Маркус — надёжный критик ИИ, и он неоднократно указывал, что ИИ достигает чего-то в одной области, а затем его способность обобщают на все остальные.

Здесь есть хорошая цитата Маркуса: «Как мы узнали десять лет назад из неуклюжей и в конечном счёте провалившейся попытки превратить Watson, победивший в Jeopardy, в машину для лечения рака, успех в одной области не гарантирует успеха во всех остальных».

Я могу прочитать это двумя способами. Первый: «ИИ решил математику», что, как вы уже неоднократно указали, неправда — вплоть до того, что он всё ещё плохо считает. Второй: «ИИ решил математику, а значит, обязательно возьмётся за всё остальное». Он возьмётся за физику, право — за что угодно в мире. Если есть возможность проверить результат, ИИ сможет решить задачу, потому что её можно просто многократно запускать таким образом.

Я понимаю обе стороны этого аргумента: очевидно, успех в одной области не гарантирует успеха во всех. Но траектория ИИ такова, что он продолжает осваивать новые области. Если результат можно проверить, то ИИ с большей вероятностью свяжет эти области, чем нет. Как вы на это смотрите?

Я не вполне уверен, что люди, которых здесь критикует Маркус, действительно говорили именно то, что он им приписывает. О шумихе можно сказать многое. Но да, успех в одной области не означает даже успеха во всей этой области, не говоря уже о других.

При этом за последние несколько лет наблюдается бесспорная тенденция к расширению возможностей и их общему росту. Необязательно быть сторонником идеи AGI, чтобы это признать и понять, что это окажет влияние.

Кажется, я цитировал в статье Андраша Юхаса, одного из профессоров Оксфорда. Он также сказал мне, что немного экспериментировал с ChatGPT и пришёл к выводу: «Мне кажется, у него вообще нет геометрической интуиции. Возможно, этим объясняется очень ограниченный прогресс в таких областях, как топология». Я не могу проверить это утверждение с математической точки зрения, но, думаю, оно хорошо иллюстрирует проблему. Это называют «рваным краем» интеллекта.

Для меня это выглядело как простой повод для спора: «Давайте раскритикуем всю идею о том, что “сингулярность близка”». Именно так Илон Маск отреагировал на Astra, а это уже серьёзное заявление. Мне также кажется, что это наименее благожелательная интерпретация подобного аргумента, с которой можно спорить. Если рассматривать вопрос более тонко и признать очевидный и довольно быстрый прогресс, а также то, что, как вы сказали, ИИ осваивает всё новые области, то перед нами есть вполне разумная траектория, которую стоит учитывать, а не просто отбрасывать.

Один из главных аргументов в пользу ИИ вообще состоит в том, что он демократизирует доступ. В те времена, когда я пытался писать код, я был неважным разработчиком, а теперь могу вволю вайб-кодить приложения для самых разных глупостей у себя дома.

Есть ли здесь похожий аргумент: люди, обладающие математической интуицией, но не имеющие формализованного языка или подготовки в академической математике, теперь могут получить доступ к модели и продвинуть область вперёд? Ведь именно это обычно ослабляет критику со стороны профессионалов: теперь гораздо больше людей получили доступ к тому, что раньше было доступно только вам благодаря вашим деньгам и образованию.

Раздражает, что снова придётся сказать: здесь есть две стороны. Но да, в широком смысле это так. Многие математики, с которыми я разговаривал, на самом деле относились к этому довольно настороженно. Теоретически им нравится идея демократизации доступа. Но они также устали от созданных или подготовленных с помощью ИИ статей, которые заполняют все возможные научные издания и используемые ими серверы препринтов.

Некоторые из моих собеседников говорили: «За одну только эту неделю я получил три письма от людей с вопросом: “Это вообще настоящее?”» Они считали, что решили что-то с помощью ChatGPT или Claude, но у них не было математических навыков, чтобы проверить, действительно ли им это удалось.

С другой стороны, они рассказывали: «У нас есть талантливый студент, который сделал то, что талантливый студент, вероятно, никогда бы не смог сделать, и вот он уже занимается работой уровня аспирантуры и подготовил настоящую статью». А в более широком контексте некоторые говорили: «Да, многое из этого сейчас сосредоточено в башне из слоновой кости. Глобальный доступ к таким инструментам действительно может расширить доступ к подобным возможностям».

Но есть и обратная сторона — стоимость. Запуск этих систем обходится дорого. Легко забыть об этом, когда пользуешься, например, бесплатной версией ChatGPT или Claude. На более высоких уровнях такие инструменты стоят денег. Возможно, не очень больших — OpenAI заявила, кажется, что десять результатов обошлись в 2000 долларов, но в эту сумму буквально ничего больше не включено, так что оценка очень щедрая. Но даже если взять эту цифру, математика — довольно бедная дисциплина, даже в очень обеспеченных учреждениях.

Колва Рони-Дугал из Сент-Эндрюс, с которой я разговаривал, сказала: «Часто я даже не подаю заявку на исследовательский грант. Он мне не нужен. У меня есть только доска». И если вы не получаете даже исследовательский грант, то 2000 долларов — большая сумма. Таким образом, это может закрыть доступ исследователям даже в довольно хорошо финансируемых учреждениях. Не говоря уже о скорости происходящего: практически никто ещё не мог заложить всё это в заявку на грант. Я часто сталкивался и с этой темой.

Кстати, в вашей статье есть ещё одна отличная цитата Рони-Дугал о природе лабораторий ИИ и о том, как они говорят о математике. Она сказала: «Они относятся к нашей дисциплине как к рекламной площадке». Многие математики подписали так называемую Лейденскую декларацию — открытое письмо, в котором они обещают не поддаваться шумихе вокруг ИИ.

Эти силы движутся прямо навстречу друг другу. Лаборатории ИИ не прекратят использовать каждую дисциплину как рекламную площадку. А заявления математиков «мы отказываемся поддаваться шумихе» явно не останавливают эту шумиху.

Здесь есть элемент организованного профессионального сопротивления явлению, которое переворачивает область, до этого, как вы сказали, довольно дешёвую в работе, а теперь, возможно, день за днём становится ещё дешевле, доступнее и проще для преобразования. Считают ли математики, что это сопротивление будет эффективным? Исторически математики не отличались политической хваткой. Часть меня думает: «Они просто позволят себя раздавить».

Не знаю. Хотя в истории математики многие из них, на самом деле, были довольно расчётливыми. В этой связи всегда приходит на ум Исаак Ньютон — правда, он был ещё и довольно мелочным политическим игроком. Но да, именно этого и боятся. Несколько моих собеседников, и один особенно запомнившийся, сказали, что часто существует убеждение, будто математика — вершина знания. Но он ответил: «Это чушь». И он был не одинок в таком отношении.

Но математика хорошо подходит для демонстраций: это более аккуратная и гораздо более дешёвая дисциплина. Вы упомянули, что Маркус сравнивал ситуацию с Watson от IBM и амбициями вылечить рак. А это требует множества грязных экспериментов, в том числе на людях. В математике ничего подобного не нужно, поэтому это очень удобная дисциплина, чтобы прийти, продемонстрировать силу, а затем перейти в более прибыльную область, если вам этого хочется.

Я не говорю, что именно это они и делают. Многие сотрудники этих компаний наняты по делу. Я совершенно не сомневаюсь в их квалификации и не сомневаюсь в их мотивации. Но в долгосрочной перспективе это поднимает вопрос о жизнеспособности такого подхода. Давайте будем честны: я не могу представить, что математики станут для этих компаний особенно прибыльными корпоративными клиентами.

Прибыльным может оказаться продвижение области вперёд, чтобы превратить её в экономически жизнеспособное направление. Мы развиваем математику, это приводит к инженерному или физическому прорыву на её основе, а тот — не знаю — к ещё одному способу запуска ракет.

Здесь возникает некий круг, которого я не до конца понимаю, но именно такова история инноваций: от исследований к инженерии, а затем к приносящим деньги продуктам или услугам. Думают ли какие-нибудь из этих математиков о том, что расширение границ их области может стать основой для чего-то радикально прибыльного?

На ум сразу приходит возражение: многие боятся, что область закроется. А значит, прорывы, ведущие к чему-то неожиданному и новому, о чём можно сказать: «О, это работает и здесь», — могут больше не происходить. Если перспективное применение математики в совершенно новой и потенциально очень прибыльной области остаётся открытым вопросом, то непонятно, возможно ли оно вообще, если мы закрываем пути, вместо того чтобы открывать их.

Верно. Если экономический стимул решать нерешённые задачи уменьшается, потому что лично вы не разбогатеете, если компьютер просто решит каждую нерешённую задачу, то здесь ломается нечто фундаментальное.

МнÐ