OpenAI заявила, что ее внутренняя модель решила более 100 нерешенных годами математических задач всего за месяц обучения

Столкнувшись с растущей критикой со стороны математиков, OpenAI создает независимую консультативную группу из ведущих исследователей в этой области. Но прежде компания решила сообщить всем, что новая внутренняя модель справилась более чем со 100 давними математическими задачами всего за месяц обучения.

OpenAI заявляет, что новая внутренняя модель решила более 100 давних задач в большинстве областей математики — в дополнение к проблеме Навье — Стокса, относящейся к задачам тысячелетия. Компания выступила с этим заявлением, объявляя о создании новой консультативной группы по математике.

По словам OpenAI, обучение началось лишь 28 августа, поэтому весь процесс занял около месяца. Даже собственные математики компании были «удивлены» тем, насколько быстро все происходило, и внутренние обсуждения сместились к вопросу о том, как дать академическому сообществу достаточно времени для подготовки. Среди решенных задач, как сообщается, была вторая задача тысячелетия — гипотеза Ходжа.

Какие именно задачи решила модель, как она их решила и что эти результаты означают для математики и науки, остаются открытыми вопросами. Опубликованное решение проблемы Навье — Стокса уже вызвало ожесточенные споры в некоторых научных кругах.

Все это выглядит как смена курса. Главный научный сотрудник компании Якуб Пачоцки недавно заявил, что команда намеренно не оптимизировала модель для математики, сосредоточившись вместо этого на рекурсивном самоусовершенствовании. Скептики могут воспринять рекламу решения известных математических задач как уловку, призванную удержать нынешних инвесторов и привлечь новых — особенно с учетом того, что OpenAI признала: она взялась за задачу тысячелетия только после того, как услышала слухи о том, что другая команда, частично состоявшая из исследователей Anthropic, уже решила ее.

Решение задач — не то же самое, что их понимание

Заявление OpenAI — прямой ответ на критику математиков. В открытом письме «Серьезное рассогласование ИИ с математикой» они предостерегают от оценки эффективности ИИ по количеству открытых задач, которые он способен решить. По их мнению, массовая генерация решений подрывает концептуальное понимание — саму суть математики — и в конечном счете угрожает человеческому интеллекту.

OpenAI заявляет, что теперь сотрудничает с математиками, создавшими Консультативную группу по математике и искусственному интеллекту, базирующуюся в Институте перспективных исследований. Группа призвана связать компанию с математическим сообществом и широкой общественностью.

Компания утверждает, что ей необходимы такие рекомендации, поскольку математические открытия могут найти широкое практическое применение, а значит, ответственная разработка важна далеко за пределами самой этой области. OpenAI называет сотрудничество «первым шагом», отмечая, что впереди еще множество «сложных вопросов о том, как ИИ может поддерживать математическое понимание и как преимущества этих возможностей могут стать доступны более широкому сообществу».

OpenAI сохраняет контроль над темпами исследований

OpenAI заявляет, что группа будет работать независимо. Ее участники смогут давать советы без запроса, публично высказываться о влиянии компании на математику и публиковать свои рекомендации. OpenAI не платит им, а они сами могут решать, кто войдет в группу.

Но группе не позволено контролировать скорость продвижения OpenAI. «Важно отметить, что группа не будет отвечать за консультации по вопросу о том, с какой скоростью мы будем продвигать наши внутренние исследования в области математики», — пишет компания. Группа сможет влиять на то, как распространяются результаты, но не на то, будут ли они получены и насколько быстро.

Гауэрс присоединился к группе, но не подпишет письмо

Одним из основателей группы стал Тимоти Гауэрс, известный математик и лауреат Филдсовской премии. Он не подписал открытое письмо 25 лауреатов Филдсовской премии и изложил свои аргументы в своем блоге.

Гауэрс согласен со многими положениями письма и считает, что математика находится в опасности. Разногласия касаются того, для чего вообще нужна математика. В письме концептуальное понимание рассматривается как главная цель, а решение задач — лишь как средство ее достижения. Гауэрс видит спектр подходов: «На одном конце спектра находятся математики, которых прежде всего мотивирует желание решать задачи и которые считают концептуальное понимание очень важным средством для достижения этой цели. На другом — математики, которых прежде всего мотивирует желание обрести концептуальное понимание и которые считают решение задач очень важным средством для достижения этой цели».

По словам Гауэрса, его исследовательский проект по автоматизированному доказательству теорем в Кембридже утратил смысл после того, как большие языковые модели (LLM) стали достаточно эффективными. «Иными словами, нам пришлось усвоить горький урок (разумеется, мы всегда понимали, что такое вполне возможно, даже если скорость, с которой это произошло, застала нас врасплох)».

Настоящий риск заключается в том, что никто не захочет становиться математиком

Больше всего Гауэрса беспокоит то, что социальные структуры, поддерживающие математические знания, могут разрушиться. Люди, которые раньше могли поступить в аспирантуру и стать «хранителями математической традиции», могут просто решить, что больше не стоит этим заниматься.

«Если говорить лично обо мне, моей главной мотивацией для того, чтобы стать математиком, была мечта решать нерешенные задачи — чем более известные, тем лучше». Если лишить людей этой мечты, неясно, что сможет заполнить образовавшуюся пустоту.

Есть и вопрос финансирования. Политики могут взглянуть на математику с поддержкой ИИ и решить, что математики-люди больше не нужны. «Нам срочно нужно найти убедительные способы объяснить ценность наличия большого числа экспертов-математиков, даже если поиск новых доказательств теорем больше не входит в круг их обязанностей», — пишет Гауэрс.

Он также не подписал письмо, поскольку не смог понять, к чему оно призывает, чего еще не происходит. По его ожиданиям, LLM, способные решать крупные математические задачи, станут общедоступными в течение нескольких месяцев. «Поэтому я почувствовал, что критиковать компании, занимающиеся ИИ, за слишком быструю генерацию слишком большого количества решений бессмысленно».

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный перспективный отчет «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.