Конфликт OpenAI с математиками лишь обостряется

Двадцать пять ведущих математиков подписали открытое письмо, утверждая, что лаборатории ИИ угрожают их интеллектуальному труду, пытаясь превзойти друг друга в решении известных математических задач. Каждый из подписантов был удостоен медали Филдса, считающейся самой престижной наградой в математике.

На этой неделе профессор Нью-Йоркского университета Тристан Бакмастер обвинил OpenAI в том, что компания оказывала на него давление, пытаясь заставить не указывать в качестве соавтора сотрудника Anthropic, решившего важную математическую задачу, а также задался вопросом, не использовала ли компания их работу с Codex для создания собственного революционного доказательства за время марафонской сессии инференса.

В четверг OpenAI отозвала спонсорскую поддержку математического мероприятия в Калифорнийском технологическом институте после критики со стороны исследователей этого университета.

Хотя способность моделей ИИ решать нерешённые математические задачи мирового масштаба может принести человечеству огромную пользу, подписанты нового письма утверждают, что это будет возможно только в том случае, если математическое сообщество, а в конечном счёте и весь остальной мир, сможет понять и донести эти решения.

«Часто о таких решениях объявляют в спешке, не оставляя времени на полноценное описание, выделение новых методов и идей, а также на указание соответствующих более ранних работ других авторов», — написали они; при этом доказательство OpenAI остаётся непроверенным. «Как и во всех творческих профессиях, это порождает серьёзные вопросы об авторстве и плагиате. Более того, без готовых участвовать математиков, которые должны заниматься их развитием и интеграцией в математический канон, идеи, созданные ИИ, никогда не смогут по-настоящему воплотиться, а важная цепочка передачи знаний между математиками будет утрачена».

Поскольку другие математики становятся всё более подозрительными и задаются вопросом, не использовалась ли их работа с Codex, в свою очередь, для обучения новых моделей OpenAI, возникает реальный страх, что культура открытых исследований окажется под угрозой. Сегодня, если передовые лаборатории видят перспективный путь к открытию, они могут потратить десятки миллионов долларов на использование больших языковых моделей, чтобы опередить первоначальных исследователей и первыми получить доказательство, — такая динамика будет стимулировать секретность.

Это письмо стало продолжением Лейденской декларации, опубликованной в июне рабочей группой математиков. В этом документе также рассматривается, как доказательства, созданные большими языковыми моделями, изменят их работу, и предлагается ряд рекомендаций для математиков, учреждений и политиков.

Как и в программной инженерии и других областях, где инструменты ИИ меняют рабочие процессы, математики находят оправдание в работе, которая окружает саму работу: ценность математики заключается не только в доказательствах и в том, кому достанется признание, но и в интеллектуальной надстройке, которая помогает обучать студентов, порождает новые вопросы и идеи и интегрирует их в более широкую человеческую цивилизацию.

И если вам не особенно интересен беспощадный мир математических доказательств с высокими ставками, не забывайте: следующей окажется сфера ваших интересов.

«Проблемы, с которыми сейчас сталкивается математическое сообщество, схожи с проблемами, возникающими в других научных и творческих профессиях, и указывают на вызовы, с которыми может столкнуться всё человечество: как сделать так, чтобы по мере того, как ИИ меняет способы выполнения работы, мы не упускали из виду, ради чего эта работа изначально предназначалась», — написали они.