Суперечка OpenAI з математиками лише загострюється

Двадцять п’ять провідних математиків підписали відкритого листа, у якому стверджують, що лабораторії ШІ загрожують їхній інтелектуальній праці, намагаючись перевершити одна одну у розв’язанні відомих математичних задач. Кожен із підписантів був нагороджений медаллю Філдса, яка вважається найпрестижнішою премією в математиці.

Цього тижня професор Нью-Йоркського університету Трістан Бакмастер звинуватив OpenAI у тиску з метою не вказувати співавтора, який працює в Anthropic, у розв’язанні важливої математичної задачі, а також припустив, що компанія могла використати їхню роботу з Codex, щоб створити власний революційний доказ протягом виснажливих вихідних, присвячених інференсу.

У четвер OpenAI відкликала спонсорство математичного заходу в CalTech після того, як дослідники університету розкритикували компанію.

Хоча здатність моделей ШІ розв’язувати найскладніші нерозв’язані математичні задачі світу може стати благом для людства, підписанти нового листа стверджують, що це буде можливо лише за умови, якщо математична спільнота, а зрештою й решта світу, зможуть зрозуміти та донести ці розв’язання.

«Часто про такі розв’язання оголошують поспіхом, не залишаючи часу на належний опис, виокремлення нових методів та ідей і цитування відповідних попередніх робіт інших дослідників», — написали вони, зауваживши, що доказ OpenAI досі не перевірений. «Як і в усіх творчих професіях, це породжує серйозні питання щодо авторства та плагіату. Ба більше, без математиків, які добровільно опікуватимуться їхнім розвитком та інтеграцією в математичний канон, ідеї, створені ШІ, ніколи не втіляться повною мірою, а вирішальний ланцюг передавання знань між математиками буде втрачено».

Оскільки інші математики дедалі більше впадають у параною і замислюються, чи не використовувала OpenAI у своїх нових моделях дані з їхньої роботи в Codex, з’являється реальний страх, що культура відкритих досліджень опиниться під загрозою. Сьогодні, якщо передові лабораторії бачать перспективний шлях до відкриття, вони можуть витратити десятки мільйонів доларів на використання великих мовних моделей, щоб випередити першовідкривачів у доведенні теореми, — така динаміка стимулюватиме секретність.

Цей лист з’явився після Лейденської декларації, оприлюдненої в червні робочою групою математиків. У цьому документі також розглядається, як докази, створені великими мовними моделями, змінять їхню роботу, а також пропонується низка рекомендацій для математиків, установ і політиків.

Як і у випадку з розробкою програмного забезпечення та іншими сферами, де інструменти ШІ змінюють робочі процеси, математики знаходять виправдання в роботі навколо самої роботи: цінність математики полягає не лише в доказах і тому, хто отримає за них визнання, а й в інтелектуальній надбудові, яка живить студентів, знаходить нові питання та ідеї й інтегрує їх у ширшу людську цивілізацію.

І якщо вас не надто хвилює безжальний світ математичних доказів із високими ставками, не забувайте: наступною буде сфера ваших інтересів.

«Проблеми, з якими математична спільнота стикається зараз, подібні до проблем, з якими стикаються інші наукові та творчі професії, і вказують на труднощі, з якими може зіткнутися все людство: як переконатися, що, коли ШІ змінює спосіб виконання роботи, ми не втрачаємо з поля зору, чого ця робота мала досягти спочатку», — написали вони.