Суперечка навколо доведення задачі тисячоліття, створеного OpenAI, порушує питання, чи можуть дослідники довіряти лабораторіям ШІ

Після того як математик Трістан Бакмастер звинуватив OpenAI у неправомірних діях, усі сторони оприлюднили свої позиції. Цей випадок порушує складні питання щодо відкритої науки.

Суперечка навколо заявленого OpenAI результату, створеного ШІ, щодо рівнянь Нав’є—Стокса спричинила публічні заяви всіх причетних. Задача Нав’є—Стокса є однією з задач тисячоліття Інституту Клея, а за її розв’язання передбачено приз у розмірі 1 мільйона доларів.

Математик Трістан Бакмастер раніше висунув серйозні звинувачення проти OpenAI, заявивши, що після витоку інформації про його дослідження компанія чинила на нього тиск, намагалася вилучити його співавтора Левента Альпьоге зі статті через те, що Альпьоге працює в Anthropic, а також погрожувала йому наслідками для кар’єри. Також є підозра, що OpenAI могла навчати свої моделі на чернетках, які двоє дослідників завантажили до Codex.

В одному всі згодні. За власними словами OpenAI, компанія почула чутки про те, що моделі Anthropic розв’язали задачу тисячоліття, а потім спрямувала власні ресурси на ту саму задачу. Щодо кількох інших моментів версії розходяться.

Бакмастер називає це «абсолютним академічним зловживанням»

Альпьоге та Бакмастер заперечують твердження OpenAI, що її власне розв’язання суттєво відрізняється від їхнього. Вони стверджують, що ввели подібний підхід у системи OpenAI. Наскільки розуміє Бакмастер, ці дані зрештою потрапили до навчальних даних. Бакмастер вважає це «абсолютним академічним зловживанням».

Співробітники OpenAI заявляють, що ймовірність того, що OpenAI справді навчалася на поданих розв’язаннях, є низькою, особливо якщо двоє дослідників вимкнули можливість використовувати їхні дані для навчання. Чи зробили вони це, публічно невідомо. Співробітник OpenAI Боаз Барак також заперечив думку, що моделі взагалі була потрібна зовнішня допомога. «Думати, що моделі це було потрібно, — просто самозаспокоєння. Вона фактично почала з доведення сильнішого твердження, ніж те, яке довели вони. Той, хто бачив цю модель у роботі, не вважатиме, що їй потрібні “підказки”».

У своїй офіційній публікації в блозі OpenAI визнає, що немає повної впевненості. «Хоча це малоймовірно, ми не можемо виключити, що знеособлені дані, отримані внаслідок використання їхніх продуктів, допомогли вдосконалити наші моделі⁠».

Альтман підтримує Бюбека, тоді як Альпьоге заперечує

Генеральний директор OpenAI Сем Альтман підтримав Бюбека в X, заявивши, що команда «весь час діяла доброчесно й великодушно». Він сказав, що пропонувалося вручити нагороду Бакмастеру та Альпьоге, але команда зіткнулася з «необґрунтованими звинуваченнями в плагіаті».

Альтман також написав, що робота розпочалася через «чутки в інтернеті минулого тижня про те, що моделі Anthropic розв’язали задачу тисячоліття, і нам стало цікаво, чи зможуть це зробити й наші».

Альпьоге заперечує Альтману в одному ключовому моменті. Альтман пише, що було складно зробити таку саму пропозицію Альпьоге, оскільки той «у будь-якому разі не хотів розмовляти з нами чи координувати дії». Альпьоге каже, що хотів би працювати з OpenAI, а питання авторства для нього не мало значення. «Мені також подобається ідея співпраці лабораторій, а ще більше — співпраці заради наукового прогресу. Шкода!» — пише Альпьоге.

Що це означає для відкритої науки

Незалежно від того, хто має рацію в кожній деталі, цей випадок порушує базове питання про те, як лабораторії ШІ взаємодіють із дослідницькою спільнотою. Самих лише чуток виявилося достатньо, щоб OpenAI в найкоротші строки спрямувала величезні ресурси на дослідницьку проблему, намагаючись розв’язати її та, можливо, першою опублікувати результат. Також не можна виключати, що компанія навчалася на даних, введених у її власні системи.

Для академічних дослідників і компаній висновок простий. Кожен, хто завантажує дослідницькі дані в системи OpenAI, ризикує зазнати поразки від власних результатів. Відмова від використання даних для навчання через налаштування забезпечує щонайбільше слабкий захист, особливо з огляду на те, що лабораторії ШІ ще не заслужили презумпції довіри щодо практик навчання та роботи з даними.

Математик Теренс Тао, один із найвпливовіших математиків сучасності, попереджає в Mastodon, що «навіть чутка про те, що хтось працює над проблемою, може запустити масштабні зусилля за допомогою ШІ, щоб розв’язати її ще до того, як оригінальний дослідницький проєкт встигне повністю розкрити свій потенціал».

«Стимули тепер можуть підштовхувати до того, щоб більше не ділитися перспективними напрямами досліджень із широкою спільнотою, що скасує багатовікові традиції відкритої науки та завдасть серйозної довгострокової шкоди майбутньому галузі», — пише Тао.

Новини про ШІ без ажіотажу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний шість разів на рік звіт про передові розробки «AI Radar», повний доступ до архіву та доступ до розділу коментарів.