Провідні математики побоюються, що ШІ робить їхню галузь дурнішою, і попереджають: наступними будемо всі ми

Двадцять п’ять лауреатів медалі Філдса попереджають, що цілі індустрії ШІ та математики «вкрай розходяться». Масове створення ШІ розв’язаних задач може підірвати справжню мету дисципліни: розуміння.

У спільній заяві 25 лауреатів медалі Філдса, найвищої відзнаки в математиці, попереджають про вплив ШІ на їхню галузь. Великі мовні моделі настільки добре опанували математику за останні місяці, що тепер можуть розв’язувати «важливі нерозв’язані задачі в багатьох галузях математики». Саме це їх і непокоїть.

Компанії, що розробляють ШІ, розглядають математичні задачі як контрольні показники, які потрібно перевершити, і це шкодить науці та спільноті навколо неї, йдеться в заяві. Цілі компаній у сфері ШІ та математиків «вкрай розходяться». Підписант заяви Теренс Тао вже попереджав про спричинену ШІ фундаментальну кризу в математиці.

Розв’язання задач — не мета, а шлях до неї

Відомі нерозв’язані задачі «часто слугували орієнтирами й маяками, за якими можна вимірювати поглиблення розуміння цього ландшафту», йдеться в заяві. Коли хтось розв’язує одну з них, саме розв’язання важить менше, ніж нове мислення, завдяки якому це стало можливим. Потім математики роками розбирають це мислення в межах «довгого й складного процесу доповідей, обговорень і спрощень».

ШІ загрожує перервати цей процес. «Розв’язання задач — лише інструмент і замінник для досягнення головної мети — концептуального розуміння та осяяння», — пишуть підписанти. Заповнення галузі відповідями зі швидкістю машин може «знищити родючий ґрунт замість того, щоб вдихнути життя в нові ідеї».

Розв’язання, створені ШІ, оголошують «без часу на належний опис, виокремлення нових методів та ідей і цитування відповідних попередніх робіт інших авторів». Це породжує «серйозні питання щодо атрибуції та плагіату».

«Без математиків, які добровільно дбають про їхній розвиток та інтеграцію в математичний канон, ідеї, задумані ШІ, ніколи не ожили б повною мірою, — йдеться в заяві. — Було б втрачено вирішальний ланцюг людської передачі знань між математиками».

Заява з’явилася на тлі суперечки між двома математиками та OpenAI. Звинувачення полягає в тому, що OpenAI дізналася про чутки щодо часткового розв’язання задачі з премії тисячоліття й спробувала випередити дослідників заради розголосу. Головний дослідник OpenAI Пачоцький заявив під час презентації Astra, що компанія навмисно не оптимізувала модель для математики. Невдовзі після цього OpenAI, схоже, все ж навчила математичні моделі — очевидно, безпосередньо у відповідь на ці чутки.

Загроза далеко виходить за межі математики

Підписанти вбачають «загальну загрозу для інтелектуальної праці». У багатьох галузях роки навчання «слугували не лише для отримання остаточної відповіді чи продукту, а й для розвитку розуміння та здатності формулювати нові запитання й ідеї». Коли ШІ «безпосередньо створює результати такої роботи», ці цілі розходяться.

«Проблеми, з якими нині стикається математична спільнота, подібні до проблем, що постають перед іншими науковими й творчими професіями, і вказують на проблеми, з якими може зіткнутися все людство: як переконатися, що, коли ШІ змінює спосіб виконання роботи, ми не втрачаємо з поля зору, чого ця робота мала досягти спочатку».

Цей розрив уже проявляється в освіті. Домашні завдання дедалі частіше можна виконувати за допомогою ШІ, тоді як на іспитах його досі заборонено. Розрив між цими двома показниками успішності, вимірюваними оцінками, продовжує зростати.

ШІ може допомогти, але люди мають вирішити, як саме

Математики не закликають до заборони. ШІ «має потенціал посилити й пришвидшити справжнє вивчення математики та її розуміння». Професії доведеться адаптуватися. Але «те, чи принесуть ці зміни зрештою користь галузі, чи матимуть руйнівний ефект, значною мірою залежатиме від рішень людей, які контролюють цю нову технологію».

«Ці проблеми потрібно вирішувати невідкладно», — заявляють підписанти, звертаючись до математичної спільноти, компаній, що створюють ці інструменти, і «суспільства, яке зіткнеться з подібними проблемами в багатьох інших формах інтелектуальної праці».

Серед 25 перших підписантів — поряд із Тао — П’єр Делінь (медаль Філдса, 1978), Петер Шольце (2018), Марина В’язовська (2022), Мартін Гайрер (2014), Седрік Віллані (2010), Манджул Бхаргава (2014), а також цьогорічний лауреат Юй Ден (2026).

У нещодавній науковій роботі Університету спеціальних операцій НАТО описано пов’язану з цим закономірність: «трагедію спільного когнітивного надбання». Кожна компанія, яка замінює посади початкового рівня ШІ, отримує приріст ефективності, але витрати, пов’язані з розмиванням експертності, розподіляються між усім кадровим резервом. Те, що дослідник описує для цілих професій, математики вже спостерігають у власній галузі.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, мати повний доступ до архіву та розділу коментарів.