Водещи математици се опасяват, че ИИ прави областта им по-глупава, и предупреждават, че следващите сме всички ние

Двадесет и петима носители на медала „Фийлдс“ предупреждават, че целите на индустрията за ИИ и на математиката са „сериозно разминаващи се“. Масовото производство на решени задачи с ИИ може да подкопае истинската цел на дисциплината: разбирането.

В съвместно изявление 25 носители на медала „Фийлдс“, най-високото отличие в математиката, предупреждават за въздействието на ИИ върху своята област. През последните месеци големите езикови модели са станали толкова добри по математика, че вече могат да решават „големи нерешени проблеми в много области на математиката“. Именно това ги тревожи.

Компаниите за ИИ разглеждат математическите задачи като еталони, които трябва да бъдат покорени, и това вреди на науката и на свързаната с нея общност, се казва в изявлението. Целите на компаниите за ИИ и на математиците са „сериозно разминаващи се“. Подписалият изявлението Терънс Тао вече беше предупредил за фундаментална криза в математиката, предизвикана от ИИ.

Решаването на задачи не е целта, а пътят към нея

Известните нерешени задачи „често са служили като ориентири и фарове, спрямо които може да се измерва подобреното разбиране на този пейзаж“, се казва в изявлението. Когато някой реши такава задача, самото решение е по-малко важно от новото мислене, необходимо за достигането до него. След това математиците прекарват години в анализиране на това мислене в „дълъг и труден процес на беседи, дискусии и опростяване“.

ИИ заплашва да прекъсне този процес. „Решаването на задачи е само инструмент и заместител на постигането на основната цел — концептуално разбиране и прозрение“, пишат подписалите. Заливането на областта с отговори със скоростта на машините може да „унищожи плодородната почва, вместо да вдъхне живот на нови идеи“.

Решенията, генерирани от ИИ, се обявяват „без време за надлежно изложение, изолиране на новите методи и идеи и цитиране на съответната предходна работа на други автори“. Това повдига „сериозни въпроси относно приписването на заслуги и плагиатството“.

„Без готовите да съдействат математици, които трябва да се погрижат за тяхното развитие и интегриране в математическия канон, идеите, замислени от ИИ, никога не биха оживели напълно“, се казва в изявлението. „Ключовата човешка верига на предаване между математиците би била изгубена.“

Изявлението идва на фона на спор между двама математици и OpenAI. Обвинението: OpenAI е научила за слухове относно частично решение на задача от Проблемите за хилядолетието и се е опитала да изпревари изследователите заради публичността. Главният изследовател на OpenAI Пачоки заяви по време на представянето на Astra, че компанията умишлено е избрала да не оптимизира модела за математика. Малко след това OpenAI очевидно все пак е обучила математически модели, привидно в пряк отговор на тези слухове.

Заплахата далеч надхвърля математиката

Подписалите виждат „обща заплаха за интелектуалния труд“. В много области годините обучение са „служили не само за създаване на краен отговор или продукт, но и за развиване на разбиране и способност за формулиране на нови въпроси и идеи“. Когато ИИ произвежда „директно резултатите от такъв труд“, тези цели се разделят.

„Проблемите, пред които математическата общност е изправена сега, са сходни с проблемите, пред които са изправени други научни и творчески професии, и показват проблеми, с които може да се сблъска цялото човечество: как да гарантираме, че докато ИИ променя начина, по който се извършва трудът, няма да загубим от поглед какво е трябвало да постигне този труд още в началото.“

Разликата вече се проявява в образованието. Домашните работи все по-често могат да бъдат изпълнявани от ИИ, докато на изпитите той все още е забранен. Разликата между резултатите в тези две ситуации, измерена чрез оценките, продължава да нараства.

ИИ може да помага, но хората трябва да решат как

Математиците не призовават за забрана. ИИ „предлага потенциал за подобряване и ускоряване на истинското математическо изследване и разбиране“. Професията ще трябва да се адаптира. Но „дали тези промени в крайна сметка ще бъдат от полза за областта или ще имат разрушителен ефект, до голяма степен ще бъде определено от решенията на хората, които контролират тази нова технология“.

„Тези въпроси трябва да бъдат разгледани спешно“, заявяват подписалите, призовавайки математическата общност, компаниите, които създават тези инструменти, и „общество, което ще се сблъска с подобни проблеми в много други форми на интелектуален труд“.

Сред първоначалните 25 подписали са, наред с Тао, Пиер Делин (медал „Фийлдс“, 1978 г.), Петер Шолце (2018 г.), Марина Вязовска (2022 г.), Мартин Хайрер (2014 г.), Седрик Вилани (2010 г.), Манджул Бхаргава (2014 г.) и тазгодишният носител Ю Ден (2026 г.).

Изследователска статия на Университета за специални операции на НАТО наскоро описа сходен модел: „трагедията на когнитивните общи блага“. Всяка компания, която замества началните работни места с ИИ, извлича ползи от повишената ефективност, но цената на ерозирането на експертните умения се разпределя върху целия кадрови резерв. Това, което изследователят описва в рамките на цели професии, математиците вече наблюдават в собствената си област.

Новини за ИИ без сензации – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен годишен шестмесечен доклад за новостите в ИИ „AI Radar“, достъп до целия архив и достъп до секцията за коментари.