Конфликтът на OpenAI с математиците само се изостря

Двадесет и пет водещи математици подписаха отворено писмо, в което твърдят, че лабораториите за изкуствен интелект застрашават интелектуалния им труд, докато се опитват да се надминат взаимно с решения на известни математически задачи. Всеки от подписалите е носител на медала „Филдс“, смятан за най-престижната награда в математиката.

Тази седмица професорът от Нюйоркския университет Тристан Бъкмастър обвини OpenAI, че го е притискала да не посочва като съавтор свой сътрудник, който работи за Anthropic, при решаването на важна математическа задача, и се запита дали компанията не е използвала работата им с Codex, за да създаде собствено революционно доказателство в рамките на изпълнен с изчисления маратон през уикенда.

В четвъртък OpenAI оттегли спонсорството си за математическо събитие в CalTech, след като компанията беше разкритикувана от изследователи в университета.

Макар че способността на моделите с изкуствен интелект да решават най-големите нерешени математически предизвикателства в света би могла да бъде от огромна полза за човечеството, авторите на новото писмо твърдят, че това ще бъде така само ако тези решения могат да бъдат разбрани и комуникирани от математическата общност и в крайна сметка от останалата част на света.

„Често тези решения се обявяват набързо, без да остава време за подходящо описание, обособяване на новите методи и идеи и цитиране на релевантната предишна работа на други хора“, пишат те — а доказателството на OpenAI все още не е проверено. „Както във всички творчески професии, това повдига сериозни въпроси за признаването на авторството и плагиатството. Освен това без доброволното участие на математиците, които трябва да се погрижат за тяхното развитие и интегриране в математическия канон, идеите, замислени от изкуствен интелект, никога няма да оживеят напълно, а решаващата верига на човешкото предаване на знания между математиците ще бъде изгубена.“

С нарастващата параноя сред други математици и въпросите дали използването на Codex от тяхна страна на свой ред не е било подадено към новите модели на OpenAI, съществува реален страх, че културата на откритите изследвания ще бъде застрашена. Днес, ако водещите лаборатории видят перспективен път към откритие, те могат да похарчат десетки милиони долари за използване на големи езикови модели, за да изпреварят първоначалните изследователи с доказателство — динамика, която ще стимулира секретността.

Това писмо следва Лайденската декларация, публикувана от работна група математици през юни. Този документ също разглежда начините, по които доказателствата, създадени от големи езикови модели, ще променят тяхната работа, и предлага набор от препоръки за математици, институции и политици.

Както при софтуерното инженерство и други области, в които инструментите с изкуствен интелект променят работните процеси, математиците откриват основание за защита на работата около самата работа: стойността на математиката не се състои само в доказателствата и в това кой получава признание, а и в интелектуалната надстройка, която подхранва студентите, открива нови въпроси и идеи и ги интегрира в по-широката човешка цивилизация.

И ако не ви е особено грижа за безмилостния свят на математическите доказателства с високи залози, не забравяйте: вашата област на интерес е следващата.

„Проблемите, пред които математическата общност е изправена сега, са сходни с проблемите, пред които са изправени други научни и творчески професии, и показват проблеми, с които може да се сблъска цялото човечество: как да гарантираме, че докато изкуственият интелект променя начина, по който се извършва работата, няма да загубим от поглед какво е трябвало да постигне тази работа на първо място“, пишат те.