Водещи математици заявяват, че LLM са силни в изчисленията, но слаби в творческото мислене

LLM не могат да скачат, част II. Математиците Тимъти Гауърс и Питър Сарнак признават сериозните математически умения на големите езикови модели, но виждат твърди граници пред създаването на действително нови идеи. Гауърс твърди, че настоящите модели са добри в комбинирането на известни методи и изпробването на множество пътища за търсене, но им липсва интуицията да изберат малкото продуктивни маршрути в огромно пространство за търсене. Сарнак е съгласен: ИИ може да извежда резултати от съществуващата теория, но не успява да развие абстракциите, които са в основата на големите доказателства, когато започва от елементарен въпрос.

Изследователят на DeepMind Том Захави стигна до сходен извод. В своята статия „LLM не могат да скачат“ той определя тясното място като „манипулативна абдукция“ — способността да се измислят нови фундаментални допускания без езиков прецедент. Моделите на света биха могли да предложат път напред. Тези оценки се вписват в по-широкия дебат за това дали LLM всъщност стават по-универсални или „просто“ се справят все по-добре с бенчмаркове и познати проблемни области.

Новини за ИИ без сензации – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен шест пъти годишно доклад за новите тенденции „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.