Математики сомневаются в творческих возможностях LLM
Математики Тимоти Гауэрс и Питер Сарнак признают значительные способности больших языковых моделей в математике, однако считают их ограниченными при поиске действительно новых идей. По словам Гауэрса, LLM умеют объединять известные методы и проверять множество возможных направлений. При этом им, по его оценке, не хватает интуиции, чтобы выбрать несколько перспективных путей в огромном пространстве поиска.
Сарнак описывает аналогичную проблему. Искусственный интеллект способен получать результаты на основе существующей теории, но, начиная с элементарного вопроса, не умеет разрабатывать абстракции, лежащие в основе крупных доказательств. К близкому выводу пришёл исследователь DeepMind Том Захави. В статье «LLMs Can’t Jump» он связывает это ограничение с «манипулятивной абдукцией» — способностью придумывать новые фундаментальные предпосылки, для которых нет языкового прецедента.
В статье мировые модели рассматриваются как возможный способ продвижения вперёд. Эти оценки вписываются в более широкий спор о том, становятся ли LLM более универсальными или главным образом улучшают результаты на тестах и знакомых типах задач.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.