Ведущие математики заявляют, что LLM сильны в вычислениях, но слабы в творческом мышлении

LLM не умеют совершать скачки, часть II. Математики Тимоти Гауэрс и Питер Сарнак признают, что большие языковые модели обладают серьёзными математическими навыками, но видят жёсткие ограничения в способности создавать по-настоящему новые идеи. Гауэрс утверждает, что современные модели хорошо комбинируют известные методы и перебирают множество направлений поиска, но им не хватает интуиции, чтобы выбрать несколько перспективных путей в огромном пространстве поиска. Сарнак с ним согласен: ИИ может выводить результаты из существующей теории, но не способен разрабатывать абстракции, лежащие в основе крупных доказательств, если начинает с элементарного вопроса.

Исследователь DeepMind Том Захави пришёл к аналогичному выводу. В своей статье «LLM не умеют совершать скачки» он связывает это узкое место с «манипулятивной абдукцией» — способностью изобретать новые фундаментальные допущения, не имеющие прецедентов в языке. Модели мира могут предложить путь вперёд. Эти оценки вливаются в более широкую дискуссию о том, становятся ли LLM действительно более универсальными или «всего лишь» лучше справляются с бенчмарками и знакомыми пространствами задач.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER и получите чтение без рекламы, еженедельную рассылку об ИИ, наш эксклюзивный годовой отчёт о передовых разработках «AI Radar», выходящий шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.