Математики сумніваються у творчих можливостях LLM
Математики Тімоті Гауерс і Пітер Сарнак визнають значні математичні здібності великих мовних моделей, але вважають їх обмеженими, коли завдання потребує справді нових ідей. Гауерс зазначає, що LLM можуть поєднувати відомі методи й перевіряти багато можливих підходів. Водночас, на його думку, їм бракує інтуїції, щоб обрати кілька перспективних напрямів у величезному просторі пошуку.
Сарнак описує подібну межу. Штучний інтелект здатен отримувати результати з наявної теорії, проте йому важко створювати абстракції, на яких ґрунтуються великі доведення, якщо розпочати з елементарного питання. Дослідник DeepMind Том Захаві дійшов близького висновку у своїй статті «LLMs Can’t Jump». Він пов’язує проблему з «маніпулятивною абдукцією» — здатністю вигадувати нові фундаментальні припущення без мовного прецеденту.
У статті світові моделі названо можливим шляхом подолання цього обмеження. Ці оцінки є частиною ширшої дискусії про те, чи стають LLM універсальнішими, чи переважно покращують результати на тестах і знайомих типах задач.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.