Дослідження ставить під сумнів швидке самовдосконалення ШІ
Дослідження під керівництвом Пітера Кіргіса та Саяша Капура з Принстонського університету свідчить, що до рекурсивного самовдосконалення системи ШІ можуть бути далі, ніж передбачають деякі галузеві прогнози. Науковці встановили, що агенти здатні виконувати багато технічних завдань, потрібних для досліджень у сфері ШІ, але їм бракує судження й творчості для роботи з відкритими дослідницькими питаннями.
За допомогою методу «shadow evaluation» команда доручила Claude Opus 4.8 від Anthropic, запущеному на OpenClaw, відповісти на запитання з двох неопублікованих статей, поданих до NeurIPS 2026. Агенти мали шість днів, $3,000 кредитів Anthropic API, обчислювальні ресурси, віртуальні комп’ютери та доступ до інтернету. Вони опрацювали наукові джерела й провели сотні експериментів, але автори оригінальних робіт відхилили підготовлені статті.
Агенти використовували невдалі малі набори даних, надто швидко відкидали перспективні ідеї, не могли докорінно змінити невдалий підхід і слабко враховували відгуки. Водночас дослідники не виявили приховування чи фальсифікації результатів. Автори зауважують, що дослідження охопило лише дві статті, а оцінювання було частково суб’єктивним. За словами Капура, висновки ставлять під сумнів короткі терміни рекурсивного самовдосконалення, але не визначають, чи може прогрес у вузьких вимірюваних завданнях зрештою виявитися достатнім.
Текст підготовлено ШІ Sakhanda Wire за матеріалом MIT Tech Review. Факти, цитати та повний контекст — в оригінальній статті нижче.