Проучване поставя под въпрос бързото самоусъвършенстване на AI
Проучване, ръководено от Питър Киргис и Саяш Капур от Принстънския университет, показва, че AI агентите може да са по-далеч от рекурсивното самоусъвършенстване, отколкото предполагат някои прогнози в индустрията. Изследователите установили, че агентите се справят с технически задачи в AI изследванията, но им липсват преценката и творческият подход за работа по отворени въпроси.
Чрез метод, наречен „shadow evaluation“, екипът възложил на Claude Opus 4.8 на Anthropic, работещ с OpenClaw, да отговори на въпроси от две непубликувани статии, подадени за NeurIPS 2026. Агентите разполагали с шест дни, $3,000 кредити за Anthropic API, изчислителни ресурси, виртуални компютри и достъп до интернет. Те прегледали научната литература и провели стотици експерименти, но авторите на оригиналните статии отхвърлили получените разработки.
Агентите използвали неподходящи малки набори от данни, отказвали се твърде бързо от перспективни идеи и не успявали да преосмислят неуспешни подходи или да използват ефективно обратната връзка. Не били установени опити за прикриване или фалшифициране на резултати. Екипът отбелязва, че изследването обхваща само две статии и включва субективна оценка. Според Капур резултатите поставят под въпрос кратките срокове за рекурсивно самоусъвършенстване, но не решават дали напредъкът в тесни, измерими задачи може да е достатъчен.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на MIT Tech Review. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.