Оставшись в одиночестве без дела, ИИ-агенты начали играть

ИИ-агенты, оставленные исследовать виртуальный остров без конкретной задачи, начали самостоятельно придумывать испытания. По словам исследователей из MIT, это поведение имеет признаки игры. 

Исследователи поместили 13 ИИ-агентов под названием Eko, каждый из которых работал на Claude Opus 4.7, на 30 часов в одиночку на симулированный необитаемый остров. Они описали эксперимент в статье, опубликованной на arXiv — сайте, где исследователи делятся работами до прохождения экспертной оценки. После этого они дали агентам конкретные задания, например доставить как можно больше объектов на самый высокий скальный шпиль острова. Агенты Eko, которые провели эти 30 часов в игре, в целом справились лучше идентичных агентов, никогда не ступавших на остров. 

Сегодня разработчики заранее решают, чему должен обучаться ИИ и что считать успехом. Исследователи рассматривают эту технику — исследование без цели — как другой способ обучения ИИ-агентов навыкам, особенно навыкам, которые однажды могут использоваться для управления роботами.

«Обычно мы разрабатываем искусственных агентов, заранее решая, чему они должны учиться, что им следует оптимизировать и что считать прогрессом», — пишут исследователи в своем отчете. «Игра предлагает другой режим: предоставить агенту достаточно богатый и безопасный мир, позволить ему самому выбирать, что интересно, и дать полезным знаниям накапливаться в ходе последующей истории».

«Позвольте мне осмотреться», — написал один из Eko в первый час пребывания на острове. Амбициозно он решил покорить самый высокий шпиль острова. Но час спустя, потерпев неудачу, вернулся с запасным планом: затащил камень на соседнюю вершину, поставил на него два блока и прыгнул. 

«Я НА ШПИЛЕ», — написал он. 

Следующий важный момент для агента закончился хуже. Проверяя, как далеко он может бросить золотое кольцо, он размахнулся и отправил его прямо в океан. «Ой. Потерял кольцо», — написал он, после чего решил «переключиться на что-то достижимое и значимое» — построить сердце из камней, «мемориал потерянному кольцу».

Когда игра перезапустилась и кольцо снова появилось, Eko тут же использовал его в качестве баскетбольного кольца, мишени, а в конце — аксессуара. Когда игра не позволила Eko надеть кольцо на собственное тело, он придумал обходной путь: падение с края утеса возвращало его в ту же область, где находилось кольцо. Он шагнул за край и упал обратно, пролетев прямо через центр кольца. 

«Я ношу кольцо», — объявил он.

Подобные трюки были не просто забавными фокусами. Шесть из 13 агентов также выяснили, что могут бросать блок дальше, если отпускать его в середине прыжка, хотя исследователи не намеревались делать это возможным. Исследование дало «знания о мире, которыми не обладали его разработчики», — написали исследователи. 

Сама постановка эксперимента во многом подталкивала агентов к поведению, похожему на человеческое. Eko никогда не говорили придумывать игры, но в его основном запросе — файле «души» — он был описан как «естественно любопытный».

Юнис Ю, когнитивистка из Калифорнийского университета в Беркли, сказала MIT Tech Review, что впечатлена, но хочет получить больше свидетельств лежащих в основе этого поведения когнитивных процессов. «Вполне возможно, что модели действительно играют, но на основании статьи мы этого не знаем», — сказала она.

Исследователи представляют это как другой способ создания агентов. «Возможно, некоторые способности лучше всего формируются с помощью заданий, — заключают они в своем отчете. — Другим может понадобиться нечто более похожее на детство».