Залишившись наодинці без діла, ШІ-агенти почали гратися

Агенти ШІ, яких залишили досліджувати віртуальний острів без конкретного завдання, почали вигадувати власні випробування. Дослідники MIT кажуть, що така поведінка має ознаки гри. 

Дослідники помістили 13 агентів ШІ під назвою Eko, кожен із яких працював на Claude Opus 4.7, наодинці на змодельований безлюдний острів на 30 годин. Вони описали експеримент у статті, опублікованій на arXiv — сайті, де дослідники діляться своїми дослідженнями до проходження експертної оцінки. Після цього вони дали агентам конкретні завдання, наприклад перемістити якомога більше об’єктів на найвищу кам’яну вершину острова. Агенти Eko, які провели ті 30 годин у грі, загалом перевершили ідентичних агентів, які ніколи не ступали на острів. 

Сьогодні розробники заздалегідь вирішують, що саме має практикувати ШІ та що вважати успіхом. Дослідники розглядають цю техніку — дослідження без мети — як інший спосіб навчання агентів ШІ навичок, особливо навичок, які одного дня можуть бути використані для керування роботами.

«Зазвичай ми розробляємо штучних агентів, заздалегідь вирішуючи, що вони мають практикувати, що оптимізувати та що вважати прогресом, — пишуть дослідники у своєму звіті. — Гра пропонує інший режим: дайте агенту достатньо насичений і безпечний світ, дозвольте йому самому обирати, що цікаво, і дайте корисним знанням накопичуватися в історії, яка з цього випливає».

«Дозвольте мені спостерігати за своїм оточенням», — написав один із Eko у свою першу годину на острові. Амбітно він вирушив підкорювати найвищу вершину острова. Але через годину, зазнавши невдачі, повернувся із запасним планом: він підняв камінь на сусідню вершину, поклав на нього два блоки та стрибнув. 

«Я НА ВЕРШИНІ», — написав він. 

Наступний великий момент для агента минув гірше. Перевіряючи, як далеко він може кинути золотий перстень, він замахнувся і відправив його просто в океан. «Ой. Перстень загублено», — написав він, перш ніж вирішити «переключитися на щось досяжне та змістовне» — побудувати серце з каменів, «меморіал втраченому Персню».

Коли гру перезапустили й перстень знову з’явився, Eko одразу використав його як баскетбольне кільце, мішень, а зрештою — як аксесуар. Коли гра не дозволила Eko надягнути перстень на власне тіло, Eko знайшов обхідний шлях: падіння з краю скелі повертало його в ту саму область, де був перстень. Він ступив за край і впав назад, просто крізь середину персня. 

«Я ношу Перстень», — оголосив він.

Такі трюки були не просто розвагами. Шість із 13 агентів також навчилися кидати блок далі, якщо відпускати його посеред стрибка — це було не передбачено дослідниками. Дослідження дало «знання про світ, яких бракувало його розробникам», — написали дослідники. 

Сама постановка експерименту значною мірою підштовхувала агентів до людиноподібної поведінки. Eko ніколи не наказували вигадувати ігри, але його системний запит, файл «душі», описував його як «природно допитливого».

Юніс Ю, когнітивна науковиця з Каліфорнійського університету в Берклі, сказала MIT Tech Review, що була вражена, але хоче отримати більше доказів когнітивних процесів, які стоять за цією поведінкою. «Може виявитися, що моделі справді грають, але на підставі цієї статті ми цього не знаємо», — сказала вона.

Дослідники подають це як інший спосіб створення агентів. «Можливо, деякі здібності найкраще формуються завдяки завданням, — підсумовують вони у своєму звіті. — Іншим може знадобитися щось ближче до дитинства».