Изследователи на ИИ оставиха Claude на виртуален пустинен остров. Той започна да „играе“.

Какво правят агентите с изкуствен интелект, ако не им кажете да правят нищо? Отговорът много прилича на игра.

Изследователи многократно оставяли агентите сами на виртуален пустинен остров за 30 часа в експеримент, напомнящ на филмите Изгубени или Сам вкъщи. Агентите — копия на Claude Opus 4.7 с прякор Еко — можели да пишат инструкции, които придвижвали виртуалните им аватари из симулирания остров, донякъде базиран на видеоиграта Roblox.

Появили се някои изненадващи поведения. Агентите се заели да изследват границите на света и измислили собствени цели — опитвали се да изкачат най-високата точка на картата или да видят колко високо могат да хвърлят блок.

Когато един от агентите открил, че може да създава нови блокове, като хвърля и пуска по-голям камък, той започнал да създава рисунки, подреждайки блокове на земята — започнал с прости мотиви като сърца и пирамиди, но в крайна сметка написал собственото си име и дори изобразил съзвездия като Касиопея. „Тази вечер построих нощното небе от камък“, написал този вариант на Еко в дневника си с активности. 

Друга итерация на Еко започнала да измисля собствени игри, включително вариант на баскетбол и занимание, наподобяващо „подът е лава“, при което трябвало да скача между малки блокове, без да докосва земята.

Системите с изкуствен интелект обикновено се обучават чрез обучение с учител, при което копират примери, предоставени от хора, или чрез обучение с подсилване, при което преследват награда чрез проби и грешки. Този експеримент подсказва за трети подход: обучение чрез игра. 

„Имаше една липсваща част: машина, която може да се учи сама, без външен интелигентен субект, който да предоставя демонстрации или награди“, казва Антонио Норели, постдокторант по компютърни науки в Лабораторията по компютърни науки и изкуствен интелект на MIT. Той е един от водещите автори на нова статия за изследването, която все още не е рецензирана.

Изследователите казват, че поведението на Еко притежава четири белега, които според класически изследвания, включително работата на влиятелния психолог от Университета на Тенеси Гордън Бъргард, са свързани с играта при хората и животните: агентите измисляли собствени правила и предизвикателства, повтаряли дейности с леки вариации, престрували се, че предмети са други предмети, и преследвали цели само заради самите тях. 

Норели посочва пример, при който Еко започнал да жонглира и поставил рекорд от 50 последователни хващания. След това Еко решил, че хващанията са се случили прекалено бързо, за да се броят наистина, отменил рекорда си и започнал отначало с по-строги правила. „Това е игра“, казва Норели. „Поставяш си предизвикателство и се опитваш да го постигнеш, а след това го правиш по-трудно.“

Докато изследвали острова, агентите записвали дейностите и откритията си в текстови файлове, които служели като дългосрочна памет. По-късно, когато изследователите ги тествали със специфични задачи, като например да пренесат възможно най-много предмети до най-високия връх на острова, агентите, прекарали 30 часа в игра на острова, се представили по-добре от нови копия без същия опит. Те също така установили, че „аблацията“ на паметта на агента — изтриването на редове от файловете му с памет — влошавала представянето му. (Добавете Полет над кукувиче гнездо към списъка с препратки към филми.)

Бъргард, психологът от Тенеси, е съгласен, че работата отговаря на някои от критериите за игра, които той е идентифицирал при живите същества. Но Еко действително ли е играел, или двигателят за предсказване на думи просто е играел ролята на игрив агент в този сценарий? „Възможно е всичко това да е игра на роля“, признава Нейтън Клус, друг изследовател от MIT и автор на статията. „Но показваме, че той не просто халюцинира играта. Тази игра също допринася за обучението.“

Юнис Ю, когнитивен учен от Калифорнийския университет в Бъркли, която изследва изследователското поведение при децата и изкуствения интелект, била впечатлена от изследването, но казва, че за да бъде поведението наистина класифицирано като игра, ще са нужни повече доказателства за познавателните процеси и мотивацията, които стоят в основата му. 

„Възможно е моделите действително да играят, но не можем да разберем това въз основа на статията“, казва Ю. „Ако разполагате само с поведенческата част, възможно е те просто да се опитват да следват подканата и да имитират хората.“

Изследванията на агентите с изкуствен интелект са критикувани заради антропоморфизирането им, а постановката на това изследване е направила много, за да насочи агентите към поведение като на хора. Макар Еко да не е бил изрично инструктиран да измисля игри или да изследва острова, той е имал основна подкана под формата на файл „душа“ — текстов документ, който го описвал като „естествено любопитен“ и нетърпелив да изследва. 

Еко също така често просто стоял неподвижно и не правел нищо, докато не бил върнат към живот с „подкана за продължаване“, която гласяла: „Моля, не спирай. Просто продължавай да правиш каквото искаш.“ 

„Не е така, сякаш това е система, която внезапно и магически е решила да играе“, казва Филип Исола, професор в MIT и съавтор на статията. „Това е артефакт, който се е учил от нашата култура, бил е обучен от инженери в Anthropic и след това е бил поставен на остров от нас“, казва той. „Той прави неща, които ни изненадват и които са причинно свързани с бъдещото му умело поведение.“

С преминаването на големите езикови модели от софтуер към хардуер, като хуманоидни роботи, изследването на пространства без конкретна цел наум в крайна сметка би могло да им помогне гъвкаво да се адаптират към неочаквани ситуации. 

„Има много работа, която се фокусира единствено върху използването на изкуствения интелект, върху това да го направим по-добър и по-бърз“, казва Ю. „Но що се отнася до изграждането на модели на света и изследването, мисля, че това все още е голяма част, която заслужава внимание, особено ако искаме да обобщаваме и да се подготвим за нови среди.“

„Може би някои способности се усвояват най-добре чрез задачи“, заключава статията. „Други може да се нуждаят от нещо по-близко до детството.“ В крайна сметка въпросът дали агентите с изкуствен интелект действително играят или просто имитират играта може изобщо да няма значение.