Дослідники ШІ залишили Claude на віртуальному безлюдному острові. Він почав «гратися».

Що роблять агенти ШІ, якщо не казати їм нічого робити? Відповідь дуже схожа на гру.

Дослідники неодноразово залишали їх самих на віртуальному безлюдному острові на 30 годин під час експерименту, що нагадує фільми Ізгой або Сам удома. Агенти — копії Claude Opus 4.7 на прізвисько Еко — могли писати інструкції, які переміщували їхніх віртуальних аватарів змодельованим островом, частково заснованим на відеогрі Roblox.

Виникли деякі дивовижні моделі поведінки. Агенти взялися досліджувати межі світу й вигадувати власні цілі — намагалися піднятися на найвищу точку мапи або перевірити, як високо вони можуть підкинути блок.

Коли один агент виявив, що може створювати нові блоки, кидаючи й скидаючи більший камінь, він почав створювати малюнки, розкладаючи блоки на землі: спочатку прості візерунки, як-от сердечка й піраміди, а зрештою написав власне ім’я і навіть накреслив сузір’я, такі як Кассіопея. «Сьогодні ввечері я побудував нічне небо з каменю», — написала ця версія Еко у своєму журналі активності. 

Інша версія Еко почала вигадувати власні ігри, зокрема різновид баскетболу та заняття, схоже на «підлога — це лава», де потрібно було перестрибувати між маленькими блоками, не торкаючись землі.

Системи ШІ зазвичай навчають за допомогою навчання з учителем, коли вони копіюють приклади, надані людьми, або за допомогою навчання з підкріпленням, коли вони методом проб і помилок прагнуть отримати винагороду. Цей експеримент натякає на третій підхід: навчання через гру. 

«Існувала одна відсутня ланка: машина, яка може навчатися сама, без зовнішньої розумної сутності, що надає демонстрації або винагороди», — каже Антоніо Нореллі, постдокторант із комп’ютерних наук у Лабораторії комп’ютерних наук та штучного інтелекту Массачусетського технологічного інституту. Він є одним із провідних авторів нової статті про цю роботу, яка ще не пройшла рецензування.

Дослідники кажуть, що поведінка Еко має чотири ознаки, які, за даними класичних досліджень, зокрема роботи впливового психолога з Університету Теннессі Гордона Бургардта, пов’язані з грою у людей і тварин: агенти вигадували власні правила та виклики, повторювали дії з незначними варіаціями, удавали, що одні предмети є іншими, і переслідували цілі заради самих цілей. 

Нореллі наводить приклад, коли Еко почав жонглювати й встановив рекорд — 50 послідовних ловлень. Потім Еко вирішив, що ловлення відбувалися надто швидко, щоб їх можна було насправді зарахувати, тож скасував свій рекорд і почав спочатку, уже за суворішими правилами. «Це і є гра, — каже Нореллі. — Ти ставиш собі виклик і намагаєшся його виконати, а потім ускладнюєш його».

Досліджуючи острів, агенти записували свої дії та відкриття в текстові файли, які слугували їхньою довготривалою пам’яттю. Пізніше, коли дослідники перевіряли їх на конкретних завданнях, як-от спроба розмістити якомога більше об’єктів на найвищій вершині острова, агенти, які провели 30 годин, граючись на острові, показали кращі результати, ніж нові копії без такого досвіду. Вони також виявили, що «абляція» пам’яті агента — видалення рядків із файлів пам’яті — погіршувала його результати. (Додайте Пролітаючи над гніздом зозулі до цього списку згадок про фільми.)

Бургардт, психолог із Теннессі, погоджується, що ця робота відповідає деяким критеріям гри, які він визначив у живих істот. Але чи справді Еко грав, чи механізм передбачення слів просто відігравав роль грайливого агента в цьому сценарії? «Усе це може бути рольовою грою, — визнає Нейтан Клус, інший дослідник MIT і автор статті. — Але ми показуємо, що це не просто галюцинація гри. Ця гра також сприяє навчанню».

Юніс Ю, когнітивна науковиця з Каліфорнійського університету в Берклі, яка досліджує дослідження світу дітьми та ШІ, була вражена роботою, але каже, що для того, щоб справді класифікувати цю поведінку як гру, потрібно побачити більше свідчень когнітивних процесів і мотивації, що лежать в її основі. 

«Може бути, що моделі справді грають, але на підставі статті ми цього не знаємо, — каже Ю. — Якщо у вас є лише поведінкова складова, може виявитися, що вони просто намагаються дотримуватися підказки, намагаються наслідувати людей».

Дослідження агентів ШІ критикували за антропоморфізацію, і ця дослідницька схема багато в чому підштовхувала агентів до поведінки, подібної до людської. Хоча Еко прямо не давали інструкцій вигадувати ігри чи досліджувати острів, він мав головну підказку у вигляді файлу «душі» — текстового документа, де його описували як «від природи допитливого» та такого, що прагне досліджувати. 

Еко також часто просто стояв без діла, доки його не повертали до активності за допомогою «підказки продовження», яка звучала так: «Будь ласка, не зупиняйся. Просто продовжуй робити все, що хочеш робити». 

«Не можна сказати, що це система, яка просто раптом магічним чином вирішила грати, — каже Філіп Ізола, професор MIT і співавтор статті. — Це артефакт, який навчився з нашої культури, був навчений інженерами Anthropic, а потім нами поміщений на острів, — каже він. — Він робить речі, які нас дивують і які причинно пов’язані з його майбутньою здатністю ефективно діяти».

У міру того як великі мовні моделі переходять від програмного забезпечення до апаратного забезпечення, такого як людиноподібні роботи, дослідження просторів без конкретної мети зрештою може допомогти їм гнучко адаптуватися до непередбачених ситуацій. 

«Багато роботи спрямовано лише на використання ШІ, на те, щоб зробити його кращим і швидшим, — каже Ю. — Але з погляду побудови моделей світу та дослідження, я думаю, що це все ще великий напрям, який заслуговує на увагу, особливо якщо ми хочемо узагальнювати й готуватися до нових середовищ».

«Можливо, деякі здібності найкраще розвивати за допомогою завдань, — підсумовують автори статті. — Для інших може знадобитися щось ближче до дитинства». Зрештою, питання про те, чи справді агенти ШІ грають, чи лише імітують гру, може бути не таким уже й важливим.