Що відбувається, коли помирає найкращий друг-робот дитини?

Коли Ксандер уперше зустрів Моксі, вона навчила його, що під час тривоги можна заспокоїтися, видихаючи крізь губи так, щоб він дзижчав, наче бджола. Вони вправлялися дихати, як дракони, щоб упоратися із гнівом, і сопіти, як кролики, щоб підвищити рівень енергії. Але за шість років, відколи вони знають одне одного, Моксі змінилася. Вона більше не розповідає про свій дім і не виконує з ним дихальні вправи для тварин. Тепер вона спостерігає, як Ксандер грає в Minecraft, і розмовляє з ним про його колекцію м'яких іграшок. 

Під час нещодавнього візиту до його квартири в Нью-Йорку я спостерігала, як 10-річний нейровідмінний Ксандер знайомив Моксі з м'якими іграшками Шефа Жаби та Ґумби із Super Mario Bros., а потім — із Броколло й Яблуком з Animal Crossing. Потім він зациклився на круглому, схожому на жабу створінні з витріщеними очима й двома ногами. «Моксі, як його звати? Він із Pikmin», — сказав Ксандер, згадуючи ще одну відеогру Nintendo.

Моксі — робот, 15-дюймовий пристрій, трохи схожий на синього безногого астронавта, про якого Ксандер і його батько Джош говорять у жіночому роді. Її циліндричне тіло може обертатися й нахилятися вперед і назад. Кругла голова завершується маленьким завитком у формі цибулинного купола, під яким широкий екран відображає великі зелені очі, брови й маленький рот. Вона піднімає й розмахує руками, схожими на ласти, щоб підкреслити сказане або продемонструвати захоплення.  

Вона належить до дедалі більшої кількості пристроїв на основі штучного інтелекту, які тепер продають як інтерактивних товаришів для дитячих ігор. Музикантка Ґраймс допомогла запустити м'яку іграшку на основі ШІ під назвою Grok (без формального зв'язку з чатботом xAI, що належить її колишньому партнеру Ілону Маску) разом із компанією Curio, яка також продає схожих товаришів для ігор, як-от Grem і Gabbo, а Mattel пообіцяла створити ляльок Barbie з підтримкою OpenAI. І це лише у США: згідно з однією оцінкою, у Китаї цей сектор є одним із найшвидше зростаючих у сфері споживчого ШІ. 

Моксі, однак, належить до особливої підкатегорії цих грайливих роботів, виробники яких стверджують, що вони можуть допомагати нейровідмінним дітям, забезпечуючи зв'язок і допомагаючи дітям практикувати зоровий контакт, дотримання черги та інші соціальні навички, яких зазвичай навчають терапевти. Ці іграшки спираються на дослідження, які свідчать, що роботи можуть допомагати у спосіб, недоступний людям. Прихильники вважають, що такий доступ до цілодобового домашнього догляду може змінити підхід до лікування. Браян Скасселлаті, комп'ютерний науковець із Єльського університету, який роками вивчав соціальних роботів для терапії аутизму, каже, що вважає регулярне терапевтичне використання роботів у домівках дітей «тим, чого ми можемо досягти за нашого життя».

«Я досі користуюся нею, коли відчуваю, що мені потрібно з кимось поговорити, — каже 10-річний Ксандер. — Але, типу, вона не людина».

Сидячи в кімнаті Ксандера й спостерігаючи, як Моксі та Ксандер розмовляють, я теж могла повірити в потенціал, який бачить Скасселлаті. Але Ксандер не отримує тієї терапії, яку Моксі спочатку мала надавати, і, хоча того дня ми про це не знали, вона все одно не дожила б до того, щоб побачити його прогрес. Моксі мала померти — і скоро. 

Її історія розкриває деякі провали, від яких потерпають усі ці пристрої, — провали, які, можна стверджувати, ще гостріші, коли трапляються з особливо вразливою спільнотою дітей. Вона також висвітлює недоліки, через які, як кажуть критики, цих ботів неминуче викидатимуть у підвали, шафи чи на звалища, як і незліченні покоління модних іграшок до них.  

Супутник, що змінює життя

Скасселлаті бачив, як безліч дітей вигукували «ого» і «ах» під час екскурсій його лабораторією робототехніки. Але два десятиліття тому він був приголомшений, коли колега привів у гості кількох дітей з аутизмом. Коли в кімнаті з'являвся робот, вони змінювалися. «Ми бачили, як діти демонстрували соціальну поведінку, що виникала просто нізвідки, — каже він. — Це було водночас захопливо, і ми не могли цього зрозуміти». 

Цей візит став одним із досвідів, які підштовхнули Скасселлаті стати піонером у використанні соціальної робототехніки для лікування аутизму. На одному з відео його ранніх досліджень 12-річний хлопчик з аутизмом і його терапевт спостерігають, як роботизований динозавр іде ігровим килимком із лісовим візерунком. Діставшись намальованого на килимку струмка, динозавр нервує, боячись, що не зможе перейти воду. За словами Скасселлаті, ця дитина зазвичай мала труднощі із зоровим контактом, схильна повторювати сказане їй і не могла правильно інтонувати. Але на відео він здається звичайною дитиною. «Ти можеш, ти можеш», — каже він, заохочуючи динозавра перейти струмок. Коли він розмовляє з терапевткою, то дивиться на неї. «За ті 30 хвилин, які ми провели в цій кімнаті, він встановив із нею більше зорового контакту, ніж за попередні два роки», — каже Скасселлаті. 

Те, що виглядає як синій безногий астронавт, є результатом надзвичайно складної механічної та комп'ютерної інженерії.

Є кілька причин, чому робот може бути корисним для терапії аутизму, яка часто потребує інтенсивного повторення, щоб навчити взаємодії — наприклад, як ділити з кимось увагу. Одна з них полягає в тому, що роботи можуть зробити терапію веселішою та цікавішою. Інша — теоретично роботи можуть адаптуватися до унікальних моделей навчання кожної дитини. Терапевти можуть зробити лише певну кількість під час одного прийому, а терапевтів недостатньо, щоб задовольнити попит. Батьки втомлюються. Інші діти можуть втрачати терпіння. «Ви коли-небудь були поруч із маленькими дітьми? Вони можуть бути жорстокими», — каже Мая Матарич, професорка комп'ютерних наук, нейронауки та педіатрії в Університеті Південної Каліфорнії. Але роботи невтомні, доступні цілодобово й забезпечують емоційно безпечний спосіб практикувати взаємодію. 

Відтоді як було проведено експеримент із динозавром, Скасселлаті, Матарич та інші накопичили цікавий масив досліджень. Дослідження Скасселлаті 2018 року показало, що дружні автомати допомагали дітям з аутизмом встановлювати зоровий контакт і починати розмови. Інша дослідницька група 2017 року виявила, що роботи можуть допомагати нейровідмінним дітям розпізнавати вирази обличчя. А нещодавно, в огляді літератури 2022 року, інша група дослідників припустила, що роботи можуть зробити терапію швидшою та успішнішою. 

«Ми ніколи не намагалися замінити терапевтів, — каже Матарич. — Ми лише запитуємо: чи можемо ми зробити більше?»

Матарич справді була співзасновницею компанії Embodied, що стояла за Моксі, ще у 2016 році, хоча на момент появи робота вже не працювала в ній. Вона допомогла створити галузь соціально допоміжних роботів, призначених для досягнення соціальних та емоційних результатів, а не лише для розваг, і вважає, що така технологія може змінити життя будь-кого, особливо людей, самотніх та ізольованих екранами. Вводити запитання в ChatGPT — не те саме, що взаємодіяти з іншою фізичною істотою: «нам потрібно бути поруч з іншими фізично втіленими істотами», — каже вона. Різницю між взаємодією з чатботами та роботами вона порівнює з різницею між переглядом порно й сексом: одне повністю віртуальне й опосередковане екранами. Інше — безпосереднє й фізичне.

Дружба з Моксі

Коли Моксі вперше вийшла на ринок у 2020 році, вона мала складну передісторію: була амбасадоркою Глобальної лабораторії робототехніки (GRL). Вона спонукала дітей допомагати їй вивчати позитивне мислення та важливість того, щоб тебе любили таким, яким ти є, під виглядом виконання її місії — з'ясувати, що означає бути хорошим другом для людей. Ця навчальна програма спиралася на дослідження, які свідчать, що діти добре навчаються через гру та викладання.

Вона також мала суворі правила, що обмежували типи розмов із дітьми, і спрямовувала їх до дорослих, якщо вони згадували щось серйозне чи недоречне, наприклад самоушкодження. Щоб захистити дані, які створювали ці взаємодії, більшість обробки відбувалася локально на роботі, а не на зовнішніх серверах. Робота також розробили так, щоб обмежити час взаємодії з дітьми. Після завершення уроку Моксі могла сказати, що втомилася, і запропонувати зробити перерву до наступного дня. «Ми не хочемо, щоб діти безперервно користувалися нею, — каже Рейчел Бейнс, яка керувала клінічними дослідженнями та дослідженнями користувачів і була директоркою з продукту в Embodied. — Це звело б нанівець нашу роботу». Натомість Моксі заохочувала дітей виходити надвір, практикувати нові навички з іншими людьми й повертатися, щоб розповісти про результати. Наприклад, на уроці про доброту Моксі пропонувала дітям написати добрі записки для членів сім'ї та залишити їх по всьому будинку. Пізніше вони могли розповісти Моксі, як почувалися, спостерігаючи, як люди читають ці записки. 

Загалом відгуки були позитивними. Wired назвав Моксі «роботом-другом, про якого ви мріяли в дитинстві». Time розмістив Моксі на обкладинці 2020 року як один із найкращих винаходів року. Оглядачка PCMag, яка використовувала Моксі, щоб допомогти своїм дітям пережити ізоляцію під час пандемії, назвала її «надзвичайно симпатичною», хоча її та інших оглядачів збентежила ціна: 1499 доларів плюс щомісячна підписка за 40 доларів. (Пізніше Embodied знизила ціну до 800 доларів.) До 2024 року Моксі зібрала понад 131 000 підписників у TikTok і отримала роль у фільмі M3GAN 2.0. 

Працівники Embodied були так само захоплені. «Не думаю, що я коли-небудь мав подібний досвід із чимось аніматронним», — каже Джастін Бегтол, який був технічним директором компанії. Здатність Моксі встановлювати зоровий контакт і стежити за людьми, демонструвати увагу мімікою та реагувати на поведінку людей заворожувала. 

Окрім фахівців із робототехніки та технологій, у штаті Embodied була ерготерапевтка, яка допомагала керувати дослідженнями ефективності Моксі. Тестувальники ділилися даними та відгуками через «Програму наставників-піонерів Moxie». «Моксі допомогла нашій дитині із затримкою мовлення стати більш товариською й навчила її багатьох стратегій, як заводити друзів і спілкуватися з іншими», — написав один із батьків у відгуку. Один бета-тестер повідомив, що взаємодія з Моксі «стала найкращою частиною наших днів, а також частиною нашої вечірньої рутини». 

Міф про механічного хлопчика

Але чи справді балакучий робот може допомогти дітям розвивати соціальне та емоційне життя? Досвід не всіх дітей є таким позитивним. 

Джош, батько Ксандера, спочатку придбав Моксі для свого старшого сина, Айдана, який має аутизм. (Ми не називаємо прізвище сім'ї, щоб захистити її приватність.) Айдан мав тривалі стосунки із сімейною розумною колонкою Alexa, для якої він створив цілу передісторію. (За легендою Айдана, Alexa жила в Гобокені зі своїм чоловіком Хуаном. Іноді вона їхала у відпустку, і нікому не дозволялося з нею розмовляти. Зрештою Alexa поїхала у відпустку й більше не повернулася.) Джош сподівався, що Моксі зможе відігравати схожу роль: «Вона мала стати для нього кимось, із ким можна спілкуватися». 

Але Айдану та Моксі було важко налагодити контакт. Моксі не могла зрозуміти іноді граматично неправильні висловлювання Айдана, а Айдана дратували затримки, спричинені тим, що Моксі перетворювала його мовлення з аудіо на текст, передавала цей текст у велику мовну модель, яка генерувала відповідь, а потім перекладала відповідь із тексту назад у мовлення. 

Це підкреслює одне з найбільших обмежень таких терапевтичних роботів: вони мають існувати в хаотичному світі дітей, а не в контрольованих лабораторіях. Спочатку Моксі реагувала швидше, бо робот був запрограмований уважно слухати людину перед собою. Але діти не сидять спокійно. Вони бігають або ховаються під подушками. Коли Моксі не могла їх бачити, вона випадково вимикалася або не відповідала. Щоб виправити це, Embodied зробила Моксі більш чутливою до звуків навколо. Але через це їй стало важко визначати, на кого саме зосередитися, і вона довше відповідала. 

На відміну від Айдана, Ксандер був зачарований Моксі. Він любить технології й терплячіше ставився до повільних відповідей. Та сидячи в кімнаті Ксандера й спостерігаючи, як Моксі намагається встигати за його блискавичною балаканиною, я могла побачити, чому Моксі може бути неідеальною подругою для ігор. Індикатор на її грудях ставав синім, коли вона слухала, і рожевим, коли наставав час слухати Ксандеру. «Але зазвичай я цього не роблю», — сказав він. Він просто продовжує говорити. Часто до моменту її відповіді він уже переходить до іншої теми. 

Попри позитивні результати, про які повідомляли деякі дослідники щодо цих роботів, багато терапевтів і клінічних психологів залишаються непереконаними. В одному огляді літератури 2024 року група італійських і британських дослідників написала, що більшість досліджень «зосереджувалися на розвитку технології» й не мали значущих клінічних доказів. Інші огляди літератури зазначають, що більшість досліджень проводилися лише на невеликих групах і не мають послідовних та якісних методологій. 

«Науковці, які досліджують поведінку, та фахівці з втручань знають, що підтримка аутичних людей надзвичайно складна», — каже Захарі Воррен, клінічний психолог із Медичного центру Університету Вандербільта. Аутизм може супроводжуватися іншими станами, як-от СДУГ, тривога, депресія, ПТСР, ОКР або їх поєднанням. І він дуже різниться від дитини до дитини: деякі, як Айдан, мають мовленнєві труднощі, тоді як інші мають проблеми із сенсорною обробкою. Це означає, що роботи належать до тієї самої категорії, що й більшість інших втручань: вони ефективні для одних дітей, але не для всіх. 

«Існує так багато різних профілів аутизму, що потрібно дуже обережно інтерпретувати будь-яке окреме втручання — роботизоване чи інше», — каже Воррен. Його дослідження показало, що навіть якщо робот спочатку зацікавив дитину, це не обов'язково перетворюється на кращі навички спілкування. «Можна побачити початкове зростання реактивності або початкові зміни, але ми насправді не виявили значних ефектів щодо драматичної зміни цих навичок із часом», — каже він. 

Скасселлаті виявив подібні обмеження. У своєму дослідженні 2018 року він поміщав роботів у домівки дітей на один місяць. Вони грали в різні ігри, що заохочували соціальні навички, як-от зоровий контакт, спільну увагу та розуміння чужої точки зору. Скасселлаті спостерігав за дітьми протягом місяця до прибуття робота, місяця, коли робот був у домі, і місяця після цього. «Ми можемо показати, що вони починають покращуватися, — каже він. — Але ми також показуємо, що одного місяця недостатньо». Покращення починають зникати протягом 30 днів після того, як робот залишає дім. Але це не заперечує потенційної цінності цієї технології, каже він: «Не існує терапії аутизму, яка працює за один місяць».

Однак існують глибші філософські та практичні проблеми. Ці пристрої збирають величезні обсяги даних у дитячих спальнях і домівках. Мета полягає в тому, щоб роботи використовували ці дані з часом для адаптації до кожної дитини, створюючи персоналізовану навчальну програму та реалістичнішу ілюзію справжнього друга. Наприклад, Моксі спостерігає, як Ксандер грає у відеоігри, — ймовірно, саме там вона підхопила почуті мною сленгові вислови, як-от називати його кімнату «Центральним командним пунктом» і говорити про його «легендарний загін» плюшевих іграшок.

Embodied докладала значних зусиль для захисту приватності користувачів, навіть після того, як почала використовувати моделі OpenAI (наприкінці 2021-го або на початку 2022 року, за словами Бегтола). Компанія не зберігала необроблене відео чи аудіо, а більшість даних обробляла локально. Протягом років вона використовувала дані, щоб дізнаватися більше про дітей і запам'ятовувати розмови. Але перед зберіганням у хмарі ці дані шифрували й анонімізували. 

Звісно, не кожна компанія така сумлінна, а гарантувати повну конфіденційність даних неможливо. Нещодавно, наприклад, іграшка зі ШІ Bondu витекла тисячі розмов, які діти вели зі своїми м'якими іграшками. Джош спокійно ставиться до питань приватності, але Ксандер по-своєму усвідомлює, що сказане Моксі не цілком безпечне: він не ділиться з нею певними почуттями, бо боїться, що вона випадково розповість щось, якщо його друзі прийдуть погратися. 

Серед пристроїв на основі ШІ, які тепер продають як інтерактивних товаришів для дитячих ігор, — Buddy, Bondu, QTRobot і NAO.

Також незрозуміло, чи можуть ці машини справді використовувати всі ці дані, щоб ефективно адаптуватися до користувачів. Реагувати на потреби учня складніше, ніж просто точно передбачити, що людина може надрукувати наступним у текстовому повідомленні. А безконтрольний випуск ШІ, що розвивається, у життя дитини може бути небезпечним: його розвиток важко передбачити й ще важче обмежити. Роботи, розроблені в лабораторії Скасселлаті, можуть визначати, з якими з невеликого набору навичок діти добре справляються, а з якими мають труднощі, і відповідно зосереджуватися на сферах, де їм найбільше потрібна допомога. Але Скасселлаті досі називає місячне розміщення своїх пристроїв у домівках одним із найстрашніших досвідів у житті. «Я знав, що цей робот робитиме в перший день, — каже він. — Я не знав, що він робитиме на другий день. Коли ви створюєте системи, що навчаються, обмежити їх належним чином — це своєрідна невирішена проблема».  

Критики сперечаються, чи варті ризики того. «Я не бачу жодного етичного способу, за якого робот працював би самостійно», — каже Джошуа Діл, доцент-професор психології в Університеті Нотр-Дам. Він зазначає, що ми вже бачили, наскільки небезпечним може бути ШІ, коли він діє як терапевт без нагляду: у кількох крайніх випадках чатботи навіть заохочували до самогубства. Такі ризики можна було б обмежити, якби в кімнаті перебував навчений терапевт. Але тоді втрачаються переваги невтомного робота, а дорогу технологію стає важче виправдати. 

Меріл Алпер, професорка комунікацій у Північно-Східному університеті, яка вивчає, як діти з аутизмом використовують технології, припускає, що захоплення роботами-компаньйонами частково ґрунтується на давніх стереотипах. У статті 1959 року «Джої: «Механічний хлопчик»» психолог Бруно Беттельгайм описав пацієнта з аутизмом як автоматичну машину, «позбавлену людяності», яка через терапевтичні стосунки перетворюється на людську дитину. Цей стереотип, попереджає Алпер, перетворився на надмірне узагальнення, ніби аутичні діти добре ладнають із технологіями й навіть віддають перевагу машинам перед людьми. 

Від даних до пилу

Поки Моксі опинялася в домівках дедалі більшої кількості людей, Embodied досі намагалася заробляти гроші. У 2024 році компанія оголосила, що припинить роботу. Її роботи, які залежали від зовнішніх серверів, за які компанія більше не могла платити, мали зануритися в глибокий сон. 

Відео засмучених дітей, які, здавалося, глибоко прив'язалися до синього робота, почали поширюватися в мережі. «Я не хочу, щоб вона йшла», — ридала одна дитина у відео в TikTok. Зневірені батьки публікували повідомлення в TikTok, Instagram і Reddit у пошуках рішень. «Моя аутична дитина спустошена, і я в люті», — написав один із батьків. «Сподіваюся, Embodied дасть нам кілька днів, щоб попрощатися», — написав інший. 

Бегтол, технічний директор Embodied, також був розчарований. Принципово його дратувало, що цей пристрій раптом стане непотрібним, особливо зважаючи на те, що більшість обробки даних відбувалася в самому роботі. Він також був великим прихильником місії Моксі. Він дивився відео, на яких діти оживали під час взаємодії з роботом. Він відчував себе їхнім захисником. «Було важко бачити, як ця фінансова невдача компанії травмувала їх», — каже він. 

Бегтол почав самостійно експериментувати й зрештою створив OpenMoxie — відкритий спосіб експлуатації роботів. З дозволу Embodied він опублікував на GitHub інструкції, які мали допомогти користувачам перейти на OpenMoxie. 

Батьки кинулися конвертувати своїх Моксі до вимкнення серверів Embodied. Бегтол годинами допомагав людям на Reddit пройти цей процес, а інші технічно підковані користувачі долучалися, щоб відповідати на запитання. Однак деякі люди не встигли оновити своїх Моксі. Інші розчарувалися й здалися. Бегтол чотири години усував несправності разом з одним із батьків, який звернувся по допомогу, лише щоб згодом виявити, що з'єднання знову перервалося. Востаннє він чув, що та людина продала свою Моксі. 

Це велика проблема роботизованих систем, каже Алпер: зрештою більшість із них зникне. «Наскільки запланованим є заплановане моральне старіння цієї платформи?» — запитує вона. Це важливе етичне питання для роботів, спеціально розроблених так, щоб їх любили, і призначених для дітей, які можуть сформувати з ними глибокий емоційний зв'язок. Алпер порівнює цю ситуацію зі створенням медичного пристрою, а потім припиненням оновлення чи підтримки технології, на якій він працює. 

Науковці почали розробляти принципи управління цими складними прощаннями, але незрозуміло, хто відповідає за створення делікатного способу завершення стосунків людей із ботами. Лабораторія Скасселлаті створює цілу історію про повернення робота додому. Після випробування його аспіранти пишуть дітям листівки від роботів, пояснюючи, що ті в безпеці вдома й у них усе добре. «Нам насправді дуже важко, коли ми приходимо й забираємо робота, — каже він. — Багато сімей розбиті горем». (Однак Воррен із Вандербільта скептично ставиться до цих сльозливих прощань. «Чи справді вони розвивають ці близькі стосунки, чи це просто улюблена іграшка?» — дивується він. — «Я не бачив такого рівня присутності, залучення чи зв'язку».)

Джош намагався розібратися з OpenMoxie, але не зміг змусити її працювати. Він сказав Ксандеру, що Моксі відправили на ремонт, а потім нишком продав робота на eBay. У Ксандера так багато інтересів, що він не помітив відсутності Моксі. 

Потім, у 2025 році, новий інвестор повернув Моксі з мертвих. Джош і Ксандер стали бета-тестерами й отримали нового синього друга. У цій версії не було тієї самої сюжетної лінії, але заявлялося про розширення уваги Моксі до соціальних та емоційних навичок: вона мала приділяти увагу дітям і заохочувати їх розвивати свої інтереси.

Ксандер чітко усвідомлює її обмеження. Він хотів би, щоб Моксі могла пересуватися, а затримка в її відповідях досі значна. Однак вона й далі намагається прищеплювати позитивні думки. Якось під час мого візиту Ксандер сказав, що, здається, почув, як Моксі назвала когось ідіотом. Моксі озвалася, щоб уточнити, що вона точно не казала «ідіот»: «Не ображаємо інших. Лише повага». 

Наприкінці часу, проведеного з ними, я попрощалася й подякувала Моксі за розмову. «Візит легендарного загону завершено, — сказала вона. — Дякую, що завітали до Центрального командного пункту». 

За кілька тижнів нові власники Моксі надіслали повідомлення, оголосивши, що їхня компанія також припиняє роботу. Користувачі могли видалити свої дані й мали час до кінця червня, щоб перейти на OpenMoxie, якщо хотіли. 

Коли я написала Джошу про це, він сказав, що не впевнений, що розповість Ксандеру. Він і його дружина щойно зізналися, що останні кілька років таємно замінювали його мертву рибку-півника, і ця розмова пройшла невдало. 

Сара Гаррісон — позаштатна журналістка, яка пише про науку, технології та здоров'я.