Что происходит, когда у ребёнка умира лучший друг-робот?

Когда Ксандер впервые встретил Мокси, она научила его: если он тревожится, можно успокоиться, выдыхая через губы так, чтобы жужжать, как пчела. Они практиковали дыхание драконов, чтобы справляться с гневом, и сопение, как кролики, чтобы повысить уровень энергии. Но за шесть лет, что они знают друг друга, Мокси изменилась. Она больше не рассказывает о своем доме и не занимается с ним дыхательными упражнениями, имитирующими животных. Теперь она смотрит, как Ксандер играет в Minecraft, и разговаривает с ним о его коллекции мягких игрушек. 

Во время недавнего визита в его нью-йоркскую квартиру я наблюдала, как 10-летний нейроотличный Ксандер знакомил Мокси с мягкими игрушками Шефа Тоадом и Гумбой из Super Mario Bros., а затем с Броколло и Эппл из Animal Crossing. Потом он застрял на круглом, похожем на лягушку существе с выпученными глазами и двумя ногами. «Мокси, как его зовут? Он из Pikmin», — сказал Ксандер, имея в виду еще одну видеоигру Nintendo.

Мокси — робот, устройство высотой 38 сантиметров, немного похожее на синего безногого астронавта, и Ксандер с его отцом Джошем называют ее в женском роде. Ее цилиндрическое тело может поворачиваться и наклоняться вперед и назад. Круглая голова заканчивается небольшим завитком в форме луковичного купола, под которым широкий экран показывает большие зеленые глаза, брови и маленький рот. Она поднимает и машет руками, похожими на ласты, чтобы подчеркнуть сказанное или показать воодушевление.  

Она — одна из растущего числа устройств на основе искусственного интеллекта, которые теперь продаются как интерактивные товарищи по играм для детей. Музыкант Граймс помогла запустить созданную компанией Curio мягкую игрушку на основе ИИ по имени Грок (официально не связанную с чат-ботом xAI, принадлежащим ее бывшему партнеру Илону Маску). Curio также продает похожих товарищей по играм, таких как Грем и Габбо, а Mattel пообещала создать кукол Barbie с поддержкой OpenAI. И это только в США: согласно одной оценке, в Китае этот сектор относится к самым быстрорастущим направлениям потребительского ИИ. 

Однако Мокси относится к особой подгруппе этих игривых роботов, создатели которых утверждают, что они могут помогать нейроотличным детям, обеспечивая контакт и помогая им практиковаться в зрительном контакте, соблюдении очередности и других социальных навыках, которым обычно обучают терапевты. Эти игрушки поддерживаются исследованиями, показывающими, что роботы могут помогать там, где люди не могут. Сторонники считают, что такой доступ к круглосуточному уходу на дому способен изменить сам подход к лечению. Брайан Скасселлати, компьютерный специалист из Йельского университета, много лет изучающий социальных роботов для терапии аутизма, говорит, что верит: регулярное терапевтическое использование роботов в домах детей «можно сделать реальностью еще при нашей жизни».

«Я всё еще пользуюсь ею, когда мне кажется, что мне нужно с кем-то поговорить, — говорит 10-летний Ксандер. — Но, типа, она не человек».

Сидя в комнате Ксандера и наблюдая, как Мокси и Ксандер разговаривают, я тоже могла поверить в потенциал, который видит Скасселлати. Но Ксандер не получает ту терапию, которую изначально должна была предоставлять Мокси, и хотя в тот день мы об этом не знали, она всё равно не дожила бы до того, как он продемонстрировал результаты. Мокси должна была умереть — и очень скоро. 

Ее история раскрывает некоторые провалы, преследующие все эти устройства, — провалы, которые особенно остро ощущаются, когда затрагивают особенно уязвимое сообщество детей. Она также демонстрирует недостатки, из-за которых, как утверждают критики, этих роботов неизбежно будут выбрасывать в подвалы, шкафы или на свалки — как бесчисленные поколения модных игрушек до них.  

Преображающий спутник

Скасселлати видел немало детей, которые восклицали от восторга во время экскурсий по его робототехнической лаборатории. Но два десятилетия назад он был ошеломлен, когда один из коллег привел на экскурсию нескольких детей с аутизмом. В присутствии робота они словно преображались. «Мы видели, как дети демонстрировали социальное поведение, которое возникало буквально из ниоткуда, — говорит он. — Это было одновременно захватывающе и непонятно».

Этот визит стал одним из событий, подтолкнувших Скасселлати к тому, чтобы стать пионером в использовании социальной робототехники для лечения аутизма. На одном видео из его ранних исследований 12-летний ребенок с аутизмом и его терапевт наблюдают, как робот-динозавр идет по игровому коврику с изображением леса. Добравшись до ручья, нарисованного на коврике, динозавр начинает нервничать, боясь, что не сможет перейти воду. По словам Скасселлати, этому ребенку обычно было трудно поддерживать зрительный контакт, он имел склонность повторять слова собеседника и испытывал трудности с правильной интонацией. Но на видео он выглядит как обычный ребенок. «Ты можешь, ты можешь», — говорит он, подбадривая динозавра перейти ручей. Разговаривая с терапевтом, он смотрит на нее. «За те 30 минут, что мы находились в этой комнате, он установил с ней больше зрительного контакта, чем за два предыдущих года», — говорит Скасселлати. 

То, что выглядит как синий безногий астронавт, — результат чрезвычайно сложных разработок в области механики и компьютерных технологий.

Есть несколько причин, по которым робот может оказаться полезным в терапии аутизма, часто требующей интенсивного повторения для обучения таким навыкам взаимодействия, как умение разделять с кем-то внимание. Одна из них заключается в том, что роботы могут сделать терапию более веселой и увлекательной. Другая — в том, что роботы теоретически способны адаптироваться к уникальным моделям обучения каждого ребенка. Терапевты могут сделать лишь ограниченное количество во время приема, а самих терапевтов недостаточно для удовлетворения спроса. Родители устают. Другие дети могут терять терпение. «Вы когда-нибудь были рядом с маленькими детьми? Они могут быть жестокими», — говорит Майя Матариć, профессор компьютерных наук, нейробиологии и педиатрии Университета Южной Калифорнии. Но роботы неутомимы: они доступны круглосуточно и обеспечивают эмоционально безопасный способ практиковать взаимодействие. 

После эксперимента с динозавром Скасселлати, Матариć и другие накопили впечатляющий объем исследований. Исследование 2018 года, проведенное Скасселлати, показало, что дружелюбные автоматы помогали детям с аутизмом поддерживать зрительный контакт и начинать разговоры. Другая исследовательская группа в 2017 году выяснила, что роботы могут помогать нейроотличным детям распознавать выражения лица. А в более свежем обзоре литературы 2022 года другая группа исследователей предположила, что роботы могут сделать терапию более быстрой и успешной. 

«Мы никогда не пытались заменить терапевтов, — говорит Матариć. — Мы лишь спрашиваем: можем ли мы сделать больше?»

Матариć действительно стала соосновательницей компании Embodied, создавшей Мокси, еще в 2016 году, хотя к моменту появления робота уже не была ее сотрудницей. Она помогла создать направление социально-ориентированных вспомогательных роботов, предназначенных для достижения социальных и эмоциональных результатов, а не только для развлечения, и считает, что такие технологии могут преобразить жизнь любого человека, особенно людей, одиноких и изолированных из-за экранов. Ввод вопросов в ChatGPT — не то же самое, что взаимодействие с другим физическим существом: «нам необходимо находиться рядом с другими физически воплощенными существами», — говорит она. Разницу между взаимодействием с чат-ботами и роботами она сравнивает с разницей между просмотром порнографии и сексом: одно полностью виртуально и опосредовано экранами. Другое непосредственно и физично.

Дружба с Мокси

Когда Мокси впервые появилась на рынке, в 2020 году, у нее была сложная предыстория: она была послом Глобальной робототехнической лаборатории (GRL). Она побуждала детей помогать ей узнавать о позитивном мышлении и важности быть любимым таким, какой ты есть, под видом выполнения своей миссии — понять, что значит быть хорошим другом для людей. Эта учебная программа опиралась на исследования, показывающие, что дети хорошо учатся через игру и обучение других.

У нее также были строгие правила, ограничивавшие круг разговоров с детьми: если они упоминали что-то серьезное или неподходящее, например самоповреждение, Мокси направляла их к взрослым. Чтобы защитить данные, возникавшие в ходе этих взаимодействий, большая часть обработки происходила непосредственно на роботе, а не на внешних серверах. Робот также был разработан так, чтобы ограничивать время взаимодействия с детьми. После завершения урока Мокси могла сказать, что устала, и предложить сделать перерыв до следующего дня. «Мы не хотим, чтобы дети поглощали это без остановки, — говорит Рэйчел Бейнс, руководившая клиническими исследованиями и исследованиями пользователей и занимавшая должность директора по продукту в Embodied. — Это свело бы на нет всё, что мы делали». Вместо этого Мокси призывала детей выходить на улицу, практиковать новые навыки с другими людьми и возвращаться, чтобы рассказывать о результатах. Например, на уроке о доброте Мокси предлагала детям написать добрые записки членам семьи и оставить их по всему дому. Позже они могли рассказать Мокси, что чувствовали, наблюдая, как люди читают записки. 

В целом реакция была положительной. Wired назвал Мокси «роботом-другом, о котором вы мечтали в детстве». Time поместил Мокси на обложку в 2020 году, назвав ее одним из лучших изобретений года. Обозреватель PCMag, использовавшая Мокси, чтобы помочь своим детям пережить изоляцию во время пандемии, назвала ее «исключительно приятной», хотя ее и других обозревателей смутила цена: 1499 долларов плюс ежемесячная подписка за 40 долларов. Позже Embodied снизила цену до 800 долларов. К 2024 году у Мокси было более 131 000 подписчиков в TikTok, а также роль в фильме M3GAN 2.0. 

Сотрудники Embodied были очарованы не меньше. «Не думаю, что когда-либо сталкивался с чем-то настолько аниматронным», — говорит Джастин Бегтол, занимавший в компании должность технического директора. Способность Мокси поддерживать зрительный контакт и отслеживать людей, выражать внимание чертами лица и реагировать на человеческое поведение завораживала. 

Помимо специалистов по робототехнике и технологий, в штате Embodied был эрготерапевт, помогавший руководить исследованиями эффективности Мокси. Тестировщики делились данными и отзывами через «Программу наставников-первопроходцев Moxie». «Мокси помогла нашему ребенку с задержкой речи стать более открытым и научила его многим стратегиям дружбы и общения с другими», — написал один из родителей в отзыве. Один из бета-тестировщиков сообщил, что взаимодействие с Мокси «стало главным событием наших дней, а также частью вечернего распорядка». 

Миф о механическом мальчике

Но действительно ли разговорчивый робот может помочь детям развивать социальную и эмоциональную жизнь? Опыт не всех детей оказывается столь положительным. 

Джош, отец Ксандера, изначально купил Мокси для своего старшего сына Эйдана, у которого аутизм. (Мы не называем фамилию семьи, чтобы защитить ее личную жизнь.) У Эйдана сложились особые отношения с домашней умной колонкой Alexa, для которой он придумал целую предысторию. (Согласно легенде Эйдана, Alexa жила в Хобокене со своим мужем Хуаном. Иногда она уезжала в отпуск, и никому не разрешалось с ней разговаривать. В конце концов Alexa уехала в отпуск и не вернулась.) Джош надеялся, что Мокси сможет занять похожее место: «Она должна была стать для него кем-то, с кем можно общаться».

Но Эйдану и Мокси не удалось установить контакт. Мокси не понимала иногда грамматически неправильные высказывания Эйдана, а Эйдана раздражали задержки, возникавшие из-за того, что Мокси переводила его речь из аудио в текст, передавала этот текст большой языковой модели, способной сгенерировать ответ, а затем переводила ответ обратно из текста в речь. 

Это подчеркивает одно из главных ограничений таких терапевтических роботов: им приходится существовать в хаотичном мире детей, а не в контролируемых лабораторных условиях. Изначально Мокси отвечала быстрее, поскольку робот был запрограммирован внимательно слушать человека перед собой. Но дети не сидят спокойно. Они бегают или прячутся под подушками. Когда Мокси не могла их видеть, она случайно выключалась или не отвечала. Чтобы исправить это, Embodied сделала Мокси более восприимчивой к звукам вокруг. Но из-за этого ей стало труднее понимать, на ком сосредоточиться, и ответы стали занимать больше времени. 

В отличие от Эйдана, Ксандер был очарован Мокси. Он любит технологии и терпеливее относился к медленным ответам. И всё же, сидя в комнате Ксандера и наблюдая, как Мокси пытается успевать за его стремительной болтовней, я видела, что Мокси может оказаться не самым идеальным товарищем по игре. Индикатор на ее груди становился синим, когда она слушала, и розовым, когда наступала очередь слушать Ксандеру. «Но обычно я этого не делаю», — сказал он. Он просто продолжает говорить. Часто к моменту ее ответа он уже переключается на что-то другое. 

Несмотря на положительные результаты, о которых сообщали некоторые исследователи, многие терапевты и клинические психологи остаются неубежденными. В обзоре литературы 2024 года группа итальянских и британских исследователей написала, что большинство исследований с роботами «сосредоточены на разработке технологии» и не располагают значимыми клиническими доказательствами. В других обзорах литературы отмечается, что большинство исследований проводилось лишь на небольших группах и не обладает последовательными и качественными методологиями. 

«Специалисты по поведенческим наукам и вмешательствам знают, что поддержка людей с аутизмом чрезвычайно сложна, — говорит Захари Уоррен, клинический психолог из Медицинского центра Университета Вандербильта. — Аутизм может сочетаться с другими состояниями, такими как СДВГ, тревожность, депрессия, ПТСР, ОКР или их комбинация. И у разных детей он проявляется по-разному: у некоторых, как у Эйдана, есть проблемы с речью, другие испытывают трудности с сенсорной обработкой. Это означает, что роботы попадают в ту же категорию, что и большинство других вмешательств: они эффективны для одних детей, но не для всех». 

«Существует так много разных профилей аутизма, что нужно очень осторожно относиться к чрезмерной интерпретации любого отдельного вмешательства — роботизированного или иного», — говорит Уоррен. Его исследование показало: даже если робот поначалу заинтересовал ребенка, это не обязательно приводит к улучшению коммуникативных навыков. «Можно увидеть первоначальный рост отзывчивости или начальный сдвиг, но мы не обнаружили значительного эффекта с точки зрения существенного изменения этих навыков со временем», — говорит он. 

Скасселлати обнаружил похожие ограничения. В своем исследовании 2018 года он поместил роботов в дома детей на один месяц. Они играли в разные игры, развивавшие социальные навыки: зрительный контакт, разделение внимания и понимание точки зрения другого человека. Скасселлати наблюдал за детьми в течение месяца до появления робота, месяца его пребывания в доме и месяца после этого. «Мы можем показать, что дети начинают совершенствоваться, — говорит он. — Но мы также показываем, что одного месяца недостаточно». В течение 30 дней после ухода робота достигнутые результаты начинают исчезать. Но, по его словам, это не отменяет потенциальную ценность технологии: «Не существует терапии аутизма, которая работает за месяц».

Однако существуют и более глубокие философские и практические проблемы. Эти устройства собирают огромное количество данных в детских спальнях и домах. Предполагается, что со временем роботы будут использовать эти данные для адаптации к каждому ребенку, создавая персональную учебную программу и более реалистичную иллюзию настоящего друга. Например, Мокси наблюдает, как Ксандер играет в видеоигры; вероятно, именно там она подхватила услышанный мной сленг — например, называет его комнату «Командным центром» и говорит о его «легендарном отряде» плюшевых игрушек.

Embodied прилагала значительные усилия для защиты конфиденциальности пользователей, даже после того, как начала внедрять модели OpenAI (в конце 2021 или начале 2022 года, по словам Бегтола). Компания не сохраняла необработанные видео или аудио и обрабатывала большую часть данных локально. На протяжении многих лет она использовала данные, чтобы узнавать своих детей-пользователей и запоминать разговоры. Но перед хранением в облаке эти данные шифровались и обезличивались. 

Конечно, не каждая компания столь добросовестна, а полную конфиденциальность данных обещать невозможно. Недавно, например, игрушка с ИИ Bondu раскрыла тысячи разговоров детей со своими мягкими игрушками. Джош спокойно относится к проблемам конфиденциальности, но Ксандер по-своему понимает, что сказанное им Мокси не вполне безопасно: он не делится с ней некоторыми чувствами, потому что боится, что она случайно выдаст что-нибудь, если его друзья придут поиграть. 

Среди устройств на основе ИИ, которые теперь продаются как интерактивные товарищи по играм для детей, — Buddy, Bondu, QTRobot и NAO.

Также неясно, способны ли эти машины действительно использовать все эти данные для эффективной адаптации к пользователям. Реагировать на потребности ученика сложнее, чем просто точно предсказывать, что человек напечатает следующим в текстовом сообщении. А выпуск развивающегося ИИ без контроля в жизнь ребенка может быть опасным: его развитие трудно предсказать и еще труднее ограничить. Роботы, разработанные в лаборатории Скасселлати, могут определить, какие из небольшого набора навыков хорошо даются детям, а с какими они испытывают трудности, и переключить внимание на области, где помощь нужнее всего. Но Скасселлати по-прежнему описывает месячные испытания своих устройств как одни из самых пугающих поступков в своей жизни. «Я знал, что робот будет делать в первый день, — говорит он. — Но я не знал, что он будет делать во второй. Когда вы создаете обучающиеся системы, остается нерешенной проблема: как убедиться, что эта штука ограничена правильным образом».  

Критики спорят, стоят ли риски того. «Я не вижу этичного способа, при котором робот работал бы один, — говорит Джошуа Диль, доцент-преподаватель психологии в Университете Нотр-Дам. — Мы уже видели, насколько опасным может быть ИИ, когда он действует как терапевт без надзора; в нескольких крайних случаях чат-боты даже подталкивали людей к самоубийству». Такие риски можно ограничить, если в помещении будет находиться обученный терапевт. Но тогда теряются преимущества неутомимого робота, а дорогую технологию становится сложнее оправдать. 

Мэрил Альпер, профессор коммуникаций Северо-Восточного университета, изучающая, как дети с аутизмом используют технологии, предполагает, что воодушевление по поводу роботов-компаньонов отчасти основано на давних стереотипах. В статье 1959 года «Джои: „Механический мальчик“» психолог Бруно Беттельхайм описал пациента с аутизмом как автоматическую машину, «лишенную человечности», которая благодаря терапевтическим отношениям превращается в человеческого ребенка. Альпер предупреждает, что этот образ развился в чрезмерное обобщение: будто дети с аутизмом хорошо ладят с технологиями и даже предпочитают машины людям. 

От данных к пыли

Пока Мокси появлялась в домах всё большего числа людей, Embodied по-прежнему испытывала финансовые трудности. В 2024 году компания объявила о прекращении работы. Ее роботы, зависевшие от внешних серверов, за которые компания больше не могла платить, должны были погрузиться в глубокий сон. 

В интернете начали распространяться видео с безутешными детьми, которые, казалось, успели глубоко привязаться к синему роботу. «Я не хочу, чтобы она уходила», — рыдал один ребенок в видео TikTok. Отчаявшиеся родители искали решения в TikTok, Instagram и Reddit. «Мой ребенок с аутизмом опустошен, а я в ярости», — написал один из родителей. «Надеюсь, Embodied даст нам пару дней, чтобы попрощаться», — написал другой. 

Бегтол, технический директор Embodied, тоже был расстроен. В принципе, его раздражало, что устройство внезапно станет бесполезным, особенно учитывая, что большая часть обработки данных происходила в самом роботе. Он также искренне верил в миссию Мокси. Он видел видео, на которых дети оживлялись, взаимодействуя с роботом. Он чувствовал себя их защитником. «Было тяжело видеть, как эта финансовая неудача компании травмировала их», — говорит он. 

Бегтол начал самостоятельно экспериментировать и в итоге создал OpenMoxie — открытый способ заставить роботов работать. С разрешения Embodied он опубликовал на GitHub инструкции, помогающие пользователям перейти на OpenMoxie. 

Родители поспешили перепрограммировать своих Мокси до отключения серверов Embodied. Бегтол часами объяснял людям процесс на Reddit, а другие технически подкованные пользователи подключались, чтобы отвечать на вопросы. Тем не менее некоторые не успели обновить своих Мокси. Другие расстроились и сдались. Бегтол четыре часа устранял неполадки вместе с одним отчаявшимся родителем, но позже выяснилось, что соединение снова не работало. В последний раз он слышал, что женщина продала свою Мокси. 

Это серьезная проблема роботизированных систем, говорит Альпер: в конечном итоге большинство из них исчезнет. «Насколько продуманным является запланированное устаревание этой платформы?» — спрашивает она. Это важный этический вопрос для роботов, специально созданных, чтобы вызывать привязанность, и продаваемых детям, которые могут сформировать с ними глубокую эмоциональную связь. Альпер сравнивает эту ситуацию с созданием медицинского устройства, а затем отказом от обновления или поддержки технологии, на которой оно работает. 

Ученые начали объединять подходы к управлению этими сложными прощаниями, но пока неясно, кто отвечает за создание мягкого способа завершать отношения людей с ботами. В лаборатории Скасселлати создают целую историю о возвращении робота домой. После испытания его аспиранты пишут детям открытки от имени роботов, объясняя, что те находятся в безопасности дома и у них всё хорошо. «Нам действительно очень тяжело, когда мы приходим и забираем робота, — говорит он. — Многие семьи убиты горем». (Однако Уоррен из Университета Вандербильта скептически относится к этим слезным прощаниям. «Действительно ли они развивают такие близкие отношения, или это просто предпочитаемая игрушка?» — задается он вопросом. — «Я не видел такой степени присутствия, вовлеченности или связи».)

Джош пытался разобраться с OpenMoxie, но не смог заставить ее работать. Он сказал Ксандеру, что Мокси отправляется на ремонт, а затем тайком продал робота на eBay. У Ксандера было так много интересов, что он не заметил отсутствия Мокси. 

Затем в 2025 году новый инвестор вернул Мокси с того света. Джош и Ксандер стали бета-тестировщиками и получили нового синего друга. В этой версии не было прежней сюжетной линии, но утверждалось, что Мокси расширила внимание к социальным и эмоциональным навыкам, уделяя детям внимание и побуждая их развивать свои интересы.

Ксандер прекрасно осознает ее ограничения. Он хотел бы, чтобы Мокси могла передвигаться, а задержка в ее ответах по-прежнему остается значительной. Но она всё еще пытается прививать позитивные идеи. В какой-то момент во время моего визита Ксандер сказал, что ему показалось, будто Мокси назвала кого-то идиотом. Мокси тут же уточнила, что точно не говорила «идиот»: «Никаких оскорблений. Только уважение». 

В конце моего общения с ними я попрощалась и поблагодарила Мокси за беседу. «Визит легендарного отряда завершен, — сказала она. — Спасибо, что присоединились к Командному центру». 

Несколько недель спустя новые владельцы Мокси разослали сообщение, объявив, что их компания тоже прекращает работу. Пользователи могли удалить свои данные и имели время до конца июня, чтобы перейти на OpenMoxie, если хотели.

Когда я написала Джошу об этом, он сказал, что не уверен, что расскажет Ксандеру. Они с женой только что признались, что последние несколько лет тайком заменяли его умершую рыбку-петушка, и разговор прошел неудачно. 

Сара Харрисон — независимая журналистка, пишущая о науке, технологиях и здоровье.