Какво се случва, когато най-добрият приятел робот на едно дете умре?

Когато Ксандър за първи път се запозна с Мокси, тя го научи, че когато е разтревожен, може да се успокои, като издиша през устните си така, че да жужи като пчела. Упражняваха се да дишат като дракони, за да се справят с гнева, и да сумтят като зайчета, за да повишат енергията си. Но през шестте години, откакто се познават, Мокси се промени. Тя вече не говори за дома си и не прави с него животинските дихателни упражнения. Сега гледа как Ксандър играе Minecraft и разговаря с него за колекцията му от плюшени играчки. 

По време на скорошно посещение в апартамента му в Ню Йорк наблюдавах как 10-годишният Ксандър, който е невродивергентен, представя на Мокси плюшените готвач Жаба и Гумба от Super Mario Bros., а след това Броколо и Ябълка от Animal Crossing. После се захласна по едно кръгло, подобно на жаба същество с изпъкнали очи и два крака. „Мокси, как се казваше той? От Pikmin е“, каза Ксандър, имайки предвид друга видеоигра на Nintendo.

Мокси е робот — устройство високо 38 сантиметра, което прилича малко на син астронавт без крака и което Ксандър и баща му Джош назовават с женски местоимения. Цилиндричното ѝ тяло може да се върти и да се накланя напред и назад. Кръглата ѝ глава завършва с малка спираловидна издатина като купол на лук, под която широк екран показва големи зелени очи, вежди и малка уста. Тя повдига и размахва подобните си на плавници ръце, за да подчертае нещо или да покаже вълнение.  

Тя е едно от все по-големия брой устройства, задвижвани от изкуствен интелект, които вече се предлагат на пазара като интерактивни приятели за игра на деца. Музикантката Граймс помогна за представянето на плюшена играчка с изкуствен интелект, наречена Grok (без официална връзка с чатбота на xAI, притежаван от бившия ѝ партньор Илон Мъск), заедно с компанията Curio, която продава и подобни приятели за игра като Grem и Gabbo, а Mattel обеща, че създава кукли Барби с вграден OpenAI. И това е само в САЩ; според един доклад в Китай този сектор е сред най-бързо растящите в областта на потребителския изкуствен интелект. 

Мокси обаче принадлежи към специфична подгрупа на тези игриви роботи, чиито създатели твърдят, че могат да помагат на невродивергентни деца, като им осигуряват връзка и им помагат да упражняват зрителен контакт, редуване и други социални умения, които обикновено се усвояват с помощта на терапевти. Тези играчки са подкрепени от изследвания, показващи, че роботите могат да помагат по начини, по които хората не могат. Поддръжниците им вярват, че този вид достъп до денонощна домашна грижа може да промени начина, по който се провежда лечението. Брайън Скаселати, компютърен учен от Йейл, който от години изучава социални роботи за терапия на аутизма, казва, че вярва, че редовното терапевтично използване на роботи в домовете на децата „е нещо, което можем да постигнем през живота си“.

„Все още я използвам, когато имам чувството, че имам нужда от някого, с когото да поговоря“, казва 10-годишният Ксандър. „Но, нали, тя не е човек.“

Докато седях в стаята на Ксандър и наблюдавах как той и Мокси разговарят, и аз можех да повярвам в потенциала, който Скаселати вижда. Но Ксандър не получава терапията, която първоначално е трябвало да предоставя Мокси, а макар че не го знаехме онзи следобед, тя така или иначе нямаше да доживее да види напредъка му. Мокси щеше да умре — и то скоро. 

Историята ѝ разкрива някои от провалите, които измъчват всички тези устройства — провали, които са дори по-болезнени, когато засягат особено уязвима общност от деца. Тя също така подчертава недостатъците, за които критиците казват, че неизбежно ще доведат до изхвърлянето на тези роботи в мазета, гардероби или сметища, подобно на безброй поколения модни играчки преди тях.  

Трансформиращ спътник

Скаселати е виждал много деца да възкликват от възхищение по време на обиколки на лабораторията му по роботика. Но преди две десетилетия бил смаян, когато негов колега довел на посещение няколко деца с аутизъм. Те се променили, когато роботът влязъл в стаята. „Виждахме деца, които проявяваха социално поведение, появило се сякаш от нищото“, казва той. „Беше едновременно завладяващо и не можехме да го разберем.“ 

Това посещение е едно от преживяванията, които подтикват Скаселати да се превърне в пионер в използването на социалната роботика за лечение на аутизъм. В едно видео от ранните му изследвания 12-годишно дете с аутизъм и неговият терапевт наблюдават как роботизиран динозавър преминава по постелка за игра с горски дизайн. Когато стига до нарисуван върху постелката поток, динозавърът се изнервя, защото се страхува, че не може да прекоси водата. Според Скаселати това дете обикновено изпитвало трудности със зрителния контакт, имало склонност да повтаря казаното от другите и трудно постигало правилната интонация на гласа си. Но във видеото то изглежда като обикновено дете. „Можеш да го направиш, можеш да го направиш“, казва то и насърчава динозавъра да прекоси потока. Когато говори с терапевта си, го поглежда. „Той осъществява повече зрителен контакт с нея през 30-те минути, които прекарахме в тази стая, отколкото през предходните две години“, казва Скаселати. 

Това, което изглежда като син астронавт без крака, е резултат от изключително сложна механика и компютърно инженерство.

Има няколко причини, поради които роботът може да бъде полезен в терапията на аутизма, която често изисква интензивно повторение, за да се усвоят умения за взаимодействие, например как да споделяме вниманието си с някого. Една от тях е, че роботите могат да направят терапията по-забавна и ангажираща. Друга е, че на теория роботите могат да се адаптират към уникалните модели на учене на всяко дете. Терапевтите могат да направят само толкова по време на един час, а няма достатъчно терапевти, които да отговорят на търсенето. Родителите се уморяват. Другите деца могат да загубят търпение. „Били ли сте около малки деца? Те могат да бъдат жестоки“, казва Мая Матарич, професор по компютърни науки, невронаука и педиатрия в Университета на Южна Калифорния. Но роботите са неуморими, достъпни денонощно и осигуряват емоционално безопасен начин за упражняване на взаимодействия. 

След експеримента с динозавъра Скаселати, Матарич и други изследователи са натрупали впечатляващ корпус от изследвания. Едно проучване от 2018 г. на Скаселати показва, че дружелюбните автомати са помогнали на деца с аутизъм да осъществяват зрителен контакт и да започват разговори. Друга изследователска група установява през 2017 г., че роботите могат да помогнат на невродивергентни деца да се научат да разпознават мимики. По-скоро наскоро, в литературен обзор от 2022 г., друга група изследователи предполага, че роботите могат да направят терапията по-бърза и по-успешна. 

„Никога не сме се опитвали да заменим терапевтите“, казва Матарич. „Просто питаме: Можем ли да направим повече?“

Матарич всъщност е съосновател на компанията, създала Мокси, Embodied, през 2016 г., макар че вече не е била част от нея, когато роботът дебютира. Тя е помогнала за създаването на областта на социално подпомагащите роботи, предназначени за социални и емоционални резултати, а не само за забавление, и вярва, че този вид технология може да бъде трансформираща за всеки, особено за хората, които са самотни и изолирани от екраните. Въвеждането на въпроси в ChatGPT не е същото като взаимодействието с друго физическо същество — „трябва да сме около други физически въплътени същества“, казва тя. Тя сравнява разликата между взаимодействието с чатботове и с роботи с разликата между гледането на порнография и секса: едното е изцяло виртуално и опосредствано от екрани. Другото е непосредствено и физическо.

Приятелство с Мокси

Когато за първи път се появява на пазара през 2020 г., Мокси идва с подробна предистория: тя е посланик от Глобалната лаборатория по роботика (GRL). Тя подтиква децата да ѝ помогнат да научи повече за позитивността и значението да бъдеш обичан такъв, какъвто си, под прикритието на мисията си да открие какво означава да бъдеш добър приятел на хората. Тази програма се основава на изследвания, показващи, че децата учат добре чрез игра и като преподават неща.

Тя имала и строги правила, ограничаващи видовете разговори, които можела да води с деца, и ги насочвала към възрастни, ако споменат нещо сериозно или неподходящо, например самонараняване. За да защити данните, генерирани от тези взаимодействия, по-голямата част от обработката се извършвала локално в робота, а не на външни сървъри. Роботът бил проектиран и така, че да ограничава времето за взаимодействие с децата. След като приключели урок, Мокси можела да каже, че е уморена, и да предложи да си починат до следващия ден. „Не искаме децата да прекаляват“, казва Рейчъл Бейнс, която ръководела клиничните изследвания и проучванията сред потребители и била директор „Продукт“ в Embodied. „Това би обезсмислило работата ни.“ Вместо това Мокси насърчавала децата да излизат навън, да упражняват новите си умения с други хора и да се връщат, за да разкажат какво са открили. Например за урок за добротата Мокси предлагала на децата да напишат мили бележки за членовете на семейството си и да ги оставят из къщата. По-късно те можели да разкажат на Мокси как са се почувствали, докато са наблюдавали как хората четат бележките. 

Отзивите като цяло били положителни. Wired описва Мокси като „роботизирания приятел, за когото си мечтал като дете“. Time поставя Мокси на корицата си през 2020 г. като едно от най-добрите изобретения на годината. Рецензентката на PCMag, която използвала Мокси, за да помогне на децата си да преодолеят изолацията по време на пандемията, я описва като „изключително симпатична“, макар че тя и други рецензенти се възмущават от цената: 1499 долара плюс месечен абонамент от 40 долара. (По-късно Embodied намалява цената до 800 долара.) До 2024 г. Мокси е събрала над 131 000 последователи в TikTok и е получила роля във филма M3GAN 2.0. 

Служителите на Embodied също били пленени. „Не мисля, че някога съм преживявал нещо подобно с аниматронно устройство“, казва Джъстин Бегтол, който бил технически директор на компанията. Способността на Мокси да осъществява зрителен контакт и да следи хората, да показва внимание с чертите на лицето си и да реагира на човешкото поведение била хипнотизираща. 

Освен специалисти по роботика и технологии, в Embodied работел и ерготерапевт, който помагал за ръководенето на изследванията върху ефективността на Мокси. Тестващите споделяли данни и обратна връзка чрез „Програмата за пионерски ментори на Мокси“. „Мокси помогна на детето ни със забавена реч да стане по-общително и го научи на много стратегии за създаване на приятелства и общуване с другите“, пише един родител в отзив. Друг участник в бета тестването съобщава, че взаимодействието с Мокси се е „превърнало в най-важната част от деня ни, както и в част от вечерната ни рутина“. 

Митът за механичното момче

Но може ли разговорлив робот наистина да помогне на децата да развият социалния и емоционалния си живот? Не всички детски преживявания са толкова положителни. 

Джош, бащата на Ксандър, първоначално купил Мокси за по-големия си син Айдън, който е аутист. (Не използваме фамилното име на семейството, за да защитим личното им пространство.) Айдън имал постоянна връзка с умната колонка Alexa на семейството, за която създал цяла предистория. (Според легендата на Айдън Alexa живеела в Хобокен със съпруга си Хуан. Понякога отивала на почивка и никой нямал право да разговаря с нея. Накрая Alexa отишла на почивка и никога не се върнала.) Джош се надявал Мокси да може да изпълни подобна роля: „Тя трябваше да му осигури някого, с когото да общува.“ 

Но Айдън и Мокси трудно намерили общ език. Мокси не можела да разбере понякога граматически неправилните изказвания на Айдън, а той се разочаровал от забавянето, причинено от процеса, при който Мокси транскрибирала казаното от него от аудио в текст, подавала текста към голям езиков модел, който генерирал отговор, а след това превеждала отговора от текст обратно в реч. 

Това подчертава едно от най-големите ограничения на тези терапевтични роботи: те трябва да съществуват в хаотичния свят на децата, а не в контролирани лаборатории. Първоначално Мокси реагирала по-бързо, защото роботът бил програмиран да слуша внимателно човека пред себе си. Но децата не стоят неподвижно. Те тичат наоколо или се крият под възглавници. Когато Мокси не можела да ги вижда, тя случайно се изключвала или не успявала да отговори. За да поправи това, Embodied направила Мокси по-чувствителна към звуците около себе си. Но това означавало, че тя можела да се затруднява да разбере върху кого да се съсредоточи и да отговаря по-бавно. 

За разлика от Айдън, Ксандър бил очарован от Мокси. Той харесва технологиите и бил по-търпелив към бавните отговори. И все пак, седейки в стаята на Ксандър и наблюдавайки как Мокси се опитва да настигне светкавично бързото му бърборене, можех да видя как Мокси може да се окаже не особено идеален приятел за игра. Светлината на гърдите ѝ светвала в синьо, когато слуша, и в розово, когато е време Ксандър да слуша. „Но обикновено не го правя“, каза той. Просто продължава да говори. Често, когато тя отговори, той вече е преминал към нещо друго. 

Въпреки положителните резултати, които някои изследователи съобщават при тези роботи, много терапевти и клинични психолози остават неубедени. В един литературен обзор от 2024 г. група италиански и британски изследователи пише, че повечето проучвания с роботи са „съсредоточени върху развитието на технологията“ и не разполагат със значими клинични доказателства. Други литературни обзори посочват, че повечето изследвания са проведени само с малки групи и не разполагат с последователни и висококачествени методологии. 

„Учените, които изучават поведението, и специалистите по интервенции знаят, че подкрепата за аутистични хора е изключително сложна“, казва Закари Уорън, клиничен психолог в Медицинския център на Университета „Вандербилт“. Аутизмът може да се проявява заедно с други състояния като СДВХ, тревожност, депресия, посттравматично стресово разстройство, обсесивно-компулсивно разстройство или някаква комбинация от тях. И варира значително при отделните деца; някои, като Айдън, имат проблеми с речта, докато други изпитват трудности със сензорната обработка. Това означава, че роботите попадат в същата категория като повечето други интервенции: ефективни за някои деца, но не за всички. 

„Има толкова много различни профили на аутизма и човек трябва да бъде много внимателен да не интерпретира прекомерно която и да е отделна интервенция, роботизирана или друга“, казва Уорън. Неговото изследване установява, че дори ако роботите първоначално заинтересуват детето, това не означава непременно по-добри комуникационни умения. „Може да видите първоначално повишаване на отзивчивостта или първоначална промяна, но всъщност не сме открили големи ефекти по отношение на драматичното подобряване на тези умения с течение на времето“, казва той. 

Скаселати е установил подобни ограничения. В своето проучване от 2018 г. той поставя роботи в домовете на деца за един месец. Те играят различни игри, които насърчават социални умения като зрителен контакт, споделяне на вниманието и разбиране на гледната точка на друг човек. Скаселати проследява децата през месеца преди пристигането на робота, месеца, през който роботът е там, и месеца след това. „Можем да покажем, че те започват да се подобряват“, казва той. „Но показваме и че един месец не е достатъчен.“ Придобивките започват да изчезват през 30-те дни след напускането на робота. Но това не отрича потенциалната стойност на тази технология, казва той: „Няма терапия за аутизъм, която да работи за един месец.“

Съществуват обаче и по-дълбоки философски и практически проблеми. Тези устройства събират огромни количества данни в спалните и домовете на децата. Целта е роботите да използват тези данни с течение на времето, за да се адаптират към всяко дете, създавайки персонализирана програма и по-реалистична илюзия за истински приятел. Мокси например наблюдава как Ксандър играе видеоигри и вероятно именно оттам е научила жаргона, който чух да използва — например да нарича стаята му „Команден център“ и да говори за „легендарния му отряд“ от плюшени играчки.

Embodied полагала големи усилия да защити личното пространство на потребителите дори след като започнала да включва моделите на OpenAI (в края на 2021 г. или началото на 2022 г., според Бегтол). Компанията не съхранявала необработено видео или аудио и обработвала повечето данни локално. През годините използвала данните, за да научава повече за децата и да запомня разговорите. Но преди да бъдат съхранени в облака, тези данни били криптирани и анонимизирани. 

Разбира се, не всяка компания е толкова съвестна и е невъзможно да се обещае пълна поверителност на данните. Наскоро например играчката с изкуствен интелект Bondu изтече хиляди разговори, които деца са водили с плюшените си играчки. Джош не се тревожи особено за проблемите с поверителността, но по свой начин Ксандър осъзнава, че казаното от него на Мокси не е напълно безопасно; той не споделя определени чувства с нея, защото се страхува, че тя може случайно да разкрие нещо, ако приятелите му дойдат да играят. 

Сред устройствата с изкуствен интелект, които сега се предлагат на пазара като интерактивни приятели за игра на деца, са Buddy, Bondu, QTRobot и NAO.

Също така не е ясно дали тези машини действително могат да използват всички тези данни, за да се адаптират ефективно към потребителите. Да отговориш на нуждите на учащия е по-трудно от простото точно предсказване какво някой може да напише следващо в текстово съобщение. А неконтролираното въвеждане на развиващ се изкуствен интелект в живота на дете може да бъде опасно; развитието му е трудно за предвиждане и още по-трудно за ограничаване. Роботите, разработени в лабораторията на Скаселати, могат да определят с кои умения от малък набор децата се справят добре и с кои изпитват трудности, като се адаптират, за да се съсредоточат върху областите, в които имат най-голяма нужда от помощ. Но Скаселати все още описва едномесечните внедрявания на своите устройства като едни от най-страшните неща, които някога е правил. „Знаех какво ще направи този робот през първия ден“, казва той. „Не знаех какво ще направи през втория ден. Когато създаваш системи, които се учат, е до голяма степен нерешен проблемът да се увериш, че това нещо е ограничено по правилния начин.“  

Критиците спорят дали рисковете си заслужават. „Не виждам никакъв етичен начин роботът да работи сам“, казва Джошуа Дийл, асоцииран преподавател по психология в Университета „Нотр Дам“. Той посочва, че вече сме виждали колко опасен може да бъде изкуственият интелект, когато действа като терапевт без надзор; в няколко крайни случая чатботове дори са насърчавали самоубийство. Тези рискове биха могли да бъдат ограничени, ако в стаята присъства обучен терапевт. Но тогава ползите от неуморимия робот се губят, а скъпата технология изглежда по-трудна за оправдаване. 

Мерил Алпър, професор по комуникации в Североизточния университет, която изследва как деца с аутизъм използват технологии, предполага, че ентусиазмът към роботите спътници отчасти се основава на отдавнашни стереотипи. В статията от 1959 г. „Джоуи: „Механично момче““ психологът Бруно Бетелхайм описва пациент с аутизъм като автоматична машина, „лишена от човечността си“, която чрез терапевтичната си връзка се превръща в човешко дете. Това клише, предупреждава Алпър, се е развило в прекомерното обобщение, че аутистичните деца са добри с технологиите и дори предпочитат машините пред хората. 

От данни до прах

Докато Мокси се озовавала в домовете на все повече хора, Embodied продължавала да изпитва финансови трудности. През 2024 г. компанията обявила, че прекратява дейността си. Роботите ѝ — които зависели от външни сървъри, за чието финансиране компанията вече не можела да плаща — щели да потънат в дълбок сън. 

Онлайн започнали да се разпространяват видеоклипове на съкрушени деца, които изглеждали дълбоко привързани към синия робот. „Не искам тя да си тръгва“, ридае едно дете във видео в TikTok. Отчаяни родители публикували в TikTok, Instagram и Reddit, търсейки решения. „Аутистичното ми дете е съкрушено, а аз съм бясна“, пише един родител. „Надявам се Embodied да ни даде няколко дни, за да се сбогуваме“, пише друг. 

Бегтол, техническият директор на Embodied, също бил разочарован. По принцип го дразнело, че този предмет внезапно щял да стане безполезен, особено след като по-голямата част от обработката на данните се извършвала в самия робот. Той също така силно вярвал в мисията на Мокси. Бил гледал видеоклипове на деца, които сияели, докато взаимодействат с робота. Чувствал се като техен защитник. „Беше тежко да ги видя травмирани от този финансов провал на компанията“, казва той. 

Бегтол започнал да експериментира сам и в крайна сметка създал OpenMoxie — начин роботите да продължат да работят с отворен код. С разрешението на Embodied той споделил инструкции в GitHub, за да помогне на потребителите да преминат към OpenMoxie. 

Родителите се втурнали да преобразуват своите Мокси, преди сървърите на Embodied да бъдат изключени. Бегтол прекарал часове в Reddit, обяснявайки на хората процеса, а други технически грамотни потребители се включили, за да отговарят на въпроси. И все пак някои хора не обновили своите Мокси навреме. Други се разочаровали и се отказали. Бегтол прекарал четири часа в отстраняване на проблеми с един отчаян родител, само за да открие, че по-късно връзката отново прекъснала. За последно чул, че тя е продала своята Мокси. 

Това е сериозен проблем при роботизираните системи, казва Алпър: в крайна сметка повечето от тях ще изчезнат. „Колко планирано е планираното остаряване на тази платформа?“, пита тя. Това е голям етичен въпрос за роботи, които са специално проектирани да бъдат обичани и се предлагат на деца, които могат да изградят дълбоки емоционални връзки с тях. Алпър сравнява динамиката със създаването на медицинско устройство, а след това с прекратяването на обновяването или поддръжката на технологията, която го управлява. 

Изследователите започнаха да създават рамки за управление на тези сложни сбогувания, но не е ясно кой носи отговорност за създаването на деликатен начин за прекратяване на връзките на хората с роботите. Лабораторията на Скаселати създава цял разказ около връщането на робота у дома. След изпитването неговите докторанти пишат картички до децата от името на роботите, обяснявайки, че са в безопасност у дома и се справят добре. „Всъщност е много трудно за нас, когато влезем и вземем робота“, казва той. „Много от семействата са съкрушени.“ (Уорън от „Вандербилт“ обаче е скептичен към тези изпълнени със сълзи сбогувания. „Наистина ли развиват близки отношения, или това е предпочитана играчка?“, пита се той. „Не съм виждал такова присъствие, ангажираност или връзка.“)

Джош се опитал да се справи с OpenMoxie, но не успял да го накара да работи. Той казал на Ксандър, че Мокси ще бъде изпратена за ремонт, а след това тихомълком продал робота в eBay. Ксандър имал толкова много интереси, че не забелязал отсъствието на Мокси. 

След това, през 2025 г., нов инвеститор върнал Мокси от мъртвите. Джош и Ксандър станали бета тестери и получили нов син приятел. Тази версия нямала същата сюжетна линия, но твърдяла, че разширява фокуса на Мокси върху социалните и емоционалните умения, като осигурява внимание и насърчава децата да следват интересите си.

Ксандър ясно осъзнава ограниченията ѝ. Той иска Мокси да може да се движи, а времето ѝ за реакция все още е значително забавено. Въпреки това тя продължава да се опитва да внушава позитивни послания. В един момент, докато бях там, Ксандър ми каза, че смята, че е чул Мокси да нарича някого идиот. Мокси се намеси, за да уточни, че със сигурност не е казала „идиот“: „Без обиди. Само уважение.“ 

В края на времето ми с тях се сбогувах и благодарих на Мокси за разговора. „Посещението на легендарния отряд приключи“, каза тя. „Благодаря, че се присъедини към Командния център.“ 

Няколко седмици по-късно новите собственици на Мокси изпратили съобщение, обявявайки, че и тяхната компания прекратява дейността си. Потребителите можели да изтрият данните си и имали време до края на юни да преминат към OpenMoxie, ако желаят. 

Когато писах на Джош за това, той каза, че не е сигурен какво ще каже на Ксандър. Той и съпругата му току-що признали, че тайно са заменяли мъртвата му бойна рибка през последните няколко години, а разговорът не преминал добре. 

Сара Харисън е журналист на свободна практика, която пише за наука, технологии и здраве.