Руководители в сфере ИИ могут быть слишком оторваны от реальности, чтобы создавать продукты для широкой публики

Бывшая генеральный директор Yahoo и один из первых инженеров Google Марисса Майер подвергается жесткой критике за то, как использует ИИ. В интервью о своем новом приложении Dazzle — ИИ-помощнике, который учится на фотографиях из вашей галереи, — Майер приводит, как ей кажется, впечатляющий пример возможностей продукта: он помог ей придумать три пункта о ее десятилетней дочери для презентации ко дню рождения в школе, описав ее как «эмпатичную, творческую и любящую животных».

Описание расплывчатое, словно в общем гороскопе, — оно, вероятно, подошло бы многим десятилетним детям.

Некоторые наблюдатели, например прогрессивная активистка Лиа Гринберг, удивились, что «тот факт, что Марисса Майер сама решила рассказать об этом журналисту, довольно хорошо демонстрирует, насколько глубоко культура Кремниевой долины разошлась с остальным человечеством».

Возможно, Майер вызвала такую волну критики потому, что мы уже не раз слышали, как оторванные от реальности миллиардеры предлагают передать воспитание детей — одно из величайших испытаний терпения, смирения и доброты в жизни — компьютеру, который не способен понять человеческие эмоции.

Нас заранее подготовили к этому раздражению. В прошлом году генеральный директор OpenAI Сэм Альтман сказал владельцу Bored Ape и ведущему вечернего шоу Джимми Фэллону в эфире национального телевидения: «Я не могу представить… как растить новорожденного без ChatGPT». Общественности этот комментарий тоже не понравился, но Альтмана не особенно зацепила негативная реакция. Несколько месяцев назад он написал в X, что одним из «классных вариантов использования» ChatGPT Work могло бы стать создание подкаста, который рассказывал бы о предстоящих днях рождения или футбольных матчах ваших детей и «объяснял интересы ваших детей». (Его жестко заминусовали, оставляя комментарии вроде: «А что, если просто поговорить со своими детьми?»)

После публикации Майер выступила в свою защиту в длинном посте в X. Она утверждает, что не полагалась на Dazzle в попытках объяснить ей, какая у нее дочь, а лишь проверяла возможности своего прототипа: он извлек из памяти фотографии «забытых проектов из детского сада», например «змеи без яда» или «площадки для песчанок», иллюстрирующие творческие способности ее дочери и ее заботу о животных.

Что ж, справедливо. Но в том же интервью Майер говорит, что люди также смогут переложить на ее ИИ умственную нагрузку, связанную с «придумыванием темы для дня рождения вашего ребенка». Она рассказывает, что использовала приложение, чтобы организовать для дочери встречу с друзьями, забронировать семейные развлечения во время отпуска и решить, кем нарядиться на Хеллоуин. Она даже предполагает, что ее ИИ-помощник сможет координировать планы с ИИ-помощником ее мужа. Когда журналист спрашивает ее, не угнетает ли ее мысль об этом «безбарьерном будущем… спланированном ИИ», Майер отвечает: «Я как-то не думала об этом до конца».

Похоже, эти руководители списывают скептиков на небольшую, озлобленную маргинальную группу. Однако исследование Pew Research Center показывает, что 50% взрослых жителей США считают: ИИ снизит способность людей строить значимые отношения. Лишь 5% респондентов заявили, что ИИ упростит создание таких связей.

Однако генеральный директор Meta Марк Цукерберг присоединяется к своим собратьям из Кремниевой долины в представлении мира, где наши социальные потребности удовлетворяются с помощью ИИ.

«Мне кажется, у среднего американца меньше трех друзей — трех человек, которых он считал бы друзьями, — а среднему человеку нужно значительно больше, кажется, около 15 друзей, — сказал Цукерберг в прошлом году в подкасте. — Средний человек хочет больше общения и связи, чем у него есть».

Цукерберг прогнозирует, что станет социально приемлемее передавать свои эмоциональные потребности ИИ-терапевтам или даже ИИ-романтическим партнерам. «Есть много вещей, которые лучше в физических связях, когда они у вас есть, — добавил он. — Но реальность такова, что люди […] большую часть времени чувствуют себя более одинокими, чем им хотелось бы».

Цукерберг продолжает объяснять, что виртуальные воплощения ИИ-аватаров в виртуальной реальности становятся все более реалистичными. Похоже, Meta больше заинтересована в улучшении наших отношений с этими подобиями людей, чем в укреплении связей между настоящими миллиардами людей, которые ежедневно пользуются ее платформами.

Возможно, отчасти это объясняется культурой технологической отрасли, которая превыше всего ставит эффективность. Люди пытаются биохакать собственные тела, оптимизируя свой режим сна с помощью трекеров здоровья или вводя нерегулируемые «комплексы пептидов», чтобы максимально повысить свою продуктивность.

Если вы создаете электромобили или компьютерные чипы, то, конечно, эффективность — вполне очевидный ориентир. Но наши отношения с другими людьми — не технологический продукт, который нам поручили выпустить, располагая как можно меньшим капиталом. Человеческие отношения по своей природе хаотичны, но именно связи друг с другом могут придавать нашей жизни смысл. Передавая эти взаимодействия компьютерам, мы отказываемся от сложного, но приносящего удовлетворение опыта быть людьми.