Почему люди не верят в будущее ИИ, каким его видит Марк Цукерберг

Генеральный директор Meta Марк Цукерберг на этой неделе опубликовал эссе объемом 6500 слов, в котором заявил, что «Будущее принадлежит всем», и нарисовал оптимистичную картину будущего, основанного на ИИ, где «у каждого будет исключительно мощный персональный агент, который понимает вас, ваши цели и все, что вам дорого».

В последнем выпуске подкаста TechCrunch Equity мы с Кирстен Коросек и Ребеккой Беллан обсудили, почему не все верят в видение Цукерберга, — включая нашего коллегу Расселла Брандома, который написал, что этот манифест — «именно то, почему люди не любят ИИ».

Сравнивая Цукерберга с генеральным директором Anthropic Дарио Амодеи (который все выходные выступал против представления о себе как о стороннике обреченности ИИ), Ребекка сказала, что глава Meta, похоже, позиционирует себя «почти как анти-Дарио». Однако проблема заключается в прошлом Цукерберга и Meta.

«Если оглянуться на времена социальных сетей, [Цукерберг] говорил, что хочет сделать так, чтобы у каждого была возможность общаться с друзьями и иметь социальную сеть, — сказала Ребекка. — И что мы получили вместо этого? Провокационный контент и рекламу, а не связь между людьми».

Продолжайте читать, чтобы ознакомиться с кратким изложением нашего разговора, отредактированным для большей краткости и ясности.

Ребекка Беллан: Если говорить цинично, я думаю, что это попытка Meta победить другим способом. Они не побеждают в сфере передовых закрытых моделей. Они не обязательно побеждают даже в открытой сфере. Но когда речь идет о расширении возможностей человека, о чем Марк Цукерберг говорит в своем письме «Будущее принадлежит всем», именно здесь он пытается выиграть. Он пытается предоставить модели, которые люди будут использовать для собственного персонального ИИ на собственных устройствах.

Думаю, в прошлом году, когда он опубликовал [похожее] письмо «Будущее принадлежит всем», обещание заключалось в том, что значительная часть этого ИИ появится в очках и носимых устройствах, но пока не совсем понятно, каким будет конечный форм-фактор оборудования, и, думаю, он оставляет это на выбор конкретного человека. 

То есть его идея заключается в том, что вы используете [новую модель ИИ Meta] Glimmer для управления расписанием, подготовки сообщений и организации файлов; она постоянно активна и может работать в любое время и в любом месте, с подключением к интернету или без него.

Но при этом остается Muse Spark, что сохраняет для них возможность по-прежнему контролировать в определенной степени наиболее мощные модели, а также создает источник дохода для людей, которые хотят масштабировать вычислительные мощности, выполнять более крупные проекты, или для компаний, которым могут понадобиться более масштабные проекты.

Энтони Ха: Думаю, здесь также важно учитывать, что Meta сделала очень серьезные инвестиции в ИИ; в прошлом году [появилось] множество историй о том, сколько денег они пытались предложить специалистам по ИИ, но когда мы говорим о ведущих компаниях и передовых лабораториях, Meta обычно не упоминается в этом контексте.

Еще одна причина, по которой она не упоминается, — это, знаете, вопрос о популярных потребительских чат-ботах с ИИ. Конечно, люди взаимодействуют с инструментами Meta AI в Instagram и Facebook, но Meta — не та компания, о которой вы думаете, когда говорите: «Я собираюсь воспользоваться своим персональным ассистентом». Meta пока не стала такой компанией, и поэтому в определенной степени это выглядит как попытка изменить ее позиционирование и занять нишу, в которой раньше она не добивалась особого успеха. Это справедливое утверждение?

Ребекка: Думаю, это действительно справедливое утверждение. Но я бы относилась к этому с долей скепсиса, потому что Марк Цукерберг любит представлять видение того, что его компании будут делать для людей и как они будут расширять их возможности. А пока для Meta это выглядит так: конечно, Llama — отличный инструмент с открытым исходным кодом, но, думаю, на потребительском уровне возникает вопрос: как люди используют Meta AI? Ну, например, существуют множество жутковатых чат-ботов.

Мой краткий вывод таков: думаю, что письмо [Цукерберга] и его идея расширения личных возможностей вызывают у многих неприятный осадок именно потому, что это говорит он. Расселл Брандом, наш редактор по вопросам ИИ, написал об этом на этой неделе. Если оглянуться на времена социальных сетей, он говорил, что хочет сделать так, чтобы у каждого была возможность общаться с друзьями и иметь социальную сеть. И что мы получили вместо этого? Провокационный контент и рекламу, а не связь между людьми.

Кирстен Коросек: Да, думаю, манифест не нашел отклика у многих людей. И, как отмечает Расселл в своей колонке, именно это заставляет людей ненавидеть ИИ или выступать против него, потому что, как ты сказала, это исходит от Цукерберга, и, кроме того, мне кажется, что это выглядит очень уж наивно и оптимистично. Он уже высказывал подобные мысли в прошлом, и они не дают, как мне кажется, более реалистичной картины, а вместо этого представляют ИИ как великий инструмент для человечества. Возможно, так и есть, но это также повлечет за собой огромные издержки, и, думаю, именно поэтому негативная реакция была настолько широко распространена.

Ребекка: Кажется, он позиционирует себя почти как анти-Дарио. Не знаю. В передовых лабораториях много говорят: «Мы идем впереди всех, но сбавляем темп, сосредотачиваемся на безопасности. Нам нужно замедлить разработку». Конечно, они ничего подобного не делают, но говорят об этом — в том числе из-за всех недавних инцидентов с кибербезопасностью.

А Марк Цукерберг, напротив, как будто говорит: «Нет, нет, мы не будем сбавлять темп. Мы не можем позволить себе уступить Китаю ни дюйма, а замедление темпов лишь навредит отдельному человеку, чьи возможности эта технология способна расширить». 

Но я подумала: «О, может быть, попробую загрузить Muse Glimmer и посмотрю, что с ним можно сделать». Могу ли я установить его на свой MacBook? Нет. Нужно специальное оборудование. Не помню, какое именно, — но для обычного человека это на самом деле не так уж доступно.

Кирстен: Это не для всех. Пока что. 

Энтони: Одно положительное замечание, которое я могу сделать по поводу этого очень длинного манифеста — 6500 слов, больше, чем почти все материалы, опубликованные на TechCrunch, — заключается в том, что в нем есть одно предложение, где он говорит: «Если вы считаете, что ИИ обречен и верите, что именно такое будущее принесет ИИ, зачем вы тогда создаете все это?»

И это, думаю, справедливый вопрос.  Хотя мой главный вывод из этого не в том, что будущее с ИИ прекрасно, а в том, что невольно начинаешь задумываться о людях, которые делают такие прогнозы, а затем все равно продолжают двигаться вперед. 

Я также хотел немного поговорить о мысли Расселла, которая, как мне кажется, совершенно справедлива: отчасти дело в том, кто является посланником. По целому ряду причин люди с подозрением относятся к Марку Цукербергу и Meta; возможно, в ближайшие несколько месяцев это недоверие усилится, поскольку выходит новый фильм о Facebook.

Но дело также в будущем, которое обещают эти компании, занимающиеся ИИ, и в том, почему мы так часто видим массовые всплески критики, когда Сэм Альтман, Марк Цукерберг или кто-то еще делает прогноз о будущем ИИ, а люди фактически спрашивают: «Кому это нужно?» Одним из наиболее известных недавних примеров был рассказ Сэма Альтмана об этой идее: «Можно использовать ChatGPT, чтобы создавать подкасты об интересах своих детей и слушать их по дороге в школу». И, конечно, все спрашивают: «Почему бы просто не поговорить со своим ребенком?» 

Половина манифеста состояла из идей вроде: «Это высвободит все эти творческие и изобретательские способности», — и все это настолько абстрактно. Если вы скептически относитесь к ИИ, ничто из этого вас не убедит, потому что все кажется нереальным. А в более конкретных предложениях, касающихся персональных наставников и ассистентов, есть некоторые привлекательные стороны, но многое [в них] отталкивает.