У меня есть несколько вопросов к Марку Цукербергу

Для Meta это важная неделя. В среду компания начала свою большую конференцию Connect, а новый ИИ-агент Muse похоже, уже стал хитом. Я им пользуюсь — он на удивление хорош. 

Генеральный директор Марк Цукерберг, конечно же, сейчас пожинает плоды успеха и дает множество интервью обо всем этом. Поэтому мы, разумеется, попросили его прийти на Decoder. Meta по какой-то причине отклонила мою просьбу об интервью. Но, к счастью, Марк только что дал большое интервью нашему другу и бывшему коллеге Алексу Хиту в подкасте Sources. 

Так что я подумал, что мы могли бы просто выделить несколько моментов из этого разговора, указать на очевидные пробелы в нынешних высказываниях Марка о компании и, надеюсь, помочь следующей группе людей, которым удастся с ним поговорить, задать дополнительные вопросы. 

Итак, вот что я хотел бы спросить у Марка Цукерберга, если бы он согласился прийти ко мне на Decoder. Начнем с комментариев Марка об очках Meta.

Марк Цукерберг: На самом деле мы весьма довольны этим продуктом. Я имею в виду, у телефонов нет светового индикатора, но люди постоянно ходят и записывают других.

Поэтому, думаю, очень важно отметить, что вся технологическая индустрия действительно хочет, чтобы устройства пассивного наблюдения воспринимались так же, как телефоны, — чтобы вы одинаково воспринимали все: от камер Flock и дверных звонков Ring до очков Meta, как вы воспринимаете смартфон.

Но здесь есть несколько совершенно очевидных различий, на которые, как мне кажется, действительно стоит надавить в подобных разговорах. Например, если вы хотите записать кого-то на телефон, вам нужно достать его из кармана, открыть приложение камеры и буквально направить его человеку в лицо. Это физическое действие, которое существенно отличается от ношения очков на лице с включенным индикатором и пассивной записи окружающих. 

Это физическое действие означает, что вы должны объявить о своем намерении что-то сделать с помощью тела, и другие люди могут на это отреагировать. Очевидно, с очками Meta вы этого не делаете. Вы просто начинаете запись, и люди могут заметить, горит индикатор или нет, но явного физического сигнала о том, что вы собираетесь начать запись, не существует.

Поэтому я думаю, что одна из причин, по которой вся технологическая индустрия так стремится вписать эти устройства пассивного наблюдения в ту же систему представлений, что и смартфоны, заключается в том, чтобы никто не задавался вопросом, нужны ли для этих устройств новые правила социального поведения. Вместо этого вы думаете: «О, это просто смартфон. Я уже понимаю, как им пользоваться». Но важно и то, что такой подход игнорирует тот факт, что нам действительно пришлось создать огромный новый набор социальных правил и норм вокруг записи на смартфоны.

Мы пережили все движение Black Lives Matter именно потому, что запись на смартфоны позволила людям снимать полицию, а мы как общество не совсем понимали, что делать с этой информацией, и, возможно, до сих пор не знаем, что с ней делать. Я бы снова и снова поднимал этот вопрос. 

Хотите ли вы, чтобы все постоянно записывали всех? Считаем ли мы хорошим то, что смартфоны позволяют каждому постоянно записывать все вокруг? Считаем ли мы хорошим то, что можно постоянно вести прямые трансляции всего происходящего? Если бы вы могли заново запустить все это в новом форм-факторе, который позволял бы проще и пассивнее вести запись, какие нормы вы бы изменили?

В самой Meta уже есть примеры этого: там знают, что очки Meta используются для преследования работников розничной торговли и женщин, и начали понижать рейтинг таких видео в Instagram, чтобы уменьшить стимул их создавать. Поэтому я думаю, что один из вариантов этого вопроса можно сформулировать предельно прямо: если вы знаете, что часть контента, созданного с помощью этих очков, настолько плоха, что вы понижаете ее рейтинг на собственной платформе распространения, то что же в этих очках настолько хорошего, что из-за них стоит снова и снова вести эти дискуссии?

Ладно, вернемся к комментариям Марка об очках Meta.

Марк Цукерберг: Когда несколько лет назад мы запускали очки, мы довольно четко рассказали об этих мерах, которые в них заложили. Но, как вы сказали, сейчас очки получили многие-многие-многие миллионы людей — гораздо больше, чем в самом начале запуска продукта. Поэтому я думаю, что часть информации, которую мы сообщили вначале, многие либо, возможно, —

Алекс Хит: Не увидели.

Марк Цукерберг: Либо забыли о ней, либо не увидели ее в начале, либо просто не обратили на нее внимания, потому что очки не были чем-то значительным. Теперь, когда, как мне кажется, мы достигли уровня массового распространения… ну, как минимум, думаю, нам нужно убедиться, что мы рассказываем о том, что делаем, и что да, мы считаем это важным — настолько важным, что встроили эту функцию в продукт с самой первой версии, выпущенной несколько лет назад.

Хорошо, остановимся здесь. Я бы задал несколько очень простых вопросов. Что именно важно? Конфиденциальность пользователя? Конфиденциальность человека, которого могут записывать? И что именно, по вашему мнению, вы четко объяснили вначале, но что оказалось забыто?

Как мне кажется, Марк пытается сказать, что в самом начале они объявили: у очков будет индикатор, он будет включаться во время записи, и, по их мнению, наличие камеры в дужке очевидно. Со временем, когда очки получили больше людей и все чаще видели их на лицах других, стало неясно, что означает этот индикатор и для чего он нужен. Теперь Марк считает, что им нужно подробнее объяснять именно факт существования индикатора.

Мой ответ на все это таков: не имеет значения, что говорит Meta. Это фундаментальная истина любого массового потребительского технологического продукта. Продукт определяют пользователи. Если вы продаете людям миллионы гаджетов, они будут использовать их способами, которых вы никогда не ожидали. Именно такое спонтанно возникающее поведение часто определяет следующую версию продукта.

Вероятно, один из самых известных примеров — Twitter. Twitter не изобрел хэштег, ответы через @ или миллион других функций, которые мы связываем с Twitter. Эти функции изобрели пользователи Twitter, а Twitter перенял их, потому что пользователи нашли способы использовать сервис, о которых компания даже не думала.

В целом это верно для всего. Это верно для компьютеров, смартфонов, социальных платформ и очков Meta. То, как люди их используют, не имеет ничего общего с намерениями Meta или ее разъяснениями по поводу индикаторов записи — ни в начале, ни сейчас.

Поэтому, думаю, естественный дополнительный вопрос, который мы все должны задать: насколько Meta контролирует злоумышленников, использующих эти очки для преследования людей? Ведь простое информирование большего числа людей о том, что индикатор обозначает запись, этого не остановит. 

Станут ли они чаще делать что-то вроде понижения рейтинга видео с людьми, преследующими работников розничной торговли? Считает ли Meta, что другие платформы последуют ее примеру? Думает ли Meta, что создание негативных стимулов для определенных способов использования камеры с помощью модерации контента действительно решит проблему? Есть ли хоть что-то в истории модерации контента, что подтверждало бы это, учитывая собственную историю Марка в сфере модерации контента?

Далее Марк говорит о безопасности подростков и недавнем многомиллиардном соглашении Meta по безопасности подростков.

Марк Цукерберг: Думаю, по ходу дела можно было объяснить, насколько серьезно мы относимся к этим проблемам, но мы этого не сделали, потому что считали: люди показывают, что им по-прежнему нравятся продукты, раз так активно ими пользуются. 

Хорошо, позвольте остановиться здесь. Во многих исках против социальных сетей утверждается, что продукт вызывает зависимость. Причина, по которой социальные сети постоянно сравнивают с табачной промышленностью, заключается в том, что курить приятно, людям это нравилось, но это их убивало. 

Поэтому показатели использования никак не связаны с вредом, который мог причиняться. И с самого начала я хотел бы настаивать на вопросе: действительно ли простое измерение показателей использования позволяет понять, приносит ли что-то пользу миру или отдельному пользователю.

Марк Цукерберг: Мы пришли к тому, что в социальных продуктах люди одновременно получают удовольствие и понимают, насколько серьезно мы относимся ко всем этим проблемам. Именно к этому я стремлюсь.

Алекс Хит: Есть ли связь между этим и недавним соглашением по всем вопросам безопасности использования? Я знаю, что об этом много говорят. Есть ли связь между тем, что вы только что сказали, и этим соглашением? Мне было бы интересно услышать ваши размышления об этом и о том, чему вы научились в ходе процесса. 

Марк Цукерберг: Да, думаю, это еще один хороший пример такого рода. Мы уже некоторое время серьезно относимся ко многим вопросам безопасности и давно работаем над подростковыми аккаунтами в Instagram.

Итак, верно, что Meta проделала одну из наиболее значительных работ по разработке функций, которые должны сделать ее платформы безопаснее для детей. Компания провела одни из самых передовых исследований в этой области, чтобы понять, что на самом деле происходит с людьми на ее платформах. И все же особенно возмутительно во всем этом то, что Meta за это наказывают. 

Компания публикует данные о безопасности, публикует исследования, публикует сведения о количестве происходящих плохих вещей, выпускает отчеты о прозрачности. Даже если вы считаете этого недостаточным, с Meta постоянно происходит следующее: ее наказывают за раскрытие информации о плохих событиях на ее платформах. Такие компании, как Apple, которые не знают, что происходит на зашифрованном сервисе вроде iCloud, не публикуют эти цифры и не подвергаются наказанию за это.

Я бы спросил Марка: как конкретно решить эту проблему? Потому что в рамках этих исков во внутренних письмах выяснилось, что сам Марк ставил под сомнение ценность проведения исследований и разработки функций, поскольку Meta за это наказывают. 

Таким образом, здесь возникает мощная отрицательная обратная связь: Meta старается и получает наказание за свою прозрачность, хотя на самом деле эту проблему должен решать государственный регулятор. Если бы все компании социальных сетей обязали раскрывать различные показатели безопасности подростков, Meta оценивали бы в сравнении с конкурентами, а не наказывали просто за существование этой информации. В этом соглашении такого положения нет.

Вместо этого мы получили набор средств контроля поведения и ограничений продуктов. Meta, похоже, очень заинтересована в том, чтобы эти ограничения продуктов распространялись на TikTok и YouTube, но не в том, чтобы мы могли измерять сам причиняемый вред.

Итак, вот первый вопрос, на котором, как мне кажется, стоит настаивать: нужно ли всей этой индустрии обязать быть более прозрачной в отношении происходящего с детьми на ее платформах? Потому что если вы собираетесь вводить правила и регулирование, вероятно, следует начать с общего набора информации.

Марк Цукерберг: Если бы вы просто сказали: «Ограничить использование до часа в день для подростков», думаю, все были бы с этим согласны, но сделать это должна была бы одна компания в одностороннем порядке. Иначе вы говорите: «Хорошо, если люди не пользуются Instagram больше часа в день, но переходят в TikTok, действительно ли мы кому-то помогли, или просто навредили себе, никому не помогая?»

Здесь Марк описывает дилемму заключенного: если Meta предпримет меры, чтобы сделать подростков безопаснее, а TikTok — нет, подростки просто перейдут в TikTok, и никто не будет в безопасности. Эта идея, конечно, снова возникнет, когда мы заговорим о безопасности ИИ, но пока давайте на минуту остановимся на социальных платформах.

Если вы верите, что для безопасности существует рынок, если ваша исходная предпосылка такова: люди пользуются платформой, значит, они ею довольны, — тогда вам следует сделать платформу безопаснее для детей, и родители могут сказать своим детям: «Вам разрешено пользоваться Instagram, но не TikTok, потому что в Instagram есть такие средства контроля». Для меня очень показательно, что Марк не считает безопасность рыночным преимуществом. Вместо этого он думает, что правительство должно заставить всех в одностороннем порядке разоружиться в рамках регулирующей системы, которая решит его дилемму заключенного.

Поэтому мой главный вопрос здесь: почему в случае социальных сетей это должна решать государственная власть — способом, который может затрагивать Первую поправку и право подростков на свободу слова, — но не в случае безопасности ИИ, где руководители ведущих лабораторий постоянно говорят о том, что ИИ может уничтожить всех?

Кстати, когда я говорю, что это напрямую связано с безопасностью ИИ, я имею в виду, что в вопросе безопасности ИИ Марк занимает противоположную сторону дилеммы заключенного. После многочисленных призывов различных ведущих лабораторий замедлить разработку Марк опубликовал тред в X, заявив, что, по его мнению, рынок сам обо всем позаботится.

Я просто зачитаю его. «Я считаю, что доверие и согласованность очень быстро становятся важнейшими возможностями, которые будут отличать агентов и модели. Любая лаборатория, не уделяющая внимания согласованности, отстанет. Лаборатории несут значительную ответственность, если их модели причиняют вред, поэтому у них есть сильный стимул предотвращать это. Meta отложила выпуск Muse на несколько месяцев, чтобы сосредоточиться на безопасности и защищенности. Мы не призывали всех остальных делать то же самое, прежде чем сделать это самим. Мы просто включили это в нашу повседневную работу, потому что это явно было правильным решением и для людей, и для нас. Я горжусь созданным нами фундаментом безопасности».

Итак, если говорить прямо, вопрос заключается в следующем: почему самостоятельный подход уместен в вопросе безопасности ИИ, а привлечение правительства для включения других социальных компаний в систему обеспечения безопасности подростков — уместно на этом рынке?

Другой вопрос я просто позаимствую у моего друга Кейси Ньютона, который отметил, что в последнем деле о безопасности подростков Meta оценила собственную ответственность в один триллион долларов ущерба. Похоже, даже такой ответственности недостаточно, чтобы Meta предприняла односторонние действия для предотвращения вреда подросткам на своих платформах. Если потенциальной ответственности в один триллион долларов недостаточно, то какой суммы хватит Meta, чтобы серьезно заняться безопасностью ИИ? И существует ли вообще такая сумма ответственности, которая заставила бы всех одновременно остановиться?

Затем Марк перешел к тому, как он планирует вести Muse как бизнес.

Марк Цукерберг: Думаю, он просто сможет помогать людям зарабатывать и экономить деньги… причина, по которой мы этим занимаемся, заключается в том, что мы уверены: для людей, которые будут использовать его для ведения малого бизнеса, заработка, совершения транзакций или какой-либо коммерческой деятельности, он действительно позволит зарабатывать настолько много, что предполагаемая нами бизнес-модель со временем будет фактически заключаться в том, чтобы брать очень небольшую долю от каждой транзакции.

Алекс Хит: Бизнес с небольшой комиссией?

Марк Цукерберг: Да, причем платить будет не обязательно сам пользователь. Деньги будут поступать от компаний, с которыми он работает.

Если вы фанат Бена Томпсона или просто достаточно долго слушали Decoder, вы знаете, что описывает здесь Цукерберг: теорию агрегирования. У него будет весь потребительский спрос, причем настолько большой и прибыльный, что компании, желающие получить клиентов, будут платить Meta небольшую комиссию, чтобы оказаться на другой стороне транзакций, происходящих в Muse.

Быть одним из крупных агрегаторов очень выгодно. Все гиганты Big Tech так или иначе агрегируют спрос. Проблема в том, что компании по другую сторону агрегаторов их ненавидят. Марк знает это лучше многих, потому что сам находится по другую сторону одного из крупнейших агрегаторов — App Store компании Apple. Если вы хотите охватить клиентов на iPhone, вам приходится проходить через Apple App Store, а главное — соглашаться с множеством правил конфиденциальности и платить комиссию в размере 30 процентов с большинства транзакций, происходящих на iPhone.

Для Meta это оборачивается двумя проблемами. Во-первых, Apple почти уничтожила рекламный бизнес Meta с помощью функции под названием App Tracking Transparency, изменив правила в пользу собственного рекламного бизнеса Apple. Во-вторых, если вы хотите продвинуть публикацию в Instagram с телефона, вам фактически приходится платить Apple 30 процентов — комиссию, которую Meta выделяет отдельно. 

Марк настолько ненавидит это, что уже много лет прямо говорит о создании новых платформ, которые позволят уйти от Apple. Одной из причин, по которым он занялся метавселенной, было желание создать платформу, которая придет на смену iPhone, и уйти от Apple. Одна из причин, по которым он занимается очками Meta, — создать платформу, которая придет на смену iPhone, и избавиться от зависимости от Apple. И я совершенно уверен, что одна из причин, по которым он так активно инвестирует в ИИ и теперь в Muse, — создать платформу, которая придет на смену iPhone, и уйти от Apple

Поэтому мой вопрос к Марку здесь очень прост: как вы сделаете так, чтобы все компании, находящиеся ниже по цепочке вашего огромного агрегатора — ИИ-агента, — чувствовали себя комфортно в этой системе? Потому что, побывав в подобной системе, вы сами чувствовали себя очень, очень плохо.

Марк также уделил некоторое время инвестициям Meta в центры обработки данных.

Марк Цукерберг: Если посмотреть на центры обработки данных, мы обнаружили, что когда такая компания, как Meta, приходит в сообщество и берет на себя обязательство инвестировать в него десятилетиями — именно это мы делаем, строя центр обработки данных, — мы можем сделать так, чтобы это было очень полезно для сообщества.

Я имею в виду налоговые поступления, которые они приносят. Например, в Луизиане у нас есть случай, когда налоговые поступления профинансировали премии в размере 50 000 долларов для учителей этого сообщества.

Подождите. Итак, этот центр обработки данных в Луизиане, Hyperion… Meta явно им очень гордится. Марк говорит о положительном влиянии, которое он может оказать на это сообщество. Но на деле процесс заключения сделки по этому центру обработки данных был в основном связан с секретностью, закулисными договоренностями и огромными требованиями к освобождению от налога на недвижимость со стороны правительства штата, о которых жители практически ничего не знали.

Есть огромная статья в New York Times об этом проекте, в которой подробно рассказывается о закулисных переговорах, благодаря которым Meta смогла быстро получить разрешения и построить этот центр обработки данных. Поэтому я бы просто спросил, не следует ли таким компаниям, как Meta, излагать предполагаемые выгоды гораздо более открыто и прозрачно, позволяя людям самим принимать решение.

Марк Цукерберг: Конечно, нужно спроектировать все так, чтобы это могло помогать людям во всех этих отношениях. Это также одна из причин, по которой, если люди настроены скептически или видят во всем этом столько обреченности, я считаю: если мы в итоге не построим это позитивным образом, то фактически этого просто не произойдет.

Это еще один рыночный аргумент Цукерберга. Он говорит, что если людям не понравится создаваемый ИИ или они не сочтут его полезным, ему просто не позволят существовать. Рынок уничтожит эти продукты. Вы можете по-разному относиться к этому, особенно если прямо сейчас сталкиваетесь с тем, что ИИ вам навязывают в приложениях и сервисах, но я бы связал это с социальными сетями, где многие считали, что они причиняют вред, однако индустрия все равно продолжала стремительно развиваться, пока правительство не ввело определенное регулирование. 

Поэтому мне снова очень интересно сопоставить отношение Марка к государственному регулированию и рыночным силам в социальных сетях, где он считает необходимым государственное регулирование, и в ИИ, где, по его мнению, рынок должен иметь возможность действовать как угодно.

Во-вторых, и это, как мне кажется, самое важное: я много времени потратил в этой программе, спрашивая различных руководителей ИИ, достаточно ли хороши потребительские ИИ-продукты, чтобы преодолеть страхи и скептицизм. Потому что сейчас — нет. Даже когда Марк описывает Muse как инструмент, который помогает людям вести бизнес, экономить деньги или совершать покупки, речь по сути идет о корпоративных применениях. Это не масштабные потребительские приложения, которые заставят людей отказаться от скептицизма.

Например, Instagram — любимое потребительское приложение. Оно просто развлекает вас. Это означает, что весь последующий вред от Instagram отходит на второй план, потому что людям нравится развлекаться. Мне не очевидно, что люди настолько полюбят возможность поручить Muse ведение своего малого бизнеса, что согласятся на строительство центров обработки данных в своем сообществе. 

Мне неясно, какие потребительские ИИ-продукты вообще смогут заставить людей преодолеть скептицизм по поводу огромных затрат на строительство центров обработки данных. Я хотел бы знать, считает ли Марк Muse именно таким выдающимся потребительским продуктом или же что-то подобное еще только появится.

Итак, вот вопросы, которые я задал бы Марку Цукербергу, если бы он согласился прийти на Decoder.

_{Есть вопросы или комментарии? Пишите нам по адресу decoder@theverge.com. Мы действительно читаем каждое письмо!}