У мене є кілька запитань до Марка Цукерберга

Для Meta це важливий тиждень. У середу компанія розпочала свою велику конференцію Connect, і новий ШІ-агент Muse схоже, одразу став хітом. Я ним користувався — він напрочуд хороший. 

Генеральний директор Марк Цукерберг, очевидно, вже пожинає плоди успіху й дає безліч інтерв’ю про все це. Тож, звісно, ми попросили його прийти на Decoder. Meta відхилила моє прохання про інтерв’ю з невідомої причини. Але, на щастя, Марк щойно дав велике інтерв’ю нашому другові й колишньому колезі Алексу Хіту в подкасті Sources. 

Тож я подумав, що ми можемо просто виділити кілька моментів із тієї розмови, звернути увагу на очевидні прогалини в тому, що Марк зараз говорить про компанію, і, сподіваюся, наступні люди, яким випаде нагода з ним поговорити, поставлять йому додаткові запитання. 

Отже, ось деякі речі, про які я хотів би запитати Марка Цукерберга, якби він погодився прийти до мене на Decoder. Почнімо з коментарів Марка щодо Meta Glasses.

Марк Цукерберг: Насправді ми почуваємося доволі впевнено щодо цього продукту. Я маю на увазі, у телефонів немає індикатора, але люди постійно ходять і записують інших.

Тож, на мою думку, дуже важливо зазначити, що вся технологічна індустрія справді хоче, аби пристрої пасивного стеження належали до тієї самої категорії, що й телефони — щоб ви однаково сприймали все: від камер Flock до дверних дзвінків Ring і Meta Glasses, так само як ви сприймаєте смартфон.

Тут є кілька дуже очевидних відмінностей, на які, як мені здається, варто особливо наголошувати в таких розмовах. Наприклад, якщо ви хочете записати когось телефоном, вам потрібно дістати його з кишені, відкрити застосунок камери й буквально спрямувати його в обличчя людини. Це фізична дія, яка суттєво відрізняється від того, коли на вашому обличчі є окуляри з індикатором, і ви просто пасивно записуєте когось. 

Ця фізична дія означає, що ви маєте своїм тілом заявити про намір щось зробити, а інші люди можуть на це відреагувати. Очевидно, з Meta Glasses ви цього не робите. Ви просто починаєте запис, і люди можуть помітити, горить індикатор чи ні, але великого фізичного сигналу про те, що ви ось-ось почнете записувати, немає.

Тож я думаю, що одна з причин, чому вся технологічна індустрія так прагне помістити ці пасивні пристрої стеження в ту саму ментальну категорію, що й смартфони, полягає в тому, щоб ніхто не мусив замислюватися, чи потрібен для таких пристроїв новий соціальний етикет. Ви просто думаєте: «О, це лише смартфон. Я вже розумію, як ним користуватися». Але важливо, що це також замовчує той факт, що нам справді довелося створити величезний набір нових соціальних правил і норм щодо записування за допомогою смартфонів.

Ми пережили весь рух Black Lives Matter саме тому, що записування на смартфони дало людям змогу знімати поліцію, а ми як суспільство не зовсім розуміли, що робити з цією інформацією, і, можливо, досі не знаємо, що з нею робити. Я б знову й знову порушував це питання. 

Чи хочете ви, щоб усіх постійно записували? Чи вважаємо ми, що добре, коли смартфони дають змогу всім постійно записувати все? Чи добре, що можна постійно вести трансляції всього? Якби можна було перезапустити все це в новому форм-факторі, який давав би змогу легше й пасивніше записувати, які норми ви б змінили?

У самій Meta вже є приклади цього: там знають, що Meta Glasses використовують для переслідування працівників роздрібної торгівлі та жінок, і вже почали знижувати рейтинг таких відео в Instagram, щоб зменшити стимул їх створювати. Тож, думаю, це питання можна поставити дуже прямо: якщо ви знаєте, що частина контенту, створеного за допомогою цих окулярів, настільки погана, що ви знизили її рейтинг на власній платформі дистрибуції, то що ж такого хорошого в цих окулярах, що заради них варто знову й знову вести ці дискусії?

Гаразд, повернімося до коментарів Марка щодо Meta Glasses.

Марк Цукерберг: Коли кілька років тому ми запустили окуляри, ми досить чітко повідомили про ці кроки, які в них заклали. Але, як ви сказали, тепер окуляри придбали вже багато-багато-багато мільйонів людей — набагато більше, ніж на момент запуску продукту. Тож, думаю, частину тієї комунікації, яку ми здійснили на початку, багато хто або, можливо-

Алекс Хіт: Не побачив.

Марк Цукерберг: Або забув, або не побачив на початку, або просто не звернув на це уваги, бо окуляри не були чимось важливим. Тепер, коли, як мені здається, ми досягли рівня масової популярності… ну, щонайменше, я думаю, нам потрібно повернутися й переконатися, що ми пояснюємо, що саме робимо, і що, так, ми вважаємо це важливим — насправді настільки важливим, що заклали це в продукт ще в найпершій версії, яку випустили кілька років тому.

Гаразд, зупинімося тут. Я б поставив кілька дуже простих запитань. Що саме важливо? Приватність користувача? Приватність людини, яку можуть записувати? І що саме, на вашу думку, ви чітко пояснили на початку, але згодом це було втрачено?

Як я розумію слова Марка, на самому початку вони оголосили, що окуляри матимуть індикатор, який світитиметься під час запису, і вважали очевидним, що в дужці розташована камера. З часом, коли дедалі більше людей придбали окуляри й побачили їх на обличчях інших, стало незрозуміло, що означає цей індикатор. Тепер Марк вважає, що потрібно більше розповідати саме про його наявність.

Моя відповідь на все це така: не має значення, що говорить Meta. Це фундаментальна істина щодо кожного масового споживчого технологічного продукту. Продукт визначають користувачі. Якщо ви продаєте людям мільйони гаджетів, вони використовуватимуть їх способами, яких ви ніколи не очікували. Саме така непередбачена поведінка часто визначає наступну версію продукту.

Мабуть, один із найвідоміших прикладів — Twitter. Twitter не винайшов хештег, відповідь через @ чи мільйон інших функцій, які ми асоціюємо з Twitter. Ці функції винайшли користувачі Twitter, а Twitter їх перейняв, бо користувачі знайшли способи використовувати сервіс так, як компанія навіть не передбачала.

Загалом це стосується всього. Це справедливо щодо комп’ютерів, смартфонів, соціальних платформ і Meta Glasses. Те, як люди використовують окуляри, не має нічого спільного з намірами Meta чи її поясненнями щодо індикатора запису — ні на початку, ні тепер.

Тож, на мою думку, природне додаткове запитання, яке ми всі маємо поставити: наскільки Meta може контролювати зловмисників, які використовують ці окуляри для переслідування людей? Адже просте повідомлення більшій кількості людей про те, що індикатор означає запис, цього не зупинить. 

Чи робитимуть вони більше для зниження рейтингу відео, на яких люди переслідують працівників роздрібної торгівлі? Чи вважають вони, що інші платформи підуть їхнім шляхом? Чи думає Meta, що створення негативних стимулів для використання камери за допомогою модерації контенту справді розв’яже проблему? Чи є щось в історії модерації контенту, що свідчить на користь цього, з огляду на власну історію Марка у сфері модерації контенту?

Далі Марк говорить про безпеку підлітків і нещодавню багатомільярдну мирову угоду Meta щодо безпеки підлітків.

Марк Цукерберг: Думаю, можна було б у процесі пояснити, наскільки серйозно ми ставилися до цих проблем, але ми цього не зробили, бо вважали: люди демонструють, що їм досі подобаються продукти, так активно ними користуючись. 

Гаразд, зупинімося тут. У багатьох позовах проти соціальних мереж стверджується, що продукт викликає залежність. Люди постійно порівнюють соціальні мережі з тютюновою індустрією саме тому, що куріння приємне, людям воно подобалося, але воно їх убивало. 

Отже, частота використання не мала нічого спільного зі шкодою, яка могла виникати. Тому від самого початку я хотів би поставити питання, чи справді просте вимірювання частоти використання дає змогу визначити, чи приносить щось користь світові або окремому користувачеві.

Марк Цукерберг: Ми хочемо, щоб соціальні медіапродукти подобалися людям і водночас щоб вони розуміли, наскільки серйозно ми ставимося до всіх цих проблем. Саме цього я прагну.

Алекс Хіт: Чи є зв’язок між цим і нещодавньою мировою угодою щодо всіх питань безпеки користувачів? Я знаю, що багато людей про це говорять. Чи є якийсь зв’язок між вашими щойно сказаними словами та цією угодою? Мені просто цікаво почути ваші роздуми про це й про те, чого ви навчилися в цьому процесі. 

Марк Цукерберг: Так, думаю, це ще один хороший приклад. Ми вже певний час серйозно ставимося до багатьох питань безпеки й давно працюємо над підлітковими акаунтами в Instagram.

Тож правда, що Meta виконала одну з провідних робіт зі створення функцій, які мали б підвищити безпеку дітей на її платформах. Компанія також провела одні з найважливіших досліджень у цій сфері щодо того, що насправді відбувається з людьми на її платформах. І все ж одна з особливо обурливих обставин полягає в тому, що за це Meta карають. 

Вони публікують дані про безпеку, дослідження, інформацію про кількість негативних явищ, звіти про прозорість. Навіть якщо ви вважаєте цього недостатнім, із Meta постійно відбувається одна реальна річ: її карають за розкриття інформації про те, що на її платформах трапляються негативні явища. Такі компанії, як Apple, які не знають, що відбувається на зашифрованому сервісі на кшталт iCloud, не публікують ці цифри й не зазнають покарання за це.

Тут я б запитав Марка: як саме розв’язати цю проблему? Адже в межах цих позовів із внутрішніх електронних листів стало відомо, що сам Марк ставив під сумнів цінність проведення досліджень і створення функцій, бо Meta карають за це. 

Тут виникає дуже сильний негативний зворотний зв’язок: Meta докладає зусиль, але зазнає покарання, бо є прозорою. Насправді ж урядовий регулятор мав би розв’язати цю проблему. Якби всі компанії соціальних медіа були зобов’язані бути прозорими щодо різних показників безпеки підлітків, Meta оцінювали б у порівнянні з конкурентами, а не карали просто за наявність цієї інформації. У цій мировій угоді цього немає.

Натомість ми маємо набір поведінкових обмежень і продуктових заборон. Meta, схоже, дуже прагне, щоб ці продуктові обмеження поширювалися на TikTok і YouTube, але не прагне відповісти на питання, чи повинні ми мати змогу вимірювати саму шкоду.

Отже, це перше, на чому, як мені здається, варто наголосити: чи потрібно всій цій індустрії зобов’язати бути прозорішою щодо того, що відбувається з дітьми на її платформах? Адже якщо ви збираєтеся встановлювати правила й регулювання, варто починати зі спільного набору інформації.

Марк Цукерберг: Якщо ви просто скажете: «Обмежте використання до однієї години на день для підлітків», думаю, усі з цим погодяться, але вам доведеться зробити це в односторонньому порядку. Інакше ви кажете: «Гаразд, якщо люди не користуються Instagram понад годину на день, але потім переходять у TikTok, то чи справді ми комусь допомогли, а не просто зашкодили собі, нікого не захистивши?»

Тож Марк описує дилему в’язня: якщо Meta вживе заходів, щоб підлітки були в більшій безпеці, а TikTok цього не зробить, підлітки просто підуть користуватися TikTok, і в безпеці не буде ніхто. Ця ідея, звісно, знову виникне, коли ми говоритимемо про безпеку ШІ, але давайте на хвилину зосередимося на соціальних платформах.

Якщо ви вірите, що існує ринок безпеки, якщо ваша початкова теза полягає в тому, що люди користуються платформою, отже, вона їм подобається, тоді ви маєте зробити платформу безпечнішою для дітей, і батьки можуть сказати своїм дітям: «Вам дозволено користуватися Instagram, але не TikTok, бо в Instagram є такі засоби контролю». Для мене дуже промовисто, що Марк не вважає, ніби існує ринок безпеки. Натомість він думає, що уряд має змусити всіх одночасно односторонньо роззброїтися в регуляторних рамках, які розв’яжуть його дилему в’язня.

Тож моє головне питання таке: чому в соціальних медіа це проблема, яку має розв’язати уряд, що може зачепити Першу поправку та право підлітків на свободу слова, але не проблема, яку уряд має розв’язати у сфері безпеки ШІ, де передові лабораторії постійно говорять про знищення всіх людей?

До речі, коли я кажу, що це безпосередньо пов’язано з безпекою ШІ, я маю на увазі, що в питанні безпеки ШІ Марк виступає на протилежному боці дилеми в’язня. Після численних закликів різних передових лабораторій до уповільнення розробок Марк опублікував допис у X, заявивши, що, на його думку, ринок сам про все подбає.

Я просто прочитаю його. «Моя думка полягає в тому, що довіра й узгодженість дуже швидко стають найважливішими можливостями, які відрізнятимуть агентів і моделі. Будь-яка лабораторія, яка не зосередиться на узгодженості, відстане. Лабораторії несуть значну відповідальність, якщо їхні моделі завдають шкоди, тож вони мають сильний стимул запобігати цьому. Meta відклала випуск Muse на кілька місяців, щоб зосередитися на безпеці та захисті. Ми не закликали всіх інших робити те саме, перш ніж зробити це самим. Ми просто включили це у свою щоденну роботу, бо це очевидно було правильним рішенням для людей і для нас. Я пишаюся фундаментом безпеки, який ми побудували».

Тож, якщо говорити прямо, питання полягає в тому, чому підхід «діяти самостійно» доречний у питанні безпеки ШІ, але в іншій сфері — безпеці підлітків — доречно залучати уряд, щоб включити інші соціальні медіакомпанії до відповідної системи?

Інше питання я просто запозичу у свого друга Кейсі Ньютона, який зазначив, що в останній справі щодо безпеки підлітків Meta оцінила власну відповідальність у трильйон доларів збитків. Схоже, навіть такої відповідальності недостатньо, щоб Meta в односторонньому порядку запобігала завданню шкоди підліткам на своїх платформах. Якщо потенційної відповідальності в трильйон доларів недостатньо, то скільки буде достатньо, щоб Meta серйозно поставилася до безпеки ШІ? І чи існує в системі відповідальності така сума, яка змусила б усіх діяти одночасно?

Далі Марк розповів про те, як планує вести Muse як бізнес.

Марк Цукерберг: Думаю, він просто допомагатиме людям заробляти й заощаджувати… причина, чому ми це робимо, полягає в тому, що ми фактично впевнені: можемо запевнити, що для людей, які використовуватимуть його для ведення малого бізнесу, заробітку, транзакцій чи торгівлі в будь-якій формі, він просто допоможе заробляти стільки грошей, що з часом ми очікуємо таку бізнес-модель: фактично брати дуже невелику частку від кожної транзакції.

Алекс Хіт: Бізнес із невеликою комісією?

Марк Цукерберг: Так, і не обов’язково навіть із людини, яка платить. Комісію сплачуватимуть компанії, з якими вони працюють.

Тож якщо ви прихильник Бена Томпсона або просто достатньо слухали Decoder, ви знаєте, що тут Цук описує теорію агрегації. Він матиме весь споживчий попит, і він буде настільки великим і прибутковим, що компанії, які хочуть отримати клієнтів, платитимуть Meta невелику комісію, щоб опинитися по інший бік транзакцій, які відбуваються в Muse.

Бути одним із великих агрегаторів — дуже прибуткова справа. Усі великі технологічні гіганти так чи інакше агрегують попит. Проблема в тому, що компанії по інший бік агрегаторів їх ненавидять. Марк знає це краще за більшість, бо сам перебуває по інший бік одного з найбільших агрегаторів — App Store від Apple. Якщо ви хочете охопити клієнтів на iPhone, вам доводиться проходити через Apple App Store і, що важливо, погоджуватися з безліччю правил конфіденційності та сплачувати 30-відсоткову комісію з більшості транзакцій на iPhone.

Це б’є по Meta двома способами. По-перше, Apple ледь не знищила рекламний бізнес Meta за допомогою функції App Tracking Transparency, коли запровадила зміну правил, яка суттєво сприяла власному рекламному бізнесу Apple, а не Meta. По-друге, якщо ви хочете просувати допис в Instagram зі свого телефона, вам фактично доводиться платити Apple 30 відсотків — комісію, яку Meta виділяє окремо. 

Марк так сильно це ненавидить, що вже неодноразово прямо говорив про створення нових платформ, щоб роками уникати залежності від Apple. Однією з причин, чому він зайнявся метавсесвітом, було бажання створити платформу, яка прийде після iPhone, і втекти від Apple. Однією з причин, чому він розвиває Meta Glasses, є бажання створити платформу, яка прийде після iPhone, і позбутися залежності від Apple. І я абсолютно впевнений, що одна з причин, чому він так активно інвестував у ШІ, а тепер і в Muse, — створити платформу, яка прийде після iPhone, і втекти від Apple

Тож питання, яке я поставив би Марку, дуже просте: як ви зробите так, щоб усі компанії, які опиняться нижче у вашому величезному ланцюжку агрегатора-ШІ-агента, почувались добре щодо цієї домовленості? Адже коли ви були учасником такої домовленості, ви почувалися дуже, дуже погано.

Марк також деякий час говорив про інвестиції Meta в центри обробки даних.

Марк Цукерберг: Якщо подивитися на центри обробки даних, ми насправді виявили, що коли така компанія, як Meta, приходить у громаду й бере на себе зобов’язання інвестувати там протягом десятиліть — а саме це ми робимо, будуючи центр обробки даних, — можна зробити так, щоб це було дуже корисно для громади.

Я маю на увазі податкові надходження, які вони приносять. Наприклад, у Луїзіані є випадок, коли податкові надходження профінансували бонуси в розмірі 50 000 доларів для вчителів у цій громаді.

Стривайте, зачекайте. Гаразд, цей центр обробки даних у Луїзіані, Hyperion… Meta, очевидно, дуже ним пишається. Марк говорить про позитивний вплив, який він може мати на цю громаду. Але фактичний процес укладання угоди щодо розміщення цього центру був переважно суцільною секретністю, кулуарними домовленостями й величезними вимогами до уряду штату щодо звільнення від податку на нерухомість, про які мешканці насправді не знали.

Є велика стаття в New York Times про цей проєкт, у якій докладно описано кулуарні переговори, що їх Meta провела, щоб діяти швидко й побудувати цей центр обробки даних. Тож я просто запитав би, чи повинні такі компанії, як Meta, викладати ці нібито переваги набагато відкритіше й прозоріше, дозволяючи людям самим ухвалювати рішення.

Марк Цукерберг: Звісно, потрібно спроєктувати це так, щоб воно могло бути корисним для людей у всіх цих аспектах. Це також одна з причин, чому, якщо люди скептично ставляться до всього цього або бачать у ньому стільки приреченості, я вважаю: якщо ми зрештою не побудуємо це в позитивний спосіб, воно просто фактично не зможе відбутися.

Це ще один ринковий аргумент Цука. Він каже, що якщо людям не сподобається ШІ, який створюють, або вони не вважатимуть його корисним, йому просто не дозволять існувати. Ринок знищить ці продукти. Ви можете по-різному до цього ставитися, особливо якщо зараз відчуваєте, що ШІ вам нав’язують у застосунках і сервісах, але я пов’язав би це із соціальними медіа, де багато людей вважали, що вони завдають шкоди, а індустрія все одно стрімко розвивалася, доки уряд не запровадив певне регулювання. 

Тож мені знову дуже цікаво, чому Марк по-різному ставиться до державного регулювання та ринкових сил, коли йдеться про соціальні медіа, де він вважає, що має бути державне регулювання, і про ШІ, де, на його думку, ринок має працювати як завгодно.

По-друге, і це, на мою думку, найважливіше, я багато часу в цьому шоу запитував різних керівників ШІ, чи достатньо хороші споживчі продукти на основі ШІ, щоб подолати страхи й скептицизм щодо цієї технології. Бо зараз — ні. Навіть коли Марк описує Muse як корисний інструмент для людей, які ведуть бізнес, допомагають заощаджувати гроші чи роблять покупки, це принципово корпоративні застосування. Це не масштабні споживчі застосування, які змусили б людей подолати свій скептицизм.

Наприклад, Instagram — улюблений споживчий застосунок. Він просто розважає вас. Це означає, що вся подальша шкода від Instagram відходить на другий план, бо людям подобається розважатися. Мені не зрозуміло, чи настільки людям сподобається доручати Muse ведення свого малого бізнесу, що вони погодяться на будівництво центрів обробки даних у своїй громаді. 

Мені незрозуміло, які споживчі продукти на основі ШІ взагалі коли-небудь з’являться, щоб люди подолали свій скептицизм щодо величезної вартості будівництва центрів обробки даних. Я хотів би знати, чи вважає Марк Muse таким чудовим споживчим продуктом, чи щось подібне ще попереду.

Отже, це деякі запитання, які я поставив би Марку Цукербергу, якби він погодився прийти на Decoder.

_{Запитання чи коментарі? Пишіть нам на decoder@theverge.com. Ми справді читаємо кожен лист!}