Имам няколко въпроса към Марк Зукърбърг

Това е важна седмица за Meta. В сряда компанията даде старт на голямата си конференция Connect, а новият AI агент Muse изглежда е ранен хит. Използвам го — и е изненадващо добър. 

Главният изпълнителен директор Марк Зъкърбърг очевидно обикаля и се радва на успеха, като участва в множество интервюта по тези теми. Затова, разбира се, го поканихме да гостува в Decoder. Meta отказа интервюто ми по някаква причина. Но за щастие Марк току-що даде голямо интервю пред нашия приятел и бивш колега Алекс Хийт в подкаста Sources. 

Затова си помислих, че можем просто да откроим някои моменти от този разговор, да посоча някои очевидни пропуски в това, което Марк казва за компанията в момента, и да се надяваме, че следващите хора, които разговарят с него, ще му зададат допълнителни въпроси. 

Ето някои от нещата, които бих искал да попитам Марк Зъкърбърг, ако се присъедини към мен тук, в Decoder. Нека започнем с коментарите на Марк за очилата Meta.

Марк Зъкърбърг: Всъщност сме доста доволни от продукта. Искам да кажа, телефоните нямат светлина, но хората постоянно обикалят и записват други хора.

Мисля, че е много важно да отбележим, че цялата технологична индустрия наистина иска пасивните устройства за наблюдение да попаднат в същата категория като телефоните — да разбирате всичко от камерите Flock през звънците Ring до очилата Meta по същия начин, по който разбирате смартфона.

Тук обаче има някои съвсем очевидни разлики, върху които според мен си струва да се настоява в тези разговори. Например, ако искате да запишете някого с телефона си, трябва да го извадите от джоба си, да отворите приложението за камера и буквално да го насочите към лицето му. Това е физическо действие, което съществено се различава от това да носите чифт очила на лицето си със светлинен индикатор и просто пасивно да записвате някого. 

Това физическо действие означава, че трябва да заявите намерението си да направите нещо с тялото си, а другите хора могат да реагират. Очевидно не правите това с очилата Meta. Просто започвате да записвате и хората могат да забележат дали има светлина или не, но голямото физическо предупреждение, че ще започнете запис, липсва.

Затова мисля, че една от причините цялата технологична индустрия толкова силно да иска да постави тези пасивни устройства за наблюдение в същата ментална рамка като смартфоните е, че така никой няма да трябва да се пита дали за тези устройства трябва да има нов етикет на поведение. Вместо това си казвате: „О, това е просто смартфон. Вече знам как се използва.“ Но важното е, че това също прикрива факта, че наистина трябваше да създадем огромен нов набор от социални правила и норми около записването със смартфони.

Ние преживяхме цялото движение Black Lives Matter, защото записването със смартфони позволи на хората да записват полицията, а като общество не знаехме съвсем какво да правим с тази информация и може би все още не знаем какво да правим с нея. Бих настоявал по този въпрос отново и отново. 

Искате ли постоянно да се записват всички? Смятаме ли, че е добре смартфоните да позволяват на всеки да записва всичко през цялото време? Смятаме ли, че възможността всичко да се излъчва на живо през цялото време беше нещо добро? Ако можехте да рестартирате това в нов форм-фактор, който позволяваше по-лесно и по-пасивно записване, какви норми бихте променили?

В Meta вече има примери за това — компанията знае, че очилата Meta се използват за тормоз над служители в търговски обекти и жени, и е започнала да понижава класирането на тези видеа в Instagram, за да намали стимула за създаването им. Така че според мен един от вариантите на този въпрос, който бихте могли да зададете директно, е: ако знаете, че част от съдържанието, създавано с тези очила, е толкова лошо, че сте понижили класирането му в собствената си платформа за разпространение, какво е толкова добро в тези очила, че си струва отново и отново да водим тези дебати?

Добре, нека се върнем към коментарите на Марк за очилата Meta.

Марк Зъкърбърг: Когато пуснахме очилата преди няколко години, обяснихме доста ясно тези стъпки, които вградихме в тях. Но както казахте, сега има много, много, много милиони хора, които са получили очилата — много повече, отколкото имаха, когато тепърва започвахме да пускаме продукта. Така че мисля, че част от комуникацията, която направихме в началото, много хора или може би-

Алекс Хийт: Не са видели.

Марк Зъкърбърг: Или са забравили, или не са я видели в началото, или просто не са ѝ обърнали внимание, защото очилата не бяха нещо голямо. Сега, когато мисля, че постигнахме ниво на масова популярност… е, най-малкото мисля, че трябва да се върнем и да се уверим, че обясняваме какво правим и че, да, смятаме това за важно — всъщност толкова важно, че го проектирахме в продукта още от първата версия, която доставихме преди няколко години.

Добре, нека спрем дотук. Тук бих задал няколко много прости въпроса. Какво е важно? Поверителността на потребителя ли? Поверителността на човека, който може да бъде записван? И какво точно сте смятали, че сте обяснили ясно в началото, но то се е изгубило?

Според мен Марк се опитва да каже, че в самото начало са обявили, че очилата ще имат светлина, че светлината ще бъде включена, когато записвате, и че са смятали за очевидно, че в рамката има камера. С течение на времето, когато повече хора са получили очилата и повече хора са видели очилата върху лицата на други хора, не е станало ясно какво е тази светлина или какво означава. Сега Марк смята, че трябва да комуникират повече конкретно за съществуването на светлината.

Моят отговор на всичко това е, че няма значение какво казва Meta. Това е основната истина за всяка масова потребителска технология. Потребителите определят продукта. Ако продадете милиони устройства на хората, те ще ги използват по начини, които никога не сте очаквали. Именно тези възникващи поведения често определят следващата версия на продукта.

Вероятно един от най-известните примери за това е Twitter. Twitter не е измислил хаштага, отговора с @ или някой от милионите елементи, които свързваме с Twitter. Потребителите в Twitter са измислили тези функции, а Twitter ги е възприел, защото потребителите му са открили начини да използват услугата, които компанията дори не е предвиждала.

Това важи в общи линии за всичко. Важи за компютрите, смартфоните, социалните платформи и очилата Meta. Начините, по които хората ги използват, нямат нищо общо с намеренията на Meta или с комуникацията ѝ относно светлинните индикатори за записване — нито в началото, нито сега.

Затова мисля, че естественият допълнителен въпрос, който всички трябва да задаваме, е: доколко Meta контролира недобросъвестните хора, които използват тези очила, за да тормозят други? Защото самото информиране на повече хора, че светлината показва записване, няма да спре това. 

Ще предприемат ли повече действия като понижаване на класирането на видеа, в които хора тормозят служители в търговски обекти? Смятат ли, че другите платформи ще последват примера им? Смята ли Meta, че създаването на отрицателни стимули за начина, по който хората използват камера, чрез модериране на съдържанието действително ще реши проблема? Има ли нещо в историята на модерирането на съдържание, което да подсказва, че това е вярно, предвид собствената история на Марк с модерирането на съдържание?

Следва Марк говори за безопасността на тийнейджърите и неотдавнашното многомилиардно споразумение на Meta относно безопасността на тийнейджърите.

Марк Зъкърбърг: Мисля, че би било възможно по пътя да обясним колко сериозно приемаме тези проблеми, но просто не го направихме, защото си мислехме: „Е, хората показват, че все още харесват продуктите, като ги използват толкова много.“ 

Добре, нека спра дотук. Твърдението в много от делата срещу социалните медии е, че продуктът води до зависимост. Причината хората постоянно да сравняват социалните медии с Big Tobacco е, че пушенето е приятно, хората са му се наслаждавали, а то ги е убивало. 

Така че нивата на употреба нямаха нищо общо с вредата, която може да е била причинявана. Още от самото начало бих искал да настоявам върху въпроса дали простото измерване на нивата на употреба действително ни позволява да разберем дали нещо е добро за света или за отделния потребител.

Марк Зъкърбърг: Това, до което стигнахме със социалните продукти, е хората едновременно да ги харесват и да разбират колко сериозно приемаме всички тези проблеми. Към това се стремя.

Алекс Хийт: Има ли връзка между това и неотдавнашното споразумение относно всичко, свързано с безопасността при използване? Знам, че много хора говорят за това. Има ли връзка между това, което току-що казахте, и споразумението? Просто ми е любопитно да чуя как разсъждавате върху него и какво сте научили от този процес. 

Марк Зъкърбърг: Да, не, мисля, че това е още един добър пример. Искам да кажа, че от известно време приемаме сериозно много от тези проблеми с безопасността и отдавна работим по акаунтите на тийнейджъри в Instagram.

Вярно е, че Meta е свършила част от водещата работа по създаването на функции, които да осигурят по-голяма безопасност на децата в платформите ѝ. Компанията е провела и някои от водещите изследвания в тази област за това какво всъщност се случва с хората в платформите ѝ. И все пак една от особено дразнещите динамики във всичко това е, че Meta бива наказвана за това. 

Компанията публикува данните си за безопасността, публикува изследванията си, публикува количеството лоши неща, които се случват, и изготвя доклади за прозрачност. Дори да не смятате, че това е достатъчно, нещо реално, което постоянно се случва на Meta, е, че тя бива наказвана за това, че разкрива, че в платформите ѝ се случват лоши неща. Компании като Apple, които не знаят какви лоши неща се случват в криптирана услуга като iCloud, не публикуват тези данни и не биват наказвани за това.

Тук бих попитал Марк: Как точно решавате тази динамика? Защото в тези дела вътрешни имейли разкриха, че самият Марк е поставял под въпрос ползата от провеждането на изследвания и създаването на функции, тъй като Meta бива наказвана за това. 

Тук има много силна отрицателна обратна връзка: Meta полага усилия и бива наказвана, защото е прозрачна, но всъщност бихте искали държавен регулатор да реши проблема. Ако всички компании за социални медии бяха задължени да бъдат прозрачни относно различни показатели за безопасността на тийнейджърите, тогава Meta щеше да бъде оценявана спрямо конкурентите си, а не заради самото съществуване на тази информация. Това не изглежда да присъства в споразумението.

Вместо това имаме куп ограничения на поведението и ограничения на продуктите. Meta изглежда много държи тези продуктови ограничения да се прилагат и за TikTok и YouTube, но не и да можем да измерваме самите вреди.

Така че това е първото нещо, върху което според мен си струва да се настоява: Трябва ли цялата индустрия да бъде задължена да бъде по-прозрачна относно нещата, които се случват с децата в платформите ѝ? Защото, ако ще създавате правила и регулации, вероятно трябва да започнете от общ набор от информация.

Марк Зъкърбърг: Ако кажете: „Ограничете употребата до един час дневно за тийнейджърите“, мисля, че всички биха били съгласни с това, освен че трябва да го направите едностранно. Ако не го направите, тогава казвате: „Добре, ако хората не използват Instagram повече от час дневно, но после използването им се прехвърли към TikTok, наистина ли сме помогнали на някого, или просто сме навредили на себе си, без да помогнем на никого?“

Това, което Марк описва тук, е дилема на затворника: ако те предприемат действия, за да направят тийнейджърите по-безопасни, а TikTok не го направи, тийнейджърите просто ще отидат да използват TikTok и никой няма да бъде в безопасност. Тази идея, разбира се, ще се появи отново, когато говорим за безопасността на AI, но нека за минута да поговорим само за социалните платформи.

Ако вярвате, че съществува пазар за безопасност, ако първоначалната ви предпоставка е, че хората използват платформата, следователно трябва да са доволни от нея, тогава би трябвало да направите платформата по-безопасна за децата, а родителите може да кажат на децата си: „Позволено ти е да използваш Instagram, но не и TikTok, защото Instagram има тези контроли.“ За мен е много показателно, че Марк не смята, че има пазар за безопасност, а вместо това смята, че всички трябва да бъдат принудени едностранно да се разоръжат от правителството в регулаторна рамка, която решава неговата дилема на затворника.

Така че големият ми въпрос тук е: Защо това е проблем, който правителството трябва да реши в социалните медии по начин, който може да засегне Първата поправка и правото на тийнейджърите на свободно изразяване, но не е проблем, който правителството трябва да реши при безопасността на AI, където водещите лаборатории постоянно говорят за унищожаването на всички?

Между другото, когато казвам, че това е пряко свързано с безопасността на AI, имам предвид, че по отношение на безопасността на AI Марк защитава противоположната страна на дилемата на затворника. След всички призиви за забавяне от страна на различни водещи лаборатории Марк публикува нишка в X, в която казва, че според него пазарът ще се погрижи за това.

Ще ви я прочета. „Моето мнение е, че доверието и съответствието с човешките ценности бързо се превръщат в най-важните способности, които ще отличават агентите и моделите. Всяка лаборатория, която не се фокусира върху съответствието, ще изостане. Лабораториите са изправени пред значителна отговорност, ако моделите им причинят вреда, така че имат силен стимул да предотвратят това. Meta отложи пускането на Muse с няколко месеца, за да се съсредоточи върху безопасността и сигурността. Не призовахме всички останали да направят същото, преди ние да го направим. Просто го направихме като част от ежедневната си работа, защото това очевидно беше правилното нещо за хората и за нас. Гордея се с основите на сигурността, които изградихме.“

Така че директно казано, въпросът според мен е защо подходът „всеки сам за себе си“ е подходящ, когато става дума за безопасността на AI, но е подходящо правителството да въвлече останалите компании за социални медии в рамка за безопасност на тийнейджърите, когато става дума за този пазар?

Другият въпрос просто ще взема от моя приятел Кейси Нютън, който отбеляза, че в последното дело за безопасността на тийнейджърите Meta е оценила собствената си отговорност на един трилион долара обезщетение — сума, която очевидно не е достатъчно голяма, за да накара Meta едностранно да предотврати вредите за тийнейджърите в платформите си. Ако потенциална отговорност от един трилион долара не е достатъчна, колко ще бъде достатъчно, за да приеме Meta сериозно безопасността на AI? И има ли изобщо сума в схема за отговорност, която би спряла всички едновременно?

След това Марк премина към начина, по който планира да управлява Muse като бизнес.

Марк Зъкърбърг: Мисля, че той просто ще може да помага на хората да печелят и да спестяват пари… причината да правим това е, че по същество сме уверени и заставаме зад убеждението, че за хората, които ще го използват за управление на малък бизнес, печелене на пари или някакви транзакции и търговия, това всъщност ще носи толкова много пари на хората, че бизнес моделът, който очакваме с течение на времето, на практика ще бъде да вземаме съвсем малък дял от стойността на всяка транзакция.

Алекс Хийт: Бизнес с малък процент от транзакциите?

Марк Зъкърбърг: Да, и дори не е задължително да плаща човекът. Парите ще идват от компаниите, с които тези хора работят.

Така че, ако сте почитател на Бен Томпсън или просто сте слушали достатъчно Decoder, знаете, че това, което Зък описва тук, е теорията за агрегацията. Той ще има цялото потребителско търсене, а то ще бъде толкова голямо и доходоносно, че компаниите, които искат клиенти, ще плащат на Meta малка такса, за да бъдат от другата страна на транзакциите, извършвани в Muse.

Да бъдеш един от големите агрегатори е много доходоносно. Всички големи технологични гиганти агрегират търсенето по един или друг начин. Проблемът е, че компаниите от другата страна на агрегаторите ги мразят. Марк знае това по-добре от повечето хора, защото е от другата страна на един от най-големите агрегатори — App Store на Apple. Ако искате да достигнете до клиентите на iPhone, трябва да преминете през App Store на Apple и, което е важно, да се съгласите с куп правила за поверителност и да плащате такси от 30 процента върху повечето транзакции, извършвани на iPhone.

Това засяга Meta по два начина. Първо, Apple почти унищожи рекламния бизнес на Meta с нещо, наречено App Tracking Transparency, когато въведе промяна в правилата, която силно облагодетелства рекламния бизнес на Apple за сметка на този на Meta. И второ, ако искате да популяризирате публикация в Instagram от телефона си, на практика трябва да платите на Apple 30 процента — такса, която Meta отделно начислява. 

Марк толкова силно мрази това, че изрично говори за създаване на нови платформи, за да се измъкне от Apple, вече от години. Една от причините да преследва идеята за метавселена беше да изгради платформата, която ще дойде след iPhone, и да избяга от Apple. Една от причините да преследва очилата Meta е да изгради платформата, която ще дойде след iPhone, и да се отдалечи от Apple. И съм напълно убеден, че една от причините да инвестира толкова сериозно в AI и сега в Muse е да изгради платформата, която ще дойде след iPhone, и да се измъкне от Apple

Така че въпросът, който бих задал на Марк тук, е много прост: Как ще направите така, че всички компании по веригата след вашия огромен агрегатор, AI агента, да се чувстват добре в това споразумение? Защото, когато сте били в подобно споразумение, сте се чувствали много, много зле.

Марк отдели известно време и на инвестициите на Meta в центрове за данни.

Марк Зъкърбърг: Ако погледнете центровете за данни, всъщност открихме, че когато компания като Meta влезе в дадена общност и поеме ангажимент да инвестира там в продължение на десетилетия — което наистина правим, когато изграждаме център за данни — можем да направим така, че това да е много полезно за общността.

Искам да кажа, данъчните приходи, които те носят. В Луизиана например имаме случай, при който данъчните приходи са финансирали бонуси от 50 000 долара за учителите в общността.

Чакайте, момент. Добре, този център за данни в Луизиана, Hyperion… Meta очевидно много се гордее с него. Марк говори за положителното въздействие, което той може да има върху общността. Но реалният процес по договарянето на центъра за данни всъщност е бил изпълнен със секретност, сделки зад кулисите и огромни искания за освобождаване от данък върху имотите към щатското правителство, за които жителите изобщо не са знаели.

Има огромен материал в New York Times за този проект, който подробно описва преговорите зад кулисите, осигурени от Meta, за да може компанията да действа бързо и да изгради този център за данни. Затова просто бих попитал дали компании като Meta не трябва да представят тези предполагаеми ползи по много по-публичен и прозрачен начин, за да могат хората действително сами да решат.

Марк Зъкърбърг: Разбира се, трябва да го проектирате по начин, който може да бъде полезен за хората във всички тези отношения, което също е част от причината хората, които са скептични или изпитват толкова силно усещане за обреченост по отношение на цялото нещо, всъщност да грешат. Едно от нещата, в които по същество вярвам, е, че ако в крайна сметка не го изградим по положителен начин, то просто няма да може да се случи.

Това е поредният пазарен аргумент на Зък. Той казва, че ако хората не харесват изграждания AI или не го намират за полезен, той просто няма да бъде допуснат да съществува. Пазарът ще унищожи продуктите. Можете да имате много различни мнения за това, особено ако в момента сте изпитали как AI ви се натрапва в приложенията и услугите, които използвате, но бих свързал това със социалните медии, където много хора са смятали, че социалните медии причиняват вреда, а индустрията въпреки това продължи да се развива, докато правителството не наложи определени регулации. 

Затова отново ми е много любопитно да видя различното отношение на Марк към държавната регулация и пазарните сили, когато става дума за социалните медии, където той смята, че трябва да има държавна регулация, и за AI, където смята, че пазарът трябва да може да действа както пожелае.

Второ, и според мен най-важно, прекарах доста време в това предаване, питайки различни ръководители в сферата на AI дали потребителските AI продукти са достатъчно добри, за да преодолеят песимизма и скептицизма. Защото в момента не са. Дори начинът, по който Марк описва Muse като полезен за хора, управляващи бизнеси, помагащ на хората да спестяват пари или да пазаруват, по същество сочи към приложения за бизнеса. Това не са големи потребителски приложения, които да накарат хората да преодолеят скептицизма си.

Например Instagram е любимо потребителско приложение. То просто ви забавлява. Това означава, че всички последващи вреди от Instagram избледняват, защото хората обичат да се забавляват. Не ми е ясно дали хората ще обикнат толкова много да оставят Muse да управлява малкия им бизнес, че да приемат центрове за данни в общността си. 

Не ми е ясно какви потребителски AI продукти изобщо ще съществуват, така че хората да преодолеят скептицизма си относно огромната цена на изграждането на центрове за данни. Бих искал да знам дали Марк смята, че Muse е този страхотен потребителски продукт, или предстои нещо друго.

Това са някои от въпросите, които бих задал на Марк Зъкърбърг, ако беше приел да гостува в Decoder.

_{Въпроси или коментари? Пишете ни на decoder@theverge.com. Наистина четем всеки имейл!}