Историчката Джил Лепор казва, че Силициевата долина разбира погрешно научната фантастика и подкопава демокрацията

В предстоящата си книга „Възходът и падението на изкуствената държава“ Джил Лепор предупреждава, че технологичните компании все по-често заменят функциите на демократичното управление. По думите ѝ тази промяна бележи „завръщане към тиранията и мистификацията под формата на управление от алгоритми, корпорации и машини“.

В последния епизод на подкаста Equity на TechCrunch разговарях с Лепор — историчка от Харвард и авторка в New Yorker, която наскоро спечели награда „Пулицър“ за историята си на Конституцията на САЩ — за развитието на онова, което тя описва като „идеята, че трябва да живеем под властта на изкуствена държава или управление от машини“.

„Не съм против технологиите“, настоя Лепор. Вместо това тя каза: „Проблемът ми е в начина, по който частните корпорации все повече поемат функциите на държавата.“

Макар книгата на Лепор да разглежда технократски философии, които датират от векове, тя твърди, че много от „харизматичните или не толкова харизматични лидери“ на Силициевата долина — особено Илон Мъск — сякаш въвеждат бъдеще, извадено от неправилно разбрана научна фантастика и комикси.

„Но забавното при Мъск е, че нещата, които харесва, всъщност напълно опровергават и противоречат на всичките му политически убеждения“, каза тя.

Продължете да четете за акценти от разговора ни, редактирани за дължина и яснота.

Вероятно вече ви се е налагало да обяснявате това много пъти, но можете ли да обясните какво имате предвид под „изкуствена държава“? 

Под изкуствена държава разбирам вид държава, която заменя либералната демократична национална държава в Съединените щати и по света. Тя е едновременно реално нещо, конструкт, но също така и идея. 

И така, в тази книга „Възходът и падението на изкуствената държава“ проследявам възхода на идеята, че трябва да живеем под властта на изкуствена държава или управление от машини. Проследявам и схващането, че това неизбежно ще се провали, че изкуствената държава не може да оцелее, и проследявам тази идея в научната фантастика. 

В един момент казвате, че възходът на изкуствената държава бележи края на векове демокрация и равни права и че това е „завръщане към тиранията и мистификацията под формата на управление от алгоритми, корпорации и машини“. Можете ли да кажете малко повече за това защо го виждате в толкова крайни измерения? 

Да, имам доста негативно мнение за нея и мисля, че е важно да разграничаваме изкуствената държава от самата технология или от технологичните модели. Не съм против технологиите. Омъжена съм за компютърен учен. Наистина съм развълнувана от всякакви интелектуални революции, в разгара на които се намираме в момента.

Това не е проблемът ми, нали? Проблемът ми е в начина, по който частните корпорации все повече поемат функциите на държавата. Никой не е дал съгласието си за това. Това е един вид постепенна, до голяма степен случайна трансформация на начина, по който функционират много национални държави по света — първо се случи в Съединените щати. 

Мисля, че често тези нововъведения във въвеждането на нови технологии в работата на правителството са били изключително добронамерени; те произлизат от стремеж към ефективност, бързина и ниски разходи. И според мен едва през последните 20–25 години тези решения започнаха да бъдат целенасочени и преднамерени като своеобразно узурпиране на ролята на националната държава.

И това не е моя спекулация. Чувате много видни технологични предприемачи да говорят за желанието си да надхвърлят ерата на националната държава. […] Много футуристи през 90-те години бяха либертарианци и имаха конкретен интерес към използването на развитието на интернет и последвалите го нововъведения като средство за премахване на националната държава.

Говорите, от една страна, за самите технологии, а след това и за философиите зад тях, както и за ролята, която корпорацията все повече играе. Интересува ме до каква степен можем да ги разделим. Можем ли действително да имаме версия на интернет и социалните медии, която непременно да не води към това бъдеще, към което сякаш [в момента] се устремяваме?

Абсолютно. Аз съм историчка. Не съм технологична авторка. Не съм технологична журналистка. Не съм компютърен учен. Аз съм историчка и преди всичко политическа историчка, макар че съм и литературна историчка. Ето защо едно от нещата, които наистина искам да разплета пред читателите в тази книга, са всички възможности „какво би станало, ако“, всички алтернативи, пътищата по пътя, по които не сме поели, и защо. 

Разбира се, през 90-те години имаше много оживена дискусия за това как трябва да изглежда интернетът, когато бъде отворен за широката публика, а това, което в крайна сметка получихме — Законът за далекосъобщенията от 1996 г. — мисля, че много хора биха казали [че] просто беше грешка, а не действие със злонамерен умисъл, нали?

Но той беше продукт на конкретен политически момент и беше дълбоко повлиян от Нют Гингрич и неговия „Договор с Америка“, а преосмислянето му се оказа много трудно. Мисля, че си струва да се замислим какви алтернативи са били възможни тогава.

Същото можете да кажете и за персоналния компютър. Доколкото можем да посочим отправна точка за обещанието, че по-добрите компютърни технологии ще доведат до по-добри демокрации, мисля, че първо трябва да погледнем към януари 1984 г. — рекламата по време на Супербоул, която Apple пусна за представянето на Macintosh, с темата на „1984“ на Джордж Оруел. Apple много държеше на идеята, че мейнфрейм компютрите представляват тоталитаризъм. Компанията се опитваше да разруши огромните сиви машини на IBM, представяйки ги в рекламата като тоталитарна държава. А изящният, красив, бърз, очарователен персонален Macintosh щеше да бъде брадвата, която ще унищожи тази машина и ще постави началото на нова ера, в която „1984 нямаше да бъде „1984““.

Това беше умна реклама. Съмнявам се, че някой в Apple наистина е вярвал, че персоналният компютър ще се превърне в инструмент за лично освобождение. Искам да кажа, че той щеше да направи възможни много страхотни неща. Спомням си, когато получих първия си Macintosh — със сигурност не беше през 1984 г., но беше наистина готин, забавен и вълнуващ, правех много неща на него. Никога не би ми хрумнало, че той подобрява способността ми да бъда гражданка или способността ми да функционирам по-добре в гражданското общество. Беше готин инструмент.

Но ако превъртим лентата напред във времето до 2026 г. — сред спирките по пътя са изборите през 2016 г., когато Facebook News, в отговор на критиците си, създаде Върховен съд. Стигате до миналата година, когато Anthropic нае морален философ, който да напише конституция. Стигате до съвсем скоро, когато Сам Алтман беше при Джо Роугън и каза [в отговор на въпрос на Роугън]: „О, президент с изкуствен интелект би бил чудесна идея.“

В известен смисъл това са нелепи примери. Но виждате начините, по които тези корпорации, тези технологични компании от Силициевата долина и особено техните харизматични или не толкова харизматични лидери просто поемат атрибутите на националната държава и функциите на демокрацията. 

Те не са хора със сложна политическа философия, но това е като анимационна версия на рекламата за Macintosh от 1984 г., с изключение на това, че се взема толкова насериозно. А тези компании имат толкова много власт.

Но при все това книгата не започва през 1984 г. Просто мисля, че това е добър пример за нашата съвременна епоха и за начина, по който една забавна рекламна кампания се превръща в своеобразна заблудена фантазия от страна на хора като Сам Алтман.

Вие [също] говорите за обещанието на така наречената „революция на Twitter“ и за идеята, че тя ще донесе демокрация навсякъде. Не мога да не оставя това да влияе на начина, по който [реагирам], когато Сам Алтман или някой друг изпълнителен директор в сферата на изкуствения интелект сега казва, че ИИ ще донесе всички тези невероятни блага — и следователно, ако застанете на пътя му, заставате на пътя на прогреса и историята.

До каква степен трябва просто да отхвърляме всички тези твърдения, или има начини те да се сбъднат?

Искам да кажа, че Twitter всъщност е добър пример, нали? Когато беше пуснат, когато Джак Дорси го създаде, той не се представи с думите: „Ще спасим човечеството, ще спасим човешката цивилизация от изчезване.“ Беше нещо като шега и мисля, че хората, които използваха Twitter още в самото начало, си казваха: „Знаете ли какво? Всъщност е много забавно.“ Беше като: „Днес си направих сандвич с риба тон. Вие какво обядвахте?“ Компанията Twitter не излезе на сцена и не заяви: „Тук сме, за да спасим демокрацията.“

Всъщност случилото се беше, че политици и избрани представители започнаха да използват Twitter по начини, които увеличаваха политическата им власт, усилваха посланията им, позволяваха им да достигат до по-млада аудитория и да поддържат постоянна връзка с нея. Политиците и политическите кампании до голяма степен убедиха Twitter — поне доколкото аз ги наблюдавам, нямам вътрешна информация за компанията — но донякъде с нежелание Twitter стигна до извода: „Twitter стана толкова голям и хората толкова често публикуват за политика, че е почти като градско събрание.“

Когато стигнете до 2012 г., мисля — вече много години след началото на сравнително кратката история на Twitter — компанията публикува нещо, наречено „Наръчник на Twitter за политика и избори“, който всъщност представлява ръководство за политически кандидати и избрани представители как да използват Twitter възможно най-ефективно. След това започнаха да представят платформата като „градско събрание в джоба ви“, което подобрява демокрациите ни, защото възстановява отмиращото градско събрание в Нова Англия — и всичко това е пълна лудост.

Обективно погледнато, нищо не би могло да бъде по-далеч от истината. По онова време един от всеки петима американци имаше профил в Twitter. Повечето хора с профили в Twitter никога не ги бяха използвали, а над 90% от всички туитове за политика бяха публикувани от по-малко от 10% от хората, които използваха Twitter постоянно. Нямаше начин Twitter да представлява електората. Twitter представляваше най-крайните, политически активни и хиперпартийни американци, които следяха политиката много задълбочено. Поглеждайки назад сега, можем да кажем: „Това всъщност е просто машина за изкривяване. И ако политиците я използват, за да преценяват настроенията на електората, получават много лоша информация.“

Отново, можете да кажете, че Twitter не се е опитвал да участва в изкуствената държава или да подкопава демокрацията. Twitter се е опитвал да развива бизнес, да привлича повече потребители и да продава повече каквото там продава. Но това доведе до непредвидени последици, с които платформата постепенно свикна и които започна да приема. 

Искам да поговорим още малко за структурата на книгата. Както казахте, тя започва с история на технологиите и история на идеите, а втората половина е посветена на научната фантастика. Можете ли да разкажете повече за това как ви хрумна тази структура и защо искахте да разгледате нещата по този начин? 

От една страна, се заинтересувах от това колко често научнофантастичните разкази предсказват появата на онова, което по-късно започнах да наричам изкуствена държава, и затова наистина исках да идентифицирам литературна традиция, която възприемам като притча за изкуствената държава. В нея машините стават все по-сложни, поемат все повече човешки функции, включително функциите на управлението, и в крайна сметка започват да управляват хората, а след това може би унищожават всички хора, защото вече не се нуждаят от тях.

Може би просто ги поробват — зависи. В „Терминатор“ ли сме, или в „Бойна звезда „Галактика““? Има различни версии, а тези истории датират отдавна. Връщат се чак до 50-те години на XIX век и първите десетилетия на размишления върху последиците от индустриализма.

Мисля, че много хора — това със сигурност важи за моите студенти и бакалаврите ми — наистина вярват, че технологичната промяна е равна на прогрес. И не само това, а че единственият вид прогрес е технологичната промяна. Това е новост в човешката история. Това е интелектуално изобретение на XIX век и отчасти се дължи на факта, че технологичната промяна се ускорява точно по времето, когато Чарлз Дарвин разработва, а след това публикува теорията си за еволюцията.

Така се получава странен брак между еволюцията като прогрес и технологичната промяна като прогрес, от който отпадат всички други, по-ранни представи за прогрес, които основно включват морален прогрес — например нещата се подобряват, защото хората стават по-добри, или нещата се подобряват, защото хората са по-свободни. 

Има много други начини, по които можем да мислим за прогреса, но днес господства тази представа от XIX век за технологичния прогрес като единствения вид прогрес и следователно всяка технологична промяна е прогрес, за разлика от обективната действителност — това е прогрес само ако нещата се подобряват.

Но така или иначе, това сливане през XIX век на идеята за технологичния прогрес и идеята за еволюцията означава, че хората, които са мислели ясно, са си казвали: „Ами ако машините продължат да стават все по-добри и по-бързи и да могат да правят все повече неща — не само да се трудят, а може би да говорят, да мислят или да се движат — какво ще стане, ако еволюират и станат по-добри от нас във всичко? Не само по-добри в управлението на стан, не само по-бързи в придвижването през времето и пространството като железопътен вагон?“ От това се родила невероятна тревога, която отново и отново и отново и отново и отново намирала израз в научната фантастика.

Любимият ми от тези разкази е публикуван, мисля, през 1909 г. от Е. М. Форстър, приблизително по времето, когато е писал „Стая с изглед“. Той написал разказ, наречен „Машината спира“, който би могъл да носи подзаглавието „Стаята без изглед“. Той си представя близко бъдеще, в което всички просто живеят в стаи, в малки клетки. Никога не виждате други хора, защото всичко, от което се нуждаете, идва директно в стаята ви. Като DoorDash е — храната ви се доставя, имате екран, чрез който общувате с други хора. Всичките ви потребности са задоволени. 

Най-много хората се страхуват от природния свят. Никой никога не иска да вижда слънцето, малко е като в „Матрицата“, и всички се прекланят пред машината, която организира живота им и им носи в подобните на кабинки стаи всичко, от което се нуждаят. Историята е за това как „хората по същество са станали роби на машината, която е по-силна, по-могъща и има по-големи способности от хората, а хората са изгубили способностите, които са имали“. И тогава кулминацията на разказа идва, когато машината спира. 

Ако читателите потърсят този разказ, ще им се стори, че може да е написан днес, с изключение на това, че днес той е по-малко научна фантастика и повече дневник на много нещастен ютюбър.

Вие свързвате тази нишка с някои от хората, които ръководят компании и, може да се каже, управляват аспекти от нашето правителство днес, като Илон Мъск. По същество твърдите, че те са много лоши читатели на научна фантастика. Те четат множество предупредителни или поне двусмислени истории, сякаш са наръчници за бъдещето. 

Това е нещо, с което се боря като читател на научна фантастика — човек, който например обича Айзък Азимов. Мисля, че е вярно, че когато Мъск или Алтман недвусмислено казват: „Да, тази история е шаблон за това, което трябва да правя с компанията си“, това е безумие. Но [също така] в научната фантастика има технократска либертарианска нишка, която те наистина улавят. Тя не е нещо, което измислят от нищото, нали?

Макар че, странно, това е Хайнлайн. Не е Азимов, нито Дъглас Адамс. 

Разбира се, тази нишка съществува в научната фантастика. Не знам, мисля, че Безос е голям почитател на Робърт Хайнлайн. Можете да кажете: „Добре, това се вписва. Те го четат буквално, но поне разбират политическото послание, което всеки разумен човек би могъл да открие в това литературно произведение.“

Но забавното при Мъск е, че нещата, които харесва, всъщност напълно опровергават и противоречат на всичките му политически убеждения. 

Също така многократно казвате, че изкуствената държава в сегашния си вид е незавършена и обречена на провал. Защо е обречена на провал?

Това е нещо, което е предвидено във всички научнофантастични произведения, които обсъждам.

Това не е разказ на Азимов, но е един от [любимите] разкази на Азимов от детството му [„Човекът, който се събуди“ от Лорънс Манинг] за бъдеще, в което лесовъдите са победили прахосниците. […] Войната, която водели хората на бъдещето, била между прахосниците, които просто смятали, че всичко може да бъде изразходвано и пропиляно, и лесовъдите, които истински вярвали в това, което бихме нарекли повторно залесяване и възстановяване на дивата природа.

Като цяло напрежението в тези истории е именно такова. То е между изкуствената държава и природния свят. За да издигнете изкуствена държава и да управлявате хората в нея, трябва да ги отчуждите от природния свят, защото го унищожавате. Изкуствената държава ще унищожи природния свят, но същевременно се нуждае от ресурсите на природния свят, за да функционира. 

Така че тя е обречена в смисъл, че няма как природният свят, една обитаема за хората планета, да оцелее след пълното изграждане и зависимостта от устройствата на изкуствената държава. Така работи научната фантастика във всеки случай.

Както казахте, вие сте историчка, а не политичка или футуристка. Но как според вас изглежда поражението на изкуствената държава? По същество става ли дума просто да се разпуснат всички тези компании и да се разрушат центровете за данни? Или има бъдеще, което е по-скоро свързано с поставянето ѝ под контрол?

Искам да кажа, че нямам готов план, освен препоръката да живеем в демокрация, в която решенията се вземат след консултации с управляваните, а тези решения не са популярни.

Виждате това във всички малки кризи около центровете за данни — от град до град, от окръг до окръг, от щат до щат — които отчасти са последица от упадъка на местните вестници и унищожаването на журналистиката, което е една от многото последици на социалните медии, а в случая със Зукърбърг според мен до известна степен и умишлена последица.

Това, което виждате, е, че все повече хора се появяват на тези градски събрания и казват: „Ние дори нямаме жилища. Нямаме здравеопазване. Нямаме работа. Кой каза, че ще строим този център за данни? Трябва да знам много повече за него. Трябва да знам какви ще бъдат енергийните му разходи. Кажете ми за потреблението на вода. Ще има ли работни места? Ще бъдат ли дългосрочни? Или ще са само за шест месеца? Какво ще се случи с чаплите, които живеят в този район?“ Каквото и да искат да знаят хората.

Все по-често виждате хора — както в случая със Солт Лейк, където над 70% от хората действително са били против този център за данни, а техните представители са го подкрепили. Това не е представителство на хората. Мисля, че ще има политическа цена и ще започнем да я виждаме на изборите.

Или може би няма да я видим. Достатъчно демократични механизми трябва да останат непокътнати, за да могат хората действително да реагират на злоупотребите от страна на своите представители.

Част от разсъжденията ви за [изкуствената държава] започват с този великолепен материал, който написахте преди повече от десетилетие за The New Yorker, за Клейтън Кристенсен, в който критикувате идеята му за дилемата на иноватора и разрушителната иновация — която е тясно свързана с TechCrunch, тъй като имаме голяма конференция, наречена Disrupt.

Десет години по-късно какво мислите за идеята за разрушителната иновация?

Стоя зад всичко, написано в този материал. [По онова време Лепор пише: „Разрушителната иновация е теория за това защо бизнесите се провалят. Тя не е нищо повече от това. Не обяснява промяната. Не е природен закон.“ Кристенсен отговори, че Лепор е нарушила „всички правила на научната работа, в чието нарушаване ме обвиняваше“.]

Препрочетох го миналото лято, докато работех по тази книга. Това, което бих казала тук, опитвайки се да бъда миролюбив човек, е, че наистина е проблем, че историците не са се ангажирали с тези идеи. Една от причините да напиша онази статия за разрушителната иновация — която не беше моя идея, а възложена тема […] — беше, че просто си казах: „Разрушителната иновация е теория на историята. Това е теория за историческата промяна и се основава на доказателства от архивите.“ И като историчка си помислих, че това няма никакъв смисъл. Използването на доказателства от негова страна е напълно неприемливо според всяко коректно разбиране за исторически метод. Аргументът му не е свързан с никакво съдържателно разбиране за това как настъпва промяната.

Затова преработих изследването и то изобщо не издържа. Чувствах, че трябва да напиша статията. И ми се искаше да имаше повече ангажираност през годините от страна на академичните историци, които да разсъждават върху природата на промяната — въпроси, които искрено и автентично интересуват хората, занимаващи се с разработването на нови технологии.

Хората наистина искат да се замислят: „Какво е това? Какво правя? Какви ще бъдат последиците? Има ли нещо, което мога да науча от историята? Какво се случи, когато автомобилът замени коня? Какво се случи със закона? Как стигнахме до шофьорските книжки? Как стигнахме до правилата за движение? Преди автомобила нямахме правила за движение. Нямахме определени застрахователни системи. Нямахме изпити за шофьори. Как се появиха тези неща? Как създадохме тези предпазни механизми за технология, която беше изключително вълнуваща, подобри живота на хората по много начини, напълно промени пейзажа и революционизира деликтното право? Може би трябва да помисля за това.“

Просто ми се иска историците да бяха водили повече разговори с технолозите през тези години, както и с предприемачите. Не само защото можем да застанем и да кажем: „Знаете ли, имам лекция по история, която да ви изнеса“, а защото мисля, че тук има истински разговор, който трябва да се проведе. 

Всичко това просто означава: благодаря, че ме поканихте.