Историк Джилл Лепор: Кремниевая долина неверно понимает научную фантастику и подрывает демократию

В своей готовящейся к выходу книге «Взлёт и падение искусственного государства» Джилл Лепор предупреждает, что технологические компании всё чаще подменяют функции демократического правительства. По её словам, этот сдвиг означает «возвращение к тирании и мистификации в форме правления алгоритмов, корпораций, машин».

В последнем выпуске подкаста TechCrunch Equity я поговорил с Лепор — историком из Гарварда и штатным автором The New Yorker, которая недавно получила Пулитцеровскую премию за исследование Конституции США, — о развитии того, что она описала как «идеи о том, что мы должны жить при искусственном государстве или правительстве машин».

«Я не выступаю против технологов», — подчеркнула Лепор. Вместо этого, по её словам, «меня возмущает то, как частные корпорации всё чаще берут на себя функции государства».

Хотя в книге Лепор рассматриваются технократические идеи, уходящие корнями на несколько веков в прошлое, она утверждает, что многие «харизматичные или не слишком харизматичные лидеры» Кремниевой долины — особенно Илон Маск — словно ведут нас в будущее, почерпнутое из неправильно понятой бульварной научной фантастики и комиксов.

«Но забавно то, что у Маска всё, что ему нравится, на самом деле полностью противоречит всем его политическим убеждениям», — сказала она.

Читайте далее основные моменты из нашей беседы, отредактированные для краткости и ясности.

Вам, наверное, уже много раз приходилось это объяснять, но что вы подразумеваете под «искусственным государством»? 

Под искусственным государством я понимаю своего рода государство, которое заменяет либеральное демократическое национальное государство в США и во всём мире. Это одновременно реальная вещь, конструкция, но также и идея. 

Итак, в этой книге «Взлёт и падение искусственного государства» я прослеживаю возникновение идеи о том, что мы должны жить при искусственном государстве или правительстве машин. Я также прослеживаю представление о том, что это неизбежно приведёт к провалу, что искусственное государство не сможет выжить, и прослеживаю эту идею в научной фантастике. 

В какой-то момент вы говорите, что возникновение искусственного государства знаменует конец многовековой демократии и равных прав, и что это «возвращение к тирании и мистификации в форме правления алгоритмов, корпораций, машин». Не могли бы вы подробнее объяснить, почему видите это в столь мрачных выражениях? 

Да, я действительно смотрю на это довольно негативно, и считаю важным отличать искусственное государство от технологий как таковых или технологических методов. Я не выступаю против технологов. Я замужем за специалистом по компьютерным наукам. Меня по-настоящему воодушевляют самые разные интеллектуальные революции, свидетелями которых мы сейчас являемся.

Меня возмущает не это, понимаете? Меня возмущает то, как частные корпорации всё чаще берут на себя функции государства. Никто на это не соглашался. Это своего рода постепенная, в значительной степени случайная трансформация того, как работают многие национальные государства по всему миру, — впервые она произошла в США. 

Мне кажется, зачастую эти нововведения, связанные с внедрением новых технологий в работу правительства, были крайне добросовестными; они исходили из стремления к эффективности, скорости и дешевизне. И лишь в последние 20–25 лет, как мне кажется, эти решения стали целенаправленными и сознательными — своего рода узурпацией роли национального государства.

И это не моя догадка. Вы слышите, как многие весьма известные технологические предприниматели говорят о желании выйти за пределы эпохи национальных государств. […] Многие футурологи в 1990-е были либертарианцами и были заинтересованы в том, чтобы использовать развитие интернета и последующие инновации как средство уничтожения национального государства.

Вы говорите, с одной стороны, о самих технологиях, а с другой — о лежащих в их основе философских идеях и всё большей роли корпораций. Мне интересно, до какой степени мы можем их разделить. Можем ли мы создать такую версию интернета и социальных сетей, которая не обязательно приведёт к будущему, к которому, судя по всему, мы сейчас [стремительно] движемся?

Безусловно. Я историк. Я не автор материалов о технологиях. Я не технологический журналист. Я не специалист по компьютерным наукам. Я историк и прежде всего политический историк, хотя я также историк литературы. Поэтому одна из вещей, которые мне действительно интересно распутать для читателей в этой книге, — это всевозможные «а что, если», все альтернативы, пути, по которым мы не пошли, и причины этого. 

Конечно, в 1990-е, когда интернет открыли для широкого использования, велась очень активная дискуссия о том, каким он должен быть. А то, что мы в итоге получили, — Закон о телекоммуникациях 1996 года — я думаю, многие сказали бы, было просто ошибкой, а не злонамеренным замыслом, верно?

Но это был продукт конкретного политического момента, на который сильно повлиял Ньют Гингрич и его «Контракт с Америкой», и пересмотреть его оказалось очень трудно. Думаю, стоит задуматься, какие альтернативы существовали тогда.

То же самое можно сказать и о персональном компьютере. Если мы можем определить отправную точку обещания, что более совершенные компьютерные технологии приведут к улучшению демократии, то, думаю, прежде всего стоит обратить внимание на январь 1984 года — рекламу во время Супербоула, которую Apple выпустила к выходу Macintosh, с её отсылкой к Джорджу Оруэллу и «1984». Apple активно продвигала идею о том, что мейнфреймы символизируют тоталитаризм. Компания пыталась разрушить гигантские серые машины IBM, представив их в этой рекламе как тоталитарное государство. А лёгкий, красивый, быстрый и очаровательный персональный Macintosh должен был стать топором, который уничтожит эту машину и откроет новую эпоху, в которой «1984-й не будет “1984-м”».

Это была умная реклама. Сомневаюсь, что кто-то в Apple действительно верил, будто персональный компьютер станет инструментом личного освобождения. Он, конечно, должен был сделать возможными множество замечательных вещей. Я помню, как получила свой первый Macintosh — это, конечно, был не 1984 год, но компьютер был действительно классным, весёлым и захватывающим, и я много чего на нём делала. Мне бы и в голову не пришло, что он повышает мою способность быть гражданином или помогает лучше функционировать в гражданском обществе. Это был классный инструмент.

Но если перемотать плёнку вперёд, к 2026 году, то по пути мы увидим выборы 2016 года, когда Facebook News в ответ на критику учредил Верховный суд. Затем прошлый год, когда Anthropic наняла специалиста по моральной философии, чтобы тот написал конституцию. И недавний эпизод, когда Сэм Альтман выступал у Джо Рогана и [в ответ на вопрос Рогана] сказал: «О, президент с искусственным интеллектом — отличная идея».

В некотором смысле это нелепые примеры. Но вы видите, как эти корпорации, технологические компании Кремниевой долины и особенно их харизматичные или не слишком харизматичные лидеры просто присваивают атрибуты национального государства и функции демократии. 

Это не люди со сложной политической философией, а скорее карикатурная версия той рекламы Macintosh 1984 года, только они относятся к себе настолько серьёзно. И у этих компаний так много власти.

Но при этом книга начинается не в 1984 году. Я просто думаю, что это хороший пример нашей современной эпохи и того, как весёлая рекламная кампания превращается в своего рода бредовую фантазию таких людей, как Сэм Альтман.

Вы [также] говорите об обещании так называемой «революции Twitter» и о том, что она принесёт демократию повсюду. Я не могу не учитывать это, когда [реагирую] на заявления Сэма Альтмана или какого-нибудь другого генерального директора в сфере ИИ о том, что ИИ принесёт все эти невероятные блага, а значит, если вы стоите у него на пути, то стоите на пути прогресса, на пути истории.

До какой степени нам следует просто отвергать все эти заявления, или же они могут каким-то образом сбыться?

Twitter на самом деле хороший пример, верно? Когда его запустили, когда Джек Дорси его основал, он не объявлял: «Мы собираемся спасти человечество, мы спасём человеческую цивилизацию от вымирания». Это была своего рода шутка, и, думаю, люди, которые пользовались Twitter на заре его существования, говорили: «Знаете что? На самом деле это было очень весело». В духе: «Сегодня я приготовил сэндвич с тунцом. А что вы ели на обед?» Компания Twitter не выходила на сцену со словами: «Мы здесь, чтобы спасти демократию».

На самом деле произошло следующее: политики и избранные должностные лица начали использовать Twitter так, чтобы укреплять свою политическую власть, усиливать свои послания, обращаться к более молодой аудитории и поддерживать постоянный контакт с ней. Политики и политические кампании фактически убедили Twitter — по крайней мере, насколько я могу судить; у меня нет инсайдерской информации о компании, — но, видимо, не без некоторого сопротивления Twitter пришёл к мысли: «Twitter стал таким большим, а люди так часто пишут о политике, что он почти превратился в городское собрание».

К 2012 году — думаю, это был именно 2012-й, через много лет после начала довольно короткой истории Twitter — компания выпустила нечто под названием «Справочник Twitter по политике и выборам», фактически руководство для политических кандидатов и избранных должностных лиц о том, как наиболее эффективно пользоваться Twitter. А затем начала продвигать идею: «Это городское собрание у вас в кармане, и оно улучшает наши демократии, потому что возрождает исчезнувшую традицию городских собраний Новой Англии», — и всё это просто безумие.

Объективно ничто не могло быть дальше от истины. В то время аккаунт в Twitter был у каждого пятого американца. Большинство владельцев аккаунтов никогда ими не пользовались, а более 90% всех твитов о политике публиковали менее 10% тех, кто постоянно пользовался Twitter. Twitter никак не представлял электорат. Он представлял наиболее экстремально настроенных, политически активных и гиперпартийных американцев, которые очень внимательно следили за политикой. Сейчас мы можем сказать: «Ну, это просто машина искажений. И если политики используют её, чтобы оценивать электорат, они получают очень плохую информацию».

И снова: можно сказать, что Twitter не стремился участвовать в создании искусственного государства или подрывать демократию. Twitter стремился вести бизнес, привлекать больше пользователей и продавать больше чего бы то ни было. Но у этого были непреднамеренные последствия, с которыми компания затем как бы освоилась и стала воспринимать их как норму. 

Я хочу немного подробнее поговорить о структуре книги. Как вы сказали, она начинается с истории технологий и истории идей, а вторая половина посвящена научной фантастике. Можете рассказать, как возникла такая структура и почему вы решили подойти к теме именно так? 

С одной стороны, меня очень заинтересовало, как часто научно-фантастические рассказы предсказывают появление того, что я впоследствии стала называть искусственным государством. Поэтому мне очень хотелось выявить литературную традицию, которую я воспринимаю как притчу об искусственном государстве: машины становятся всё более совершенными, берут на себя всё больше человеческих функций, включая функции правительства, и в конце концов начинают править людьми, а затем, возможно, уничтожают всех людей, потому что больше не нуждаются в них.

Может быть, они просто порабощают людей — тут всё зависит от обстоятельств. Мы в «Терминаторе» или в «Звёздном крейсере “Галактика”»? Есть разные варианты, и эти истории появились очень давно. Они восходят к 1850-м годам и первым десятилетиям размышлений о последствиях индустриализма.

Мне кажется, многие люди — и это, безусловно, относится к моим студентам, учащимся бакалавриата, — действительно верят, что технологические изменения равны прогрессу. Более того, они считают, что единственный вид прогресса — это технологические изменения. Для человеческой истории это новшество. Это интеллектуальное изобретение XIX века, возникшее отчасти потому, что технологические изменения как раз тогда ускорялись, когда Чарльз Дарвин разрабатывал, а затем публиковал свою теорию эволюции.

Так возник своего рода странный союз между эволюцией как прогрессом и технологическими изменениями как прогрессом. В результате исчезли все прочие, более ранние представления о прогрессе, которые в основном включали моральный прогресс — например, идею о том, что всё становится лучше, потому что люди становятся лучше, или потому что люди становятся свободнее. 

Мы могли бы рассуждать о прогрессе множеством других способов, но сегодня доминирует это представление XIX века о технологическом прогрессе как о единственном виде прогресса, а значит, любые технологические изменения являются прогрессом, в отличие от объективного критерия: прогрессом можно считать только то, что действительно делает жизнь лучше.

Так или иначе, это слияние в XIX веке идеи технологического прогресса с идеей эволюции привело к тому, что ясно мыслящие люди стали задаваться вопросом: «Что, если машины будут становиться всё лучше и быстрее и научатся делать всё больше вещей — не только выполнять физическую работу, но, возможно, разговаривать, думать или перемещаться? Что, если они эволюционируют и станут во всём лучше нас? Не просто лучше ткать на станке и не просто быстрее перемещаться во времени и пространстве, как железнодорожный вагон?» Так возникла невероятная тревога, которая снова и снова находила отражение в научной фантастике.

Мой любимый рассказ из этой традиции был опубликован, кажется, в 1909 году Э. М. Форстером, примерно в то время, когда он писал «Комнату с видом». Он написал рассказ под названием «Машина останавливается», который можно было бы озаглавить «Комната без вида». Он представляет недалёкое будущее, в котором все живут в комнатах, маленьких ячейках. Вы никогда не видите других людей, потому что всё необходимое доставляется прямо в вашу комнату. Это как DoorDash: еду доставляют, а у вас есть экран, через который можно общаться с другими людьми. Все ваши потребности удовлетворены. 

Больше всего люди боятся природного мира. Никто никогда не хочет видеть солнце, всё это немного напоминает «Матрицу», и все поклоняются машине, которая организует их жизнь и доставляет в их похожие на кабинки комнаты всё необходимое. Рассказ о том, что «люди фактически стали рабами машины, которая сильнее, могущественнее и обладает большими возможностями, чем люди, а сами люди утратили имевшиеся у них способности». Кульминация рассказа наступает, когда машина останавливается. 

Если читатели обратятся к этому рассказу, им покажется, что он мог быть написан сегодня, только сегодня это уже не столько научная фантастика, сколько дневник очень несчастного ютубера.

Вы связываете эту линию с некоторыми людьми, которые сегодня руководят компаниями и, можно сказать, управляют отдельными аспектами нашего правительства, например с Илоном Маском. По сути, вы утверждаете, что они очень плохо читают научную фантастику. Они воспринимают множество предостерегающих или, по крайней мере, неоднозначных историй как руководства по будущему. 

Я сама как читатель научной фантастики — например, большая поклонница Айзека Азимова — постоянно об этом думаю. Думаю, верно, что когда Маск или Альтман недвусмысленно заявляют: «Да, эта история — шаблон того, что мне следует делать со своей компанией», — это безумие. Но [при этом] в научной фантастике действительно присутствует технократическая либертарианская линия, которую они подхватывают. Они ведь не выдумывают её из ничего, верно?

Хотя, как ни странно, это Хайнлайн. Не Азимов и не Дуглас Адамс. 

Конечно, в научной фантастике есть такая линия. Не знаю, кажется, Безос — большой поклонник Роберта Хайнлайна. Можно сказать: «Хорошо, это вполне сходится. Они читают его буквально, но по крайней мере улавливают политический посыл, который любой рациональный человек мог бы найти в этом литературном произведении».

Но забавно то, что у Маска всё, что ему нравится, на самом деле полностью противоречит всем его политическим убеждениям. 

Вы также неоднократно говорите, что искусственное государство в его нынешнем виде незавершено и обречено на провал. Почему оно обречено на провал?

Это предвидится во всей научной фантастике, которую я рассматриваю.

Это не рассказ Азимова, но один из [любимых] рассказов Азимова из его детства — «Пробуждённый человек» Лоренса Мэннинга, — посвящён будущему, в котором лесники победили расточителей. […] Война будущих людей велась между расточителями, которые считали, что всё можно просто использовать до конца и выбросить, и лесниками, которые по-настоящему верили в то, что мы назвали бы восстановлением лесов и ревайлдингом.

В целом в этих историях именно это и является источником напряжения: противостояние искусственного государства и природного мира. Чтобы создать искусственное государство и править живущими в нём людьми, вы должны отдалить их от природного мира, потому что уничтожаете его. Искусственное государство уничтожит природный мир, но для своей работы ему необходимы его ресурсы. 

Итак, оно обречено в том смысле, что природный мир, пригодная для обитания людей планета, не может пережить полное создание искусственного государства и зависимость от его устройств. Во всяком случае, именно так устроена научная фантастика.

Как вы сказали, вы историк, а не политик и не футуролог. Но как, по-вашему, выглядит поражение искусственного государства? Это в основном демонтаж всех этих компаний и снос дата-центров? Или нас ждёт будущее, связанное скорее с установлением контроля над ними?

У меня нет готового плана действий, кроме рекомендации жить в демократии, где решения должны приниматься с учётом мнения тех, кем управляют, а эти решения не пользуются популярностью.

Это видно по всем небольшим кризисам, связанным с дата-центрами, — от города к городу, от округа к округу, от штата к штату. Отчасти они стали следствием упадка местных газет и разрушения журналистики, что было одним из многочисленных последствий социальных сетей, а в случае Цукерберга, думаю, отчасти и намеренным последствием.

Мы видим, как множество людей приходят на эти городские собрания и говорят: «У нас даже нет жилья. У нас нет медицинской помощи. У нас нет работы. Кто решил, что мы строим этот дата-центр? Мне нужно знать о нём гораздо больше. Я хочу знать, сколько энергии он будет потреблять. Расскажите о расходе воды. Появятся ли рабочие места? Будут ли они долгосрочными? Или это работа всего на шесть месяцев? Что произойдёт с белыми цаплями, которые живут в этой местности?» Люди хотят знать всё, что их интересует.

Всё чаще люди выступают против — как в случае с Солт-Лейк-Сити, где значительно более 70% жителей действительно были против этого дата-центра, а их представители его поддержали. Это не представительство интересов людей. Думаю, за это придётся расплачиваться политически, и мы начнём видеть последствия на выборах.

А может быть, и нет. Достаточная часть демократических механизмов должна сохраниться, чтобы люди действительно могли реагировать на недобросовестные действия своих представителей.

Часть ваших размышлений об [искусственном государстве] началась с этой замечательной статьи, которую вы написали более десяти лет назад для The New Yorker, о Клейтоне Кристенсене, где вы критиковали его идеи дилеммы инноватора и подрывных инноваций — а они очень тесно связаны с TechCrunch, поскольку у нас есть крупная конференция под названием Disrupt.

Прошло десять лет. Что вы теперь думаете об идее подрывных инноваций?

Я по-прежнему поддерживаю всё написанное в той статье. [В то время Лепор писала: «Подрывные инновации — это теория о том, почему терпят крах компании. И не более того. Она не объясняет изменения. Это не закон природы». Кристенсен ответил, что Лепор нарушила «все правила научной работы, в нарушении которых она обвиняла меня».]

Прошлым летом, когда я работала над этой книгой, я перечитала статью. Здесь я сказала бы следующее: стараясь быть миролюбивым человеком, я считаю настоящей проблемой то, что историки не вступали в диалог с этими идеями. Одна из причин, по которой я написала ту статью о подрывных инновациях, — а идея принадлежала не мне, это было редакционное задание […] — заключалась в том, что я подумала: «Подрывные инновации — это теория истории. Это теория исторических изменений, основанная на архивных свидетельствах». И как историк я решила, что это не имеет смысла. Использование свидетельств у него совершенно неприемлемо с точки зрения любого надлежащего понимания исторического метода. Его аргументация не связана ни с одним осмысленным представлением о том, как происходят изменения.

Поэтому я заново провела исследование, и эта теория совершенно не выдержала проверки. Я почувствовала, что обязана написать об этом. И мне хотелось бы, чтобы за прошедшие годы академические историки активнее размышляли о природе изменений — это вопросы, которые искренне и подлинно интересуют людей, участвующих в разработке новых технологий. 

Люди действительно хотят задуматься: «Что это такое? Что я делаю? Каковы будут последствия? Могу ли я чему-нибудь научиться у истории? Что произошло, когда автомобиль заменил лошадь? Что случилось с законодательством? Как появились водительские права? Как возникли правила дорожного движения? До появления автомобилей у нас не было правил дорожного движения. Не было определённых страховых систем. Не было экзаменов на водительские права. Как всё это возникло? Как [мы создали] эти ограничители для технологии, которая была невероятно захватывающей, многими способами улучшила жизнь людей, полностью изменила ландшафт и произвела революцию в деликтном праве? Возможно, мне стоит об этом задуматься».

Мне просто хотелось бы, чтобы историки за эти годы чаще вступали в диалог с технологами и предпринимателями. Не только для того, чтобы стоять рядом и говорить: «Знаете, у меня есть лекция по истории, которую я могу вам прочитать», — но и потому, что здесь действительно возможен настоящий диалог. 

Всё это я говорю лишь затем, чтобы поблагодарить вас за приглашение.