Історикиня Джилл Лепор каже, що Кремнієва долина неправильно розуміє наукову фантастику й підриває демократію

У своїй майбутній книжці «Злет і падіння штучної держави» Джилл Лепор попереджає, що технологічні компанії дедалі частіше перебирають на себе функції демократичного уряду. За її словами, цей зсув означає «повернення до тиранії та містифікації у формі правління алгоритмів, корпорацій, машин».

В останньому епізоді подкасту TechCrunch Equity я розмовляв із Лепор — історикинею з Гарварду та авторкою журналу New Yorker, яка нещодавно отримала Пулітцерівську премію за історію Конституції США, — про розвиток того, що вона назвала «ідеєю, що ми повинні жити під владою штучної держави або уряду, керованого машинами».

«Я не виступаю проти технологів», — наполягала Лепор. Натомість, за її словами, «моя претензія полягає в тому, як приватні корпорації дедалі більше перебирають на себе функції держави».

Хоча книжка Лепор розглядає технократичні філософії, що сягають корінням у минулі століття, вона стверджує, що багато «харизматичних або не дуже харизматичних лідерів» Кремнієвої долини — особливо Ілон Маск — схоже, ведуть нас у майбутнє, почерпнуте з неправильно зрозумілої бульварної наукової фантастики та коміксів.

«Але кумедно, що з Маском: те, що йому подобається, насправді повністю заперечує та спростовує всі його політичні переконання», — сказала вона.

Читайте далі основні моменти з нашої розмови, відредаговані для стислості та зрозумілості.

Ви, мабуть, уже багато разів це пояснювали, але чи можете розповісти, що ви маєте на увазі під «штучною державою»? 

Під штучною державою я маю на увазі такий тип держави, який замінює ліберальну демократичну національну державу у США та в усьому світі. Це водночас реальна річ, конструкція, але також ідея. 

Тож у цій книжці — «Злет і падіння штучної держави» — я простежую виникнення ідеї, що ми повинні жити під владою штучної держави або уряду, керованого машинами. Я також простежую уявлення про те, що це неминуче закінчиться провалом, що штучна держава не зможе вижити, і простежую цю ідею в науковій фантастиці. 

У певний момент ви кажете, що виникнення штучної держави означає кінець століть демократії та рівних прав, і це «повернення до тиранії та містифікації у формі правління алгоритмів, корпорацій, машин». Чи можете трохи докладніше пояснити, чому ви бачите це в таких різких тонах? 

Так, я справді маю досить негативний погляд на це, і вважаю важливим відрізняти штучну державу від технологій як таких або способів їх використання. Я не виступаю проти технологів. Я одружена з фахівцем із комп’ютерних наук. Я надзвичайно захоплена всілякими інтелектуальними революціями, у розпалі яких ми перебуваємо зараз.

Не в цьому моя претензія, правда? Моя претензія полягає в тому, як приватні корпорації дедалі більше перебирають на себе функції держави. Ніхто на це не погоджувався. Це була певна поступова, здебільшого випадкова трансформація того, як працюють багато національних держав у світі — спочатку це сталося у США. 

Я думаю, що часто ці інновації, пов’язані з упровадженням нових технологій у роботу уряду, мали дуже добрі наміри; вони виникали з прагнення до ефективності, швидкості та дешевизни. І лише протягом останніх приблизно 20–25 років, як на мене, ці рішення стали цілеспрямованими й свідомими — як своєрідне узурпування ролі національної держави.

І це не мої припущення. Ви чуєте, як чимало дуже відомих технологічних підприємців говорять про бажання вийти за межі епохи національної держави. […] Багато футурологів у 1990-х були лібертаріанцями, і вони особливо цікавилися використанням розвитку інтернету та наступних інновацій як засобу знищення національної держави.

З одного боку, ви говорите про самі технології, а з іншого — про філософії, що стоять за ними, і роль, яку дедалі активніше відіграють корпорації. Мені цікаво, наскільки ми можемо їх розділити. Чи можемо ми насправді мати таку версію інтернету й соціальних медіа, яка не обов’язково веде до цього майбутнього, назустріч якому, здається, ми [зараз] стрімко рухаємося?

Безумовно. Я історикиня. Я не авторка матеріалів про технології. Я не технологічна журналістка. Я не фахівчиня з комп’ютерних наук. Я історикиня, передусім політична, хоча також літературна. І тому одна з речей, які мені справді цікаво розплутати для читачів у цій книжці, — це всі можливі «а що, якби», усі альтернативи, шляхи, якими ми не пішли, і причини цього. 

Звісно, у 1990-х точилася дуже жвава дискусія про те, яким має бути інтернет, коли його відкрили для широкого доступу, і про те, що ми зрештою отримали у вигляді Закону про телекомунікації 1996 року. Думаю, багато хто сказав би, що [це] була просто помилка, а не результат зловісного наміру, правда?

Але це був продукт конкретного політичного моменту, на нього значно вплинули Ньют Ґінґріч і його «Контракт з Америкою», і переглянути його виявилося дуже складно. Думаю, варто замислитися над тим, які альтернативи існували на той час.

Те саме можна сказати й про персональний комп’ютер. Якщо ми можемо визначити початкову точку обіцянки, що кращі комп’ютерні технології сприятимуть кращій демократії, то, гадаю, насамперед варто звернути увагу на січень 1984 року — рекламу під час Супербоулу, яку Apple запустила до випуску Macintosh, із мотивами «1984» Джорджа Орвелла. Apple активно просувала ідею, що мейнфрейми уособлюють тоталітаризм. Компанія намагалася демонтувати величезні сірі машини IBM, представивши їх у цій рекламі як тоталітарну державу. А стрункий, красивий, швидкий, чарівний персональний Macintosh мав стати сокирою, яка знищить цю машину й започаткує нову еру, у якій «1984» не буде «1984».

Це була розумна реклама. Сумніваюся, що хтось в Apple справді вірив, ніби персональний комп’ютер стане інструментом особистого визволення. Звісно, він уможливив багато цікавих речей. Я пам’ятаю, коли придбала свій перший Macintosh — це точно було не в 1984 році, але він був справді крутим, веселим і захопливим, я багато чого на ньому робила. Мені б ніколи не спало на думку, що він розширює мою спроможність бути громадянкою або мою здатність краще функціонувати в громадянському суспільстві. Це був просто класний інструмент.

Але якщо прокрутити плівку вперед до 2026 року — серед зупинок на цьому шляху будуть вибори 2016 року, коли Facebook News у відповідь на критику створив Верховний суд. Потім ви доходите до минулого року, коли Anthropic найняла філософа-мораліста, щоб він написав конституцію. І доходите до недавніх подій, коли Сем Альтман був у Джо Роґана і [у відповідь на запитання Роґана] сказав: «О, президент зі штучного інтелекту — чудова ідея».

Певною мірою це кумедні приклади. Але ви бачите, як ці корпорації, ці технологічні компанії з Кремнієвої долини, а особливо їхні харизматичні або не дуже харизматичні лідери, просто перебирають на себе атрибути національної держави та функції демократії. 

Це не люди зі складною політичною філософією, але це ніби мультяшна версія тієї реклами Macintosh 1984 року, за винятком того, що вона сприймає себе надзвичайно серйозно. І ці компанії мають так багато влади.

Але, попри це, книжка починається не з 1984 року. Я просто думаю, що це хороший приклад нашої сучасної епохи й того, як весела рекламна кампанія перетворюється на своєрідну маячну фантазію таких людей, як Сем Альтман.

Ви [також] говорите про обіцянку так званої «революції Twitter» та ідею, що вона принесе демократію всюди. Не можу не зважати на це, коли [реагую] на слова Сема Альтмана чи іншого генерального директора компанії зі штучного інтелекту про те, що ШІ принесе всі ці неймовірні блага, а отже, якщо ви стоїте на його шляху, то стоїте на шляху прогресу, на шляху історії.

Наскільки нам слід просто відкидати всі ці твердження, чи є способи, якими вони можуть справдитися?

Тобто Twitter — насправді хороший приклад, правда? Коли його запустили, коли Джек Дорсі його створив, він не заявляв: «Ми збираємося врятувати людство, ми врятуємо людську цивілізацію від зникнення». Це був свого роду жарт, і, думаю, люди, які користувалися Twitter на самому початку, казали: «Знаєте що? Це насправді дуже весело». Щось на кшталт: «Сьогодні я зробив бутерброд із тунцем. А що ви їли на обід?» Компанія Twitter не виходила на сцену й не заявляла: «Ми прийшли врятувати демократію».

А насправді сталося ось що: політики та обрані посадовці почали використовувати Twitter у спосіб, що посилював їхню політичну владу, підсилював їхні повідомлення, давав змогу охопити молодшу аудиторію та постійно підтримувати зв’язок із нею. Політики й політичні кампанії фактично переконали Twitter — принаймні так я це бачу, бо не маю внутрішньої інформації про компанію, — і, дещо неохоче, Twitter дійшов до думки: «Twitter став таким великим, а люди так часто публікують дописи про політику, що це майже як міські збори».

Приблизно до 2012 року — через багато років після початку досить короткої історії Twitter — вони опублікували працю під назвою «Посібник Twitter про політику та вибори», яка фактично була інструкцією для політичних кандидатів і обраних посадовців про те, як найефективніше користуватися Twitter. А потім почали просувати ідею: «Це міські збори у вашій кишені, і вони покращують наші демократії, бо відновлюють занепалі міські збори Нової Англії», — і це все просто нісенітниця.

Об’єктивно, ніщо не могло бути далі від істини. На той час акаунт у Twitter мав кожен п’ятий американець. Більшість людей, які мали акаунти в Twitter, ніколи ними не користувалися, а понад 90% усіх твітів про політику публікували менш ніж 10% людей, які постійно користувалися Twitter. Twitter жодним чином не представляв електорат. Він представляв найбільш радикальних, політично активних, гіперпартійних американців, які дуже активно стежили за політикою. Тепер, озираючись назад, ми можемо сказати: «Це просто машина викривлення. І якщо політики використовують її, щоб оцінювати електорат, вони отримують дуже погану інформацію».

Знову ж таки, можна сказати, що Twitter не намагався стати частиною штучної держави чи підірвати демократію. Twitter намагався вести бізнес, залучати більше користувачів і продавати більше всього на світі. Але це мало непередбачені наслідки, до яких він потім певним чином пристосувався й із якими йому стало комфортно. 

Я хочу трохи докладніше поговорити про структуру книжки. Як ви сказали, вона починається з історії технологій та історії ідей, а друга половина присвячена науковій фантастиці. Чи можете розповісти, як виникла така структура і чому ви хотіли побудувати книжку саме так? 

З одного боку, мене дуже зацікавило, як часто науково-фантастичні оповідання передбачають появу того, що я згодом назвала штучною державою. Тож я дуже хотіла визначити літературну традицію, яку вважаю притчею про штучну державу: машини стають дедалі досконалішими, перебирають на себе дедалі більше людських функцій, зокрема функції уряду, і зрештою починають правити людьми, а потім, можливо, знищують усіх людей, бо ті їм більше не потрібні.

Можливо, вони просто поневолюють людей — це вже залежить від обставин. Ми у «Термінаторі» чи в «Зоряному крейсері “Галактика”»? Є різні варіанти, і ці історії сягають глибини віків. Вони беруть початок у 1850-х роках і перших десятиліттях роздумів про наслідки індустріалізму.

Думаю, багато людей — і це безумовно стосується моїх студентів, моїх бакалаврів, — справді вірять, що технологічні зміни дорівнюють прогресу. І не лише це: вони вважають, що єдиним видом прогресу є технологічні зміни. Це нововведення в історії людства. Це інтелектуальний винахід XIX століття, частково зумовлений тим, що технологічні зміни саме тоді прискорювалися, коли Чарльз Дарвін розробляв, а згодом оприлюднив свою теорію еволюції.

Так виник своєрідний дивний шлюб між еволюцією як прогресом і технологічними змінами як прогресом. А з цього випали всі інші, давніші уявлення про прогрес, які переважно стосувалися морального прогресу — наприклад, речі покращуються, бо люди стають кращими, або речі покращуються, бо люди стають вільнішими. 

Ми могли б думати про прогрес у багатьох інших аспектах, але сьогодні домінує це уявлення XIX століття про технологічний прогрес як єдиний вид прогресу, а отже, будь-які технологічні зміни є прогресом, на противагу об’єктивному критерію: прогресом є лише те, що покращує становище.

Але в будь-якому разі це злиття ідей технологічного прогресу та еволюції у XIX столітті змусило людей, які ясно мислили, замислитися: «Якщо машини й далі ставатимуть кращими, швидшими та здатними робити більше — не лише працювати, а, можливо, розмовляти, думати чи пересуватися, — що станеться, якщо вони еволюціонують і стануть кращими за нас у всьому? Не лише краще працюватимуть на ткацькому верстаті, не лише швидше переміщатимуться в часі й просторі, як вагон залізниці?» Так виникла неймовірна тривога, яка знову й знову знаходила форму в науковій фантастиці.

Моє улюблене з таких оповідань, здається, було опубліковане 1909 року Е. М. Форстером, приблизно тоді, коли він писав «Кімнату з краєвидом». Він написав оповідання під назвою «Машина зупиняється», яке можна було б підзаголовити «Кімната без краєвиду». Він уявляє близьке майбутнє, у якому всі просто живуть у кімнатах, маленьких комірках. Ви ніколи не бачите інших людей, бо все необхідне доставляють просто до вашої кімнати. Це як DoorDash: їжу вам привозять, а на екрані можна спілкуватися з іншими людьми. Усі ваші потреби задоволені. 

Найбільше люди бояться природного світу. Ніхто ніколи не хоче бачити сонце, це трохи нагадує «Матрицю», і всі поклоняються машині, яка організовує їхнє життя та приносить у їхні схожі на комірки кімнати все необхідне. Оповідання розповідає про те, що «люди фактично стали рабами машини, яка сильніша, могутніша й має більші можливості, ніж люди, а люди втратили ті здібності, які мали». А кульмінація оповідання настає, коли машина зупиняється.

Якщо читачі звернуться до цього оповідання, їм здаватиметься, що його могли написати сьогодні, хіба що нині це вже не стільки наукова фантастика, скільки щоденник дуже нещасного ютубера.

Ви пов’язуєте цю лінію з деякими людьми, які сьогодні керують компаніями й, можна сказати, окремими аспектами нашого уряду, як-от Ілон Маск. По суті, ви стверджуєте, що вони дуже погано читають наукову фантастику. Вони сприймають численні застережливі або принаймні неоднозначні історії так, ніби це посібники з майбутнього. 

Як читачка наукової фантастики — людина, яка, наприклад, любить Айзека Азімова, — я сама над цим замислююся. Думаю, правда, що коли Маск чи Альтман однозначно заявляють: «Так, ця історія — шаблон для того, що я маю робити зі своєю компанією», — це безумство. Але [також] у науковій фантастиці є цей технократичний лібертаріанський напрям, на який вони справді спираються. Вони ж не вигадують його з нічого, правда?

Хоча, як не дивно, це Гайнлайн. Не Азімов і не Дуглас Адамс. 

Так, у науковій фантастиці є такий напрям. Не знаю, здається, Безос — великий шанувальник Роберта Гайнлайна. Можна сказати: «Гаразд, це добре узгоджується. Вони читають це буквально, але принаймні засвоюють політичний меседж, який будь-яка раціональна людина могла б знайти в цьому літературному творі».

Але кумедно, що з Маском: те, що йому подобається, насправді повністю заперечує та спростовує всі його політичні переконання. 

Ви також неодноразово кажете, що штучна держава в її нинішній формі незавершена й приречена на провал. Чому вона приречена на провал?

Це передбачено в усій науковій фантастиці, яку я розглядаю.

Це не оповідання Азімова, але одне з його [улюблених] оповідань дитинства [«Людина, яка прокинулася» Лоренса Меннінґа] — про майбутнє, у якому лісники перемогли марнотратників. […] Війна, яку вели люди майбутнього, точилася між марнотратниками, які вважали, що можна просто все використати й змарнувати, та лісниками, які справді вірили в те, що ми назвали б відновленням лісів і поверненням дикої природи.

Загалом у цих історіях ідеться про напруження між штучною державою та природним світом. Щоб звести штучну державу й правити в ній людьми, ви повинні відчужити їх від природного світу, бо знищуєте його. Штучна держава знищить природний світ, але водночас потребує його ресурсів для функціонування. 

Отже, вона приречена в тому сенсі, що природний світ, придатна для життя планета — придатна для життя людей, — не може пережити повне створення та залежність від пристроїв штучної держави. Принаймні саме так працює наукова фантастика.

Як ви сказали, ви історикиня, а не політикиня чи футурологиня. Але як, на вашу думку, виглядає поразка штучної держави? Це просто демонтаж усіх цих компаній, знесення дата-центрів? Чи майбутнє радше полягає в тому, щоб поставити їх під контроль?

Тобто я не маю тут готового плану дій, окрім рекомендації жити в демократії, де рішення ухвалюють після консультацій із тими, ким керують, а ці рішення не є популярними.

Це видно в усіх цих кризах навколо дата-центрів — від міста до міста, від округу до округу, від штату до штату. Вони частково є наслідком занепаду місцевих газет і руйнування журналістики, що стало одним із численних наслідків соціальних медіа, а у випадку Цукерберга, як на мене, — дещо навмисним наслідком.

Ми бачимо, як дедалі більше людей приходять на ці міські збори й кажуть: «У нас навіть немає житла. У нас немає медичного обслуговування. У нас немає роботи. Хто вирішив, що ми будуємо цей дата-центр? Мені потрібно знати про нього набагато більше. Я хочу знати, скільки енергії він споживатиме. Розкажіть про споживання води. Чи будуть робочі місця? Чи будуть вони довготривалими? Чи це лише робота на шість місяців? Що станеться з чаплями, які живуть у цій місцевості?» Люди хочуть знати все, що їх цікавить.

Дедалі частіше люди, як-от у прикладі із Солт-Лейк-Сіті, де понад 70% людей справді виступали проти цього дата-центру, а їхні представники його підтримали, висловлюють свою позицію. Це не представництво інтересів людей. Думаю, тут є політична ціна, і ми почнемо бачити її на виборах.

А можливо, й ні. Значна частина демократичних інститутів має залишатися дієздатною, щоб люди взагалі могли реагувати на неправомірні дії своїх представників.

Частково ваші роздуми про [штучну державу] почалися з цього чудового матеріалу, який ви написали понад десять років тому для The New Yorker, про Клейтона Крістенсена, де ви критикували його ідеї дилеми інноватора та підривних інновацій — поняття, дуже тісно пов’язане з TechCrunch, адже ми проводимо велику конференцію під назвою Disrupt.

Минуло десять років. Що ви тепер думаєте про ідею підривних інновацій?

Я й надалі підтримую все, що написала в тому матеріалі. [Тоді Лепор написала: «Підривні інновації — це теорія про те, чому зазнають краху компанії. І не більше. Вона не пояснює зміни. Це не закон природи». Крістенсен відповів, що Лепор порушила «всі правила наукової роботи, у порушенні яких вона звинуватила мене».]

Минулого літа, коли я працювала над цією книжкою, я перечитала той матеріал. Я б сказала, що, намагаючись бути миролюбною людиною, вважаю справжньою проблемою те, що історики не працювали з цими ідеями. Однією з причин, чому я написала статтю про підривні інновації — це була не моя ідея, а завдання […] — було те, що я подумала: «Підривні інновації — це теорія історії. Це теорія історичних змін, заснована на архівних свідченнях». І як історикині я просто не могла збагнути, як це має сенс. Його використання доказів абсолютно неприйнятне з погляду будь-якого належного розуміння історичного методу. Його аргументація не пов’язана з жодним осмисленим розумінням того, як відбуваються зміни.

Тож я повторно провела дослідження, і воно зовсім не підтвердило цю теорію. Я відчула, що мушу це написати. І шкода, що за роки, які минули відтоді, академічні історики не почали активніше осмислювати природу змін — адже це питання справді й автентично цікавлять людей, які займаються розробкою нових технологій. 

Люди справді хочуть замислюватися над тим: «Що це таке? Що я роблю? Якими будуть наслідки? Чи можу я чогось навчитися з історії? Що сталося, коли автомобіль замінив коня? Що сталося із законом? Як ми прийшли до водійських посвідчень? Як з’явилися правила дорожнього руху? До появи автомобіля правил дорожнього руху не існувало. Не існувало певних видів страхових систем. Не було іспитів на водійські права. Як усе це виникло? Як [ми створили] ці запобіжники для технології, яка була надзвичайно захопливою, у багатьох сенсах покращила життя людей, повністю змінила ландшафт і революціонізувала деліктне право? Можливо, мені варто над цим замислитися».

Я просто хотіла б, щоб історики протягом цих років більше спілкувалися з технологами та підприємцями. Не лише для того, щоб стояти поруч і казати: «Знаєте, я можу прочитати вам лекцію з історії», — а тому, що тут справді можлива змістовна розмова. 

Усе це я кажу лише для того, щоб подякувати вам за запрошення.