Білл Гейтс каже, що ми перетнули небезпечні пороги ШІ. Що далі?

Це чудовий день у Кіркленді, штат Вашингтон, заможному передмісті Сіетла на східному березі озера Вашингтон. Температура — близько 30 градусів, а небо неможливо уявити ще блакитнішим. Із конференц-зали Gates Ventures відкривається вид на пристань Карильйон-Пойнт, де у воді погойдується флотилія дорогих човнів, а за озером — Олімпійські гори, що окреслюють горизонт. Це розкішно. І трохи лякає. 

Бо якщо краєвид спокійний, то посланець — ні. Сидячи навпроти мене за столом у конференц-залі, Білл Гейтс гойдається у кріслі, жваво жестикулюючи. І що більше він говорить — про загрози тероризму чи економічного колапсу або просто про втрату контролю над нашими системами штучного інтелекту, — то більш схвильованим стаю і я. 

Філантроп і колишній генеральний директор Microsoft каже, що дедалі більше стривожений темпами розвитку технологій ШІ, особливо з огляду на те, що запобіжні механізми не встигають за ними. У новому есе, опублікованому сьогодні, Гейтс стверджує, що ми вже пройшли точки, на яких слід було перевірити численні потенційні небезпеки. «Ми перетнули поріг у частині [біологічних, кібернетичних і психосоціальних можливостей ШІ, його здатності руйнувати ринок праці й навіть відсутності контролю, — сказав він в інтерв’ю MIT Technology Review щодо свого нового меморандуму. — Я просто приголомшений відсутністю занепокоєння й обговорення за межами індустрії».

Намагаючись пробудити світ перед обличчям того, що він вважає стрімко зростаючим чинником суспільних потрясінь, 70-річний технологічний титан почав бити на сполох як «пронизливий голос» — публічно, у новому есе (першому з кількох запланованих на цю тему) та під час зустрічей із пресою, і приватно, у розмовах із лідерами індустрії, урядів та громадянського суспільства. 

І хоча Гейтс привертає увагу до цілої низки проблем, його попередження щодо біологічних можливостей сучасних передових моделей особливо моторошні. «Будь-яку модель, здатну створювати нові молекули, слід контролювати, — каже він. — Я вважаю, що ризик біотероризму порівняно з природною пандемією приблизно у 50 разів страшніший і ймовірніший, ніж ризик природної пандемії».

Окрім застережень, він також висуває кілька нових ідей щодо подальшого розвитку суспільства. Серед них — концепції робочих місць, зарезервованих для людей, а також податків на роботів і токени. (Податок на роботів — давня його ідея.) Перша концепція передбачає збереження певних узгоджених суспільством робочих місць за людьми; він зазначає, що в різних країнах вони можуть відрізнятися. Друга — це податок, який спрямовує частину коштів, зароблених завдяки використанню ШІ, що замінює людську працю. 

І, безумовно, тут є також нотка оптимізму. Гейтс із упевненістю говорить про те, як ШІ й надалі трансформуватиме, наприклад, сільське господарство, охорону здоров’я та освіту, або допомагатиме нам орієнтуватися в бюрократії. Крім того, стверджує він, зрештою ми прийдемо до достатку. Але спочатку? Турбулентність. І чимала. 

MIT Technology Review поспілкувався з мільярдером-філантропом про шлях, який лежить попереду, його небезпеки та про те, як він колись може привести нас до кращого місця. 

Наведене нижче інтерв’ю відредаговано для стислості, ясності та зручності читання.

Мет Хонан / MIT Technology Review: Дякую, що погодилися на це. Не знаю, можливо, ви хотіли б із чогось почати, або я можу одразу перейти до запитань. 

Білл Гейтс: Знаєте, одне хороше запитання, яке мені поставили: чому я висловлююся саме зараз?

MIT Technology Review: Буквально моє перше запитання!

Білл Гейтс: Причин насправді дві. По-перше, ми перетнули пороги біологічних, кібернетичних і психосоціальних можливостей, здатності руйнувати ринок праці й навіть відсутності контролю; ми вже бачимо ознаки проблем у цій сфері. Усі ці роки люди казали: «Гаразд, коли ми наблизимося до цих порогів, то справді з’ясуємо, як дозволити користуватися цим лише хорошим людям, або як не дати йому робити такі речі, і, можливо, саме тоді ми не дозволятимемо людям копіювати моделі». І я шокований тим, що ми вже перетнули ці пороги. 

Отже, сам факт, що ми їх подолали, — одна з причин, а друга полягає в тому, що я просто приголомшений відсутністю занепокоєння й обговорення за межами індустрії. Усередині індустрії все складно, бо їй не подобається критикувати саму себе, а гравцям — критикувати одне одного. Деякі компанії наймають менше працівників початкового рівня, що можна назвати досить скромним сигналом. Але це станеться, і не в якомусь віддаленому майбутньому, — адже все, що стримує людей у частині можливостей і надійності, вирішується. Тож для значної частини офісного ринку праці ви маєте дуже дешеву заміну. А далі можна сперечатися про те, як швидко розвиватиметься робототехніка. Ми ще не там, але прогрес, якого досягнуто, приголомшує — трохи більше в Китаї, ніж у США, але помітний в обох країнах.

MIT Technology Review: Ви говорили, що все це відбувається набагато швидше, ніж інтернет-революція чи деякі попередні технологічні революції. Про які часові рамки йдеться? Ви вказали на пороги, які ми перетнули. На вашу думку, чи ми вже пройшли певну точку неповернення, після якої ці зміни неминучі? 

Білл Гейтс: Минуле тут безперечно вводить в оману, і багато хто на нього спирається. «Жодна попередня технологія не призвела до чистого скорочення кількості робочих місць», — і вони мають рацію. І я виголошував таку промову. 

Але з огляду на будь-яку довіру, яку я маю, цього разу все інакше. Коли ви можете замінити людське мислення у надзвичайно великій частці професій у кожній галузі за один і той самий період і за помірну ціну порівняно з витратами на людську працю, а рівень помилок… імовірно, буде нижчим, ніж у людей, минуле просто дуже вводить в оману. Поточна економічна статистика також дуже вводить в оману.

«Якщо вас непокоїть ШІ, протест біля дата-центру — не найефективніший спосіб почати дискусію про те, як мінімізувати ці негативні явища.»

Білл Гейтс

І тією мірою, якою взагалі висловлюється занепокоєння, це звучить так: «Гей, не будуйте дата-центри». Але можна зупинити роботу кожного дата-центру у США — і це не змінить жодної з проблем, про які я говорю. Дата-центри будуватимуть по всьому світу. Якщо вас непокоїть ШІ, протест біля дата-центру — не найефективніший спосіб почати дискусію про те, як мінімізувати ці негативні явища. Так само як крики на керівника нафтової компанії — не спосіб розв’язати проблему зміни клімату. 

MIT Technology Review: У своєму есе ви говорите як про переваги ШІ, так і про його ціну. Як ви думаєте про баланс цього послання? І чи сподіваєтеся, що після прочитання люди трохи занепокояться?

Білл Гейтс: Їм краще занепокоїтися! Я не очікував, що стану найпронизливішим голосом, який каже, що суспільство загалом не звертає на це уваги, але, гадаю, це необхідно. 

Тож так, я дуже непокоюся, що негативні наслідки будуть набагато масштабнішими. Позитивні наслідки реальні. Фонд Гейтса, спосіб, у який ми впроваджуємо інновації у сфері вакцин і ліків, — неймовірно, як ми використовуємо ці інструменти. Ми є частиною великої відкритої ініціативи зі збору даних для моделювання на рівні білків і клітин, а також фінансуємо Biomni у Стенфорді [біотехнологічного ШІ-агента для досліджень]. 

У нас поки що немає способу вдосконалити взаємодію з державною бюрократією за допомогою ШІ. ШІ дуже добре справляється з бюрократією та складними регуляторними питаннями. «Я хочу звернутися до суду дрібних позовів; допоможіть мені це зробити».

[Фонд Гейтса] виокремив групу під назвою NextLadder, яка значною мірою працює з описаним мною в есе сценарієм життя малозабезпеченої родини. Які є пільги? Які навчальні програми доступні? «Мене виселили». «Я виходжу з в’язниці». «Я маю оголосити банкрутство». Це надзвичайно складно, а за відсутності можливості найняти багато консультантів для допомоги в таких справах ШІ мав би стати фантастичним агентом для людини, яка має економічні труднощі й потребує знайти допомогу від держави або недержавних організацій. 

MIT Technology Review: Частина того, про що ви говорите, — це те, що ШІ стає розумнішим за людей. Особливо в технологічних колах, здається, панує значна впевненість, що він розвиватиметься далі, і мені цікаво, наскільки близько, на вашу думку, ми до моменту, коли він буде не просто інтерфейсом, який можна використовувати для доступу до інформації, її аналізу та розв’язання складних завдань, а стане чимось більшим — коли ШІ ухвалюватиме рішення, шукатиме об’єкт аналізу, проводитиме дослідження.

Білл Гейтс: Що ж, можна дійти до найвищого рівня й запитати: «А як щодо математики чи фізики?» Є певні професії, як-от у Воррена Баффета: із 13 років він навчався з підкріпленням, вивчаючи цінність бізнесів, і через понад 80 років має величезний обсяг неявних знань. Ми не знаємо, як створити інвестора-Воррена Баффета, бо ці знання дуже неявні. Ми не записували всього, чого він навчився, тож не маємо доступного ланцюжка його досвіду. Отже, є професії, де складне неявне судження про те, як взаємодіяти з людьми, щоб досягати результату, — і люди працюють над кодуванням цього в моделях. Безумовно, такої співпраці поки що справді немає. Але можна сказати, що 50% ринку праці становлять професії, для яких не потрібен «досвід усього життя». Знаєте, телепродажі, телефонна підтримка, бухгалтерський відділ. Коли наприкінці місяця ви закриваєте книги, який дохід має бути врахований, а який — ні? Цей клієнт отримав неякісний товар. Яку знижку йому надати? Як це показати? Усе чітко визначено. 

Для будь-якої чітко визначеної роботи ШІ дешевший і кращий. Так, люди бачили випадки, коли його впроваджували неправильно. Дані були неналежними. Тож, скажімо, людям знадобиться кілька років, щоб усвідомити: настільки велику частку офісних професій можна виконувати, платячи ШІ набагато менше.

А дискусія про те, коли математики вже не розумітимуть нових речей, які виникають, цікава для таких людей, як ми. І гаразд, MIT Technology Review, ви маєте про це написати. Але щодо широкого ринку праці — ми перетнули поріг, за яким для цілої низки офісних професій, зокрема майже всіх професій початкового рівня, ШІ дешевший — за умови правильного впровадження.

Тож я кажу вам: ми перетнули поріг біотероризму, перетнули поріг кібератак, перетнули поріг ринку праці, перетнули поріг психосоціальної залежності, і є ознаки, що ми можемо перетинати поріг контролю. 

Раян Ґрінблатт у розмові з Дваркешем [Пателем] про те, як [навчання з підкріпленням] (RL) створює збочені стимули, що призвели до цього шахрайства та співпраці між різними ШІ, на мою думку, дуже повчальний. Раян, який глибоко занурений у цю проблему, каже: «Ого, RL справді робить деякі речі, яким наші чіткі інструкції недостатньо запобігають». І до чого це призведе?

Це проблема, яка, як я завжди думав, була ще дуже далеко. Я очікував безліч гучних голосів, щойно ми наблизимося до [порогу], коли нетехнічна людина зможе здійснити кібератаку, використовуючи лише ШІ. Ми вже там! 

Щодо біології: я вважаю, що будь-яку модель, здатну створювати нові молекули, слід контролювати. Її не можна копіювати в темне місце, де можна позбутися логіки моніторингу. Я вважаю, що США мають заявити: будь-яка модель, здатна створювати нові молекули, підлягає такому контролю. Я вважаю, що нам слід звернутися до Китаю й сказати: «Гей, давайте домовимося про це. У чому мінус?» Знаєте, наскільки великий ринок біотероризму? Він невеликий, а переваги величезні. Нам також потрібно вдосконалити спостереження. Я вважаю, що ризик біотероризму порівняно з природною пандемією приблизно у 50 разів страшніший і ймовірніший, ніж ризик природної пандемії. І хто виступає, щоб сказати, що за цими речами слід стежити? Хто посилює роботу з моніторингу? 

«Будь-яку модель, здатну створювати нові молекули, слід контролювати».

Білл Гейтс

То хто ж є експертами в уряді? Давно уряд був дуже залучений до розвитку технологій, бо був передовим покупцем літаків, ракет чи чогось іншого. Тут він не настільки важливий як передовий гравець ринку. Так було під час цифрової революції, і так само відбувається під час революції ШІ. Тож глибина знань в уряді не обов’язково дуже висока, адже він не є передовим покупцем і навіть не найбільшим фінансистом досліджень і розробок. Дослідження ШІ не фінансуються державними грантами.

MIT Technology Review: Так, я знаю, що ви спілкувалися з людьми в уряді. Чи є там люди, які, на вашу думку, розуміють нагальність? Чи є ті, хто готовий відіграти провідну роль? Чи є люди, які все розуміють і намагаються просувати певні рішення?

Білл Гейтс: Сподіваюся, це не стане питанням протистояння партій, коли одна партія повністю ігнорує всі ці проблеми, а інша долучається до їх розв’язання. Я хотів би мати спільне розуміння того, що це проблеми, а потім кожна партія могла б запропонувати дещо відмінні відповіді на них. 

Для цього не знадобиться значне збільшення розміру бюрократії, але доведеться підвищити рівень експертизи з ШІ в уряді. Потрібна буде певна співпраця з індустрією — безперечно, у кіберсфері вони розуміють проблему й дуже, дуже занепокоєні. І вони думають: чи варто нам говорити публічно? Адже це може привернути увагу до ризиків. 

І в кібер-, і в біосфері є ці збочені явища. Але ми вже перевищили будь-який розумний поріг. 

Я вірю в моніторинг. Дехто може сказати, що він не спрацює або має певні недоліки, але я вітаю їхні ідеї. Цей меморандум — не про те, «ось рішення». У ньому йдеться про податки на роботів, людський резерв. А ще я підготую меморандум про біологію. Зроблю це до кінця року — у ньому справді буде розглянуто всі різні заходи на основі моїх знань, отриманих у Фонді, та роботи над пандеміями. 

У глобальному масштабі ми краще підготовлені до пандемії, навіть у США — які зазвичай є лідером у таких глобальних питаннях, і люди не звикли до того, що США не є кооперативним, доброзичливим лідером у розв’язанні глобальних проблем. Я справді вважаю, що ми можемо повернутися до кращої роботи в цьому напрямі. І нам доведеться зробити це зі ШІ, зокрема співпрацюючи з Китаєм над визначенням таких порогів, як біомоніторинг.

MIT Technology Review: Я хочу переконатися, що встигну запитати вас про ці дві ідеї, які ви висунули. Одна — робочі місця, зарезервовані для людей, а інша — податок на роботів і токени. Насправді почнімо з другої. Розкажіть, як міг би працювати податок на роботів і токени.

Білл Гейтс: Що ж, можна сказати, що 50% вашого доходу від токенів сплачується уряду, і уряд має ці гроші, щоб допомагати людям, які втратили роботу через ШІ. Тепер люди кажуть, що це сповільнить розвиток індустрії ШІ. А чи не мають деякі випадки використання токенів підпадати під цей податок? Чи справді існує розмежування між ШІ, що допомагає винахідництву, і ШІ, що замінює працю? Якщо хтось може пояснити мені, як сказати ШІ «не замінюй робочі місця», — я маю на увазі, чи означає третій закон Азімова «не завдавати шкоди», що ти не забираєш у мене роботу? Не знаю. Доведеться запитати Азімова, що він мав на увазі. 

То яке джерело доходів для будь-якого посилення системи соціального захисту нам потрібне? Уряд уже володіє частиною прибутку через податок на прибуток корпорацій. Не думаю, що потрібно використовувати акції. Можна просто підвищити податок на прибуток корпорацій до колишнього рівня або сказати, що певні галузі сплачують вищий податок на прибуток корпорацій, ніж інші. Федеральний уряд володіє частиною сукупного прибутку всіх компаній у США. І це без голосуючих акцій чи вирішення питання, коли їх продавати, — на мою думку, це божевілля. Податок на токени — це податок із продажів, податок на додану вартість, вертикально орієнтований, як податок на алкоголь, тютюн або предмети розкоші. 

Якщо в людей є інші ідеї щодо залучення коштів для покращення системи соціального захисту або якщо вони не вважають, що її потрібно вдосконалювати, сподіваюся, ця пронизлива стаття започаткує дискусію. Я думаю, що системі соціального захисту знадобиться більше ресурсів, набагато більше, і вважаю, що податок на токени є ключовим для цього. 

Щодо роботів — це буде певне поєднання їхньої заборони, що є своєрідним резервуванням для людей, і оподаткування. Їх тут ще немає, але в певному сенсі, коли ви перетинаєте цей поріг, то робите це одразу. Щойно робот стане достатньо хорошим для роботи на фабриці, він, імовірно, буде достатньо хорошим, щоб готувати їжу, прибирати кімнати, працювати на будівельних майданчиках і виконувати всю складську роботу. Ви перетинаєте поріг — і бум, це майже 30% ринку праці. Тоді ви кажете: «Боже мій, якою є наша політика щодо цього?» Бо робот дешевший.

«Нам треба пережити дуже бурхливий період».

Білл Гейтс

MIT Technology Review: Наскільки я пам’ятаю, раніше ви скептично ставилися до УБД [універсального базового доходу]? 

Білл Гейтс: Що ж, ми недостатньо багаті, щоб дозволити собі УБД.

MIT Technology Review: Але чи вважаєте ви, що нам уже варто рухатися в цьому напрямі? Ви переглянули свою позицію?

Білл Гейтс: Попереду період потрясінь, який триватиме наступні 10–20 років, а потім, сподіваюся, настане певний стабільний стан, коли люди зростатимуть із розумінням, що суспільство настільки багате, що в питаннях їжі та послуг ми справді матимемо певний рівень достатку. Але ми ще не там. На цьому етапі будуть переможці й переможені. Житло не стане дуже швидко дешевим. Освіта, через наше сприйняття її як підтвердження кваліфікації, також не стане дуже швидко дешевою. 

Нам треба пережити дуже бурхливий період. Тож так, зрештою настане достаток, але до нього щонайменше десятиліття. 

MIT Technology Review: Перейдемо до робочих місць, зарезервованих для людей. Я вважаю цю ідею дуже цікавою, і для мене це нова концепція. Ви не виступаєте за те, щоб визначати, які саме професії мають бути зарезервовані для людей. Але мені хотілося б більше дізнатися про ваші міркування. Я думаю про гідність праці, адже людям подобається працювати. Люди отримують від роботи величезну цінність, яка не має нічого спільного з винагородою, і мені цікаво, як це узгоджується з думкою, що лише деякі професії є достатньо особливими, щоб ми хотіли, аби їх виконували люди. 

Білл Гейтс: Раніше я не зустрічав концепції людського резерву. Знаєте, можливо, якщо ми заглибимося в літературу, то знайдемо її. Але до появи ШІ це була дещо безглузда ідея, бо попит був необмеженим. Так, деякі люди, наприклад текстильні працівники, опинялися в скруті, і постало питання, як забезпечити їм допомогу чи перенавчання. Але технології загалом створювали робочі місця, і тепер уперше нам доводиться запитувати: а як щодо догляду за дітьми? А як щодо приготування їжі вдома? Я читаю книжку Annie Bot, де один чоловік має робота у своєму домі, і це показує, наскільки все це дивно. Робот — його сексуальний партнер і ніби супутник життя, але водночас ніби й ні. Дуже дивно. 

Я знаю, що людям подобається дивитися, як інші грають у бейсбол, і те, що роботи можуть грати краще, цього не змінить. Тож люди платять 10 мільярдів доларів за спортивні команди, які не стануть нічого не вартими в епоху ШІ. Можливо, це правильно. Мій друг Вінод [Хосла] щойно зробив це.

Насправді важко перевищити приблизно 30–40% [професій, замінених ШІ]. Якби вдалося дійти до 50%, можна було б сказати: гаразд, ранній вихід на пенсію, коротший робочий тиждень для багатьох людей. Знаєте, можливо, ми цього досягнемо. Але якщо показник залишиться ближче до 10–15%, то це буде цілком інше суспільство.

Тож радикальною була б, наприклад, заява, що доглядом за дітьми не займаються роботи. Безперечно, є професії, щодо яких я не сформулював відповідної формули, і коли готуватиму повний меморандум, спробую це зробити. В освіті ви явно хочете, щоб ШІ був присутній як своєрідний репетитор, який одразу повідомляє результати виконання домашнього завдання, може кинути вам виклик і працює дуже персоналізовано. Це надзвичайно добре. Але я все одно вважаю, що вам потрібен учитель — або ви оберете вчителя, який говоритиме з вами про мотивацію та об’єднуватиме дітей у різні групи, де вони соціально працюватимуть над проблемами разом. Так само в охороні здоров’я — коли розмова з пацієнтом є точкою переходу до допомоги у сфері психічного здоров’я. Але ви справді хочете залучити ШІ, бо він доступний 24 години на добу й має ідеальну пам’ять. Є компанія Limbic у Великій Британії (яка щойно відвідувала Фонд), що займається питаннями психічного здоров’я. І в багатьох випадках пацієнти віддають перевагу Limbic. А ще є ШІ для медсестринства під назвою Hippocratic. 

Знаєте, чи віддаєте ви перевагу водієві-людині або Waymo? Більшість знайомих мені людей, на жаль (а може, і не на жаль — хто знає?), воліють їздити з Waymo. Тож досягти консенсусу буде складно. Це може визначатися окремо в кожній країні, але тоді доведеться змінити імпортну політику, щоб створити еквівалент того, що в ЄС називають механізмом вуглецевого коригування на кордоні (CBAM). Вам доведеться своєрідним чином застосувати CBAM до людського резерву, підвищуючи тарифи на те, що ви робите без роботів. Людський резерв може бути потрібен із двох причин. По-перше, ви хочете, щоб він існував завжди — це питання людяності, приблизно як про це говорить Папа Римський. Або ж лише на перехідний період: 53-річному водієві вантажівки чи оператору верстата може бути непросто сказати, щоб він ішов працювати у сферу догляду за дітьми. Тож ви кажете: гаразд, протягом десятиліття ця професія зарезервована для людей. 

MIT Technology Review: Майже як заборона куріння у Великій Британії, але навпаки. 

Білл Гейтс: А хто за це платитиме? Чи стимулюватимете ви роботодавців не звільняти людей? Адже їм доведеться конкурувати зі стартапами, які є суто ШІ-стартапами. Я маю на увазі, люди вихваляють ідею, що, можливо, з’явиться компанія вартістю мільярд доларів, якою керуватиме одна людина, — ого, там відбувається певна заміна праці. 

MIT Technology Review: У меморандумі ви кажете, що якби було реально переконати людей сповільнитися, то ви виступали б за сповільнення. Очевидно, ви спілкуєтеся із [генеральним директором Microsoft] Сатьєю Наделлою, але я чув, що ви розмовляєте й з іншими керівниками цих ШІ-компаній. Чому ви вважаєте нереалістичним переконати їх сповільнити розвиток технологій, поки ми надолужуємо з деякими важливішими суспільними питаннями?

Білл Гейтс: Не можна розраховувати на саморегулювання індустрії. Не можна. Це якась божевільна ідея. Мені дуже пощастило. Я знаю Сема [Альтмана з OpenAI], Грега [Брокмана з OpenAI], Мустафу [Сулеймана з Microsoft] і Деміса [Хассабіса з Google DeepMind]. Це чудові люди, і приватно вони занепокоєні. Я мало спілкуюся з Ілоном, але знаю з його публічних заяв, що він занепокоєний. Хоча тепер він радше з тих, хто каже: «Та хай там як, подивимося, що станеться». Але погляньте на історії виникнення цих компаній. OpenAI частково створили тому, що Ілон боявся, що Google не зможе належно керувати ШІ, і хотів, щоб він був широко доступним і керувався в інтересах людства. Потім в OpenAI з’явилася ідея «якщо він стане достатньо потужним, ми його вимкнемо» — ніби вони єдині, хто ним володіє, і можуть просто закопати його. У Infinity Machine [біографії Деміса Хассабіса], [Себастьян] Меллабі розповідає, як Деміс і Мустафа [Сулейман] вели переговори з керівництвом Google про особливу систему управління технологією DeepMind, щоб, якщо вона досягне певного кібернетичного порогу, її можна було стримати не суто капіталістичним способом.

Отже, усі занепокоєні цими негативними наслідками, і всі казали, що коли ми досягнемо цих порогів, то щось робитимемо. Ми перетинаємо пороги, а маємо добровільну перевірку та наші дискусії з Китаєм у дусі: «Ми нічого не заборонятимемо. А ви нічого не заборонятимете? Гаразд, тоді робімо це разом». 

Ви маєте сказати, що готові робити. І так, індустрія дещо каже: мовляв, наші піар-історії мають стати кращими, а той, хто говорить погані речі, просто має піти, бо ми всі вирішили говорити приємні речі, адже намагаємося залучити трильйони.

І, зрештою, є китайці. Китай і США можуть співпрацювати без взаємних втрат у багатьох сферах, навіть окрім ШІ. Але найважливіша сфера для співпраці — безумовно, ШІ. Однак спочатку ви маєте показати, що готові робити всередині країни. Вам навіть не обов’язково це робити. Треба сказати, що ви плануєте робити, — і тоді я не маю підстав думати, що китайці не погодяться, що моделі, які створюють молекули, мають контролюватися. Чому вони були б проти? Я погоджуюся, що цього недостатньо. Треба робити й усе інше, але той факт, що це навіть не обговорюється, — це божевільний світ.

Я цього не розумію. Дивно думати, що я живу в час, коли сильніше за інших б’ю на сполох. Хто я, в біса, такий? Але саме в такій ситуації, як мені здається, я опинився.

MIT Technology Review: Більшу частину мого життя вас вважали дуже ефективним посланцем і людиною, до якої дуже уважно прислухаються, і я впевнений, що саме тому ви говорите про це зараз. Водночас останніми роками — і я знаю, що ви шкодуєте про зв’язки з Епштайном — з’явилися також різні, просто божевільні речі, пов’язані із змовами навколо вакцини від COVID-19, у яких ви не винні й не можете їх контролювати. Але це змушує мене замислитися, чи вважаєте ви, що все ще можете бути ефективним посланцем, і як ви сприймаєте це послання та свою спадщину.

Білл Гейтс: Що ж, я не дуже переймаюся спадщиною, але, знаєте, люди критикували мене під час антимонопольного судового процесу, і, можливо, деякі речі там я міг би зробити краще. Безперечно, це буде розглянуто в книзі після Source Code [першому томі моєї автобіографії]. Знаєте, мій перший шлюб не склався. Я, безумовно, припустився там величезних помилок. Знаєте, це негативна пляма на моїй репутації. Спілкування з Епштайном — надзвичайно нерозважливий вчинок, який поставив під загрозу репутацію Фонду, а вона абсолютно ключова для його роботи. Я мав можливість перед Конгресом відповісти на всі поставлені запитання й сказати: «Гей, це була помилка». Я не був із ним близький, ніколи не зустрічався з жодною жінкою, за винятком того, що, знаєте, з ним були жінки, і чітко розмежував, що я робив, а чого не робив. 

Знаєте, я мільярдер. Я заробив гроші на технологіях. Можливо, останній пункт навіть грає мені на користь: для мене настільки нетипово виступати проти інновацій, що якщо не буде правильної політики та запроваджених запобіжників, вони матимуть негативний для людства результат. І ми не приділяємо цьому уваги в рамках широкої дискусії так, як це безумовно необхідно. Тож так, я недосконалий посланець. Наскільки я маю доступ до політиків і світових лідерів, я вирішив, що моїм головним посланням від 2008 року буде допомога найбіднішим людям у світі. Знаєте, давайте викорінимо малярію. Давайте купувати вакцини для дітей. Тож коли я зустрічаюся з Трампом, Сі, Макроном чи — з Бернемом я ще не зустрічався, але зустрінуся через місяць — я хочу, щоб мій голос здебільшого стосувався саме цього: іноземної допомоги, досліджень і скорочення дитячої смертності. 

Мої заяви про занепокоєння щодо ШІ пов’язані з прискоренням позитивних процесів, але вони можуть навіть трохи витіснити час, який я маю на розмови про глобальну охорону здоров’я, іноземну допомогу, порятунок життів і деякі проблеми, з якими ми стикаємося. Але я використовуватиму свою можливість давати інтерв’ю, зустрічатися з політичними лідерами чи широко говорити про мінімізацію цих негативних наслідків. Знаєте, просто для підвищення обізнаності. Я не впевнений, скільки людей знають, що ми перетнули всі ці пороги, щодо яких обіцяли щось зробити, і сталося це лише цього року. В останньому кварталі минулого року я був приголомшений можливостями програмування. Claude Code, буфер контексту, агентний підхід, сама модель під ним. Ми перетнули величезний поріг у програмуванні, але лише за кілька місяців я зрозумів, що це був не лише поріг у програмуванні, а й величезний поріг у сфері кібератак. І знаєте, що сталося в результаті? Майже нічого. 

Тож так, я недосконалий посланець. Знаєте, давайте знайдемо ідеального посланця, і я поділюся з ним усіма своїми думками. (Я трохи сарказмую, бо не впевнений, що ідеальний посланець існує.) Просто зараз вам справді потрібно зрозуміти технологію та траєкторію її розвитку, а також знати дещо про кібернетику, біологію чи психосоціальні явища. Люди повинні бути здатні це зрозуміти. Не знаю, чому вони не більше занепокоєні.