Билл Гейтс заявляет, что мы перешли опасные пороги ИИ. Что теперь?

Это великолепный день в Киркленде, штат Вашингтон, богатом пригороде Сиэтла на восточном берегу озера Вашингтон. Температура — около 30 градусов, а небо настолько синее, насколько это вообще возможно. Из конференц-зала Gates Ventures открывается вид на пристань Кариллон-Пойнт, где на воде покачивается флотилия дорогих лодок, а за озером видны Олимпийские горы, очерчивающие горизонт. Красиво. И немного пугающе. 

Потому что, хотя вокруг царит спокойствие, посланник спокоен отнюдь не так. Сидя напротив меня за столом в конференц-зале, Билл Гейтс раскачивается в кресле, оживленно жестикулируя. И чем больше он говорит — об угрозах терроризма, экономического краха или просто о потере контроля над нашими системами ИИ, — тем сильнее я сам начинаю нервничать. 

Филантроп и бывший генеральный директор Microsoft говорит, что его все больше тревожит скорость, с которой развивается технология ИИ, особенно потому, что защитные механизмы не успевают за этим процессом. В новом эссе, опубликованном сегодня, Гейтс утверждает, что мы прошли точки, на которых следовало остановить несколько потенциальных угроз. «Мы пересекли порог в том, что касается [биологических возможностей ИИ], кибервозможностей, психосоциальных возможностей, способности уничтожать рабочие места и даже отсутствия контроля», — сказал он в интервью MIT Technology Review о своей новой записке. «Я просто ошеломлен отсутствием обеспокоенности и обсуждения за пределами отрасли».

Пытаясь разбудить мир и обратить его внимание на то, что он считает стремительно растущим фактором разрушения общества, 70-летний технологический титан начал бить тревогу «пронзительным голосом» — публично, в своем новом эссе (первом из нескольких, которые он планирует посвятить этой теме), на встречах с прессой, а также за закрытыми дверями, в разговорах с представителями индустрии, правительства и гражданского общества. 

И хотя Гейтс обращает внимание на целый ряд проблем, особенно пугают его предупреждения о биологических возможностях нынешних передовых моделей. «Любая модель, способная создавать новые молекулы, должна находиться под наблюдением, — говорит он. — Я считаю, что риск биотерроризма примерно в 50 раз страшнее и вероятнее риска естественной пандемии».

Помимо предостережений, он также предлагает несколько новых идей о том, как продвигать общество вперед. Среди них — концепции рабочих мест, зарезервированных за людьми, а также налогов на роботов и токены. (Налог на роботов — давняя идея Гейтса.) Первая концепция предполагает сохранение некоторых согласованных обществом профессий за людьми; при этом, отмечает он, набор таких профессий может различаться от страны к стране. Вторая — это налог, который направляет часть доходов от использования ИИ, заменяющего человеческий труд, на определенные цели. 

И, конечно, в его словах есть и нотка оптимизма. Гейтс с энтузиазмом говорит о том, как ИИ продолжит преобразовывать сельское хозяйство, здравоохранение и образование, например, или о том, как он может помочь нам ориентироваться в бюрократии. Кроме того, утверждает он, в конечном итоге мы придем к изобилию. Но сначала? Турбулентность. И очень масштабная. 

MIT Technology Review поговорил с миллиардером и филантропом о предстоящем пути, его опасностях и о том, как однажды он может привести нас в лучшее место. 

Следующее интервью отредактировано для краткости, ясности и удобства чтения.

Мэт Хонан / MIT Technology Review: Спасибо, что согласились на разговор. Не знаю, хотите ли вы что-то сказать в начале, или мне сразу перейти к вопросам. 

Билл Гейтс: Знаете, один хороший вопрос, который мне задавали: почему я высказываюсь именно сейчас?

MIT Technology Review: Это буквально мой первый вопрос!

Билл Гейтс: Причин на самом деле две. Во-первых, мы пересекли пороги в том, что касается биологических возможностей, кибервозможностей, психосоциальных возможностей, способности уничтожать рабочие места и даже отсутствия контроля; мы уже видим признаки проблем в этой области. Все эти годы люди говорили: «Когда мы приблизимся к этим порогам, мы разберемся, как разрешить пользоваться технологией только хорошим людям или как не позволить ей делать такие вещи, и, возможно, тогда мы запретим людям копировать модели». И я в шоке от того, что мы уже пересекли эти пороги. 

Итак, тот факт, что мы их преодолели, — одна причина, а вторая заключается в том, что я просто ошеломлен отсутствием обеспокоенности и обсуждения за пределами отрасли. Внутри отрасли все сложно, потому что индустрия не любит критиковать себя, а отдельные игроки не любят критиковать друг друга. Некоторые компании нанимают меньше сотрудников на начальных позициях, что можно назвать довольно скромным сигналом. Но это произойдет, причем в недалеком будущем, — потому что все, что сдерживает людей с точки зрения возможностей и надежности, постепенно решается. И для значительной части рынка интеллектуального труда появляется возможность очень дешевой замены. Затем можно спорить о том, как быстро будут развиваться робототехнические системы. Мы пока не достигли этого этапа, но прогресс здесь ошеломляет — немного больше в Китае, чем в США, но заметен в обеих странах.

MIT Technology Review: Вы говорили, что все это происходит гораздо быстрее, чем интернет-революция или некоторые предыдущие технологические революции. О каких временных масштабах идет речь? Вы упомянули пороги, которые мы пересекли. По-вашему, мы уже прошли какую-то точку невозврата, после которой изменения неизбежны? 

Билл Гейтс: Прошлое в этом вопросе определенно вводит в заблуждение, и многие на него опираются. «Эй, ни одна предыдущая технология не привела к чистому сокращению числа рабочих мест», — и они правы. Я и сам произносил такие речи. 

Но, учитывая всю имеющуюся у меня репутацию, скажу: на этот раз все иначе. Когда за один и тот же период времени можно заменить человеческое мышление в чрезвычайно большом проценте профессий во всех отраслях, причем при умеренной стоимости по сравнению с затратами на человеческий труд, а уровень ошибок… вероятно, будет ниже человеческого, прошлый опыт просто вводит в заблуждение. Текущая экономическая статистика также очень обманчива.

«Если вас беспокоит ИИ, протест у дата-центра — не самый эффективный способ начать обсуждение того, как минимизировать эти негативные последствия.»

Билл Гейтс

А если обеспокоенность вообще как-то выражается, то обычно так: «Эй, не стройте дата-центры». Но можно остановить строительство всех дата-центров в США — и это не изменит ни одной из проблем, о которых я говорю. Дата-центры будут строиться по всему миру. Если вас беспокоит ИИ, протест у дата-центра — не самый эффективный способ начать обсуждение того, как минимизировать эти негативные последствия. Точно так же крики на руководителя нефтяной компании — не способ решить проблему изменения климата. 

MIT Technology Review: В эссе вы говорите как о преимуществах ИИ, так и о связанных с ним издержках. Как вы думаете о необходимости сбалансировать это послание? И надеетесь ли вы, что читатели немного встревожатся?

Билл Гейтс: Им лучше встревожиться! Я не ожидал, что стану самым пронзительным голосом, заявляющим, что общество в целом не обращает на это внимания, но, думаю, сейчас это необходимо. 

Так что да, я очень обеспокоен тем, что негативные последствия окажутся намного масштабнее. Положительные стороны реальны. Фонд Гейтса — то, как мы используем эти инструменты для разработки вакцин и лекарств, — это невероятно. Мы участвуем в масштабной работе с данными в открытом доступе, создавая модели на уровне белков и клеток, и финансируем Biomni в Стэнфорде [биотехнологического ИИ-агента для исследований]. 

У нас пока нет способа улучшить с помощью ИИ взаимодействие с государственной бюрократией. ИИ очень хорошо справляется с бюрократией и сложными регуляторными вопросами. «Я хочу обратиться в суд мелких исков; помоги мне это сделать».

Фонд [Гейтса] выделил в отдельную организацию группу под названием NextLadder, которая во многом посвящена описанному мной в эссе сценарию помощи малообеспеченной семье. Какие существуют льготы? Какие доступны программы обучения? «Меня выселили». «Я выхожу из тюрьмы». «Мне нужно объявить себя банкротом». Все это чрезвычайно сложно, а если у человека нет возможности нанять множество консультантов для помощи в подобных вопросах, ИИ должен стать превосходным агентом для тех, кто испытывает экономические трудности и нуждается в государственной или негосударственной помощи. 

MIT Technology Review: Часть того, о чем вы говорите, связана с тем, что ИИ становится умнее людей. Особенно в технологических кругах, похоже, существует большая уверенность в том, что он будет развиваться дальше нынешнего уровня. Насколько, по-вашему, мы близки к тому, чтобы ИИ перестал быть просто интерфейсом, с помощью которого можно получать и анализировать информацию и решать сложные задачи, а стал чем-то большим — системой, которая принимает решения, ищет объекты для анализа и формулирует направления исследований.

Билл Гейтс: Что ж, можно взять самый сложный случай и спросить: «А как насчет математики или физики?» Есть профессии, например профессия Уоррена Баффета, в которых человек с 13 лет занимался своего рода обучением с подкреплением, изучая ценность компаний, и спустя более 80 лет обладает огромным объемом неявных знаний. Мы не знаем, как создать инвестора уровня Уоррена Баффета, потому что его знания во многом неявны. Мы не записывали все, чему он учился, поэтому у нас нет соответствующей траектории. Есть профессии, где важную роль играет сложное неявное суждение о том, как взаимодействовать с людьми, чтобы добиться результата; люди работают над тем, чтобы закодировать это в моделях. Конечно, такой совместной работы пока действительно не существует. Но можно сказать, что 50% рынка труда заняты профессиями, которые не требуют «целой жизни опыта». Например, телефонные продажи, телефонная поддержка, бухгалтерия. Когда вы закрываете книги в конце месяца, какие доходы следует включить, а какие нет? У этого клиента возникла проблема. Какую скидку ему предоставить? Как это отразить? Все это хорошо формализуется. 

В любой хорошо определенной профессии ИИ дешевле и лучше. Да, люди сталкивались со случаями, когда его внедряли неправильно. Данные были неверными. Допустим, людям потребуется несколько лет, чтобы осознать: очень большой процент профессий интеллектуального труда можно выполнять, платя ИИ гораздо меньше, чем человеку.

Итак, обсуждение того, когда математики перестанут понимать новые возникающие идеи, интересно для таких людей, как мы. И да, MIT Technology Review, вам стоит об этом написать. Но что касается широкого рынка труда, мы уже пересекли порог: для целого ряда профессий интеллектуального труда, включая почти все должности начального уровня, ИИ дешевле — при правильном внедрении.

И поэтому я говорю вам: мы пересекли порог биотерроризма, пересекли порог кибератак, пересекли порог рынка труда, пересекли порог психосоциальной зависимости, и есть признаки того, что мы можем пересекать порог контроля. 

Райан Гринблатт, беседующий с Дваркешем [Пателем] о том, как [обучение с подкреплением] (RL) создает извращенные стимулы, которые привели к обману и сотрудничеству между различными ИИ, по-моему, очень показателен. Райан, который глубоко погружен в эту проблему, говорит: «Ничего себе, RL действительно заставляет систему делать то, что наши явные инструкции недостаточно хорошо [предотвращают]». И к чему это приведет?

Это проблема, которая, как я всегда считал, возникнет еще очень нескоро. Я ожидал множества громких голосов по мере того, как мы приблизимся к порогу, позволяющему нетехническому специалисту провести кибератаку с помощью одного лишь ИИ. Мы уже там! 

Что касается биологии, я считаю, что любая модель, способная создавать новые молекулы, должна находиться под наблюдением. Ее нельзя копировать в темное место, где можно отключить логику мониторинга. Я считаю, что США должны заявить: любая модель, способная создавать новые молекулы, подлежит такому мониторингу. Я считаю, что нам следует обратиться к Китаю и сказать: «Эй, давайте договоримся об этом. В чем минус?» Насколько велик рынок биотерроризма? Он невелик, а преимущества огромны. Нам также нужно улучшить наблюдение. Я считаю, что риск биотерроризма примерно в 50 раз страшнее и вероятнее риска естественной пандемии. И кто выступает с заявлением о том, что за такими вещами нужно следить? Кто усиливает работу по мониторингу? 

«Любая модель, способная создавать новые молекулы, должна находиться под наблюдением».

Билл Гейтс

Так кто же в правительстве является экспертами? Давным-давно правительство активно участвовало в развитии технологий, поскольку было передовым покупателем самолетов, ракет и всего подобного. Здесь оно не является настолько важным рынком передовых технологий. Это было верно для цифровой революции и верно для революции ИИ. Поэтому глубина знаний в правительстве не обязательно очень высока: оно не является ни передовым покупателем, ни даже крупным источником финансирования исследований и разработок. Исследования в области ИИ не финансируются за счет государственных грантов.

MIT Technology Review: Да, я знаю, что вы разговаривали с людьми в правительстве. Есть ли среди них те, кто, по-вашему, понимает срочность ситуации? Есть ли люди, способные взять на себя ведущую роль? Есть ли те, кто понимает проблему и пытается продвигать решения?

Билл Гейтс: Надеюсь, это не станет партийным вопросом, при котором одна партия полностью игнорирует все эти проблемы, а другая подключается к их решению. Я хотел бы, чтобы существовало общее понимание того, что это проблемы, а затем каждая партия могла бы предложить немного разные ответы. 

Для этого потребуется не существенно увеличивать размер бюрократического аппарата, но придется повысить уровень экспертизы в области ИИ внутри правительства. Потребуется определенное сотрудничество с индустрией — особенно в сфере кибербезопасности: там все знают о проблеме и очень, очень обеспокоены. И они задаются вопросом: стоит ли говорить об этом публично? Ведь это может подчеркнуть масштаб риска. 

И в киберсфере, и в биологии существуют подобные извращенные стимулы. Но мы уже прошли любой разумный порог. 

Я верю в мониторинг. Конечно, кто-то может сказать, что он не сработает или что у него есть недостатки, но я приветствую любые предложения. Эта записка не говорит: «Эй, вот решение». В ней есть налоги на роботов, резерв рабочих мест для людей. Я подготовлю записку о биологических рисках. Сделаю это до конца года — в ней будут подробно рассмотрены все возможные меры с опорой на мои знания, полученные в Фонде, и на мою работу по пандемиям. 

В глобальном масштабе мы лучше подготовлены к пандемии, в том числе и в США, которые обычно являются лидером в подобных международных вопросах; люди не привыкли к тому, что США перестали быть лидером, готовым к сотрудничеству и дружелюбно настроенным при решении глобальных проблем. Я действительно считаю, что мы можем вернуться к более эффективной роли. И с ИИ нам это необходимо, включая сотрудничество с Китаем в определении таких порогов, как биологический мониторинг.

MIT Technology Review: Я хочу убедиться, что успею спросить вас об этих двух идеях, которые вы выдвинули. Первая — рабочие места, зарезервированные за людьми, вторая — налог на роботов и токены. Давайте начнем со второй. Расскажите, как мог бы работать налог на роботов и токены.

Билл Гейтс: Можно сказать, что 50% доходов от токенового налога перечисляются правительству, а правительство использует эти деньги для помощи людям, потерявшим работу из-за ИИ. Некоторые говорят, что это замедлит развитие индустрии ИИ. А должны ли некоторые виды использования токенов освобождаться от налога? Действительно ли существует различие между ИИ, помогающим изобретать, и ИИ, заменяющим работников? Если кто-то может объяснить мне, как сказать ИИ: «Никакой замены рабочих мест», — я имею в виду, означает ли третий закон Азимова «не причинять вреда», что нельзя лишать меня работы? Не знаю. Придется спросить у Азимова, что он имел в виду. 

Таков источник доходов для усиления системы социальной защиты, которое нам потребуется? Правительство уже получает часть прибыли благодаря налогу на прибыль корпораций. Не думаю, что нужно использовать акции. Можно просто поднять налог на прибыль корпораций до прежнего уровня или установить для одних отраслей более высокий налог, чем для других. Федеральное правительство получает долю прибыли всех компаний в США. И для этого не нужны ни голосующие акции, ни решения о том, когда их продавать — на мой взгляд, это безумие. Налог на токены — это налог с продаж, налог на добавленную стоимость, вертикально ориентированный налог, аналогичный налогам на алкоголь, табак или предметы роскоши. 

Если у людей есть другие идеи о том, как собрать деньги на укрепление системы социальной защиты, или если они не считают, что ее нужно укреплять, надеюсь, эта пронзительная статья положит начало дискуссии. Я думаю, системе социальной защиты потребуется больше ресурсов, гораздо больше ресурсов, и считаю, что налог на токены здесь играет ключевую роль. 

Что касается роботов, тут потребуется сочетание их запрета, что отчасти и означает резервирование рабочих мест за людьми, и налогообложения. Роботов пока еще нет, но в каком-то смысле, когда вы пересекаете этот порог, вы пересекаете его сразу целиком. Как только робот становится достаточно хорош, чтобы работать на фабрике, он, вероятно, достаточно хорош и для приготовления еды, уборки помещений, работы на стройках и выполнения всех складских задач. Вы пересекаете порог — и бум: это почти 30% рынка труда. И тогда вы говорите: «Боже мой, какова наша политика в отношении этого?» Потому что робот дешевле.

«Нам предстоит пережить очень бурный период».

Билл Гейтс

MIT Technology Review: Насколько я понимаю, раньше вы скептически относились к ББД [безусловному базовому доходу]? 

Билл Гейтс: Что ж, мы недостаточно богаты, чтобы позволить себе ББД.

MIT Technology Review: Но считаете ли вы, что теперь нам следует двигаться в этом направлении? Вы пересмотрели свою позицию?

Билл Гейтс: Сначала нас ждет период потрясений — следующие 10–20 лет, — а затем, надеюсь, наступит некое устойчивое состояние, при котором люди будут расти, понимая, что общество настолько богато, что в отношении продуктов питания и услуг мы действительно достигли определенного уровня изобилия. Но пока мы еще не там. Сейчас есть победители и проигравшие. Жилье не станет быстро дешевым. Образование, из-за того, что мы воспринимаем его как подтверждение квалификации, тоже не станет быстро дешевым. 

Нам предстоит пережить очень бурный период. Так что да, в конечном итоге наступит изобилие, но до него как минимум десятилетие. 

MIT Technology Review: Перейдем к рабочим местам, зарезервированным за людьми. Эта идея показалась мне очень интересной и новой. Вы не предлагаете конкретный список профессий, которые должны быть зарезервированы за людьми. Но мне хотелось бы лучше понять, как вы об этом думаете. Я вспоминаю разговоры о достоинстве труда, поскольку людям нравится работать. Работа дает людям очень многое, что никак не связано с оплатой, и мне интересно, как это сочетается с представлением о том, что лишь некоторые профессии достаточно особенные, чтобы мы хотели оставить их людям. 

Билл Гейтс: Раньше я никогда не встречал понятия «резерв для людей». Возможно, если мы изучим литературу, то найдем его. Но до появления ИИ это была довольно глупая идея, потому что спрос был безграничным. Да, некоторые люди, например работники текстильной промышленности, оказывались без работы, и тогда возникал вопрос о пособиях или переобучении. Но технологии в целом создавали рабочие места, а теперь впервые приходится спросить: а как насчет ухода за детьми? А как насчет приготовления еды дома? Я читаю книгу Annie Bot, где у мужчины в доме живет робот, и это показывает, насколько все это странно. Робот — его сексуальный партнер и вроде бы спутник жизни, но в то же время как бы и нет. Очень странно. 

Я знаю, что людям нравится смотреть, как другие играют в бейсбол, и то, что роботы могут играть лучше, этого не изменит. Поэтому люди готовы платить 10 миллиардов долларов за спортивные команды, которые не обесценятся в эпоху ИИ. Возможно, это правильно. Мой друг Винод [Хосла] только что так и сделал.

На самом деле трудно заменить с помощью ИИ более 30–40% [рабочих мест]. Если удастся достичь 50%, можно будет сказать: хорошо, ранний выход на пенсию, сокращенная рабочая неделя для множества людей. Возможно, мы к этому придем. Но если речь идет скорее о 10–15%, то это будет совершенно другое общество.

Поэтому радикальным решением было бы сказать, например, что уходом за детьми не занимаются роботы. Есть определенные профессии, для которых я пока не сформулировал правило; когда буду готовить полноценную записку на эту тему, постараюсь это сделать. В образовании явно нужно использовать ИИ как своего рода наставника, который мгновенно сообщает результаты выполнения домашнего задания, задает сложные вопросы и работает очень персонализированно. Это прекрасно. Но я по-прежнему считаю, что нужен учитель — или люди сами выберут учителя, который будет говорить с ними об их мотивации и организовывать детей в разные группы, где они смогут совместно работать над задачами. То же самое в здравоохранении: общение с пациентом должно быть точкой перехода к помощи в области психического здоровья. Но ИИ действительно нужно подключать, потому что он доступен 24 часа в сутки и обладает идеальной памятью. Есть компания Limbic из Великобритании (она как раз недавно посещала Фонд), которая занимается вопросами психического здоровья. И во многих случаях пациенты предпочитают Limbic. Есть также ИИ для сестринского дела под названием Hippocratic. 

Знаете, что люди предпочтут — такси с водителем-человеком или Waymo? Большинство знакомых мне людей, к сожалению (а может, и не к сожалению — кто знает?), предпочитают ездить с Waymo. Поэтому достичь консенсуса будет трудно. Можно принимать решения по странам, но тогда придется изменить импортную политику и создать аналог того, что в ЕС называют механизмом углеродной корректировки на границе (CBAM). Придется ввести своего рода CBAM для рабочих мест, зарезервированных за людьми, — повысить тарифы на товары, произведенные без роботов. Резервирование рабочих мест за людьми может иметь две причины. Во-первых, вы хотите сохранить их за людьми навсегда — это связано с человеческой природой, примерно так, как об этом говорит папа римский. Или же только на переходный период: 53-летний водитель грузовика или оператор станка, которого отправят ухаживать за детьми, может не справиться идеально. Тогда можно сказать: хорошо, в течение десятилетия эта работа будет зарезервирована за человеком. 

MIT Technology Review: Почти как британский запрет на курение, только наоборот. 

Билл Гейтс: А кто за это заплатит? Нужно ли стимулировать работодателей не увольнять людей? Но тогда они столкнутся с конкуренцией со стороны стартапов, которые изначально строятся исключительно на ИИ. Люди любят рассуждать о том, что, возможно, появится компания стоимостью в миллиард долларов, состоящая из одного человека. Что ж, это означает, что замещение рабочих мест уже происходит. 

MIT Technology Review: В записке вы говорите, что если бы было реалистично призвать людей замедлить темпы, то вы выступали бы за это. Очевидно, вы разговариваете с [генеральным директором Microsoft] Сатьей Наделлой, но я слышал, что вы общаетесь и с другими руководителями некоторых ИИ-компаний. Почему вы считаете нереалистичным попросить их замедлить разработку технологий, пока мы пытаемся разобраться с более масштабными общественными вопросами?

Билл Гейтс: Нельзя рассчитывать на саморегулирование отрасли. Нельзя. Это довольно безумная идея. Мне очень повезло. Я знаю Сэма [Альтмана из OpenAI], Грега [Брокмана из OpenAI], Мустафу [Сулеймана из Microsoft] и Демиса [Хассабиса из Google DeepMind]. Они замечательные люди и наедине обеспокоены происходящим. Я нечасто разговариваю с Илоном, но по его публичным заявлениям знаю, что он обеспокоен. Хотя теперь он скорее придерживается позиции «черт его знает, посмотрим, что будет». Но взгляните на истории создания этих компаний. OpenAI частично возникла потому, что Илон опасался, что Google не сможет правильно управлять ИИ, и хотел, чтобы эта технология была широко доступна и управлялась в интересах человечества. Затем у OpenAI появилась идея: «Если система станет достаточно мощной, мы ее отключим», — как будто они единственные, кто может просто спрятать ее. В книге Infinity Machine [биографии Демиса Хассабиса], [Себастьян] Маллаби рассказывает, как Демис и Мустафа [Сулейман] вели переговоры с руководством Google о специальной системе управления технологией DeepMind, чтобы при достижении определенного киберпорога они могли притормозить развитие не исключительно капиталистическим образом.

Итак, все обеспокоены этими негативными последствиями, и все говорили, что, когда мы достигнем соответствующих порогов, начнем действовать. Мы пересекаем пороги, а у нас есть лишь добровольная проверка и разговоры с Китаем в духе: «Мы ничего запрещать не будем. А вы? Хорошо, тогда давайте вместе ничего не запрещать». 

Нужно сказать, что именно вы готовы делать. И да, индустрия отчасти говорит: «Эй, наши пиар-истории должны стать лучше, а тот, кто критикует, должен просто уйти, потому что мы все решили говорить приятные вещи — мы пытаемся привлечь триллионы».

Кроме того, есть китайцы. У Китая и США есть взаимовыгодные способы сотрудничества, причем не только в сфере ИИ. Но важнее всего сотрудничать именно в области ИИ. Однако сначала нужно показать, что вы готовы делать внутри своей страны. Даже не обязательно делать это на практике — нужно заявить о своих планах, и тогда у меня нет причин думать, что китайцы не согласятся с тем, что модели, создающие молекулы, должны находиться под наблюдением. Почему они должны быть против? Согласен, это не идеальное решение. Нужно делать и все остальное, но тот факт, что это даже не обсуждается, показывает, что мир сошел с ума.

Я не понимаю. Странно думать, что я живу в такое время и поднимаю тревогу громче других. Да кто я вообще такой? Но именно в такой ситуации я себя ощущаю.

MIT Technology Review: Большую часть моей жизни вас считали очень эффективным коммуникатором, человеком, к которому многие прислушиваются; я уверен, что именно поэтому вы решили высказаться сейчас. Но в последние годы — и я знаю, что вы сожалели о связи с Эпштейном — появились и другие, совершенно безумные вещи, связанные с теориями заговора вокруг вакцины от COVID, хотя они не по вашей вине и не под вашим контролем. Заставляет ли это вас задуматься о том, можете ли вы по-прежнему быть эффективным посланником, и о том, как вы относитесь к этому посланию и своему наследию?

Билл Гейтс: Что ж, я не слишком озабочен наследием, но, знаете, во время антимонопольного процесса меня критиковали, и, возможно, с некоторыми вещами я мог бы справиться лучше. Безусловно, это тема, которую я рассматриваю в книге после Source Code [первом томе своей автобиографии]. Знаете, мой первый брак не сложился. Я определенно совершил там серьезные ошибки. Это негативное пятно на моей репутации. Общение с Эпштейном было глубоко глупым поступком и поставило под угрозу репутацию Фонда, которая абсолютно необходима для его работы. Перед Конгрессом у меня была возможность ответить на все заданные вопросы и сказать: «Да, это была ошибка». Я не поддерживал с ним дружеских отношений, никогда не встречался ни с одной женщиной, за исключением того, что рядом с ним бывали женщины, и предельно четко объяснил, что именно я делал, а чего не делал. 

Знаете, я миллиардер. Я заработал деньги на технологиях. Возможно, последний факт даже играет мне на руку: настолько необычно для меня выступать против инноваций, что, если не принять правильную политику и не обеспечить необходимые меры защиты, они принесут человечеству больше вреда, чем пользы. А мы не уделяем этому внимания в рамках широкой дискуссии, хотя именно это совершенно необходимо. Так что да, я несовершенный посланник. В той мере, в какой у меня есть доступ к политикам и мировым лидерам, с 2008 года главным моим посланием было помогать беднейшим людям мира. Знаете, давайте искореним малярию. Давайте купим детям вакцины. Поэтому, когда я встречаюсь с Трампом, Си, Макроном или — с Бернхэмом я еще не встречался, но встречусь через месяц, — я хочу, чтобы мой голос в основном был посвящен именно этому: международной помощи, исследованиям и сокращению детской смертности. 

Мои высказывания о рисках ИИ связаны с ускорением позитивных процессов, но они могут немного оттеснить время, которое я уделяю разговорам о глобальном здравоохранении, международной помощи, спасении жизней и некоторых проблемах, с которыми мы сталкиваемся. Но я намерен использовать возможность давать интервью, встречаться с политическими лидерами и публично говорить о минимизации этих негативных последствий. Хотя бы для повышения осведомленности. Не уверен, многие ли знают, что мы пересекли все эти пороги, после которых обещали что-то предпринять, и что произошло это лишь в текущем году. В прошлом квартале, в конце прошлого года, меня ошеломил прогресс в программировании. Claude Code, буфер контекста, агентный подход, сама лежащая в основе модель. Мы пересекли огромный порог в программировании, но лишь спустя несколько месяцев я понял, что это был не только порог в программировании; это был огромный порог в области кибератак. И знаете, что произошло в результате? Почти ничего. 

Так что да, я несовершенный посланник. Давайте найдем идеального посланника, и я поделюсь с этим человеком всеми своими мыслями. (Я слегка саркастичен, потому что не уверен, что идеальный посланник вообще существует.) Нужно прямо сейчас понять технологию и траекторию ее развития, а также разбираться хотя бы в кибербезопасности, биологии или психосоциальных аспектах. Люди должны быть способны это сделать. Не понимаю, почему они не обеспокоены сильнее.