Билл Гейтс предупреждает, что ИИ опаснее, чем признаёт технологическая индустрия

Сооснователь Microsoft Билл Гейтс считает массовую безработицу и биотерроризм реальными опасностями ИИ. По его словам, индустрия намеренно скрывает риски, поскольку на кону слишком большие деньги.

В эссе объёмом почти 6000 слов и интервью для New York Times Билл Гейтс описывает переход в эпоху ИИ как «один из самых бурных периодов в истории человечества». По его словам, мир не готовится к этому должным образом — и у него попросту нет плана.

Его самая жёсткая критика направлена на собственную индустрию, которая, по его словам, сознательно преуменьшает опасности, поскольку на кону слишком большие деньги. «В частных разговорах люди, которые понимают, насколько хороши эти технологии и как быстро они совершенствуются, очень обеспокоены», — сказал он NYT. Однако публично они говорят друг другу: «Эй, не говори так. Это нам навредит — поставит под угрозу следующий триллион долларов, который мы пытаемся привлечь».

Почему сравнение с прошлыми потрясениями не выдерживает критики

Отчасти это успокоение основано на удобном сравнении. Предыдущие технологические сдвиги в итоге создавали больше рабочих мест, чем уничтожали, поэтому и сейчас всё должно произойти так же. Гейтс считает такое успокоение ошибочным. По его словам, эпоха ИИ «абсолютно, полностью, совершенно, тотально отличается».

В отличие от персонального компьютера, которому потребовалось двадцать лет, чтобы изменить сферу труда, ИИ работает на устройствах, которыми люди уже владеют, и использует обычный язык. «Нам не нужно адаптироваться к нему, потому что он может адаптироваться к нам». Впервые технология способна не только заменить человеческое мышление, но и превзойти его, причём в разных отраслях всего за одно десятилетие, а не за несколько поколений. Именно из этой скорости Гейтс выводит свои три главные опасения.

Потеря рабочих мест, биологическое оружие и одинокие пользователи

Первая угроза — постоянная потеря рабочих мест, которая сильнее всего затронет должности начального и среднего уровня в продажах, клиентском обслуживании, разработке программного обеспечения и юридической поддержке. Но рабочие места для специалистов ручного труда тоже находятся под угрозой, когда маневренные роботы станут значительно дешевле. Значительная часть такой разработки ведётся в Китае. Гейтс ссылается на исследование Стэнфордского университета как на доказательство того, что сдвиг уже начался. С распространением ИИ занятость молодых работников на должностях, наиболее подверженных автоматизации, заметно снизилась, тогда как их старшие коллеги пока избежали этой участи.

Вторая опасность выходит далеко за пределы рынка труда. ИИ упрощает кибератаки, мошенничество и дезинформацию, но прежде всего снижает порог для создания биологического оружия. По предупреждению Гейтса, всего несколько человек с доступом к передовому ИИ смогут разрабатывать новые патогены. Ситуацию усугубляет то, что полезные и опасные возможности трудно разделить. Та же модель, которая находит уязвимость, чтобы её устранить, помогает кому-то воспользоваться ею. Кроме того, системы ИИ всё чаще смогут действовать самостоятельно вопреки интересам человека.

Третья опасность проявляется более лично — в психологических и социальных последствиях. По словам Гейтса, компаньоны на основе ИИ, которые никогда не возражают и всегда доступны, обладают реальным потенциалом вызывать зависимость. Исследование Стэнфордского университета и Университета Карнеги — Меллон показывает: чем интенсивнее и эмоциональнее люди использовали этих чат-ботов, тем хуже они себя чувствовали. Особенно Гейтса беспокоят дети и утрата критического мышления, которое становится навыком выживания в эпоху дипфейков и целевой дезинформации.

Налоги, запреты и маркировка «Зарезервировано для человека»

Какой бы мрачной ни казалась эта картина, Гейтс также видит в технологии огромные перспективы — в науке, здравоохранении, сельском хозяйстве бедных стран и образовании. Однако эти преимущества не появятся сами собой. Их нужно обеспечить с помощью политики, и Гейтс не ожидает, что индустрия сделает это самостоятельно. «Саморегулирование в отношении самого опасного из когда-либо изобретённых инструментов? Нет, спасибо!»

Вместо этого он призывает к демократическому процессу и созданию новых национальных и международных институтов по образцу режимов надзора за ядерным оружием, авиацией или защиты озонового слоя. В частности, он предлагает ввести символический налог на использование ИИ и роботов. Нанимая человека сегодня, вы платите налоги на фонд заработной платы. Покупая робота, вы можете сразу списать его стоимость. Таким образом, налоговая система практически подталкивает компании заменять людей машинами. Некоторые профессии, например уход за людьми, должны оставаться исключительно за людьми — эту идею Гейтс называет «Зарезервировано для человека».

То, что именно он поднимает эту тревогу, учитывая, насколько сильно он олицетворяет подъём компьютерной индустрии, связано с моментом в его собственной профессиональной сфере. Программирование — область, которую он знает лучше всего, — и инструмент Claude Code от Anthropic потрясли его. «Мысль о том, что теперь эти вещи в каком-то значимом смысле лучше меня, вызывает вопрос: какого чёрта?»

Он открыто признаёт возможный конфликт интересов: у него по-прежнему есть финансовые связи с технологической индустрией, хотя прибыль направляется в Фонд Гейтса.

От оптимиста, мечтавшего о досуге, к голосу, предупреждающему об опасности

Особенно заметно, насколько жёстче стал тон Гейтса. В 2018 году он всё ещё называл ИИ в основном усовершенствованным программным обеспечением и говорил о перспективах более продолжительных отпусков и увеличения занятости в социальных сферах. В 2022 году он утверждал, что работники, которых заменят машины, понадобятся в таких областях, как уход за пожилыми людьми и детьми, а важнее всего будут переподготовка и более равномерное распределение благосостояния.

Ещё в сентябре 2024 года он сомневался, что ИИ фундаментально изменит проблему дезинформации, хотя исследования уже показывали: GPT-4, располагая персональной информацией, способен повышать согласие с аргументами на 81,7 процента по сравнению с дебатами между людьми.

Гейтс не единственный представитель индустрии, выступающий с такими предупреждениями: генеральный директор Anthropic Дарио Амодеи ещё в 2024 году предупреждал о биологическом оружии, созданном ИИ, а в 2025 году предсказал, что до половины рабочих мест начального уровня в офисной сфере может исчезнуть, а безработица вырасти до 10–20 процентов. Амодеи также предлагал ввести налог на токены.

Призыв создать международный институт по вопросам ИИ тоже имеет прецеденты. В 2023 году исследователи Гэри Маркус и Анка Ройль предложили создать глобальное некоммерческое агентство по ИИ по образцу Международного агентства по атомной энергии. А опубликованный в 2024 году отчёт США зафиксировал анонимные опасения по поводу безопасности со стороны сотрудников ведущих ИИ-компаний, включая обеспокоенность мотивами их руководителей.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный годовой отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.