Манифест Марка Цукерберга об ИИ — именно поэтому люди не любят ИИ

В понедельник Марк Цукерберг опубликовал манифест объёмом 6500 слов о персональном ИИ, посвящённый главным образом возможностям систем «персонального сверхинтеллекта», которые создаёт Meta AI. Идеи, изложенные в публикации, не совсем новы. Версия эссе вышла в Wall Street Journal несколько месяцев назад, а до этого он уже рассказывал о них на звонках с инвесторами по итогам квартала Meta. Но, вероятно, это самая подробная версия из всех опубликованных им.

Я видел, как этот текст называли эссе против алармистских настроений, но это не совсем так. Скорее, это описание того, почему Марк Цукерберг лично воодушевлён тем, как ИИ изменит общество. И всё же, пытаясь нарисовать картину прекрасного будущего, которое принесёт изобилие сверхинтеллекта, Цукерберг снова и снова напоминает нам обо всех возможных вариантах развития событий, при которых всё пойдёт не так.

Я тоже нахожу ИИ захватывающим — именно поэтому продолжаю о нём писать, — но многие люди воспринимают ИИ как нечто жуткое и неприятное. Поэтому стоит точно разобраться, что здесь происходит и почему такими эссе Цукерберг не оказывает отрасли никаких услуг.

Социальные сети по-прежнему остаются болезненной темой в технологической отрасли, и у нас здесь нет места, чтобы разбирать по существу каждую отдельную претензию людей к Facebook. Достаточно сказать, что и Facebook как продукт, и Цукерберг как человек непопулярны среди американской общественности. Недавний опрос показал, что 64 процента американцев считают социальные сети вредными для демократии, а примерно такая же доля полагает, что их следует регулировать строже; эти показатели примерно одинаковы среди сторонников обеих партий. Всего в эти выходные суд оштрафовал компанию на 567 миллионов долларов за причинение вреда детям. Атмосфера скверная.

Я упоминаю это не для того, чтобы намекнуть, будто Цукербергу следует со стыдом удалиться в глушь, — но последствия социальных сетей являются одной из главных причин нынешней тревоги по поводу социального влияния ИИ. Справедливо это или нет, но общество не доверяет руководителям технологических компаний в вопросах обеспечения положительного влияния новых технологий вроде этой на общество. Вместо того чтобы признать это и попытаться вернуть доверие, данное эссе снова и снова демонстрирует, почему это доверие было утрачено.

Значительная часть эссе посвящена туманным рассуждениям об интеллекте — очень похожим на туманные рассуждения о свободе слова, которыми раньше делились Цукерберг и Дорси. Вот, например, одно из них:

По мере того как все получают более мощные инструменты, каждый человек сможет в большей степени, а не в меньшей, влиять на формирование будущего…. Люди и организации с конкурирующими интересами естественным образом уравновешивают и сдерживают друг друга, способствуя положительным результатам. Лучший и наиболее реалистичный путь к созданию позитивного будущего с ИИ — предоставить сверхинтеллект каждому.

Ну, допустим? Я могу вспомнить несколько примеров того, как конфликтующие интересы приводили к плохим результатам, но оставим это в стороне. Более странно то, что всё это преподносится как искренний философский вывод, а не как описание конкретного продукта под названием «персональный интеллект», который Meta выводит на рынок. Если вы и без того склонны не доверять этому человеку, у вас может возникнуть подозрение, что он пишет всё это, чтобы убедить себя в невозможности плохих последствий.

Это ощущение стало для меня ещё сильнее, когда Цукерберг перешёл к конкретным примерам, многие из которых тревожно оторваны от реальности использования ИИ-инструментов. Например, вот как Цукерберг описывает ИИ в образовании:

У каждого будет персональный репетитор и наставник со степенью PhD по каждому предмету и безграничным терпением, который поможет учиться всему, чему вы захотите. Ученики получат дополнительную помощь в тех областях, где она им необходима, но сегодня доступна лишь тем, чьи родители могут за неё заплатить. У взрослых будет сверхинтеллектуальный помощник в обучении, который точно знает, как научить вас новым профессиональным навыкам, языкам, хобби или чему-либо ещё, что вас интересует.

Разумеется, описываемый Цукербергом продукт уже существует: это пользовательский чат-бот вроде ChatGPT, Claude или Gemini. Эти инструменты действительно полезны, если вы хотите узнать о какой-то теме, но в образовании их главным образом используют, чтобы избежать обучения: персональный репетитор может сделать за вас домашнее задание и написать заданное эссе, а поскольку надёжной системы водяных знаков не существует, учителя никак не могут быть уверены, какие эссе были сгенерированы ИИ.

Это довольно безобидный пример вреда от ИИ, но такое действительно происходит прямо сейчас. Иногда технологию создают для добрых целей, а у неё возникают непредвиденные последствия, которые всё ухудшают. И тот факт, что один из самых влиятельных людей в мире отказывается это признавать, вполне закономерно может нервировать людей!

Цукерберг также приводит пример того, как ИИ изменит к лучшему правовую систему:

В качестве мысленного эксперимента представьте, что сверхинтеллектуальный адвокат есть только у одного человека. У него будет несправедливое преимущество в суде — даже если по существу он неправ. Это приведёт к ухудшению общества. Но теперь представьте, что сверхинтеллектуальный адвокат есть у каждого. В этом случае правосудие вершилось бы гораздо более справедливо и эффективно, чем сегодня, когда в судебных спорах часто существует дисбаланс навыков и ресурсов.

И снова перед нами нагруженный пример. Да, доступ к юридическому ИИ может привести к более справедливому обществу, но он также способен добавить сложности в уже существующий бюрократический ад. Или же спровоцировать новую волну сутяжников, которые просто забьют систему юридическим аналогом спама. Сложно сохранять спокойствие по поводу всего этого, а то, что Цукерберг не испытывает тревоги, заставляет меня тревожиться ещё сильнее.

В других местах даже описания уже существующих методов ведения бизнеса Meta приобретают странно абстрактный характер. Например, вот как Цукерберг описывает приверженность Meta условно-бесплатной модели.

У каждого будет бесплатный или доступный по цене доступ к этим инструментам…. Мы предложим бесплатные версии, доступные миллиардам людей. Для тех, кто захочет платить за использование больших вычислительных ресурсов, будет существовать динамический аукционный механизм, который гарантирует каждому минимально возможную цену за используемый интеллект и вычислительные ресурсы, одновременно обеспечивая применение мощностей там, где люди в совокупности видят наибольшую ценность. Это обеспечит широкое распределение преимуществ сверхинтеллекта.

В общих чертах я согласен со всем, что он здесь говорит. Цукерберг прав в том, что доступ является проблемой, и прав в том, что условно-бесплатная модель обеспечивает более широкий доступ, чем требование заранее платить за вычислительные ресурсы. Динамические рынки вычислительных ресурсов уже существуют, так что он не описывает нечто совершенно выходящее за рамки нормы. Но есть причина, по которой каждый пользовательский ИИ-продукт ограждает конечных пользователей от спотовой цены используемых ими вычислительных ресурсов. Динамическое ценообразование — ужасный пользовательский опыт, особенно когда его применяют к инструменту, от которого вы действительно зависите в работе.

Снова же, я вынужден предположить, что Цукерберг это понимает и на самом деле не планирует устанавливать цены на токены с помощью динамических аукционов. Но теперь, после прочтения этого текста, я уже не так в этом уверен, как раньше.

Об этом можно говорить и лучше. При всех своих недостатках Сэм Альтман и Дарио Амодеи довольно хорошо общаются с общественностью напрямую. Они делают именно то, чему здесь противится Цукерберг: признают опасности ИИ, подчёркивают принимаемые ими меры предосторожности и пытаются убедить слушателей, что им можно доверять.

Такая коммуникация может лишь отчасти помочь. Иногда (особенно в последнее время) защитные механизмы дают сбой, и становится очевидна изначально присущая всему этому предприятию опасность. Но без определённых усилий по укреплению доверия отрасль не всегда сможет пережить подобные провалы.