Не поддавайтесь летнему хайпу вокруг ИИ

Последние несколько месяцев были насыщены шумихой вокруг ИИ. В конце апреля Anthropic заявила, что её модель Claude Mythos лучше большинства экспертов по безопасности находит уязвимости в программном обеспечении. Затем произошёл инцидент со взломом OpenAI и Hugging Face, после которого Anthropic (с гордостью) и Meta (неохотно) раскрыли информацию о подобных инцидентах с участием их моделей. За этим последовало заявление Anthropic о том, что одна из её моделей совершила математический прорыв; вскоре OpenAI заявила о собственном математическом прорыве. Совсем недавно инженер Anthropic Джейкоб Коксон стал вирусным, объявив о своём уходе из компании и заявив, что она и OpenAI «несутся напрямик к самоулучшающемуся сверхинтеллекту, играя нашими жизнями».

Каждое из этих событий в основном освещалось прессой с затаённым дыханием, причём журналисты часто повторяли антропоморфизирующие формулировки компаний — призванные создать впечатление, будто их программное обеспечение не только мощно, но и уже приближается к «искусственному общему интеллекту». Так что же на самом деле происходит? Свидетели ли мы масштабной серии технологических прорывов, способных изменить цивилизацию, или это маркетинг?

Во всех этих случаях громкие заявления компаний (представленные как покаяние в случаях незаконного взлома) сопровождались интенсивным освещением в прессе. Но когда у экспертов в соответствующих областях появляется время изучить произошедшее, возникает совершенно иная картина — только вот она получает гораздо меньше внимания СМИ.

Что касается инцидентов со «взломом», эксперты по кибербезопасности говорят, что эта история скорее о халатности OpenAI и неспособности внедрить базовые, устоявшиеся практики безопасности, чем о «вышедших из-под контроля моделях» или «ИИ-агентах, создающих цивилизации». 

Что касается математических результатов, математики, которые поначалу были «ошеломлены» пресс-релизом OpenAI о том, что её последний чат-бот Astra решила задачи, которые «оставались открытыми и не демонстрировали прогресса в отношении основного результата по меньшей мере десятилетие», позже поняли, что результаты были не столь «новаторскими, как показалось сначала». С тех пор математики обвинили компанию в нарушении исследовательской этики и плагиате, а также вновь подчеркнули, что Astra не совершила «глубокого интеллектуального скачка». Всего несколько недель спустя OpenAI заявила о собственном математическом прорыве. За два дня до этого Тристан Бакмастер, профессор математики в Институте Куранта Нью-Йоркского университета, опубликовал сенсационное заявление, предположив, что OpenAI украла чужую работу и ненадлежащим образом указала её авторство. 

Заявления о приближающемся опасном сверхинтеллекте не основаны на добросовестной научной или инженерной практике. Напротив, это нарративы, основанные на идеологиях трансгуманизма, евгеники и принятии желаемого за действительное в отношении воображаемых будущих цифровых людей.

Стоит задуматься, почему компьютерное программирование и математика пользуются таким большим вниманием как области применения больших языковых моделей и связанных с ними технологий. Их не только часто возводят в ранг вершины человеческих интеллектуальных достижений, но они также связаны с задачами, ответы на которые можно проверить после того, как они предложены. Первое свойство помогает распространителям шумихи вокруг ИИ продавать идею о том, что они создают машины, способные делать всё. Второе упрощает настройку систем для решения математических и программистских задач, поскольку результаты работы системы (последовательности вероятных слов или фрагменты компьютерного кода) можно оценивать, не оплачивая труд работников, которые просматривали бы и размечали каждый из них. В особенности математики предупреждали против использования корпорациями их области таким образом. В заявлении, подписанном сотнями математиков, говорится, что «в настоящее время технологическая индустрия имеет сильный коммерческий стимул преувеличивать возможности своих продуктов», а также содержится призыв к политикам «консультироваться с экспертами, включая математиков, при принятии политических решений, а не полагаться на пресс-релизы или популярные публикации о математических результатах».

Мы присоединяемся к этому призыву и отмечаем, что создаваемая технологическими компаниями иллюзия скорости и срочности — это также уловка, призванная ввести в заблуждение и политиков, и общественность. К сожалению, иногда это срабатывает — например, в случае добросовестной, но в конечном счёте ошибочной законопроектной инициативы сенатора Берни Сандерса, направленной на предотвращение разработки «искусственного сверхинтеллекта».

Называя их «сверхинтеллектом» или «вышедшими из-под контроля моделями», мы приписываем агентность продуктам, а не компаниям, которые их создают. Такая трактовка преподносит продукты этих компаний как «сверхчеловеческие» и одновременно помогает компаниям уклоняться от ответственности за свои действия. 

Вместо того чтобы привлечь OpenAI к ответственности за создание вредоносного программного обеспечения, взломавшего другую компанию, пресс-релизы, новостные издания, медиаперсоны и законодатели говорят о «вышедших из-под контроля моделях», будто те действовали самостоятельно. Вместо того чтобы задавать исследователям вопросы о привычке их компаний заниматься плагиатом академических работ или использовать данные клиентов для обучения моделей без согласия, воображение общественности направляют на страхи перед тем, что может ждать нас в будущем с появлением вымышленных сверхинтеллектуальных машин.  

Индустрия ИИ даже заявляла, что популярная и поддерживаемая обеими партиями активность против центров обработки данных является «отвлекающим манёвром» от попыток регулировать надвигающиеся пугающие «сверхчеловеческие» машины, которые создают эти компании. По мнению индустрии ИИ, нас должен больше беспокоить вымышленный машинный бог, чем климатическая катастрофа, которую усугубляют эти центры обработки данных, астма, от которой страдают живущие поблизости люди, растущие счета за электричество у населения, субсидирующего их, или вода, перенаправляемая на их охлаждение. 

Мы знаем, что решения не следует принимать на основании маркетинга, и не должны уступать корпоративному давлению, требующему принимать их как можно быстрее. Мудрые решения со стороны политиков и сообществ требуют времени, чтобы выслушать независимых экспертов и рассмотреть корпоративные заявления в контексте. Лучшим возможным итогом этого лета шумихи станет то, что политики и общественность в целом научатся делать паузу, сохранять скептицизм и распознавать подобную шумиху такой, какая она есть, когда она появится в следующий раз.

Тимнит Гебру — исполнительный директор DAIR и автор готовящейся книги Deep Unlearning: The Radicalization of a Tech Idealist, которую уже можно предварительно заказать и которая должна выйти 16 февраля. Эмили М. Бендер — профессор лингвистики Вашингтонского университета и соавтор книги The AI Con.