Пионер машинного обучения Майкл И. Джордан называет риторику о гибели от ИИ «грандиозным морализаторским представлением»

Майкл И. Джордан, названный журналом Science в 2016 году «самым влиятельным компьютерным учёным», считает предупреждения об экзистенциальных угрозах со стороны ИИ чистой научной фантастикой. В пространном интервью он обрушивается на «думеров», основателей компаний и наивных молодых исследователей.

Джордан, почётный профессор Калифорнийского университета в Беркли, резко выступил против риторики о гибели от ИИ в интервью изданию Libération. 70-летний пионер машинного обучения теперь работает полный день в Inria, французском Национальном институте исследований в области цифровых наук и технологий в Париже, где возглавляет новую кафедру «рынков и обучения». Когда его спросили о дискуссиях вокруг ИИ этим летом, он назвал их «совершенно удручающими».

Джордан предупреждал о безрассудном злоупотреблении термином «ИИ» ещё в 2019 году. «Я был не единственным, кто это говорил. Было очевидно, что это приведёт к истерии, которую мы наблюдаем сейчас», — говорит он. «Вы видели, что произошло: ИИ оказалось недостаточно, поэтому начали говорить об ОИИ, а теперь — о „сверхинтеллекте“…»

Увольнения как «морализаторский спектакль»

Джордан считает требования ИИ-компаний о регулировании «театром» — способом сказать: «Смотрите, мы хорошие парни», хотя они «хотели бы получить полный контроль над тем, как их будут регулировать».

Увольнение молодого исследователя Anthropic Джейкоба Коксона, спровоцировавшее в начале сентября волну коллективной истерии вокруг сценария «апокалипсиса ИИ», по мнению Джордана, является хрестоматийным примером. Многие молодые сотрудники этих компаний «на самом деле не инженеры», говорит он. «Они пришли из гуманитарных наук, философии или других дисциплин. Им по 25 лет, они наивны, они не занимаются инженерной работой, они никогда не работали в крупных компаниях, где реальные продукты разрабатываются для реальных людей и с соблюдением дисциплины».

Они «собираются вместе, немного как в парижских кафе в 1920-е годы, чтобы обсуждать эти грандиозные научно-фантастические идеи». Увольняясь, они знают, что привлекут внимание. «Это позволяет им чувствовать себя добродетельными и выглядеть очень важными фигурами. Они утверждают, что отказываются от денег, но на самом деле у них уже есть опционы на акции». Джордан видит во всём этом «грандиозный морализаторский спектакль, который не служит реальной цели, заявленной в качестве его оправдания. Здесь много наивности, которая идёт рука об руку с определённым цинизмом…»

Сверхинтеллекту место в научной фантастике

«Сверхинтеллект» — это «термин из научной фантастики», говорит Джордан, «и значительная часть дискуссий, свидетелем которых я был, относится к сфере научной фантастики». Иногда обсуждать надуманные сценарии вполне нормально. «Обсуждать это за закрытыми дверями как тему научной фантастики — нормально. Но когда это становится доминирующим дискурсом, это очень, очень вредно. И для технологического развития, и для молодых людей, и для образа мыслей целых стран». Сейчас этот термин навязывается технологической элите США президентом Трампом, который охотно подыгрывает.

Джордан особенно резко высказывается о нобелевском лауреате Джеффри Хинтоне, который известен своими громкими заявлениями и не всегда оказывается прав. «Джеффри Хинтон никогда не создавал компанию, предлагающую реальные услуги реальным людям, — говорит он. — Хинтон считает, что мы разобрались в принципах работы мозга и можем воспроизвести его в кремнии; следовательно, мы сможем копировать его столько раз, сколько захотим, а объединив то, чему научатся все эти копии, получим своего рода экспоненциальный рост — и вот вам сверхинтеллект. Ни один из этапов этого рассуждения не заслуживает доверия. Здесь мы находимся на территории научной фантастики».

К Йошуа Бенжио он относится несколько снисходительнее. «Йошуа немного другой: он действует и делает то, что напрямую сосредоточено на безопасности». Предупреждения Бенжио, как правило, касаются недостатков современных технологий ИИ, например выхода роёв агентов из-под контроля.

Джордан рассматривает взлом Hugging Face агентами OpenAI как результат плохой инженерной работы. «В химической инженерии мы никогда не допустили бы ситуации, в которой взрывам позволяли бы происходить лишь для того, чтобы посмотреть, насколько серьёзными могут оказаться последствия». OpenAI «проводила довольно глупые эксперименты, позволяя агентам делать всё, что им хочется, и поощряя такое поведение». Затем «думеры» с удовольствием превратили это во что-то пугающее. «Боже мой, эти агенты обладают самосознанием и пытаются найти способ уничтожить людей». По словам Джордана, это тоже научная фантастика.

Триллионная ставка на дата-центры

Джордан считает масштабные инвестиции в дата-центры «просто огромной ставкой, но мы совершенно не знаем, окупится ли она». Большие языковые модели уже достаточно хорошо справляются с задачами, связанными с естественным языком, и триллионы, потраченные на дата-центры, не обязательно обеспечат значительный прогресс. «Вместо этого нам часто будет нужно добавить немного специализированных знаний в конкретной области, основанных на местной специфике. Но для этого не нужен гигантский дата-центр. Особенно если использовать модели с открытыми весами, которые вы интегрируете в свою компанию».

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER и получите чтение без рекламы, еженедельную рассылку об ИИ, наш эксклюзивный передовой отчёт «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.