Могут ли «сверхинтеллект» и необязательное соглашение о безопасности решить имиджевую проблему ИИ?

На этой неделе президент Дональд Трамп принял многих самых известных представителей сферы искусственного интеллекта — отчасти для того, чтобы объявить: правительство США больше не называет это искусственным интеллектом. Теперь это сверхинтеллект.

В последнем выпуске подкаста TechCrunch Equity Кирстен Коросек, Шон О’Кейн и я обсудили причины этой встречи и то, какое влияние она может оказать на индустрию ИИ. Мы все довольно скептически отнеслись к тому, что подписанное руководителями соглашение «Совместные обязательства в отношении ответственности за передовые технологии» приведет к каким-либо существенным результатам, особенно потому, что, как отметил Шон, с юридической точки зрения оно «глубоко необязательно». (Вместо этого Трамп заявил, что считает его «морально обязательным».)

Кирстен предположила, что истинное значение встречи могло заключаться в «ребрендинге ИИ». (Эта работа продолжилась в эти выходные с объявлением Трампа о создании новых сил сверхинтеллекта.) По ее мнению, главный посыл заключался в следующем: «ИИ убьет нас, это страшно, он отнимет рабочие места — но сверхинтеллект — нет».

Читайте далее краткий обзор нашего разговора, отредактированный для краткости и ясности.

Энтони Ха: Официально, по распоряжению президента Соединенных Штатов, это больше не искусственный интеллект, а сверхинтеллект. Мы говорили об этом на прошлой неделе, потому что [Трамп] уже намекал на это — хотя намеков он не делает, он уже какое-то время говорит [об этом]. Но теперь это закреплено указом. Если вы официальный представитель США, вы должны говорить «сверхинтеллект», а не «искусственный интеллект».

И это также было частью более широкого заявления о безопасности ИИ, которое, на мой взгляд, интересно и из-за объявленного соглашения, и просто потому, что такая встреча вообще состоялась. Похоже, все произошло довольно быстро, ведь всего две недели назад, неделю назад президент Трамп говорил: «Нам ничего этого не нужно, мы должны лидировать в ИИ, мы не можем каким-либо образом его ограничивать, нам не нужно никакое регулирование, а любой, кто говорит, что ИИ представляет какую-либо опасность, по сути является китайским или демократическим ставленником». И тем не менее ранее на этой неделе все эти руководители компаний в сфере ИИ встретились с ним и подписали это соглашение.

Кирстен Коросек: Забегая вперед, следует сказать, что до этого была не только критика регулирования — и мы можем обсудить, делает ли этот указ вообще хоть что-нибудь в этом направлении; я бы сказала, что нет, это отчасти просто спектакль, — но важно и интересно то, что всего несколько дней назад Anthropic, если можно так выразиться, была в немилости из-за происходившего за кулисами в отношениях с президентом Трампом. 

Все изменилось, когда [генерального директора Anthropic] Дарио Амодеи пригласили на ужин в десять вечера. Они встретились, а всего несколько дней спустя состоялся этот обед, на котором присутствовали практически все влиятельные фигуры технологической отрасли из каждой существующей крупной технологической компании. Там были Марк Цукерберг, Джефф Безос, Илон Маск, конечно же, Дарио — они были там все. 

Мне интересно, смотрел ли кто-нибудь из вас пресс-конференцию, состоявшуюся после этого. Она породила множество мемов из-за забавного и необычного поведения, которое возникает, когда вы собираете вместе целую группу руководителей технологических компаний.

Но мой главный вопрос к вам обоим, наверное, таков: что все это значит? И значит ли это вообще хоть что-нибудь?

Шон О’Кейн: Сколько у вас времени? Во-первых, да, Трамп и Дарио действительно поужинали. Если вы прочитаете интервью Трампа журналу Time, то можете так же, как и я, гадать, насколько он вообще был в курсе того, что этот ужин состоится. Это странная реальность, в которой приходится жить, но такова реальность, в которой мы существуем.

Я также скажу еще кое-что, что заставляет меня скептически относиться — какой сюрприз — к тому, насколько восстановились отношения между администрацией и Anthropic: несмотря на то что некоторые явно пытаются сблизить эти две стороны, Министерство обороны по-прежнему категорично заявляет, что Anthropic — ужасная, «воке»-компания и угроза национальной безопасности. Кажется, Эмиль Майкл через день обрушивается на Anthropic в X. Думаю, несмотря на появление Дарио на этой встрече, между ними все еще сохраняется определенная дистанция. 

Что касается соглашения и всего остального, давайте будем реалистами: в соглашении, которое они все подписали, название Соединенных Штатов написано с ошибкой. Кроме того, оно совершенно необязательно. Я имею в виду, что оно полностью добровольное. Больше всего мне понравилось, что Трамп назвал его, цитирую, «морально обязательным» — это такой уровень абстракции и терминологии, с которым я прежде никогда не сталкивался.

Энтони: Что касается Anthropic и ее отношений с администрацией Трампа, было довольно много публикаций, особенно во время крупного конфликта с Министерством обороны, о том, что разные части Белого дома по-разному взаимодействовали с Anthropic. Казалось, министр финансов был ее большим поклонником, тогда как Министерство обороны — определенно нет, или, по крайней мере, было недовольно некоторыми условиями, которые Anthropic пыталась выдвинуть в отношении использования своей технологии. 

В этом смысле кажется, что ничего принципиально не изменилось. В Белом доме есть люди, которые хотят использовать технологии Anthropic и привлечь компанию к принятию этих решений, а есть другие, которые категорически этого не хотят.

Что касается соглашения, оно не кажется чем-то особенно значимым. Значим сам факт, что они сочли необходимым его заключить. Судя по тому, что в названии Соединенных Штатов допустили ошибку, они, похоже, спешили собрать все это воедино. [Но] сам факт необходимости подобного жеста кажется важным, даже если я не думаю, что это соглашение приведет к каким-либо серьезным изменениям.

Кирстен: Я действительно считаю, что произошло кое-что важное. И для меня именно в этом заключался смысл всего происходящего — в ребрендинге ИИ. «ИИ убьет нас, это страшно, он отнимет рабочие места, но сверхинтеллект — нет». Я не утверждаю, что это мое личное убеждение. Но именно таким, на мой взгляд, был посыл.