Действительно ли индустрия ИИ готова сбавить темп?

Мы наблюдаем масштабные дебаты о безопасности ИИ и возможном замедлении темпов его развития: генеральный директор Anthropic Дарио Амодеи недавно опубликовал план по «контролю темпов развития передовых технологий», тогда как генеральный директор Nvidia Дженсен Хуанг публично поддержал заявления президента Дональда Трампа о том, что негативная реакция на ИИ — это инсценировка, а регулирование не нужно.

В последнем выпуске подкаста TechCrunch Equity Кирстен Коросек, Шон О’Кейн и я обсудили, действительно ли руководители вроде Амодеи и генерального директора OpenAI Сэма Альтмана хотят замедлить развитие.

Я был удивлен тем, сколько лидеров отрасли, похоже, поддержали план Амодеи, однако Шон отметил, что в плане явно не хватает деталей.

А когда Кристен спросила, могут ли сочетание действующих норм регулирования и механизмы свободного рынка сами по себе обеспечить достаточные гарантии, Шон ответил: «Сейчас у нас федеральное правительство, которое явно не стремится широко обеспечивать соблюдение норм, не говоря уже о конкретных мерах в этой сфере».

Кроме того, он заявил: «Похоже, потребительский выбор не оказывает существенного влияния на этот рынок — в том смысле, что если одна из этих компаний сделает что-то действительно плохое, это отразится на количестве отмен подписок или чем-то подобном».

Продолжайте чтение, чтобы ознакомиться с отрывком из нашего разговора, отредактированным для краткости и ясности.

Энтони Ха: Шон, что ты думаешь? Мы действительно собираемся «контролировать темпы развития передовых технологий»?

Шон О’Кейн: По какой-то причине это звучит как фраза из «На гребне волны». Очень уж по-калифорнийски: «Мы будем контролировать темпы развития передовых технологий, братан».

Не знаю. Я говорил в этой передаче на прошлой неделе, что не думаю, будто нас ждет какое-либо замедление, во многом потому, что, по-моему, эти компании устроены так, что подобный сценарий просто не сработает.

Поэтому услышать это от Дарио из Anthropic, Сэма из OpenAI и даже в определенной степени Илона Маска — значит довольно резко изменить мнение, высказанное мной неделю назад. И мы можем обсудить, верим ли мы этому или нет. Скажу лишь, что я не был полностью неправ, поскольку даже в этих расплывчатых планах, изложенных Дарио в записи в блоге, а также в словах других руководителей, мне по-прежнему не хватает множества конкретных деталей — не только относительно заявлений о том, почему эти люди считают ИИ опасным и рискованным, но и относительно того, что именно они подразумевают под замедлением.

Энтони, я знаю, что в прошлые выходные, когда все это начало разворачиваться, ты внимательно изучал эти материалы, поэтому мне интересно, не относишься ли ты к происходящему более благосклонно, чем я, пытаясь понять, что именно они хотят сказать.

Энтони: У меня тоже есть вопросы. Меня особенно поразило, что так много представителей отрасли, похоже, довольно быстро объединились вокруг этой идеи. Еще до публикации записи Амодеи я видел, как другие люди всего за несколько дней до этого публиковали собственные варианты такого [плана].

Насколько я понимаю, эти предложения исходят из сообщества специалистов по безопасности ИИ и уже некоторое время обсуждаются. Это не просто идеи, которые [Амодеи] придумал самостоятельно. Но показалось, что многие были готовы поддержать их, и в каком-то смысле обнадеживает видеть наличие консенсуса. Однако это также вызывает у меня сомнения в том, что речь идет о действительно серьезных и значительных шагах к замедлению.

Кирстен Коросек: Во-первых, консенсус может быть полезен. Но он также может стать началом формирования картеля. Поэтому давайте четко понимать, о ком идет речь. Мы говорим о лабораториях, разрабатывающих передовые модели ИИ. И это конкретное и важное уточнение.

Ты минуту назад сказал, что детали не совсем ясны, но мы знаем общую идею: независимые сторонние оценщики должны прийти в такие компании, как Anthropic или OpenAI, и контролировать методы обеспечения безопасности ИИ и инциденты. Но вокруг этого остается много неясного.

Есть и другое предложение — чтобы крупные ИИ-компании в демократических странах координировали работу над стандартами безопасности и ограничениями. А затем — международная координация. Таковы общие идеи этого плана.

Я также добавлю, что последовала весьма существенная критика со стороны конкретных людей. Причем, что удивительно, некоторые из них — те, от кого я не ожидала критики. Самый очевидный пример, наверное, — генеральный директор Nvidia Дженсен Хуанг, который высказался довольно резко. Не знаю, что вы оба думаете […] о некоторых из его комментариев и о звонке президента Трампа, который он принял прямо на сцене [на саммите All-In].

Шон: Думаю, Дженсен понимает, что в определенной степени его воспринимают здесь как взрослого в комнате. Это интересно, потому что, как мне кажется, такая расстановка сил изменилась. Если бы год, почти два года назад, вы спросили людей, кто выполнял эту роль, когда ИИ-компании только начинали стремительно расти, многие, думаю, назвали бы Microsoft и Сатью Наделлу. А мне кажется, что Microsoft — по целому ряду причин, в которые сейчас не нужно вдаваться — утратила этот статус взрослого в комнате. Отчасти, конечно, потому что Наделла сказал, что заставит Google танцевать, но этого так и не произошло. Более того, во многих отношениях случилось обратное.

Думаю, Дженсен понимает не только то, что ему нужно понравиться как можно большему числу людей и поэтому следует высказываться максимально взвешенно, но и то, что он является одним из наиболее полезных связующих звеньев между этой отраслью и нынешней администрацией. Настолько, что президент звонит ему, пока тот находится на сцене этой весьма посещаемой и известной конференции, что позволяет им обоим отреагировать на весь этот хаос.

Кирстен: Что касается твоей мысли о нем как о взрослом в комнате и связующем звене: он действительно занимает позицию, позволяющую ему выполнять эту роль. Но, на мой взгляд, его выступление, которое показалось мне немного постановочным, зашло слишком далеко и наглядно продемонстрировало, что Nvidia крайне выгодно, чтобы развитие ИИ продолжалось без ограничений по темпам.

Не хочу проявлять цинизм, но именно такой была моя первая реакция.

Энтони: Интересы Трампа и Хуанга совпадают, а Хуанг также говорит [Трампу] то, что тот хочет услышать.

Мне кажется, некоторые вещи, на которых он конкретно сосредоточился, стоит немного разобрать. Во-первых, он говорил об идее: «Мы не допустим замедления». Интересно само это слово — «замедление», которое часто звучало, — но при этом и Альтман, и Амодеи используют формулировку про замедление, тогда как предпочитают чаще говорить о «контроле темпов». Верно?

И эти три предложения — те, которые ты только что описала, Кирстен, — теоретически могут привести к замедлению, но прямо об этом не говорится. Речь идет о следующем: «Эй, мы внедряем базовые меры безопасности и позволяем некоторым людям следить за нами». Но ни одно из этих предложений само по себе не означает, что развитие должно идти медленнее, чем сейчас, по крайней мере насколько я понимаю.

Кирстен: Тогда у меня вопрос к Шону. Разве нельзя утверждать, что в обществе со свободным рынком у нас уже есть действующие нормы регулирования, а также конкурентная среда без протекционизма, и если компания выпустит что-то небезопасное, она больше не сможет оставаться жизнеспособной? Кроме того, сегодня существуют регуляторы, которые могут привлечь эти компании к ответственности. Или ты отвергаешь эту идею?

Шон: В вакууме — или на рынке, который не искажен множеством различных внешних факторов, — да, думаю, в этом есть доля правды. Но сейчас у нас федеральное правительство, которое явно не стремится широко обеспечивать соблюдение норм, не говоря уже о конкретных мерах в этой сфере.

Кроме того, мы оказались в странной ситуации, и я не совсем знаю, как правильно это сформулировать, но похоже, потребительский выбор не оказывает существенного влияния на этот рынок: если одна из этих компаний сделает что-то действительно плохое, это отразится на количестве отмен подписок или чем-то подобном.

Особенно сейчас, когда они вышли на корпоративный рынок и получают гораздо больше денег от продажи своих услуг компаниям, голосовать кошельком стало естественным образом сложнее. Корпорации не станут сворачивать работу и переходить с [Codex от OpenAI] на [Claude Code от Anthropic] только потому, что принципиально не согласны с каким-то поступком OpenAI.

Кроме того, их поддерживает такой объем инвестиционных средств, что им проще компенсировать любые потери, если они действительно с ними столкнутся. Поэтому теоретически это хорошая идея, но на практике, мне кажется, ничего подобного не происходит.