Дебаты о безопасности ИИ — о безопасности или о контроле?

Как технологической отрасли следует подходить к теме безопасности ИИ? Всё чаще руководители высшего звена высказываются по этому вопросу, поскольку разгораются споры о том, свидетельствуют ли такие инциденты, как инцидент с Hugging Face — в ходе которого агент OpenAI взломал несколько различных компаний, — о том, что ИИ находится на пороге ввергания нашего мира в хаос.

В последние недели ведущие лаборатории призвали замедлить развитие ИИ. Наиболее решительно это сделал генеральный директор Dario Amodei, который опубликовал эссе объёмом почти 4000 слов, в котором изложил аргументы в пользу замедления развития ИИ, чтобы можно было внедрить адекватные меры защиты. Этот план предусматривает, помимо прочего, международную стратегию сотрудничества компаний и правительств в вопросах безопасного внедрения. Руководители конкурирующих компаний в сфере ИИ — такие как Sam Altman из OpenAI и Elon Musk из xAI — поддержали план Amodei.

Эссе вызвало новые обсуждения во всей технологической отрасли, хотя призыв Amodei к глобально скоординированным действиям поддержали не все. Действительно, многие, похоже, считают, что государственный надзор вовсе не обязательно должен играть какую-либо роль.

К числу последних участников этих дебатов относится генеральный директор Meta Mark Zuckerberg, который на этой неделе поделился в X своими мыслями по этому вопросу.

«Я считаю, что доверие и согласованность быстро становятся важнейшими характеристиками, которые будут отличать агентов и модели». Zuckerberg рассказал, что его компания отложила выпуск своей модели ИИ из соображений безопасности. «Meta отложила выпуск Muse на несколько месяцев, чтобы сосредоточиться на безопасности и защищённости, — сказал Zuckerberg. — Мы не призывали всех остальных делать то же самое, прежде чем сделать это самим. Мы просто включили это в нашу повседневную работу, потому что это явно было правильным решением и для людей, и для нас».

Zuckerberg, поддержавший отдельные положения плана Amodei, по всей видимости, подразумевает, что действия правительства не нужны, а естественные стимулы, формирующие отрасль, заставят компании обеспечить надлежащий уровень безопасности. В конечном счёте рынок должен привести к успеху компании, которые позаботятся о создании моделей, не вызывающих хаоса. Это, судя по всему, согласуется с собственным масштабным эссе Zuckerberg, опубликованным в прошлом месяце, в котором он выступил за ограниченное сотрудничество с правительством там, где это необходимо, но в основном назвал американскую конкурентоспособность ключом к процветающему технологическому будущему.

В целом, похоже, именно такой позиции придерживаются и многие другие руководители технологических компаний.

Ещё одним руководителем высшего звена, высказавшимся по этому вопросу, стал сооснователь Reddit Alexis Ohanian, который сказал CNBC в среду, что, по его мнению, технологическая отрасль в значительной степени была «глуха к общественным настроениям», когда речь заходила о разъяснении публике рисков ИИ. Однако, как и Zuckerberg, Ohanian, похоже, также выразил надежду, что компании смогут самостоятельно во всём разобраться. Своими мыслями поделился и сооснователь Google DeepMind Shane Legg. «Сейчас мы живём в период, когда возможности развиваются очень, очень быстро, — сказал Legg. — Но мы не можем позволить, чтобы возможности опережали безопасность». Он добавил: «Нам действительно нужно детально проработать этот вопрос и понять, как это будет работать на практике».

Несмотря на призывы крупных лабораторий к сотрудничеству государства и бизнеса, некоторые сторонники регулирования, похоже, также вполне довольны тем, чтобы позволить компаниям самостоятельно устанавливать правила. Действительно, менее заметной, но не менее интересной новостью этой недели стал материал The Information, согласно которому OpenAI, Anthropic и другие крупные компании в сфере ИИ совместно работали над созданием организации по разработке стандартов ИИ — названной одним из изданий частным «органом саморегулирования».

Ранее уже обсуждалось создание аналогичной организации под руководством федеральных властей. Однако Белый дом Трампа, в котором есть активные сторонники ИИ и который в целом выступает за нерегулируемый технологический бизнес (администрация даже пыталась принудительно не допустить принятия властями штатов собственных законов об ИИ), не предпринял никаких шагов. «Царь по ИИ» в администрации, ветеран технологической отрасли David Sacks, заявил, что регулирование ИИ следует оставить компаниям, которые его разрабатывают.

Подобно Белому дому, видные члены Конгресса, похоже, столь же не заинтересованы в том, чтобы принять предложение Amodei о регулировании его компании. Вскоре после публикации эссе генерального директора Anthropic спикер Палаты представителей Mike Johnson так ответил на опасения по поводу катастрофического развития ИИ: «Вы не все умрёте через 10 лет», сказал он.

Частная организация оставила бы отрасль нерегулируемой, за исключением добровольных обязательств, и естественным образом наделила бы определёнными полномочиями и влиянием компании, ответственные за её создание. Это приводит к ещё одному распространённому утверждению: призывы отрасли к регулированию на самом деле являются стратегией «захвата регулирования». Согласно этому аргументу, влиятельные компании, уже занимающие заметное положение в отрасли, могут использовать регуляторные уловки, чтобы вытеснить или поставить в невыгодное положение небольшие компании с меньшими ресурсами, тем самым подавляя конкуренцию. Для этого не обязательно нужны реальные нормы регулирования: такую роль могут сыграть добровольные отраслевые стандарты, которые тем не менее создадут давление на менее влиятельные компании.

Многие видные представители китайского правительства придерживаются аналогичной позиции. После того как Amodei на этой неделе призвал «синхронизировать темпы развития передовых технологий», представитель Министерства иностранных дел Китая Guo Jiakun обвинил американцев в использовании «нагнетания страха» для срыва развития глобального управления ИИ, а в редакционной статье китайской государственной газеты риторика Amodei была названа заимствованной непосредственно из «арсенала холодной войны».

Изменение принципов ведения бизнеса с Китаем — одна из мер, к которым призывает Amodei в своём эссе, — естественным образом может стать возможностью для американских компаний склонить ситуацию в свою пользу. Amodei даже признаёт, что именно это и является целью. «Если мы грамотно реализуем эти меры, я считаю, что они достаточно замедлят прогресс Китая, чтобы в течение следующих 3–5 лет значительно увеличить отрыв Америки — в тот период, когда ИИ станет наиболее важным с геополитической точки зрения», — написал он в своём эссе.

Однако не только Китай считает, что крупные американские лаборатории ИИ стремятся заранее обеспечить себе преимущество. Aidan Gomez, генеральный директор канадской компании Cohere, недавно обвинил эти компании в создании «картеля», написав в публикации в блоге: «ИИ нужны меры защиты. В этом и никогда не было предмета спора. Спор идёт о том, кто их напишет, кто сможет участвовать и чьи интересы будут защищать эти правила».

Как отмечает Gomez, безопасность ИИ — глубоко политизированная сфера, в которой условия определения безопасности и те, кто их определяет, в конечном счёте помогут решить, кто получит фору, а кто останется позади на следующем этапе конкуренции в области ИИ.