Даже у короля Англии есть сомнения по поводу ИИ

Король Карл III в четверг провел закрытый саммит с некоторыми из самых влиятельных представителей сферы ИИ и правительства Великобритании, включая Дженсена Хуанга из Nvidia, руководителей OpenAI и Anthropic, нового министра ИИ Великобритании Канишку Нараяна и даже главу британской внешней разведки. Паоло Бенанти, советующий папе римскому по вопросам ИИ, также присутствовал.

Выступление короля на саммите — который проходил в Дамфрис-хаусе, поместье XVIII века в Эйршире, принадлежащем благотворительному фонду короля Карла III, — примечательно тем, что члены королевской семьи обычно по конституционным причинам стараются не слишком глубоко погружаться в политические вопросы, а ИИ сейчас является одной из самых острых тем в мире. Король призвал присутствовавших в зале руководителей найти способ контролировать ИИ, «пока не стало слишком поздно», добавив, что стремительное развитие этой технологии — и ее «содержание» — было «одновременно интригующим и глубоко тревожащим».

«ИИ уже демонстрирует огромный потенциал для улучшения и спасения жизней», — сказал он, приведя в качестве примера медицину и науку. «Однако те, кто создал эти технологии, все чаще предупреждают, что ИИ рискует развить более мрачные способности, возможно, вплоть до лишения жизни». Это замечание прозвучало всего через несколько дней после того, как исследователь Anthropic уволился, написав в интернете, что компании, занимающиеся ИИ, «гонятся за созданием машин, которые намного умнее любого человека», и что человечество «может этого не пережить».

Король продолжил, заявив, что необходимо срочно как следует обдумать «экзистенциальные угрозы», которые возникнут, если эта технология попадет не в те руки и будет использована «потенциально катастрофическим образом».

«Разве нам не нужны достаточные средства контроля, пока не стало слишком поздно?» — сказал он. Завершая выступление, король Карл III призвал руководителей найти способ использовать во благо возможности ИИ, а также наладить международное сотрудничество и достичь консенсуса для этого. (Это замечание прозвучало после того, как Anthropic ограничила доступ к своим моделям Fable и Mythos только для клиентов из США, шокировав европейскую технологическую отрасль и заставив многих задуматься о концепции суверенитета в сфере ИИ.)

«Стоящая перед вами задача заключается не просто в развитии технологий, а в том, чтобы они оставались на службе человечества, общества и природы», — сказал он, завершая свою речь. «Принимая новое, мы не должны утратить то, что неподвластно времени».

СМИ сообщают, что он пробыл там около 20 минут, оставив гостей обсуждать эти вопросы самостоятельно. На саммите короля OpenAI представляла финансовый директор Сара Фрайар, а Anthropic — Тино Куэльяр, возглавляющий направление глобальных связей. На просьбу прокомментировать ситуацию Куэльяр заявил, что компания рада принять участие в обсуждении и благодарна королю за «собрание лидеров отрасли и представителей различных слоев общества для обсуждения роли ИИ в служении общественному благу».

Это не первый случай, когда король Карл III говорит о вызовах и преимуществах ИИ: ранее он делал это в 2023 и 2024 годах. Однако этот саммит особенно своевременен, поскольку ИИ продолжает доминировать во всех отраслях, темах и форматах общественной дискуссии. В этом месяце Сэм Альтман из OpenAI, Илон Маск и Дарио Амодеи из Anthropic призвали замедлить развитие ИИ, однако Хуанг из Nvidia и президент Дональд Трамп быстро отвергли эти призывы. «Мы опережаем Китай в сфере ИИ, — сказал президент. — Мы самая технологически развитая страна в мире, и, честно говоря, я хочу, чтобы так и оставалось, потому что тот, кто победит в гонке ИИ, победит».

Это показывает, насколько сложным стал вопрос, поскольку интересы Big Tech, политики и общества сталкиваются. В течение последнего года OpenAI и Anthropic дразнили рынок перспективой громких IPO, однако недавно OpenAI заявила, что ее планы по выходу на биржу в этом году приостановлены, поскольку опасения по поводу безопасности ИИ сохраняются.