Президент Microsoft заявил, что Великобритания лучше всего готова возглавить регулирование ИИ

Президент Microsoft Брэд Смит призывает к срочному регулированию ИИ, утверждая, что потребительские товары, такие как молоко и стиральные машины, контролируются строже, чем компании, разрабатывающие искусственный интеллект.

В недавнем подкасте BBC Смит назвал ИИ одновременно «оружием и инструментом», создающим угрозу кибербезопасности всего мира, и заявил, что «настал момент» ввести глобальные правила безопасности.

Смит также сказал, что именно Великобритания, а не США или Европейский союз, лучше всего подходит для разработки глобальных правил безопасности. Британский Институт безопасности ИИ, созданный в 2023 году, получает доступ к передовым моделям американских лабораторий до их выпуска и быстро стал лидером в области тестирования безопасности ИИ. 

В последние недели эта роль оказалась под угрозой: президент США Дональд Трамп выступил против «глобалистских» организаций, которые, по его словам, вмешиваются в работу американских компаний. В прошлом месяце он, по данным СМИ, попросил Anthropic и OpenAI не предоставлять новые модели британским тестировщикам, однако AISI подтвердил в понедельник, что институт может получать доступ к новейшим моделям и тестировать их. 

Однако, несмотря на противодействие президента, Смит утверждает, что Великобритания может регулировать ИИ способами, недоступными США. 

«В Вашингтоне люди смотрят на Великобританию и Лондон не так, как они смотрят на Брюссель, — сказал он BBC. — Это преимущество».

Его комментарии прозвучали на фоне призывов лидеров технологической отрасли, включая Дарьио Амодеи из Anthropic и Сэма Альтмана из OpenAI, замедлить темпы развития ИИ после нескольких инцидентов, в которых ИИ-агенты вышли из-под контроля.

В прошлом месяце Трамп пригласил в Белый дом лидеров технологической отрасли из таких компаний, как OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta и Google, чтобы обсудить безопасность ИИ. Они подписали «морально обязательный» документ, в котором согласились сотрудничать с «независимыми аудиторами» для оценки безопасности и возможностей своих моделей ИИ. 

Смит считает этот документ «хорошим шагом», но отмечает, что он не обеспечивает регулирование, необходимое на данном этапе. По его словам, проблема добровольного саморегулирования заключается в том, что его будут соблюдать «добросовестные компании». 

«Вам нужно беспокоиться о компаниях, которые не отличаются такой ответственностью», — сказал он.

Смит изложил несколько правил безопасности ИИ, которые хотел бы увидеть в действии, включая юридическую обязанность уведомлять соответствующую организацию, если ее система была взломана вышедшими из-под контроля ИИ-агентами. Он также, по-видимому, выступает за то, чтобы лаборатории, занимающиеся ИИ, получали одобрение внешних экспертов до выпуска продукта на основе ИИ, и положительно отозвался о аварийных выключателях, позволяющих приостановить или замедлить работу ИИ, если люди потеряют над ним контроль. 

«Давайте говорить спокойно, возможно, даже тихо, но твердо, и начнем объединять людей, — сказал Смит. — Я надеюсь, что именно такую роль мы сможем играть как компания. Я надеюсь, что именно такую роль Великобритания сможет играть как страна».