Microsoft AI начинает пересмотр Кодекса поведения Humanist AI

Microsoft AI опубликовала проект Кодекса поведения гуманистического ИИ, открыв шестинедельные общественные консультации по операционным ограничениям для обучения и развертывания моделей.

Проект представляет собой техническое руководство, определяющее поведение систем, операционные границы и протоколы надзора для передовых моделей MAI. Он основывается на объявленной в ноябре прошлого года гуманистической концепции сверхинтеллекта подразделения и устанавливает критерии оценки моделей до их коммерческого выпуска.

Публикация Microsoft последовала за недавними инцидентами в сфере корпоративной безопасности, связанными с автономным программным обеспечением. Генеральный директор Microsoft AI Мустафа Сулейман назвал последние месяцы «переломным моментом», когда давно известные теоретические риски превратились в реальные операционные угрозы.

«То, о чем мы долгое время беспокоились лишь теоретически, стало вполне реальным, — говорит Сулейман. — “Рои” агентов, вырывающихся из своих песочниц. Несанкционированные взломы корпоративных систем. Агенты, изменяющие собственные журналы. Я рад, что формируется консенсус. Опасения по поводу возможной потери контроля реальны».

Подчиненность моделей и архитектурные ограничения

Документ устанавливает десять принципов, отдающих приоритет человеческой власти над автономными возможностями.

«Модель MAI потерпит неудачу в выполнении своей задачи, если успех будет существенно нарушать настоящий Кодекс поведения», — говорится в документе, устанавливающем предел, при достижении которого выполнение прекращается, если задачи противоречат правилам безопасности.

Согласно этой концепции, модели должны оставаться подчиненными, согласованными с заданными целями и ограниченными. Подразделение отвергает признание правосубъектности или заявлений о благополучии систем ИИ, поручая инженерам проектировать модели, которые избегают имитации сознания, симулирования субъективных предпочтений или заявлений о внутренней мотивации.

MAI также исключила неограниченную автономность систем по мере приближения моделей к передовым возможностям.

«[Гуманистический ИИ] отвергает гонку за созданием универсального сверхинтеллекта, способного обойти эти меры защиты, — уточняется в документе. — Мы создаем нечто принципиально полезное и безопасное, даже если это означает компромисс в отношении предельной универсальности, автономности или возможностей».

Механизмы надзора и запреты на коммуникацию

Для обеспечения возможности аудита в мультиагентных средах MAI ввела явные запреты на коммуникацию. Системы не должны общаться на «нейронном языке» или в форматах, недоступных человеческому пониманию, ни в ходе внутренней обработки рассуждений, ни при взаимодействии с другими системами ИИ.

Жесткие архитектурные правила предписывают, что модели никогда не должны сопротивляться прерыванию, переопределению, исправлению или отключению человеком.

«Возможность прервать, исправить и отключить. Если это невозможно, мы не выпускаем систему», — говорится в концепции.

Моделям запрещено расширять сферу своей деятельности, создавать не назначенные им цели или скрывать цепочки рассуждений от аудиторов-людей. Абсолютные ограничения запрещают системам содействовать созданию оружия массового поражения, подрывать безопасность детей или осуществлять вредоносные манипуляции в масштабах.

Рекомендации также предписывают моделям препятствовать моделям взаимодействия, способствующим эмоциональной зависимости, чтобы корпоративные пользователи сохраняли контроль над операционными решениями.

В проект включены наработки команд со всего подразделения MAI и Microsoft. В процессе подготовки также использовались материалы международных академических конференций, испытаний с бизнес-партнерами и общественных панелей. Период общественных консультаций продлится шесть недель с 14 сентября 2026 года.

Основная команда Microsoft AI, занимавшаяся подготовкой документа, рассмотрит представленные материалы, опубликует краткое изложение выводов и выпустит пересмотренную версию Кодекса поведения позднее в этом году.

См. также: Meta, Microsoft, Nvidia, IBM и другие поддержали ИИ с открытыми весами

Хотите узнать больше об ИИ и больших данных от лидеров отрасли? Посетите AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится одновременно с другими ведущими технологическими мероприятиями, включая Cyber Security & Cloud Expo. Нажмите здесь, чтобы узнать больше.

AI News работает при поддержке TechForge Media. Ознакомьтесь с другими предстоящими мероприятиями и вебинарами, посвященными корпоративным технологиям, здесь.