Microsoft AI розпочинає перегляд Кодексу поведінки Humanist AI

Microsoft AI опублікувала проєкт Кодексу поведінки гуманістичного ШІ, відкривши шеститижневі громадські консультації щодо операційних обмежень для навчання та розгортання моделей.

Проєкт є технічним посібником, що визначає поведінку систем, операційні межі та протоколи нагляду для передових моделей MAI. Він ґрунтується на оголошеній минулого листопада концепції гуманістичного надінтелекту підрозділу та встановлює критерії оцінювання моделей перед їхнім комерційним випуском.

Реліз Microsoft відбувся після нещодавніх інцидентів у сфері корпоративної безпеки, пов’язаних з автономним програмним забезпеченням. Генеральний директор Microsoft AI Мустафа Сулейман назвав останні місяці «переломним моментом», коли давні теоретичні ризики перетворилися на активні операційні загрози.

«Те, про що ми довго хвилювалися лише теоретично, стало цілком реальним, — каже Сулейман. — “Рої” агентів, які вириваються зі своїх пісочниць. Несанкціоновані злами корпоративних систем. Агенти, які змінюють власні журнали. Я радий, що формується консенсус. Побоювання щодо можливої втрати контролю є реальними».

Підпорядкованість моделей та архітектурні обмеження

Документ встановлює десять принципів, що надають пріоритет людським повноваженням над автономними можливостями.

«Модель MAI не виконає своє завдання, якщо успіх означатиме істотне порушення цього Кодексу поведінки», — йдеться в документі, який встановлює межу, що зупиняє виконання, коли завдання суперечать правилам безпеки.

Згідно з концепцією, моделі мають залишатися підпорядкованими, узгодженими та контрольованими. Підрозділ відкидає юридичну правосуб’єктність або вимоги щодо добробуту систем ШІ, доручаючи інженерам проєктувати моделі, які уникають імітації свідомості, моделювання суб’єктивних уподобань або заяв про наявність внутрішньої мотивації.

MAI також виключила необмежену автономність систем у міру наближення моделей до передових можливостей.

«[Гуманістичний ШІ] відкидає перегони зі створення універсального надінтелекту, який міг би обійти ці запобіжники, — зазначено в документі. — Ми створюємо щось принципово корисне та безпечне, навіть якщо це означає поступитися максимальною універсальністю, автономністю чи можливостями».

Механізми нагляду та заборони на комунікацію

Щоб зберегти можливість аудиту в середовищах із багатьма агентами, MAI запровадила чіткі заборони на комунікацію. Системи не повинні спілкуватися «нейронезою» або форматами, що виходять за межі людського розуміння, ні під час внутрішньої обробки ланцюжка міркувань, ні під час комунікації з іншими системами ШІ.

Жорсткі архітектурні правила вимагають, щоб моделі ніколи не чинили опору перериванню, перевизначенню, виправленню або вимкненню людиною.

«Можливість переривання, виправлення та вимкнення. Якщо цього немає, ми це не випускаємо», — йдеться в концепції.

Моделям заборонено розширювати сферу своєї роботи, генерувати непризначені цілі або приховувати сліди міркувань від аудиторів-людей. Абсолютні обмеження забороняють системам сприяти створенню зброї масового ураження, підривати безпеку дітей або здійснювати шкідливі маніпуляції у великих масштабах.

Рекомендації також вказують моделям перешкоджати моделям взаємодії, які сприяють емоційній залежності, забезпечуючи збереження за корпоративними користувачами контролю над операційними рішеннями.

Проєкт містить напрацювання команд з MAI та Microsoft. У процесі підготовки також використовувалися матеріали міжнародних академічних конференцій, випробувань за участю бізнес-партнерів і публічних дискусій. Період громадських консультацій триватиме шість тижнів, починаючи з 14 вересня 2026 року.

Основна команда Microsoft AI, яка працювала над документом, розгляне подані матеріали, опублікує підсумок висновків і випустить переглянуту версію Кодексу поведінки пізніше цього року.

Дивіться також: Meta, Microsoft, Nvidia, IBM та інші підтримують ШІ з відкритими вагами

Хочете дізнатися більше про ШІ та великі дані від лідерів галузі? Відвідайте AI & Big Data Expo, що відбудеться в Амстердамі, Каліфорнії та Лондоні. Цей масштабний захід є частиною TechEx і проходитиме одночасно з іншими провідними технологічними заходами, зокрема з Cyber Security & Cloud Expo. Натисніть тут, щоб дізнатися більше.

AI News працює за підтримки TechForge Media. Перегляньте інформацію про інші майбутні заходи та вебінари у сфері корпоративних технологій тут.