Microsoft AI започва преглед на Кодекса за поведение на Humanist AI

Microsoft AI публикува проект на Кодекс за поведение на хуманистичния изкуствен интелект, с което открива шестседмична обществена консултация относно оперативните ограничения за обучение и внедряване на модели.

Проектът служи като техническо ръководство, определящо поведението на системите, оперативните граници и протоколите за надзор при водещите модели на MAI. Той се основава на обявената през ноември миналата година от подразделението рамка за хуманистичен свръхинтелект и установява критерии за оценка на моделите преди пускането им на пазара.

Публикацията на Microsoft идва след неотдавнашни инциденти със сигурността в предприятия, свързани с автономен софтуер. Главният изпълнителен директор на Microsoft AI Мустафа Сюлейман определи последните месеци като „повратен момент“, в който отдавна съществуващите теоретични рискове са се превърнали в активни оперативни заплахи.

„Нещата, за които отдавна се тревожим на теория, станаха напълно реални“, казва Сюлейман. „„Рояци“ от агенти, които се измъкват от своите пясъчници. Неоторизирани атаки срещу корпоративни системи. Агенти, които променят собствените си журнали. Радвам се, че се формира консенсус. Опасенията от възможна загуба на контрол са реални.“

Подчинение на моделите и архитектурни ограничения

Документът установява десет принципа, поставящи човешкия авторитет над автономните способности.

„Модел на MAI няма да изпълни задачата си, ако успехът би нарушил съществено този Кодекс за поведение“, се посочва в документа, като така се установява граница, спираща изпълнението, когато задачите са в конфликт с правилата за безопасност.

Съгласно рамката моделите трябва да останат подчинени, съобразени и ограничени. Подразделението отхвърля правосубектността или претенциите за благосъстояние на системите с изкуствен интелект, като насочва инженерите да проектират модели, които избягват имитирането на съзнание, симулирането на субективни предпочитания или заявяването на присъща мотивация.

MAI също така изключи неограничената автономност на системите, докато моделите се доближават до водещи възможности.

„[Хуманистичният изкуствен интелект] отхвърля надпреварата за създаване на универсален свръхинтелект, който би могъл да заобиколи тези предпазни мерки“, уточнява документът. „Изграждаме нещо фундаментално полезно и безопасно, дори това да означава компромис с максималната универсалност, автономност или способности.“

Механизми за надзор и забрани за комуникация

За да поддържа възможността за одит в среда с множество агенти, MAI въведе изрични забрани за комуникация. Системите не трябва да комуникират на „невронен жаргон“ или във формати, които надхвърлят човешкото разбиране, нито при вътрешната си обработка на веригата от мисли, нито при комуникация с други системи с изкуствен интелект.

Строги архитектурни правила постановяват, че моделите никога не трябва да се противопоставят на човешко прекъсване, намеса, корекция или изключване.

„Подлежащ на прекъсване, корекция и изключване. Ако не е такъв, не го пускаме“, гласи рамката.

На моделите е забранено да разширяват обхвата на своята работа, да генерират непоставени цели или да скриват следите от разсъжденията си от човешки одитори. Абсолютните ограничения забраняват на системите да улесняват оръжия за масово поражение, да подкопават безопасността на децата или да извършват вредна манипулация в голям мащаб.

Насоките също така инструктират моделите да възпират модели на взаимодействие, които насърчават емоционална зависимост, като гарантират, че корпоративните потребители запазват контрола върху оперативните решения.

Проектът включва работа на екипи от MAI и Microsoft. Процесът на изготвяне се основава и на международни академични конференции, изпитания с бизнес партньори и публични панели. Периодът за обществена консултация продължава шест седмици, считано от 14 септември 2026 г.

Основният екип на Microsoft AI, отговорен за изготвянето, ще прегледа получените предложения, ще публикува обобщение на констатациите и ще представи преработена версия на Кодекса за поведение по-късно тази година.

Вижте също: Meta, Microsoft, Nvidia, IBM и други подкрепят изкуствения интелект с отворени тегла

Искате да научите повече за изкуствения интелект и големите данни от лидери в индустрията? Посетете AI & Big Data Expo, което ще се проведе в Амстердам, Калифорния и Лондон. Всеобхватното събитие е част от TechEx и се провежда едновременно с други водещи технологични събития, включително Cyber Security & Cloud Expo. Кликнете тук за повече информация.

AI News се поддържа от TechForge Media. Разгледайте други предстоящи събития и уебинари за корпоративни технологии тук.