Microsoft AI започна консултация за правила за хуманистичен изкуствен интелект
Microsoft AI публикува проект на Кодекс за поведение на хуманистичния изкуствен интелект и започна шестседмична обществена консултация за ограниченията при обучението и внедряването на модели. Документът е замислен като техническа рамка за поведението на системите, оперативните граници и надзора над водещите модели на MAI. Той развива рамката за хуманистичен суперинтелект, обявена от подразделението през ноември миналата година, и определя критерии за оценка преди търговско пускане.
Проектът съдържа десет принципа, които поставят човешкия контрол над автономните способности. Моделите трябва да останат подчинени, съгласувани с правилата и ограничени. Документът отхвърля правосубектността и твърденията за благосъстояние на AI системите, както и проекти, имитиращи съзнание или собствена мотивация. MAI не подкрепя и неограничена автономност в стремеж към универсален суперинтелект.
За да се запази възможността за одит, моделите не трябва да използват неразбираеми за хората формати, включително „neuralese“. Те трябва да могат да бъдат прекъсвани, коригирани и изключвани. Забранени са разширяването на обхвата, създаването на непоставени цели и скриването на следи от разсъждения. Правилата ограничават съдействието за оръжия за масово поразяване, заплахи за безопасността на децата и мащабна вредна манипулация. Консултацията започна на 14 септември 2026 г., а ревизиран кодекс е планиран за по-късно през годината.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на AI News. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.