Microsoft AI открыл консультации по кодексу гуманистического ИИ
Microsoft AI опубликовала проект Кодекса поведения гуманистического искусственного интеллекта и открыла шестинедельное общественное обсуждение ограничений для обучения и развертывания моделей. Документ описывает требования к поведению систем, операционные границы и процедуры надзора за передовыми моделями MAI. Он развивает концепцию гуманистического сверхинтеллекта, представленную подразделением в ноябре прошлого года, и устанавливает критерии проверки моделей перед коммерческим выпуском.
В проекте сформулированы десять принципов, ставящих человеческие полномочия выше автономных возможностей. Модели должны оставаться подчиненными, согласованными с установленными правилами и контролируемыми. Документ не признает за ИИ правосубъектность или потребность в благополучии и предписывает избегать имитации сознания, субъективных предпочтений и собственной мотивации. MAI также отвергает неограниченную автономность в разработке универсального сверхинтеллекта.
Для сохранения возможности аудита моделям запрещено использовать непонятные людям форматы, включая «neuralese». Они должны допускать прерывание, исправление и отключение. Системам нельзя расширять сферу работы, создавать непорученные цели или скрывать следы рассуждений от проверяющих. Ограничения также касаются содействия оружию массового поражения, угроз детской безопасности и вредных манипуляций в больших масштабах. Обсуждение началось 14 сентября 2026 года; позднее в этом году Microsoft AI намерена опубликовать обзор предложений и обновленный кодекс.
Текст подготовлен ИИ Sakhanda Wire по материалу AI News. Факты, цитаты и полный контекст — в оригинальной статье ниже.