Sakhanda Wire
NVDA $152.18 -2.54% MSFT $505.66 -2.38% GOOGL $279.68 -1.43% META $617.65 -1.40% AMZN $256.02 -0.67%
← К новостям

Microsoft выпустила кодекс поведения для ИИ-моделей

Microsoft опубликовала кодекс поведения, призванный направлять ее ИИ-модели и не допускать опасных действий. В документе объединены общие принципы и конкретные ограничения безопасности. В частности, модели должны помогать людям, а не заменять их, и способствовать улучшению человеческого благополучия.

Кодекс исходит из прогноза, что в течение следующего десятилетия сверхинтеллектуальные ИИ-системы превзойдут людей в большинстве задач. Контроль и согласование таких систем названы одним из крупнейших вызовов, поэтому их назначение и пределы управления должны быть четко определены. Для каждой модели действует общий кодекс, имеющий приоритет над предпочтениями отдельных пользователей и над конкретными заданиями.

К абсолютным запретам отнесены кибератаки, ядерное оружие и создание дипфейков. Моделям также запрещено применять обманные, адаптивные, самоподдерживающиеся или сговорные механизмы, чтобы обходить человеческий надзор либо не позволять уполномоченным людям и системам направлять их, изменять или отключать. Публикация состоялась на фоне усиления внимания к безопасности ИИ. Генеральный директор Microsoft Сатья Наделла заявил, что компания поддерживает осмотрительное развитие передовых систем и исследования с использованием встроенных оценщиков.

Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием TechCrunch

Читать оригинал на TechCrunch ↗

Репортаж и изображение принадлежат TechCrunch и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости