Microsoft публикува кодекс за поведение на AI моделите
Microsoft публикува кодекс за поведение, предназначен да насочва нейните AI модели далеч от опасни действия. Документът съчетава общи принципи с конкретни ограничения за безопасност. Сред принципите е изискването моделите да подпомагат хората, а не да ги заменят, както и да допринасят за човешкото благополучие.
В кодекса се посочва прогноза, че през следващото десетилетие свръхинтелигентни AI системи може да надминат хората в повечето задачи. Контролът и съгласуването на такива системи са описани като голямо предизвикателство, което изисква ясни цели и ограничения. За всеки модел важи общ кодекс, който има предимство пред предпочитанията на отделните потребители и пред конкретни задачи.
Сред абсолютните забрани са кибератаки, ядрени оръжия и създаване на дийпфейкове. Моделите не трябва и да използват измамни, адаптивни, самоподсилващи се или координирани механизми, за да избегнат човешки надзор или да попречат на упълномощени хора и системи да ги насочват, променят или изключват. Публикацията идва на фона на засилен интерес към безопасността на AI. Главният изпълнителен директор Сатя Надела заяви, че Microsoft подкрепя внимателното развитие на водещите AI системи и изследванията с вградени оценители.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.