Microsoft оприлюднила кодекс поведінки для ШІ-моделей
Microsoft оприлюднила кодекс поведінки, покликаний відвести її ШІ-моделі від небезпечних дій. Документ поєднує загальні принципи з конкретними обмеженнями безпеки. Зокрема, моделі мають підтримувати людей, а не замінювати їх, і сприяти людському добробуту.
Кодекс містить прогноз, що протягом наступного десятиліття надінтелектуальні системи ШІ перевершать людей у більшості завдань. Контроль над такими системами та узгодження їхніх дій названо одним із найбільших викликів. Тому мета створення систем і спосіб їхнього контролю мають бути чітко визначені. Для кожної моделі діє загальний кодекс, який має перевагу над побажаннями окремих користувачів і конкретними завданнями.
До абсолютних заборон належать кібератаки, ядерна зброя та створення дипфейків. Моделям також не можна використовувати оманливі, адаптивні, самопідсилювальні або змовницькі механізми, щоб уникати людського нагляду чи не дозволяти уповноваженим людям і системам спрямовувати, змінювати або вимикати їх. Публікація відбулася на тлі посиленої уваги до безпеки ШІ. Генеральний директор Microsoft Сатья Наделла заявив, що компанія підтримує обережний розвиток передових систем і дослідження з вбудованими оцінювачами.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.