Сатья Наделла: следует исходить из того, что все модели ИИ скомпрометированы

Генеральный директор Microsoft призывает установить для ИИ «аварийный тормоз».

Генеральный директор Microsoft призывает установить для ИИ «аварийный тормоз».

В обширной публикации на X генеральный директор Microsoft изложил свои взгляды на опасности, которые несут в себе высокоразвитые модели ИИ, и на то, как противостоять этим рискам. Наделла говорит, что мы больше не можем мириться с миром, в котором ИИ рассматривается как «набор вложенных друг в друга чёрных ящиков», чьи советы и действия мы просто принимаем или отвергаем. Он призывает создать более прозрачную систему, в которой модели можно изолировать и наблюдать за ними, а после их работы остаются «защищённые от вмешательства свидетельства, понятные человеку».

Многие его рекомендации соответствуют тому, что мы слышали от других представителей отрасли: своевременное раскрытие информации об инцидентах, независимый аудит, проверяемые данные и изоляция. Именно в последнем пункте он, похоже, идёт немного дальше некоторых других специалистов в этой области, заявляя:

Мы должны исходить из того, что модель скомпрометирована, и с самого начала содержать её в изоляции. Представьте, что это аварийный тормоз. У уполномоченного лица всегда должна быть возможность поставить модель на паузу или отключить её прямо во время выполнения задачи. Для более продвинутых моделей потребуются более совершенные технологии изоляции, которые нам необходимо стандартизировать.

К сожалению, на протяжении всей публикации Наделла также называет ИИ «сверхинтеллектом».

• Терренс О'Брайен