Сатья Надела от Microsoft: AI моделите се нуждаят от „аварийна спирачка“

Главният изпълнителен директор на Microsoft Сатя Надела е поредният технологичен ръководител, който споделя подробни разсъждения за това как може да бъде подобрена безопасността на ИИ.

В публикация в X в събота сутринта Надела написа, че е време „да направим крачка назад и да оценим архитектурата на доверието“ в ИИ.

„Не можем да разглеждаме Свръхразума като съвкупност от вложени черни кутии и просто да приемаме или отхвърляме неговите препоръки, отговори и действия“, написа Надела, използвайки предпочитания от администрацията на Тръмп термин за ИИ. 

Както обясни Надела, този подход „означава да отделим модела от средата, която координира работата му“, както и „да изнесем контролите и защитните механизми извън него“. Той също така призова „всяко съществено действие на модела“ да бъде документирано с „доказателства, които са защитени от подправяне и разбираеми за хората“, както и да има системи, при които „упълномощено лице“ винаги може „да постави модела на пауза или да го изключи по време на изпълнение на задача“.

„Трябва да приемем, че моделът е компрометиран, и да го ограничим още от самото начало“, каза той. „Мислете за това като за аварийна спирачка.“

Коментарите на Надела идват в момент, когато водещи компании за ИИ признават все повече инциденти, при които изглежда са загубили контрол над своите модели, както и след като главният изпълнителен директор на Anthropic Дарио Амодей публикува план за по-предпазливо развитие на ИИ.