Сатя Надела: трябва да приемаме, че всички AI модели са компрометирани

Главният изпълнителен директор на Microsoft призовава за поставяне на „аварийна спирачка“ на AI.

Главният изпълнителен директор на Microsoft призовава за поставяне на „аварийна спирачка“ на AI.

В дълга публикация в X главният изпълнителен директор на Microsoft изложи вижданията си за опасностите, породени от силно усъвършенстваните AI модели, и за това как да се справим с тези рискове. Надела казва, че вече не можем да приемаме свят, в който AI се третира като „съвкупност от вложени черни кутии“, чиито съвети и действия просто приемаме или отхвърляме. Той призовава за изграждането на по-прозрачна система, в която моделите могат да бъдат изолирани и наблюдавани и която оставя след себе си „доказателства, устойчиви на подправяне и разбираеми за хората“.

Много от препоръките му съвпадат с това, което сме чули от други представители на индустрията: своевременно разкриване на инциденти, независими одити, проверими данни и изолиране. Именно по последната точка той изглежда отива малко по-далеч от някои други в областта, като казва:

Трябва да приемаме, че даден модел е компрометиран, и да го изолираме от самото начало. Мислете за това като за аварийна спирачка. Упълномощен човек винаги трябва да може да постави модела на пауза или да го изключи по средата на изпълнението на задача. По-усъвършенстваните модели ще изискват по-усъвършенствани технологии за изолиране, които трябва да стандартизираме.

За съжаление, Надела също нарича AI „свръхинтелигентност“ в цялата публикация.

• Terrence O'Brien