Работните процеси с AI показват нуждата от проследимост на данните

Търговски представител иска от AI агент информация за цени за клиент. Агентът събира данни от ограничени ценови системи, вътрешна комуникация и архивирани оферти. Резултатът изглежда точен и втори агент го използва, за да изготви предложение. Между двете предавания няма човешка проверка. По-късно се установява, че документът съдържа неодобрена, поверителна и чувствителна информация, но организацията не може да проследи откъде тя е попаднала в процеса или как се е разпространила между системи, файлове и агенти.

Според материала този сценарий показва, че управлението на AI трябва да обхваща данни, които постоянно се приемат, копират, обобщават, преобразуват, използват повторно и разпространяват в нови форми. В текста се посочва, че традиционните подходи, насочени само към приложения, системи, мрежи или крайни устройства, вече не са достатъчни за агентен AI. Необходимо е проследяване на произхода и движението на данните, за да се поддържат управлението, отчетността и доверието в човешки, агентни и комбинирани процеси.

Материалът е създаден от Insights, звеното за поръчково съдържание на MIT Technology Review, а не от редакционния му екип. Проучването и текстът са дело на хора; евентуално използваните AI инструменти са били ограничени до производствени дейности под човешки надзор.