Робочі процеси з ШІ показують важливість відстеження даних

Торговий представник просить ШІ-агента знайти ціни для клієнта. Агент поєднує дані із систем із обмеженим доступом до цін, внутрішніх повідомлень і архівних пропозицій. Результат здається точним, тому інший агент використовує його для підготовки пропозиції. Людина не перевіряє жоден із цих етапів. Згодом виявляється, що документ містить несанкціоновану, конфіденційну та чутливу інформацію, але організація не може визначити, де саме проблемні дані потрапили в процес і як поширилися між системами, файлами та агентами.

У матеріалі цей приклад подано як свідчення того, що управління ШІ має охоплювати дані, які постійно надходять, копіюються, узагальнюються, перетворюються, використовуються повторно й поширюються в нових формах. Автори зазначають, що традиційних підходів, зосереджених лише на застосунках, системах, мережах або кінцевих пристроях, недостатньо для агентного ШІ. Організаціям, за їхньою оцінкою, потрібно відстежувати походження та рух даних, щоб забезпечувати управління, підзвітність і довіру в людських, агентних і гібридних процесах.

Матеріал підготувала Insights, підрозділ MIT Technology Review, що створює замовний контент, а не редакція видання. Дослідження й текст виконали люди; будь-які використані інструменти ШІ застосовувалися лише під час виробництва та під наглядом людей.