Коли агенти діють самостійно, управління має бути на рівні даних

Представлено EDB

У міру того як підприємства надають AI-агентам більше автономності — здатності планувати, ухвалювати рішення та діяти в різних системах без схвалення людиною кожного кроку, — у центрі кожного архітектурного огляду постає складне питання: коли агент намагається виконати дію, на яку він ніколи не отримував дозволу, що насправді його зупиняє?

Це ваші агенти, що працюють на ваших моделях, взаємодіють із вашими даними у вашій інфраструктурі, — і відповідальність за їхні дії лежить на вас. Цю відповідальність не можна забезпечити постфактум або набором абстрактних політик, які існують на папері, але не на практиці. Агентам потрібні правила в контексті конкретного моменту, адже вони не здійснюють незалежного наглядового оцінювання власних дій.

Розгляньмо просте правило: ніколи не відчиняй двері автомобіля. Якщо дотримуватися його буквально, агент взагалі не зможе сісти в автомобіль або вийти з нього. Але якщо змінити контекст (автомобіль щойно потрапив в аварію, виникла пожежа, хтось травмований і йому потрібно вибратися), тоді потрібне вам правило буде протилежним. Контекст конкретного моменту — це все. Ми просимо агентів виконувати розумні дії, а для цього потрібні розумні правила.

Інстинктивна реакція — встановити навколо агента запобіжники: інструкції, політики та моніторинг, нашаровані над моделлю. Ці механізми важливі, але вони мають спільне структурне обмеження: правило про двері автомобіля здається цілком логічним, аж доки не настає момент, коли потрібно вирішити, чи відчиняти двері. Засоби контролю на рівні агента надійні лише настільки, наскільки передбачуваним є результат роботи агента, а автономність — це саме та властивість, яка ускладнює прогнозування цього результату. Управління, що залежить від перевірки дії до її виконання, не може встигати за системою, яка діє за мілісекунди одразу в багатьох системах.

Управління має стати виконуваним і забезпечуватися там, де агенти фактично виконують свою роботу: на рівні операційних даних, у контексті та саме в момент, коли це відбувається.

Рівень даних — це точка забезпечення контролю

Агенти створюють цінність, взаємодіючи з даними. Вони запитують їх, отримують, трансформують і дедалі частіше виконують на їхній основі дії. Політика, яка забороняє агенту доступ до певного класу даних, має сенс лише тоді, коли система може відмовити в доступі саме в момент запиту агента. Крім того, принцип, згідно з яким AI має бути придатним до аудиту, має сенс лише тоді, коли організація може відтворити, що саме зробив агент, яких даних він торкнувся, від імені якого користувача діяв і яким був результат. Коли управління реалізується на рівні даних, воно діє незалежно від того, як було створено агента або як він поводиться, оскільки контроль є властивістю самої бази даних, а не обіцянкою, яку дає агент.

Поведінка агента може бути ймовірнісною. Управління — ні

Підприємство не має покладатися на те, що модель вирішить дотримуватися політики. Політика має забезпечуватися системою. Це різниця між надією, що учасник не вийде за встановлені межі, та створенням меж, які він від початку не може перетнути.

Засоби контролю, які роблять це реальністю, — це те, що багато підприємств уже використовують на рівні даних: керування доступом на основі ролей і атрибутів, безпека на рівні рядків і стовпців, класифікація та маскування, політики як код і повні журнали аудиту.

Агенти змінюють не механізм, а того, кого цей механізм має розпізнавати. Керування ідентифікацією має розглядати агента як повноцінний суб’єкт із власною ідентичністю та метою, заявленою під час відкриття сеансу.

Коли мету пов’язано з ідентичністю, механізм політик може оцінювати її так само, як сьогодні оцінює роль або підрозділ, а запис того, що сталося, може фіксувати не лише те, хто діяв і до чого отримав доступ, а й те, що саме він заявив як мету свого перебування в системі.

На практиці це зводиться до дев’яти засобів контролю, об’єднаних навколо трьох імперативів:

Забезпечуйте виконання

• Керування доступом на основі ролей і атрибутів, що застосовується під час виконання запиту як для агентів, так і для користувачів

• Динамічне маскування стовпців, що здійснюється через той самий шлях політик

• Ідентичність агента як повноцінного суб’єкта з оголошеною метою, прив’язаною на початку сеансу, і збереженням ідентичності користувача, від імені якого виконується дія

Бачте й доводьте

• Класифікація та тегування, що визначають політику

• Аудит на рівні сеансу, який фіксує, який агент діяв, для якого користувача та з якою заявленою метою

• Відстеження походження даних у різних конвеєрах, щоб результат можна було простежити до запиту, який його породив

Уніфікуйте й посилюйте

• Централізоване, портативне керування політиками

• Шифрування даних у стані спокою та під час передавання

• Послідовне забезпечення контролю в локальних, хмарних, суверенних середовищах і середовищах з ізольованою мережею

«Саме заявлена мета має вирішальне значення. Вона стає атрибутом, який уже розуміє рівень доступу, і оцінюється тим самим шляхом політик, що й роль та безпека на рівні рядків. Механізм забезпечення контролю не змінюється. Змінюється те, що мета агента стає частиною того, що він оцінює, і частиною того, що запис згодом доводить», — зазначає Пріянка Джейн, віцепрезидентка з управління продуктами, даними та AI, EDB.

На якому б етапі впровадження AI ви не перебували, забезпечення контролю на рівні даних дає змогу рухатися швидше, а не повільніше. Усі необхідні засоби контролю вже є в базі даних. Відмінність полягає в тому, що тепер агенти мають пройти через них.

Цифровий повідець, а не замкнені двері

Мета не в тому, щоб завадити агентам виконувати корисну роботу. Мета — визначити, як далеко може зайти агент, до чого він може отримати доступ, що може змінити, які дії потребують ескалації та як організація може відтворити перебіг подій, якщо щось піде не так. За такого підходу агенти ідентифіковані, їхні межі визначені, вони перебувають під моніторингом і придатні до аудиту. Підприємство може впроваджувати їх швидше, оскільки команди безпеки, управління ризиками та керівництво довіряють операційній моделі, що лежить в основі.

Відкритий, суверенний і контрольований на рівні джерела

Створена на основі відкритого Postgres, ця відкрита платформа дає підприємствам змогу контролювати, де зберігаються їхні дані, хто може отримати до них доступ і відповідно до якої політики, не передаючи управління рівню, яким вони не володіють або який не можуть перевірити. Для регульованих галузей поєднання суверенності даних і забезпечення контролю на рівні джерела — не просто бажана перевага; це передумова для самого запуску агентів у промислову експлуатацію.

Агентні системи й надалі ставатимуть потужнішими та автономнішими. Це привід свідомо визначити, де має здійснюватися контроль, а не причина сповільнюватися. Підприємства, які забезпечують управління на рівні даних, можуть рішуче розвивати AI, оскільки їхні дані захищає не просто видавання бажаного за дійсне.

EDB Postgres AI — це відкрита суверенна платформа корпоративного рівня для роботи з даними та AI, яка об’єднує транзакційні, аналітичні навантаження та навантаження AI, забезпечуючи управління там, де зберігаються дані. Повний опис підходу дивіться в офіційному документі EDB «Управління агентним AI з корпоративною швидкістю».

Макс Романенко — технічний директор EDB.

Спонсорські статті — це матеріали, створені компанією, яка або оплачує публікацію, або має ділові відносини з VentureBeat; вони завжди чітко позначені. За додатковою інформацією звертайтеся до sales@venturebeat.com.