Когато агентите действат самостоятелно, управлението трябва да е в слоя данни

Представено от EDB

С разширяването на автономността на ИИ агентите — способността им да планират, вземат решения и действат в различни системи, без човек да одобрява всяка стъпка — един труден въпрос заема централно място във всеки архитектурен преглед: Когато един агент се опита да извърши действие, за което никога не е бил упълномощен, какво всъщност го спира?

Това са вашите агенти, работещи с вашите модели, достъпващи вашите данни във вашата инфраструктура — и отговорността за действията им е ваша. Тази отговорност не може да бъде поета със задна дата или чрез набор от абстрактни политики, които съществуват на хартия, но не и на практика. Агентите се нуждаят от правила в контекста на конкретния момент, защото сами не упражняват преценка, която да отменя действията им.

Да разгледаме едно просто правило: Никога не отваряй вратата на автомобила. Ако го следва буквално, агентът изобщо няма да може да влезе или излезе от автомобила. Но ако промените контекста (автомобилът току-що е катастрофирал, има пожар, някой е ранен и трябва да излезе), тогава действителното правило, което искате, е обратното. Контекстът в конкретния момент е всичко. Искаме от агентите да вършат интелигентни неща; това изисква интелигентни правила.

Инстинктивната реакция е да се добавят предпазни ограничения около агента: инструкции, политики и наблюдение, разположени над модела. Тези механизми са важни, но споделят структурно ограничение: Правилото за вратата на автомобила изглежда разумно чак до момента, в който действително трябва да решите дали да я отворите. Контролите на ниво агент са толкова надеждни, колкото е предвидим резултатът от агента, а автономността е именно свойството, което прави този резултат труден за предвиждане. Управлението, което зависи от преглед на дадено действие преди изпълнението му, не може да се справи с темпото на система, която действа за милисекунди в множество системи едновременно.

Управлението трябва да стане изпълнимо и да се прилага там, където агентите действително работят: на нивото на оперативните данни, в контекста и точно в момента, в който действието се извършва.

Нивото на данните е точката на прилагане

Агентите създават стойност, като взаимодействат с данни. Те ги запитват, извличат, трансформират и все по-често предприемат действия въз основа на тях. Политика, която гласи, че даден агент не трябва да получава достъп до определен клас данни, има смисъл само ако системата може да откаже този достъп в момента, в който агентът го поиска. Освен това принципът, че ИИ трябва да подлежи на одит, има смисъл само ако организацията може да възстанови какво е направил агентът, до какви данни е получил достъп, от името на кой потребител е действал и какъв е бил резултатът. Когато управлението е на нивото на данните, то се запазва независимо от това как е изграден агентът или как се държи, защото контролът е свойство на самата база данни, а не обещание, дадено от агента.

Поведението на агента може да е вероятностно. Управлението не може да бъде такова

Предприятието не трябва да разчита на това, че моделът ще избере да спазва политиката. Политиката трябва да се прилага от системата. Това е разликата между надеждата даден участник да остане в определените граници и изграждането на граници, които той изобщо не може да прекрачи.

Контролите, които правят това възможно, са такива, каквито много предприятия вече използват на нивото на данните: контрол на достъпа на базата на роли и атрибути, сигурност на ниво редове и колони, класификация и маскиране, политика като код и пълни одитни следи.

Това, което агентите променят, не е механизмът, а това кого механизмът трябва да разпознава. Управлението на идентичностите трябва да третира агента като самостоятелен принципал, със собствена идентичност и с декларирана цел, зададена при отварянето на сесията.

След като целта бъде обвързана с идентичността, механизмът за политики може да я оценява по същия начин, по който днес оценява роля или отдел, а записът на случилото се може да съхранява не само кой е действал и до какво е получил достъп, но и какво е заявил, че е дошъл да направи.

На практика това се свежда до девет контрола, обединени около три императива:

Прилагайте го

• Контрол на достъпа на базата на роли и атрибути, прилаган при изпълнение на заявката както за агентите, така и за потребителите

• Динамично маскиране на колони, управлявано от същия път за прилагане на политиките

• Идентичност на агента като пълноправен принципал, с декларирана цел, обвързана при стартирането на сесията, и запазване на идентичността на действащия потребител

Виждайте го и го доказвайте

• Класификация и маркиране, които управляват политиките

• Одитно журнализиране на ниво сесия, което записва кой агент е действал, за кой потребител и с каква декларирана цел

• Проследимост по цялата линия на данните в рамките на конвейерите, така че резултатът да може да бъде проследен обратно до заявката, която го е породила

Унифицирайте и укрепете

• Централизирано, преносимо управление на политиките

• Шифроване на данните в покой и при пренос

• Последователно прилагане в локални, облачни и суверенни или изолирани среди

„Декларираната цел е това, което прави разликата. Тя се превръща в атрибут, който слоят за достъп вече разбира, и се оценява по същия път за политики като ролята и сигурността на ниво редове. Механизмът за прилагане не се променя. Променя се това, че целта на агента е част от оценяваните параметри и от доказателствата, които записът предоставя впоследствие“, казва Приянка Джайн, вицепрезидент „Продуктово управление, управление на данни и ИИ“ в EDB.

Независимо докъде сте стигнали по пътя към внедряването на ИИ, прилагането на ниво данни е това, което ви позволява да се движите по-бързо, а не по-бавно. Контролите вече са в базата данни. Разликата е, че сега агентите трябва да преминават през тях.

Дигитална каишка, а не заключена врата

Целта не е да се попречи на агентите да вършат полезна работа. Тя е да се определи докъде може да стигне даден агент, до какво може да получи достъп, какво може да променя, какво изисква ескалация и как организацията може да възстанови събитията, ако нещо се обърка. Когато са управлявани по този начин, агентите са идентифицирани, обхватът им е определен, наблюдават се и подлежат на одит. Предприятието може да ги възприеме по-бързо, защото екипите по сигурността, риска и ръководството имат доверие в операционния модел, който стои в основата им.

Отворени, суверенни и с прилагане при източника

Изградена върху Postgres с отворен код, тази отворена основа запазва контрола на предприятията върху това къде се намират данните им, кой може да получи достъп до тях и при каква политика, без да прехвърля управлението към слой, който не притежават или не могат да проверяват. За регулираните отрасли тази комбинация от суверенитет на данните и прилагане на ниво източник не е просто желателна; тя е предварително условие за реалното внедряване на агенти в продукционна среда.

Агентните системи ще продължат да стават все по-способни и автономни. Това е причина да подходим обмислено към мястото, където се осъществява контролът, а не причина да забавяме темпото. Предприятията, които прилагат управлението на ниво данни, могат да напредват агресивно с ИИ, защото защитата на данните им се основава на нещо повече от пожелателно мислене.

EDB Postgres AI е отворена суверенна платформа за данни и ИИ от корпоративен клас, която обединява транзакционни, аналитични и ИИ натоварвания — с управление, прилагано там, където се намират данните. За пълната рамка вижте техническия документ на EDB Управление на агентния ИИ с корпоративна скорост.

Макс Романенко е главен технологичен директор в EDB.

Спонсорираните статии са съдържание, създадено от компания, която плаща за публикацията или има бизнес отношения с VentureBeat, и винаги са ясно обозначени. За повече информация се свържете с sales@venturebeat.com.