Истинският риск за корпоративния AI не са автономните агенти. А сложността между тях.

Представено от Gravitee

Сложността на агентите е коварната сянка, която в момента се спотайва в предприятията и върху която трябва да бъде хвърлена светлина.

Причината е, че предприятията не внедряват един-единствен агент и не наблюдават работата му. Те внедряват цели флотилии, като всеки агент извиква API, извиква други агенти и се свързва с приложения, които никога не са били създадени с машинен вземащ решения предвид. Това е сценарият на провала, който трябва да ви държи будни нощем: разклонена, сложна система, която никой не може да види достатъчно ясно, за да я управлява. Но защо нещата стават непрозрачни толкова бързо?

Добавете втори агент към една система и сте добавили една връзка. Добавете десети и не сте добавили десет връзки, а потенциално десетки, защото сега всеки агент може да извика всеки друг, а всяко от тези извиквания може да задейства друго извикване някъде другаде. Сложността не нараства постепенно с броя на агентите. Тя се натрупва спрямо броя на пътищата между агентите, а никой не е отговорен за начертаването на тази графика. Заявка към екипа за поддръжка, която преди е засягала една система, сега може да премине през четири агента, преди човек изобщо да я види, и всяко от тези предавания е точка за вземане на решение, която никой не е одобрил.

Повечето корпоративни програми за изкуствен интелект забуксуват, когато хората, отговорни за агентите, изгубят нишката. Задайте на екип по сигурността един прост въпрос: кои агенти до кои системи имат достъп, и наблюдавайте тишината. Попитайте кой агент е задействал дадено последващо действие преди три стъпки. Още тишина.

Инстинктът е това да се третира като контролен списък. Одобрявате агента. Регистрирате агента. Продължавате нататък. Бих казал, че това е погрешният инстинкт. Контролният списък проверява един момент във времето. Сложността се простира по цяла верига, а не можете да управлявате верига с куп еднократни одобрения, както не можете да обявите диета за успешна, защото веднъж сте яли зеленчук.

И така, къде всъщност се разпада всичко?

Първо започва разрастването на разрешенията. Някой създава агент, който да обобщава заявки към екипа за поддръжка, предоставя му широк достъп до API, защото правилното му ограничаване би отнело още един спринт, и забравя за него. Шест месеца по-късно същият агент вече има път към платежната система. Никой не помни да е одобрявал това. Никой не го е правил.

А отговорността намалява, колкото по-надалеч се простира веригата. Пет агента участват в един работен процес, нещо се поврежда на четвъртата стъпка и сега трябва да попитате кой носи отговорност за връзка, която никога не е била възложена на никого, защото организационната схема е стигнала до „внедри агента“, но никога не е достигнала до „посочи човека, който отговаря за него“.

Това е история за инфраструктура за управление, която не е настигнала начина, по който агентите действително се държат: взаимосвързани, каскадни и умножаващи се по-бързо от процесите, създадени за проследяването им.

Поправянето на този клъстер започва с идентичността. Всеки агент трябва да съществува като самостоятелна единица, а не като скрито разрешение, заимствано от този, който го е внедрил. Собствено име в регистъра. Собствени ограничени правомощия. Посочен човешки спонсор, който да отговаря за действията му. Тази част е необходима.

Но далеч не е достатъчна.

По-трудната част е надзорът, който обхваща цялата верига, а не само всяка отделна връзка в нея. Трябва да виждате какво е направил агентът, какво е задействал по веригата и къде завършва тази следа в реално време, а не в доклад, който някой съставя веднъж на тримесечие. Направете правилно идентичността на ниво агент и спрете дотам — и ще се окажете с архивен шкаф, пълен с перфектно документирани агенти, работещи в система, която никой всъщност не може да обясни.

А сам по себе си надзорът само ви казва какво вече се е случило. Наблюдението на една верига не е същото като контролирането ѝ. Прилагането на правилата е частта, която повечето програми пропускат: възможността да спрете повикване, което не отговаря на политиките, преди да бъде изпълнено, а не просто да го регистрирате, за да го открие някой при проверка три седмици по-късно. Табло, което ви показва, че преди пет минути агент е надхвърлил обхвата си, е инструмент за мониторинг. Система, която предотвратява нарушението още преди да се случи, е управление. Предприятията, които са сериозни по отношение на отговорността на агентите, се нуждаят и от двете, а повечето са изградили само първото.

Всички се движим с шеметна скорост, за да сме сигурни, че няма да останем назад в надпреварата, в която се оказахме, и всички сме твърде наясно, че забавянето си има цена. Всяко предприятие, което се отнася сериозно към агентния изкуствен интелект, в крайна сметка се сблъсква със стената на сложността. Онези, които я преодоляват, са изградили достатъчно видимост и отговорност, така че флотилията им да продължи да расте, без никой да губи способността да отговори на един въпрос: какво прави тази система в момента и кой носи отговорност за нея.

Но не пропускайте същината. Сложността не е причина да натиснем спирачките. Предприятията, които правят това правилно, не забавят темпото. Те се стремят към Хармония между хора и агенти, при която мащабът и отговорността растат заедно, вместо да се противопоставят.

Истинският риск никога не е бил един-единствен агент да прави точно това, за което е създаден. Рискът е сто от тях да правят точно това едновременно и да взаимодействат в комбинации, за които никой не е проектирал системата. Именно това умножаване държи корпоративния изкуствен интелект вечно на етап пилотни проекти, вместо да го превърне в реално работещо производство.

Решете проблема със сложността и автономността ще престане да бъде злодеят. Тя ще се превърне в самата цел.

Рори Блъндъл е главен изпълнителен директор на Gravitee.

Спонсорираните статии са съдържание, създадено от компания, която или плаща за публикацията, или има бизнес отношения с VentureBeat, и винаги са ясно обозначени. За повече информация се свържете с sales@venturebeat.com.