Как да подобрите видимостта в корпоративната си AI екосистема

Внедряването на ИИ изпревари управлението на ИИ в корпоративните среди, създавайки фундаментален проблем със сигурността. Организациите не могат да защитят това, което не виждат, а видимостта се превърна в предпоставка за всички останали контроли за сигурност на ИИ. Традиционните инструменти за мониторинг не успяват ефективно да проследяват активността на ИИ, създавайки значителни рискове, които изискват нови стратегии, за да могат екипите по сигурността да възвърнат контрола над своите ИИ екосистеми.

Нарастващата криза с видимостта на корпоративния ИИ

Разликата между внедряването на ИИ в предприятията и управлението на ИИ става все по-трудна за пренебрегване от лидерите по сигурността. Индексът на Cisco за готовност за киберсигурност за 2025 г. установи, че 60% от организациите не знаят какви конкретни заявки отправят служителите към инструментите за генеративен ИИ. Тази липса на видимост затруднява наблюдението на движението на данните, прилагането на политики и разбирането кои инструменти или агенти работят в организацията.

Проблемът е структурен, а не културен. Организациите са създали инструментите си за мониторинг така, че да проследяват традиционен софтуер, но тези системи никога не са били проектирани да откриват как ИИ се движи през мрежата. Стандартните инструменти за откриване могат да идентифицират софтуерен абонамент, но често напълно пропускат моделите на използване на ИИ.

Когато служителите заобикалят официалните канали, за да използват инструменти за ИИ, ИТ отделът губи видимостта върху това къде всъщност се изпращат чувствителните фирмени данни. Тази структурна празнина създава реален оперативен риск, тъй като данните се насочват към дестинации, които екипът по сигурността не може да наблюдава или контролира.

Разбиране на рисковете от „скрития ИИ“

„Скритият ИИ“ се отнася до служители, използващи инструменти и приложения с ИИ без изрично одобрение от организацията. Това се различава от традиционните неоторизирани ИТ решения, тъй като нелегитимните софтуерни абонаменти остават видими за стандартните инструменти за откриване по начин, по който използването на ИИ често не е. Всеки аспект на скрития ИИ има специфичен рисков профил и изисква различен тип реакция.

Неоторизирани самостоятелни инструменти

Често срещан вариант на този риск възниква, когато служител постави документ или набор от данни в публичен чатбот, за да спести време при рутинна задача. Това поведение рядко е злонамерено. То отразява нормални служители, които посягат към най-удобния наличен инструмент, а не намерение да заобикалят протоколите за сигурност.

Вградени възможности „софтуер като услуга“

Този риск се крие в инструментите, които компанията вече е одобрила, тъй като първоначалната проверка за сигурност е предхождала добавянето на функциите с ИИ към платформата. Вградените възможности се откриват по-трудно от използването на самостоятелни инструменти, защото от гледна точка на мониторинга трафикът изглежда идентичен с обичайната активност в платформата.

Автономни агенти с ИИ

Агентите предприемат действия в рамките на дадена система, вместо просто да отговарят на въпрос, което ги отличава от повечето асистенти. Надзорът изостава значително от внедряването, тъй като агентите често се създават бързо, за да решат непосредствен проблем в работния процес, без формален процес на проверка. Агент, действащ с немониториран достъп, може да засегне системи и данни със скорост, с която никой процес на човешки преглед не може да се справи, което превръща този риск в неотложен за адресиране.

Защо традиционните инструменти за сигурност се провалят

Проблемът е архитектурен, а не свързан с недостатъчни усилия или бюджет. Традиционните инструменти за сигурност са създадени да проследяват познат софтуер на очаквани места, което не съответства на начина, по който възможностите на ИИ действително се разпространяват в организацията.

Инструмент, създаден да каталогизира приложения, няма надежден начин да класифицира или контролира поведението на агент с ИИ, действащ вътре в едно от тях. Системите за мониторинг, на които разчитат повечето предприятия, просто не разполагат с рамка за улавяне на моделите на активност на ИИ, което създава пропуски във видимостта, разрастващи се с ускоряването на внедряването на ИИ.

Стратегии за защита на средата с ИИ

Организациите трябва да възприемат конкретни стратегии, за да преодолеят пропуските във видимостта и да възвърнат контрола над активността на ИИ в предприятието. Следните подходи осигуряват основата за защита на ИИ екосистемите.

Установяване на непрекъснато откриване и инвентаризация

Еднократният одит не е достатъчен, тъй като новите инструменти и функции с ИИ се добавят непрекъснато, а не по предвидим график. Екипите по сигурността трябва да прилагат същата дисциплина, използвана при облачните работни натоварвания, при която всеки актив се проследява рутинно, а не само след инцидент.

Актуалният инвентар позволява на екипите по сигурността да поддържат текуща картина, спрямо която да измерват новата активност, вместо да я възстановяват след възникването на проблем. Този непрекъснат подход гарантира, че организацията знае кои възможности на ИИ са налични в средата във всеки един момент.

Прилагане на многослойно откриване на заплахи, свързани с ИИ

Ефективната защита на ИИ изисква прилагането на ИИ към самия проблем, тъй като единствено човешкият преглед не може да се справи с обема и скоростта на задачата. Платформите, използващи усъвършенстван поведенчески анализ, могат да помогнат на екипите по сигурността да идентифицират необичайна активност на ИИ, без да разчитат единствено на познати сигнатури на атаки.

Darktrace е пример за платформа, изградена около този подход. Компанията е пионер в областта на ИИ от 2013 г., преди по-скорошната вълна от инструменти за сигурност, брандирани с ИИ. Нейната платформа използва многослоен ИИ, за да осигури видимост в локалната мрежа, облачните приложения, електронната поща, OT системите и крайните устройства.

Уникалното в този подход е, че няма отправна точка или предварителни предположения за това как изглежда една заплаха. Технологията се обучава за всяко устройство, потребител и взаимодействие, като изгражда разбиране за нормалното поведение въз основа на наблюдаваното. Това ѝ позволява да открива и свързва фини поведенчески аномалии, които показват наличие на заплаха, докато други решения за сигурност се опитват предварително да определят какво представлява заплаха въз основа на наблюдавани в миналото модели на атаки.

Прилагане на контроли за достъп с нулево доверие

На никоя система или агент не трябва да се предоставя достъп въз основа на предполагаемо доверие, а само на база проверена и конкретна необходимост. Агентите с ИИ могат да действат с данни, инструменти и приложения. Поради това всеки агент трябва да получава само минималния достъп, необходим за конкретната му задача.

Правилно ограниченият достъп намалява щетите, които неоткрита компрометация или неизправност могат да причинят. Този принцип е особено важен в средите с ИИ, където агентите работят с машинна скорост и могат да разпространят проблеми по-бързо, отколкото човешките оператори могат да реагират.

Поемане на контрола върху бъдещето на ИИ

Видимостта остава основополагащата стъпка към безопасни иновации с ИИ в предприятието. Организациите, които внедрят платформи за непрекъснато откриване и усъвършенствано откриване на заплахи, се позиционират така, че ефективно да защитят своите ИИ екосистеми. ИТ лидерите трябва да дадат приоритет на платформи, които осигуряват цялостно покритие на всички допирни точки с ИИ и използват поведенчески анализ вместо откриване, основано на сигнатури, за идентифициране на заплахи в реално време.