Използването на корпоративен AI изпреварва видимостта и управлението
Използването на AI в предприятията се разраства по-бързо от управлението му, което създава пропуски в сигурността. Според Cisco’s 2025 Cybersecurity Readiness Index 60% от организациите не знаят какви конкретни заявки отправят служителите им към генеративни AI инструменти. Това затруднява проследяването на данните, прилагането на политики и установяването на инструментите и агентите, работещи в средата.
Статията разглежда три форми на „скрит AI“: неразрешено използване на самостоятелни инструменти, AI функции в одобрен софтуер и автономни агенти, които могат да действат в системи. Традиционните инструменти за откриване и наблюдение често засичат абонамента за софтуер, но пропускат AI активността, тъй като са създадени за конвенционални приложения. Неконтролираните агенти са особен риск, защото могат да въздействат върху системи и данни с машинна скорост.
Препоръчва се постоянно откриване и поддържане на актуален регистър на AI възможностите вместо периодични одити. Анализът на поведението може да помага за откриване на необичайна активност в мрежи, облачни приложения, електронна поща, оперативни технологии и крайни устройства. Darktrace е посочена като пример за такава платформа. Статията препоръчва и контрол на достъпа по принципите на нулевото доверие, така че всеки агент да получава само необходимите му права.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на AI News. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.