Распространение корпоративного ИИ опережает его видимость и контроль
Использование ИИ в компаниях развивается быстрее, чем системы управления им, создавая пробелы в безопасности. Согласно Cisco’s 2025 Cybersecurity Readiness Index, 60% организаций не знают, какие именно запросы сотрудники направляют генеративным ИИ-сервисам. Это затрудняет отслеживание перемещения данных, соблюдение политик и определение инструментов или агентов, работающих в корпоративной среде.
В статье выделены три формы «теневого ИИ»: несанкционированное применение отдельных инструментов, встроенные ИИ-функции одобренного программного обеспечения и автономные агенты, способные выполнять действия внутри систем. Традиционные средства обнаружения и мониторинга могут видеть подписку на программный продукт, но часто не распознают использование ИИ, поскольку создавались для обычных приложений и известных мест размещения. Неконтролируемый агент представляет особую опасность, поскольку может воздействовать на системы и данные с машинной скоростью.
Для сокращения пробела предлагается вести непрерывное обнаружение и актуальный реестр ИИ-возможностей, а не ограничиваться разовыми проверками. Поведенческий анализ может помогать выявлять необычную активность в сетях, облачных приложениях, электронной почте, системах операционных технологий и на конечных устройствах. Darktrace названа примером платформы с таким подходом. Также рекомендуется управление доступом по принципу нулевого доверия: каждому агенту следует предоставлять только необходимые для задачи разрешения.
Текст подготовлен ИИ Sakhanda Wire по материалу AI News. Факты, цитаты и полный контекст — в оригинальной статье ниже.