AIR привлекает $50 млн., чтобы помочь компаниям проверять навыки и дополнения, используемые ИИ-агентами

По мере того как компании начинают предоставлять ИИ-агентам доступ к все большей части своих систем, вокруг новых инструментов, которыми пользуются ИИ-агенты, по-видимому, формируется зарождающаяся цепочка поставок программного обеспечения: навыки, плагины, MCP-серверы и дополнения, позволяющие им взаимодействовать с интернетом.

Стартап в сфере безопасности ИИ AIR считает, что компаниям потребуется способ отслеживать эту цепочку поставок, и теперь выходит из режима скрытности, привлекая $50 млн в рамках двух посевных раундов для создания такого продукта.

Основанная Яиром Сабаном (генеральный директор) и Нивом Хоффманом (технический директор), ветеранами израильского разведывательного корпуса 8200, где они занимались наступательной кибербезопасностью, AIR предлагает платформу, которая может обнаруживать агентов, работающих внутри компаний, непрерывно проверять любые навыки, инструменты и компоненты, используемые этими агентами, а также блокировать им взаимодействие с программным обеспечением или внешними источниками, не соответствующими критериям безопасности. Кроме того, компания предлагает маркетплейс проверенных дополнений и навыков для ИИ-агентов.

Раунды финансирования закрылись с разницей в несколько недель, рассказал Сабан TechCrunch: в рамках первого раунда было привлечено $10 млн, а в рамках второго — $40 млн. По словам Сабана, первый раунд возглавила Sequoia, а второй — Greenoaks. В финансировании также приняли участие Swish, Netz и ангелы-инвесторы Зак Франкель (президент Cognition), Инон Костика (сооснователь Wiz), Офир Эрлих (сооснователь Eon), Энн Нойбергер, Омер Адам, Варун Ананд (сооснователь Clay) и другие.

Основная идея AIR такова: широкое использование ИИ-агентов в компаниях начинает напоминать операционные системы, однако инструменты, которыми они пользуются, и программное обеспечение, которое они могут устанавливать, пока не получают такого же контроля, как драйверы или приложения.

«В начале 2000-х, когда вы устанавливали драйвер, он не должен был быть подписан. Сегодня каждый раз при установке драйвера вы видите подпись с указанием того, кто его подписал, потому что драйвер фактически загружает код в ядро», — сказал Сабан. «С навыками, плагинами или MCP у вас такого нет, и это досадно, потому что механизм тот же, урок тот же, но мы его не усвоили».

По его словам, главный риск заключается в том, что по мере того, как ИИ-агенты начинают более автономно работать с базами данных, корпоративными системами и подключаться к интернету, злоумышленники могут отравлять контент, который потребляет ИИ-агент, вместо того чтобы атаковать его напрямую.

Стартап утверждает, что может решить эту проблему с помощью продукта для обеспечения видимости, который обнаруживает активных агентов в среде компании, а также выявляет сотрудников, использующих ИИ-инструменты, не одобренные ИТ-отделами, или личные учетные записи. Затем компания использует уровень контроля, подключающийся к агентам для перехвата и анализа таких действий, как загрузка навыка или получение контента из интернета. Наконец, AIR также проверяет инструменты, дополнения или программное обеспечение, которые агент хочет использовать, по белому списку, поддерживаемому стартапом.

Сабан говорит, что стартап поддерживает этот белый список, проверяя общедоступные в интернете навыки и дополнения на предмет изменений и вредоносного поведения: ранее одобренный навык может стать опасным, если изменится загружаемый им пакет или будет взломана учетная запись его разработчика. Он добавил, что платформа AIR в настоящее время отфильтровывает около 27% дополнений и навыков, которые находит в интернете.

AIR утверждает, что у нее более 20 клиентов, причем, по словам Сабана, примерно четверть из них — крупные предприятия. Он сказал, что наибольший спрос компания пока наблюдает в жестко регулируемых отраслях, особенно в сфере финансовых услуг и фармацевтике.

Однако AIR далеко не единственная компания в этой сфере. Noma Security предлагает обнаружение, контроль доступа и мониторинг агентов, MCP-серверов и навыков во время выполнения, тогда как Zenity продает аналогичные инструменты безопасности и управления. Платформа управления идентификацией Astrix Security также позволяет компаниям обнаруживать и контролировать агентов и MCP-серверы, а Operant AI предлагает защиту агентов и шлюз MCP.

В эту категорию также направляются значительные венчурные средства. В августе Zenity привлекла $125 млн в рамках раунда серии C, а в прошлом году Noma привлекла $100 млн в рамках раунда серии B.

Сабан считает, что конкурентное преимущество AIR заключается в способности непрерывно проверять экосистему навыков и дополнений, формирующуюся вокруг ИИ-агентов. «Непрерывная проверка сайтов с навыками и плагинами — это сложная задача. Получить видимость конечной точки легко. Это будут делать все. Создать вокруг этого устойчивое конкурентное преимущество сложно», — сказал он.

И хотя генеральный директор признал, что лаборатории и поставщики ИИ в конечном итоге встроят проверки безопасности и политики для фильтрации вредоносного использования навыков и инструментов, он считает, что компании все равно захотят приобретать независимый продукт, работающий с решениями разных поставщиков.

«Это не проблема сканирования, а проблема постоянной повторной проверки, — заявил TechCrunch в комментарии по электронной почте Богомил Балкански, партнер Sequoia. — Проверка каждого навыка, плагина, MCP-сервера и субагента, с которыми взаимодействуют агенты предприятия, повторная проверка каждого из них при каждом изменении, в режиме реального времени и во всем парке агентов компании — это прежде всего инфраструктурная проблема, а уже потом проблема безопасности. AIR потратила последний год на создание такого конвейера. Нельзя догнать ее, просто написав более совершенный сканер».

В AIR сейчас работает около 40 сотрудников. По словам Сабана, новый капитал в основном пойдет на найм исследователей и расширение усилий компании по выходу на рынок в США и Европе.