HiddenLayer привлекла $100 млн. на фоне спешного обеспечения безопасности корпоративных внедрений ИИ

Когда стартап в сфере безопасности ИИ HiddenLayer привлёк $50 млн в рамках раунда Series A три года назад, одним из главных вопросов в этой сфере было то, возникнет ли достаточно угроз для ИИ, от которых стартап защищает, чтобы сформировался настоящий рынок. Как тогда отмечал мой бывший коллега Кайл Виггерс, было сложно найти реальные примеры атак на ИИ в масштабах, достаточных для формирования рынка.

Как же быстро всё изменилось. Компании в сфере безопасности теперь наперегонки создают продукты, способные отслеживать не только агентов, но и инструменты и дополнения, которыми они пользуются. Хотя заголовков об эксплуатации агентов по-прежнему немного, риск того, что агенты выйдут из-под контроля в рабочей среде, вполне реален. Поэтому рынок инструментов, предотвращающих подобные ситуации, стремительно вырос: Gartner оценивает расходы компаний на продукты для защиты ИИ-инструментов в $2,83 млрд в этом году — на 83% больше, чем в 2025-м, — и ожидает, что в следующем году они достигнут почти $4,78 млрд.

HiddenLayer, создающая инструменты для защиты моделей, агентов и рабочих процессов ИИ от атак злоумышленников, уязвимостей и внедрения вредоносного кода, сумела воспользоваться этим сдвигом. Сооснователь и генеральный директор компании Крис Сестито рассказал TechCrunch, что её годовой регулярный доход вырос более чем в 10 раз за последний год. Он отказался назвать точную сумму, но сообщил, что ARR теперь исчисляется «десятками миллионов» долларов, причём более 90% этого роста обеспечили новые клиенты, привлечённые за последний год.

Крупнейшими вертикалями компании сейчас являются финансовые услуги и крупные технологические компании, разрабатывающие продукты на базе ИИ; кроме того, у неё есть контракты с Министерством обороны и разведывательным сообществом США. Одним из клиентов, по всей видимости, является «ведущий разработчик передовых моделей» с «более чем 700 миллионами пользователей в неделю», что, на мой взгляд, похоже на OpenAI или Anthropic.

Чтобы максимально использовать этот импульс, стартап привлёк $100 млн в рамках раунда Series B, который возглавил Delta-v Capital при участии Ten Eleven Ventures, Morgan Stanley, M12 от Microsoft, Booz Allen Hamilton и других инвесторов.

Базирующийся в Остине стартап в целом по-прежнему продаёт то же, что и в 2023 году, однако Сестито рассказал TechCrunch, что главным изменением стало расширение существующих продуктов — для обнаружения, защиты во время выполнения, моделирования атак и обеспечения безопасности цепочки поставок — с целью противостоять внедрению промптов, манипуляциям с агентами и вредоносному использованию инструментов.

«Инференс остаётся инференсом. Поэтому неважно, идёт ли речь о традиционной модели машинного обучения, генеративном ИИ или агентном рабочем процессе — значительная часть наших технологий по-прежнему применима. Так что нам действительно не пришлось менять направление, но пришлось расширить область охвата… от традиционного моделирования к генеративному ИИ и далее к агентным системам», — сказал он.

Сестито подчеркнул, что безопасность во время выполнения особенно важна по мере того, как внедрение ИИ становится всё более распространённым в компаниях, и сравнил её с традиционными решениями для обнаружения угроз и реагирования на них на конечных устройствах (EDR), но специально адаптированными для ИИ.

Новые продукты компании отражают этот сдвиг, а Сестито отметил новую возможность для атакующих, связанную с эксплуатацией моделей с открытым исходным кодом. «Мы анализируем и сканируем около 50 различных фреймворков файлов ИИ, чтобы убедиться, что, особенно в случае моделей с открытым исходным кодом и открытыми весами, используемый вами инструмент является именно тем, за который вы его принимаете, и тем, за кого он себя выдаёт. Мы выявляем, например, модели, которые выдают себя за одно, а на деле являются другим, — скрытые модели внутри моделей», — сказал он.

Стартап заявляет, что новые $100 млн помогут ему развиваться в этом направлении, однако основной акцент будет сделан на продажах и дистрибуции, при этом компания продолжит расширять инженерное и исследовательское подразделения. Кроме того, она планирует выйти на рынки Европы и региона EMEA.

Впрочем, HiddenLayer может направить эти финансовые резервы и на другие цели. Крупные компании в сфере кибербезопасности, такие как Cisco, Palo Alto Networks и Check Point, часто предпочитают покупать подобные технологии, а не разрабатывать их самостоятельно. При этом такие стартапы, как Noma и Zenity, привлекли более $100 млн каждый для работы в смежных или пересекающихся сегментах этого рынка.

Сестито признал, что некоторые компоненты предлагаемых его компанией продуктов для безопасности ИИ в будущем могут быть интегрированы в платформы, создаваемые такими компаниями, как Microsoft, OpenAI и AWS. Однако он ожидает, что инфраструктура ИИ будет развиваться в сторону функций управления — таких как обнаружение, управление идентификацией и политиками, — а не инструментов того типа, которые создаёт его компания.

Пока, по его словам, задача HiddenLayer заключается в том, чтобы «вертикально масштабироваться вместе с искусственным интеллектом», а со временем расшириться по горизонтали в сегменты кибербезопасности, которые всё сильнее зависят от ИИ. Это амбициозная цель, но сначала стартапу предстоит доказать, что он способен превратить своё преимущество первопроходца в устойчивый бизнес, прежде чем остальная отрасль его догонит.