HiddenLayer залучила $100 млн., оскільки підприємства поспішають захистити свої впровадження ШІ

Коли стартап у сфері безпеки ШІ HiddenLayer залучив $50 мільйонів у раунді Series A три роки тому, одним із головних питань у цій галузі було те, чи проявляться загрози для ШІ, від яких стартап захищав, у достатній кількості, щоб сформувати реальний ринок. Як тоді зазначив мій колишній колега Кайл Віггерс, було важко знайти реальні приклади масштабних атак на ШІ.

Як швидко все змінилося. Тепер компанії у сфері безпеки наввипередки створюють продукти, здатні відстежувати не лише агентів, а й інструменти та доповнення, які вони використовують. Хоча заголовків про злам агентів поки небагато, ризик того, що агенти вийдуть з-під контролю під час роботи у виробничому середовищі, є цілком реальним. Тож ринок інструментів для запобігання цьому стрімко зріс: Gartner оцінює, що цього року компанії витратять $2,83 мільярда на продукти для захисту інструментів ШІ — на 83% більше, ніж у 2025 році, — а наступного року витрати, як очікується, сягнуть майже $4,78 мільярда.

HiddenLayer, яка створює інструменти для захисту моделей ШІ, агентів і робочих процесів від атак зловмисників, уразливостей і шкідливих ін’єкцій коду, змогла добре скористатися цією зміною. Її співзасновник і генеральний директор Кріс Сестіто розповів TechCrunch, що регулярний річний дохід стартапу за минулий рік зріс більш ніж у 10 разів. Він відмовився назвати точну цифру, але повідомив, що ARR тепер обчислюється «десятками мільйонів» доларів, а понад 90% цього зростання забезпечили нові клієнти, які підписали контракти протягом минулого року.

Наразі найбільшими вертикалями компанії є фінансові послуги та великі технологічні компанії, які створюють продукти на основі ШІ; вона також має контракти з Міністерством оборони та розвідувальним співтовариством США. Одним із її клієнтів, імовірно, є «провідний постачальник передової моделі» з «понад 700 мільйонами користувачів щотижня», що, на мою думку, схоже на OpenAI або Anthropic.

Щоб максимально скористатися цим імпульсом, стартап залучив $100 мільйонів у раунді Series B, який очолила Delta-v Capital за участю Ten Eleven Ventures, Morgan Stanley, M12 від Microsoft, Booz Allen Hamilton та інших інвесторів.

Стартап з Остіна загалом і досі продає те саме, що й у 2023 році, але Сестіто розповів TechCrunch, що найбільшою зміною, яку довелося зробити компанії, стало розширення наявних продуктів — для виявлення, захисту під час виконання, моделювання атак і безпеки ланцюга постачання — з метою протидії ін’єкціям підказок, маніпуляціям агентами та зловмисному використанню інструментів.

«Інференс залишається інференсом. Тож незалежно від того, чи йдеться про традиційну модель машинного навчання, генеративний ШІ або агентний робочий процес, значна частина наших технологій усе ще застосовна. Тому нам насправді не довелося змінювати напрям, але довелося розширити сферу охоплення … від традиційного моделювання до генеративного ШІ й агентних систем», — сказав він.

Сестіто наголосив, що безпека під час виконання особливо стала пріоритетом у міру поширення розгортань ШІ в компаніях, і порівняв її з традиційними рішеннями для виявлення загроз і реагування на них на кінцевих пристроях (EDR), але розробленими спеціально для ШІ.

Нові продукти компанії відображають цю зміну, і Сестіто наголосив на новій можливості для зловмисників, пов’язаній з експлуатацією моделей із відкритим кодом. «Ми аналізуємо та скануємо близько 50 різних форматів файлів ШІ, щоб гарантувати, особливо у випадку моделей із відкритим кодом і відкритими вагами, що інструмент, з яким ви працюєте, є саме тим, за що ви його вважаєте, і саме тим, за кого він себе видає. Ми звертаємо увагу на такі випадки, коли моделі видають себе за одне, а насправді є іншим, — приховані моделі всередині моделей», — сказав він.

Стартап заявляє, що нові $100 мільйонів допоможуть йому розвиватися в цьому напрямі, хоча більший акцент буде зроблено на продажах і дистрибуції, водночас компанія продовжить розширювати інженерний та дослідницький підрозділи. Вона також планує вийти на ринки Європи та регіону EMEA.

Втім, HiddenLayer може використати ці фінансові резерви й для інших цілей. Великі компанії у сфері кібербезпеки, як-от Cisco, Palo Alto Networks і Check Point, часто воліють купувати такі технології, а не розробляти їх самостійно, тоді як стартапи на кшталт Noma і Zenity залучили понад $100 мільйонів кожен, щоб працювати в суміжних або таких, що перетинаються, напрямах цієї галузі.

Сестіто визнав, що деякі компоненти продуктів у сфері безпеки ШІ, які пропонує його компанія, зрештою можуть бути інтегровані в платформи, створені такими компаніями, як Microsoft, OpenAI та AWS. Однак він очікує, що інфраструктура ШІ розвиватиметься в напрямі функцій управління — таких як виявлення, ідентифікація та контроль політик, — а не інструментів на кшталт тих, які створює його компанія.

Наразі, за його словами, завдання HiddenLayer полягає в тому, щоб «вертикально масштабуватися разом зі штучним інтелектом», а згодом горизонтально розширитися в ті сфери кібербезпеки, які дедалі більше залежать від ШІ. Це амбітна мета, але спочатку стартапу потрібно довести, що він здатен перетворити свою фору на довготривалий бізнес, перш ніж решта галузі його наздожене.