HiddenLayer набра 100 млн. долара, докато предприятията бързат да защитят внедряванията си на ИИ

Когато стартъпът за сигурност на ИИ HiddenLayer набра 50 млн. долара в рунд серия A преди три години, един от големите въпроси в сектора беше дали заплахите за ИИ, срещу които стартъпът се опитваше да защитава, ще се проявят в достатъчен мащаб, за да създадат реален пазар. Както отбеляза тогава бившият ми колега Кайл Уигърс, беше трудно да се посочат реални примери за атаки срещу ИИ в голям мащаб.

Колко бързо се промениха нещата. Сега компаниите за сигурност се надпреварват да създават продукти, които могат да наблюдават не само агентите, но и инструментите и добавките, които те използват. Макар че все още няма много заглавия за експлоатирани агенти, рискът агентите да излязат извън контрол в реална продукционна среда е напълно реален. Затова пазарът на инструменти за предотвратяване на подобни ситуации се разрасна стремително: Gartner изчислява, че тази година компаниите ще похарчат 2,83 млрд. долара за продукти, предназначени да защитават инструментите с ИИ — с 83% повече спрямо 2025 г., като очаква разходите догодина да достигнат почти 4,78 млрд. долара.

HiddenLayer, която създава инструменти за защита на модели, агенти и работни процеси с ИИ от злонамерени атаки, уязвимости и инжектиране на зловреден код, успя да се възползва максимално от тази промяна. Нейният съосновател и главен изпълнителен директор Крис Сестито заяви пред TechCrunch, че годишният повтаряем приход на стартъпа е нараснал над 10 пъти през последната година. Той отказа да посочи точна сума, но каза, че ARR вече е „десетки милиони“ долари, като над 90% от този ръст е дошъл от нови клиенти, присъединили се през последната година.

Финансовите услуги и големите технологични компании, които разработват продукти с ИИ, в момента са най-големите вертикали на компанията, а тя има и договори с Министерството на отбраната и разузнавателната общност. Един от клиентите ѝ очевидно е „водещ доставчик на фронтирни модели“ с „над 700 милиона седмични потребители“, което според мен звучи като OpenAI или Anthropic.

За да се възползва максимално от този импулс, стартъпът вече е набрал 100 млн. долара в рунд серия B, воден от Delta-v Capital, с участието на Ten Eleven Ventures, Morgan Stanley, M12 на Microsoft, Booz Allen Hamilton и други.

Базираната в Остин компания като цяло все още продава същите продукти, които предлагаше през 2023 г., но Сестито заяви пред TechCrunch, че най-голямата промяна, която се е наложило да направи, е да разшири съществуващите си продукти — откриване, защита по време на изпълнение, симулация на атаки и сигурност на веригата за доставки — така че да обхванат инжектиране на подсказки, манипулиране на агенти и злонамерено използване на инструменти.

„Инференцията си остава инференция. Така че независимо дали става дума за традиционен модел на машинно обучение, за генеративен ИИ или за работен процес с агенти, голяма част от технологията ни все още е приложима. Така че наистина не ни се наложи да променяме посоката, но трябваше да разширим обхвата си … от традиционното моделиране към генеративния ИИ и агентите“, каза той.

Сестито подчерта, че сигурността по време на изпълнение се е превърнала в особен приоритет, тъй като внедряванията на ИИ стават все по-разпространени в бизнеса, и я сравни с традиционните решения за откриване и реагиране на крайни точки (EDR), но специално за ИИ.

Новите продукти на компанията отразяват тази промяна, а Сестито изтъкна нова възможност за нападателите — експлоатирането на модели с отворен код. „Анализираме и сканираме около 50 различни рамки за файлове с ИИ, за да гарантираме, особено при модели с отворен код и отворени тегла, че инструментът, с който работите, е този, за който го смятате, и че действително е това, за което се представя. Разглеждаме неща като модели, които се представят за едно, но са друго — скрити модели в други модели“, каза той.

Стартъпът заявява, че новите 100 млн. долара ще му помогнат да се развива в тази посока, макар и с по-голям фокус върху продажбите и дистрибуцията, като същевременно продължи да разширява инженерния и изследователския си екип. Компанията планира също да се разшири в Европа и региона на ЕМЕА.

HiddenLayer може да се окаже в ситуация да използва този финансов резерв и за още нещо. Големи компании за киберсигурност като Cisco, Palo Alto Networks и Check Point често предпочитат да купуват, вместо да разработват сами подобни технологии, докато стартъпи като Noma и Zenity са набрали по над 100 млн. долара всеки, за да се конкурират в съседни или припокриващи се области на този сектор.

Сестито призна, че някои части от предлаганите от компанията му продукти за сигурност на ИИ в крайна сметка могат да бъдат интегрирани в платформите, изграждани от компании като Microsoft, OpenAI и AWS. Той обаче очаква инфраструктурата за ИИ да се развива към функции за управление, като откриване, идентичност и контрол на политиките, а не към вида инструменти, които разработва неговата компания.

Засега, казва той, задачата на HiddenLayer е „да се развива вертикално заедно с изкуствения интелект“, а в крайна сметка да се разшири хоризонтално към области на киберсигурността, които все повече зависят от ИИ. Това е амбициозна цел, но първо стартъпът трябва да докаже, че може да превърне ранното си предимство в устойчив бизнес, преди останалата част от индустрията да го настигне.