Pluto Security привлекла $42 млн.: ИИ создаёт новую головную боль для корпоративных команд безопасности

Проблема с предоставлением всем сотрудникам компании доступа к инструментам ИИ заключается в том, что люди будут использовать их неожиданным образом. И этот факт постепенно порождает опасения, что теперь в системах компаний появились новые огромные уязвимости в безопасности или, по крайней мере, они скоро появятся.

Иллюстрируя темпы внедрения инструментов ИИ на предприятиях, которые и вызывают такие опасения, Шахар Бахат, генеральный директор и сооснователь Pluto Security, говорит, что недавно анонсированный инструмент ИИ может появиться в корпоративной среде всего через два часа после его выпуска. Около 60% рисков, которые ее компания выявляет среди своих клиентов, связаны с инструментами, созданными с помощью вайб-кодинга не разработчиками: по ее словам, больше всего таких рисков исходит от финансовых отделов, за ними следуют маркетинговые и юридические команды. Разработчики занимают четвертое место, добавила она.

Инструменты ее стартапа, по всей видимости, обнаружили приложение, созданное сотрудником финансового отдела компании из списка Fortune 500 с помощью вайб-кодинга для управления информацией о клиентах и оттоком клиентов, однако приложение оказалось открыто для доступа из интернета.

Pluto, недавно вышедшая из режима скрытой разработки с финансированием в размере 42 миллионов долларов, стала последней в ряду новых компаний из числа стартапов в сфере безопасности, которые стремительно появились, чтобы помочь компаниям устранить эти опасения пробелы, и все они привлекают крупные инвестиции, исходя из убеждения, что использование существующего программного обеспечения для безопасности с целью мониторинга и контроля инструментов ИИ, коннекторов и способов их применения — это попытка вставить квадратный колышек в круглое отверстие.

Бахат рассказала TechCrunch, что ее стартап начал продажи только в апреле, но уже нашел первых клиентов для своей технологии, которая помогает компаниям получить контекст, оценивать риски, видеть и контролировать то, как сотрудники используют инструменты ИИ. По ее словам, Pluto начала продажи в апреле и уже достигла годового регулярного дохода в размере более 2 миллионов долларов, а число ее корпоративных клиентов превысило 30. Среди них Oscar Health, Workato, Sixt и AlphaSense.

Финансирование Pluto включает посевной раунд на 8,5 миллиона долларов под руководством TLV Partners, в котором также приняли участие основатели компании в сфере кибербезопасности Armis. Недавно компания привлекла 34 миллиона долларов в раунде серии A под руководством Jump Capital; в раунде также участвовали Skinos (венчурная фирма сооснователя Check Point Шломо Крамера), Ansa Capital и другие бизнес-ангелы.

Для молодого стартапа это неплохие результаты, хотя в эпоху ИИ они не уникальны. Однако, возможно, это связано с тем, что масштабы риска не ограничиваются крупными технологическими компаниями, лидирующими по темпам внедрения ИИ.

Когда я спросила Бахат, где она видит наибольшие риски, она ответила, что проблемы различаются в зависимости от подхода директора по информационной безопасности и готовности организации внедрять ИИ, но риски обнаруживаются в любом случае.

«В целом я скажу, что не было ни одного пилотного проекта, в рамках которого мы бы вошли в систему и не обнаружили чего-то вредоносного, — сказала она. — Будь то пакеты расширений или навыки — в некоторых случаях во время проведения пилотного проекта шли активные атаки. Что, с моей точки зрения, просто замечательно для продукта. А для компаний это не очень хорошо».

Вся ставка Pluto заключается в том, что для защиты таких сред инструментам безопасности потребуется в режиме реального времени отслеживать действия ИИ-агентов, а также контролировать, что и каким образом сотрудники создают и внедряют.

«Мы переходим от поведения пользователей к поведению агентов», — сказала Бахат.

В соответствии с этим видением программное обеспечение стартапа отслеживает инструменты ИИ, которыми пользуются сотрудники, навыки, расширения, MCP-серверы и другие компоненты, от которых зависят эти инструменты, а также создаваемые приложения и агенты. Компания утверждает, что может выявлять рискованные компоненты, обнаруживать потенциально опасные действия агентов и обеспечивать соблюдение политик безопасности, не мешая сотрудникам использовать или создавать инструменты ИИ.

Для этого Pluto подключается к системам защиты конечных точек и управления устройствами и может развертывать через них собственные сенсоры либо устанавливать их непосредственно на устройства. Компания собирает информацию, включая запросы, команды, запущенные процессы, разрешения и предыдущую активность пользователей, а также использует собственные «легковесные» модели на конечных устройствах, чтобы оценивать намерения агента.

По словам Бахат, особенно примечательно то, что система Pluto может вмешиваться в работу агента в процессе выполнения задач. Например, если агент пытается получить разрешения, выходящие за рамки намерений пользователя, система может остановить действие или добавить в сессию инструкции, предлагающие агенту запросить подтверждение.

«Мы можем добавить контекст обратно в сессию и таким образом изменить принцип работы агента», — объяснила Бахат.

Стартап также использует необычный подход к поиску клиентов. В апреле он запустил Plutonium — бесплатную платформу, которая позволяет любому пользователю проверять риски, связанные с общедоступными навыками, коннекторами и дополнениями для ИИ. Кроме того, платформа включает сканер MCP и каталог проверенных компонентов. Бахат утверждает, что Plutonium используют тысячи специалистов по безопасности, а сформировавшееся вокруг платформы сообщество стало важным источником отзывов и потенциальных клиентов.

По ее словам, теперь 70% воронки продаж Pluto приходится на входящие обращения, хотя она не уточнила, какая доля из них поступает непосредственно через Plutonium.

Pluto заявила, что планирует направить привлеченный капитал на развитие продукта, расширение исследовательской деятельности в сфере безопасности и укрепление присутствия в США. В компании работают 40 сотрудников в США и Израиле.