AIUC привлекла $40 миллионов для проверки безопасности ИИ-агентов
Artificial Intelligence Underwriting Company (AIUC), созданная бывшим сотрудником Anthropic Руном Квистом и бывшим операционным директором METR Радживом Даттани, привлекла $40 миллионов в раунде Series A. Раунд возглавил Ribbit Capital, в нём также участвовал First Harmonic. Ранее стартап получил $15 миллионов от инвесторов, включая Ната Фридмана через его фонд NFDG, Emergence, Terrain и сооснователя Anthropic Бена Манна. Общий объём привлечённого капитала достиг $55 миллионов.
AIUC создаёт независимую систему аудита и сертификации ИИ-агентов для предприятий и разработчиков моделей. Среди названных компанией клиентов — Cursor, Lovable, Harvey и ElevenLabs. Стандарт AIUC-1 частично основан на применяемой в кибербезопасности схеме SOC 2. При его разработке компания консультировалась примерно с 250 руководителями, отвечающими за безопасность и риски.
Агенты проходят около 5 000 проверок в сценариях, связанных с обходом ограничений, галлюцинациями и утечками данных. По итогам формируется отчёт примерно на 100 страниц, где описываются надёжные стороны системы и выявленные проблемы. Для тестирования и анализа AIUC использует ИИ-агентов, однако окончательную проверку аудита проводят люди. По словам Даттани, оценка должна показать предприятиям, где агенту можно доверять, а где сохраняются риски.
Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.