Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← К новостям

AIUC привлекла $40 миллионов для проверки безопасности ИИ-агентов

Artificial Intelligence Underwriting Company (AIUC), созданная бывшим сотрудником Anthropic Руном Квистом и бывшим операционным директором METR Радживом Даттани, привлекла $40 миллионов в раунде Series A. Раунд возглавил Ribbit Capital, в нём также участвовал First Harmonic. Ранее стартап получил $15 миллионов от инвесторов, включая Ната Фридмана через его фонд NFDG, Emergence, Terrain и сооснователя Anthropic Бена Манна. Общий объём привлечённого капитала достиг $55 миллионов.

AIUC создаёт независимую систему аудита и сертификации ИИ-агентов для предприятий и разработчиков моделей. Среди названных компанией клиентов — Cursor, Lovable, Harvey и ElevenLabs. Стандарт AIUC-1 частично основан на применяемой в кибербезопасности схеме SOC 2. При его разработке компания консультировалась примерно с 250 руководителями, отвечающими за безопасность и риски.

Агенты проходят около 5 000 проверок в сценариях, связанных с обходом ограничений, галлюцинациями и утечками данных. По итогам формируется отчёт примерно на 100 страниц, где описываются надёжные стороны системы и выявленные проблемы. Для тестирования и анализа AIUC использует ИИ-агентов, однако окончательную проверку аудита проводят люди. По словам Даттани, оценка должна показать предприятиям, где агенту можно доверять, а где сохраняются риски.

Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием TechCrunch

Читать оригинал на TechCrunch ↗

Репортаж и изображение принадлежат TechCrunch и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости