AIUC залучила $40 мільйонів для перевірки безпеки ШІ-агентів
Artificial Intelligence Underwriting Company (AIUC), заснована колишнім співробітником Anthropic Руном Квістом і колишнім операційним директором METR Радживом Даттані, залучила $40 мільйонів у раунді Series A. Раунд очолила Ribbit Capital, до нього також долучилася First Harmonic. Раніше стартап отримав $15 мільйонів від інвесторів, зокрема Ната Фрідмана через фонд NFDG, Emergence, Terrain і співзасновника Anthropic Бена Манна. Загальний обсяг фінансування сягнув $55 мільйонів.
AIUC розробляє незалежну систему аудиту та сертифікації ШІ-агентів для підприємств і компаній, які створюють моделі та агентів. Серед названих клієнтів — Cursor, Lovable, Harvey і ElevenLabs. Стандарт AIUC-1 частково спирається на поширену у сфері кібербезпеки систему SOC 2. Під час його підготовки компанія зібрала відгуки приблизно 250 керівників із безпеки та управління ризиками.
Стартап перевіряє агентів приблизно 5 000 тестами у сценаріях із обходом захисту, галюцинаціями та витоками даних. Результатом стає звіт орієнтовно на 100 сторінок із описом надійної роботи системи та її слабких місць. Для тестування й аналізу AIUC застосовує ШІ-агентів, але фінальний аудит перевіряють люди. За словами Даттані, оцінка має показати підприємствам, де агенту можна довіряти, а де залишаються ризики.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.