AIUC набра $40 милиона за оценка на сигурността на AI агентите
Artificial Intelligence Underwriting Company (AIUC), основана от бившия служител на Anthropic Рун Квист и бившия главен оперативен директор на METR Раджив Датани, набра $40 милиона в инвестиционен рунд Series A. Ribbit Capital ръководи финансирането, а First Harmonic също участва. Преди това компанията е получила $15 милиона от инвеститори, сред които Нат Фридман чрез NFDG, Emergence, Terrain и съоснователят на Anthropic Бен Ман. Общото финансиране достига $55 милиона.
AIUC разработва независима система за одит и сертифициране на AI агенти, използвани от предприятия и от компании, създаващи AI модели. Сред посочените клиенти са Cursor, Lovable, Harvey и ElevenLabs. Стандартът AIUC-1 е вдъхновен от широко използваната рамка за киберсигурност SOC 2 и е оформен с участието на около 250 ръководители по сигурността и риска.
Компанията проверява агентите в сценарии с опити за заобикаляне на защитите, халюцинации и изтичане на данни. Нейният набор включва около 5 000 теста, а резултатът е доклад от приблизително 100 страници за надеждното поведение и слабостите на агента. AI агенти извършват тестовете и анализират данните, но хора проверяват окончателния одит.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.