Anthropic представя Enterprise Frontier Safeguards (EFS): поверителност с нулево съхранение на данни плюс откриване на злоупотреби между сесиите

Купувачите на корпоративен AI са блокирани между две неща, от които се нуждаят едновременно. Регулираните екипи се нуждаят от гаранция за нулево задържане на данни (ZDR), така че нито една подкана или транскрипция на агент да не остава на сървърите на доставчика. Екипите по сигурността се нуждаят от откриване на злоупотреби, което исторически изискваше доставчикът да съхранява същите данни достатъчно дълго, за да ги съпоставя.

Тази седмица Anthropic обяви Enterprise Frontier Safeguards (EFS) — архитектура, която се опитва да осигури и двете. EFS съхранява данните за мониторинг в облачна инфраструктура, контролирана от клиента, а не от Anthropic. Откриването остава при Anthropic. Съхранението, ключовете и човешкият преглед остават при клиента.

Може ли да бъде внедрена днес? Все още не. EFS се въвежда на етапи с цел широко разпространение по-късно тази есен, а достъпът е чрез заявка. Докато бъде пусната, отговарящите на условията клиенти могат да използват Claude Fable 5 и Fable 5.1 при ZDR.

Техническият проблем, който EFS решава

Посочената от Anthropic причина за задържането е качеството на откриването, а не данните за обучение. Компанията въведе 30-дневно задържане на данни, започвайки с Fable 5, и ясно заявява, че никога не е обучавала модели с корпоративни данни без изрично разрешение.

Аргументът в полза на съхраняването на данни е ограничен и заслужава да бъде повторен. Най-сложните злоупотреби, наблюдавани от Anthropic, се разпространяват през множество задачи, сесии и акаунти, включително случаи, свързани с откраднати или незаконно придобити корпоративни идентификационни данни. Изпълнението на автоматизиран класификатор върху всяко взаимодействие и незабавното му отхвърляне не може да улови такъв тип атака. Съпоставянето изисква времеви прозорец. Anthropic е документирала този модел в собствената си работа по предотвратяване на шпионаж.

Регулираните клиенти разбираха логиката за сигурност, но все пак не можеха да я приемат. Затова Anthropic премести времевия прозорец, вместо да го премахне.

Какво всъщност променя EFS

Anthropic изгради EFS с повече от 100 клиенти от финансовите услуги, здравеопазването, производството, телекомуникациите, правния сектор, търговията на дребно и публичния сектор, заедно с AWS, Google Cloud и Microsoft Azure. Сред участниците бяха Analysis and Resilience Center for Systemic Risk, чиито членове включват директори по информационна сигурност в Goldman Sachs, Morgan Stanley, Citi, Bank of America и Wells Fargo, както и екипи от Comcast, KPMG, Mastercard, Salesforce и Visa. Anthropic заявява, че разговорите за дизайна са обхванали една четвърт от компаниите от Fortune 100 и всички американски глобални системно значими банки.

От този процес произлязоха три дизайнерски решения:

• Съхранението се премества при клиента: Данните за активността, използвани за мониторинг, могат да се съхраняват в собствения облачен акаунт на клиента, под неговите ключове за криптиране, политики за достъп и журнали за одит. Корпоративните клиенти са казали на Anthropic, че включването на още един доверен доставчик на данни води до уведомления към клиентите и актуализации на договори, така че архитектурата избягва създаването на такъв.
• Прегледът се премества при клиента: Когато мониторингът открие модел, заслужаващ внимание, сигналът се изпраща директно до клиента. Позицията на Anthropic е, че автоматизираният преглед извършва сканирането, но човекът все пак добавя стойност, като потвърждава реалната злоупотреба и отхвърля фалшивите положителни резултати; в регулирана среда този човек трябва да има разрешение за работа с привилегирована правна информация, непублична информация или доклади за безопасността на лекарствата. EFS извършва автоматизиран мониторинг на безопасността, без да е необходим човешки преглед от Anthropic.
• Откриването остава при Anthropic: Автоматизираните системи анализират текущ прозорец от трафика за сериозни злоупотреби, по-конкретно опити за изграждане на нападателен кибернетичен или биологичен капацитет и признаци за откраднати или изтекли идентификационни данни.

Къде се вписва това в пътната карта на моделите

EFS е една от трите корпоративни отстъпки, пуснати заедно с Claude Fable 5.1 и Mythos 5.1. Другите две са цената и прецизността. Fable 5.1 намали разходите за четене на кеша със 75% до 0,25 долара на милион токени, което означава приблизително 25% по-ниска цена при типични натоварвания и до около 45% при силно агентни натоварвания. Неговите мерки за киберсигурност вече водят до около 60% по-малко намеси на сесия в Claude Code в сравнение с Fable 5, отчасти защото на Fable 5.1 е позволено да идентифицира уязвимости в софтуера, без да разработва експлойти за тях.

Основни изводи

• EFS съчетава поверителност, еквивалентна на ZDR, с автоматизирано откриване, обхващащо сесии и акаунти.
• Данните за активността се съхраняват в собствен контейнер на клиента в S3, Azure Blob или Google Cloud Storage.
• Сигналите се насочват към клиента; не е необходим човешки преглед от Anthropic.
• Съхранението, притежавано от клиента, управляваните от клиента ключове и автоматизираният преглед са опционални и се активират поотделно.
• Anthropic не начислява такса за EFS; облачният доставчик на клиента таксува съхранението и изходящия трафик.

---

Вижте техническите подробности тук. Също така можете да ни последвате в Twitter и не забравяйте да се присъедините към нашия ML SubReddit с над 150 хил. членове и да се абонирате за нашия бюлетин. Чакайте! В Telegram ли сте? Сега можете да се присъедините към нас и в Telegram.

Имате нужда от партньорство с нас за популяризиране на вашето GitHub хранилище ИЛИ страница в Hugging Face ИЛИ пускане на продукт ИЛИ уебинар и т.н.? Свържете се с нас