Anthropic представляет Enterprise Frontier Safeguards (EFS): конфиденциальность с нулевым хранением данных и обнаружение неправомерного использования между сессиями

Корпоративные покупатели решений на основе ИИ оказались зажаты между двумя требованиями, которые им одинаково необходимы. Регулируемым командам нужна гарантия нулевого хранения данных (ZDR), чтобы ни один запрос или стенограмма работы агента не оставались на серверах поставщика. Командам по безопасности необходимо обнаружение злоупотреблений, для которого исторически требовалось, чтобы поставщик хранил те же данные достаточно долго, чтобы сопоставлять их.

На этой неделе Anthropic объявила о запуске Enterprise Frontier Safeguards (EFS) — архитектуры, которая призвана обеспечить и то и другое. EFS хранит данные мониторинга в облачной инфраструктуре, контролируемой клиентом, а не Anthropic. Обнаружение остаётся за Anthropic. Хранение, ключи и проверка людьми остаются за клиентом.

Можно ли развернуть решение уже сегодня? Пока нет. EFS внедряется поэтапно с целью широкого доступа позднее этой осенью, а доступ предоставляется по запросу. До запуска подходящие клиенты могут использовать Claude Fable 5 и Fable 5.1 в режиме ZDR.

Техническая проблема, которую решает EFS

Заявленная Anthropic причина хранения данных — качество обнаружения, а не использование данных для обучения. Компания ввела 30-дневный срок хранения данных начиная с Fable 5 и прямо заявляет, что никогда не обучала модели на корпоративных данных без явного разрешения.

Аргумент в пользу хранения данных узок, но его стоит повторить. Самые изощрённые случаи злоупотреблений, выявленные Anthropic, распространяются на множество задач, сессий и аккаунтов, включая случаи с украденными или незаконно присвоенными корпоративными учётными данными. Запуск автоматического классификатора для каждой операции с немедленным удалением данных не позволяет обнаружить атаку такого типа. Для сопоставления нужен временной промежуток. Anthropic документировала эту закономерность в рамках собственной работы по пресечению шпионской деятельности.

Регулируемые клиенты понимали логику безопасности, но всё равно не могли внедрить такое решение. Поэтому Anthropic не устранила временной промежуток, а перенесла его.

Что именно меняет EFS

Anthropic разработала EFS совместно с более чем 100 клиентами из финансового сектора, здравоохранения, промышленности, телекоммуникаций, юриспруденции, розничной торговли и государственного сектора, а также вместе с AWS, Google Cloud и Microsoft Azure. В число участников вошёл Analysis and Resilience Center for Systemic Risk, среди членов которого — директора по информационной безопасности Goldman Sachs, Morgan Stanley, Citi, Bank of America и Wells Fargo, а также команды Comcast, KPMG, Mastercard, Salesforce и Visa. Anthropic заявляет, что в обсуждениях дизайна участвовала четверть компаний из списка Fortune 100 и каждый глобальный системно значимый банк США.

В результате этого процесса были приняты три проектных решения:

• Хранение переносится к клиенту: Данные об активности, используемые для мониторинга, могут храниться в собственном облачном аккаунте клиента — под его ключами шифрования, политиками доступа и средствами аудита. Клиенты сообщили Anthropic, что подключение ещё одного доверенного поставщика данных требует уведомлений клиентов и обновления договоров, поэтому архитектура позволяет этого избежать.
• Проверка переносится к клиенту: Когда мониторинг обнаруживает требующий внимания шаблон, сигнал напрямую передаётся клиенту. Согласно позиции Anthropic, автоматическая проверка выполняет сканирование, однако человек по-прежнему необходим для подтверждения реального злоупотребления и устранения ложных срабатываний; кроме того, в регулируемых средах этот человек должен иметь допуск к привилегированным юридическим материалам, непубличной информации или отчётам о безопасности лекарственных средств. EFS выполняет автоматический мониторинг безопасности без необходимости проверки человеком со стороны Anthropic.
• Обнаружение остаётся за Anthropic: Автоматизированные системы анализируют скользящее окно трафика на предмет серьёзных злоупотреблений, в частности попыток создать наступательный кибернетический или биологический потенциал, а также признаков украденных или утёкших учётных данных.

Как это вписывается в дорожную карту моделей

EFS — одна из трёх корпоративных уступок, выпущенных одновременно с Claude Fable 5.1 и Mythos 5.1. Две другие касаются стоимости и точности. Fable 5.1 снизила стоимость чтения кэша на 75% — до $0,25 за миллион токенов, что означает примерно на 25% меньшую стоимость типичных рабочих нагрузок и до примерно 45% меньшую стоимость для задач с интенсивным использованием агентов. Теперь её средства защиты от киберугроз вызывают примерно на 60% меньше вмешательств за сессию Claude Code, чем средства Fable 5, отчасти потому, что Fable 5.1 разрешено выявлять уязвимости программного обеспечения без разработки эксплойтов для них.

Основные выводы

• EFS сочетает конфиденциальность, эквивалентную ZDR, с автоматическим обнаружением, охватывающим сессии и аккаунты.
• Данные об активности попадают в собственное хранилище клиента S3, Azure Blob или Google Cloud Storage.
• Сигналы направляются клиенту; проверка человеком со стороны Anthropic не требуется.
• Хранилище, принадлежащее клиенту, ключи под управлением клиента и автоматическая проверка подключаются отдельно и добровольно.
• Anthropic ничего не взимает за EFS; поставщик облачных услуг клиента выставляет счета за хранение и исходящий трафик.

---

Ознакомьтесь с техническими подробностями здесь. Также подписывайтесь на нас в Twitter и не забудьте присоединиться к нашему сабреддиту по машинному обучению с более чем 150 тысячами участников и подписаться на нашу рассылку. Стоп! Вы есть в Telegram? Теперь вы можете присоединиться к нам и в Telegram.

Хотите сотрудничать с нами для продвижения своего репозитория GitHub, страницы на Hugging Face, релиза продукта, вебинара и т. д.? Свяжитесь с нами