Anthropic представляє Enterprise Frontier Safeguards (EFS): конфіденційність із нульовим зберіганням даних і виявлення зловживань між сесіями

Корпоративні покупці ШІ опинилися між двома речами, які їм обом потрібні. Регульованим командам потрібна гарантія нульового зберігання даних (ZDR), щоб жоден запит або транскрипт агента не залишався на серверах постачальника. Командам безпеки потрібне виявлення зловживань, яке історично вимагало від постачальника зберігати ті самі дані достатньо довго, щоб зіставляти їх.

Цього тижня Anthropic оголосила про Enterprise Frontier Safeguards (EFS) — архітектуру, яка намагається забезпечити і те, і інше. EFS зберігає дані моніторингу в хмарній інфраструктурі, яку контролює клієнт, а не Anthropic. Виявлення залишається за Anthropic. Володіння даними, ключі та перевірка людьми залишаються за клієнтом.

Чи можна розгорнути її вже сьогодні? Ще ні. EFS впроваджується поетапно з метою широкої доступності пізніше цієї осені, а доступ надається за запитом. До моменту запуску відповідні вимогам клієнти можуть використовувати Claude Fable 5 і Fable 5.1 у режимі ZDR.

Технічна проблема, яку вирішує EFS

Заявлена Anthropic причина зберігання даних — якість виявлення, а не дані для навчання. Компанія запровадила 30-денний термін зберігання даних, починаючи з Fable 5, і чітко заявляє, що ніколи не навчала моделі на корпоративних даних без явного дозволу.

Аргумент на користь зберігання даних вузький, але його варто повторити. Найскладніші зловживання, які спостерігала Anthropic, охоплюють багато завдань, сесій і облікових записів, зокрема випадки, пов’язані з викраденими або незаконно привласненими корпоративними обліковими даними. Запуск автоматизованого класифікатора для кожної взаємодії з її миттєвим видаленням не дає змоги виявити таку форму атаки. Для зіставлення потрібне часове вікно. Anthropic документувала цю закономірність у власній роботі з протидії шпигунству.

Регульовані клієнти розуміли логіку безпеки, але все одно не могли скористатися цим рішенням. Тож Anthropic перемістила часове вікно, а не усунула його.

Що саме змінює EFS

Anthropic створила EFS разом із понад 100 клієнтами з фінансового сектору, охорони здоров’я, виробництва, телекомунікацій, права, роздрібної торгівлі та державного сектору, а також спільно з AWS, Google Cloud і Microsoft Azure. Серед учасників були Analysis and Resilience Center for Systemic Risk, до складу якого входять директори з інформаційної безпеки Goldman Sachs, Morgan Stanley, Citi, Bank of America і Wells Fargo, а також команди Comcast, KPMG, Mastercard, Salesforce і Visa. Anthropic заявляє, що в обговореннях дизайну взяли участь компанії, які охоплюють чверть зі списку Fortune 100, і всі системно важливі банки США, що працюють на глобальному рівні.

У результаті цього процесу було ухвалено три дизайнерські рішення:

• Зберігання переноситься до клієнта: Дані про активність, які використовуються для моніторингу, можуть зберігатися у власному хмарному обліковому записі клієнта, під його ключами шифрування, політиками доступу та журналюванням аудиту. Корпоративні клієнти повідомили Anthropic, що підключення ще одного довіреного постачальника даних спричиняє повідомлення клієнтам і оновлення контрактів, тому архітектура не створює такого постачальника.
• Перевірка переноситься до клієнта: Коли моніторинг виявляє закономірність, що заслуговує на увагу, сигнал безпосередньо надходить клієнту. Позиція Anthropic полягає в тому, що автоматизована перевірка виконує сканування, а людина все ще додає цінності, підтверджуючи реальне зловживання та відкидаючи хибні спрацювання; у регульованих середовищах ця людина також має бути допущена до роботи з матеріалами, захищеними юридичною таємницею, непублічною інформацією або звітами з безпеки лікарських засобів. EFS здійснює автоматизований моніторинг безпеки, не вимагаючи перевірки людиною з боку Anthropic.
• Виявлення залишається за Anthropic: Автоматизовані системи аналізують ковзне вікно трафіку на предмет серйозних зловживань, зокрема спроб створити наступальну кібернетичну чи біологічну спроможність, а також ознак викрадених або витеклих облікових даних.

Місце цього рішення в дорожній карті моделей

EFS — одна з трьох корпоративних поступок, представлених разом із Claude Fable 5.1 і Mythos 5.1. Дві інші стосуються ціни та точності. Fable 5.1 знизила вартість читання кешу на 75% — до 0,25 долара за мільйон токенів, що означає приблизно на 25% нижчу вартість для типових робочих навантажень і приблизно до 45% нижчу — для високoагентних сценаріїв. Тепер її засоби кібербезпеки спричиняють приблизно на 60% менше втручань за сесію Claude Code, ніж у Fable 5, частково тому, що Fable 5.1 дозволено виявляти вразливості програмного забезпечення, не розробляючи експлойти для них.

Ключові висновки

• EFS поєднує конфіденційність, еквівалентну ZDR, з автоматизованим виявленням, яке охоплює сесії та облікові записи.
• Дані про активність надходять до власного сегмента S3, Azure Blob або Google Cloud Storage клієнта.
• Прапорці передаються клієнту; перевірка людиною з боку Anthropic не потрібна.
• Зберігання, що належить клієнту, ключі, якими керує клієнт, і автоматизована перевірка є окремими опціональними функціями.
• Anthropic нічого не стягує за EFS; постачальник хмарних послуг клієнта виставляє рахунок за зберігання та вихідний трафік.

---

Ознайомтеся з технічними деталями тут. Також підписуйтеся на нас у Twitter і не забудьте приєднатися до нашого субреддіту про машинне навчання зі 150 тис.+ учасників та підписатися на нашу розсилку. Стривайте! Ви є в Telegram? Тепер ви також можете приєднатися до нас у Telegram.

Потрібно співпрацювати з нами для просування вашого репозиторію GitHub, сторінки Hugging Face, релізу продукту, вебінару тощо? Зв’яжіться з нами