ШІ-агенти зламали Anthropic, розробника, на думку багатьох, найпотужніших ШІ-моделей для кіберзахисту

Стартап у сфері кібербезпеки Cathedral використав ШІ-агентів, щоб проникнути у внутрішні системи Anthropic через стороннє бізнес-програмне забезпечення, скориставшись власною програмою винагороди ШІ-лабораторії за пошук помилок для виявлення серйозних вразливостей.

Cathedral повідомила про доступ до внутрішніх систем даних і обміну повідомленнями у проєкті звіту, з яким ознайомилася The Washington Post. Стартап, заснований колишніми співробітниками DOGE — американського урядового агентства з підвищення ефективності, — продає інструменти безпеки на основі ШІ державним установам і компаніям.

Дослідники Cathedral проникли через зовнішні адміністративні та торгові програми. Згідно з їхнім звітом, ШІ-агенти, що працювали на основі передових моделей, менш ніж за дванадцять годин знайшли шляхи до стенограм зустрічей, даних про зарплати, оголошень про вакансії та повідомлень у Slack.

В Anthropic підтвердили, що дослідники отримали доступ до обмеженого набору систем продажів, управління персоналом та ІТ, зокрема до контактної інформації деяких клієнтів і партнерів, а також базових даних облікових записів користувачів. Чати з Claude, вихідний код і ваги моделей не були розкриті, заявили в компанії. Anthropic того ж дня, коли виявила злам, закрила вразливі точки доступу, вимкнула сторонні програми до усунення проблеми та повідомила федеральні органи влади США.

Anthropic і Cathedral розходяться в оцінках тривалості та масштабів злому

У Cathedral кажуть, що інцидент тривав менш ніж дванадцять годин. В Anthropic заявляють, що спроба атаки розтягнулася на кілька днів. Лише після кількох днів дослідження власних систем Anthropic стартап переключився на стороннє програмне забезпечення, згідно з повідомленням фахівця Anthropic із червоних команд Логана Грема. Там Cathedral виявила дві вразливості, але повідомила лише про одну. В Anthropic кажуть, що самостійно виявили та виправили другу.

В Anthropic також звинувачують Cathedral у порушенні правил програми винагороди за пошук помилок через неповне розкриття інформації. Грем додав, що атака на сторонніх постачальників і вилучення даних виходили за межі положень програми про безпечну гавань, хоча він привітав виявлення вразливостей. У Cathedral наполягають, що дотримувалися стандартних практик дослідження безпеки.

Обсяг фактично отриманих даних досі є предметом суперечки. Колишній співробітник OpenAI Вілл Депʼю стверджує, що Anthropic применшує масштаби інциденту: за його словами, кілька джерел, які він вважає надзвичайно надійними, повідомили, що Cathedral отримала повний адміністративний доступ до робочого простору Slack, могла читати кожне повідомлення та входити до будь-якого облікового запису користувача.

Депʼю додав, що обидві лабораторії — Anthropic і OpenAI — зберігали всі свої дослідницькі секрети у Slack, а адміністративні API-ключі були розкидані по їхніх системах. Джейкоб Коксон, співробітник Anthropic, який залишив компанію у вересні 2026 року, раніше критикував Anthropic за проведення небезпечних досліджень ШІ на офісному програмному забезпеченні на кшталт Slack.

Грем заперечив це, заявивши, що джерела Депʼю помиляються. Посилаючись на делікатність питання, він відмовився вдаватися в подробиці, але підтвердив головне занепокоєння Депʼю: тепер індустрії доводиться щороку заново винаходити власну безпеку.

Депʼю вимагав подробиць про те, які саме твердження були неправдивими, і закликав Anthropic розкрити, до чого насправді отримала доступ Cathedral. Він також поклав провину на темп перегонів у сфері ШІ, де керівники надають швидкості пріоритет над безпекою.

Алекс Стамос, директор із безпеки ШІ-стартапу Cognition, який використовує моделі Anthropic, сказав Washington Post, що вважає результати важливими. Він зазначив, що інтегровані сторонні застосунки є серйозною проблемою для всієї індустрії, а Anthropic могла б краще захистити свої зовнішні сервіси.

ШІ-агенти трансформують кібербезпеку

Після місяців попереджень про кібератаки на основі ШІ та власних випадкових інцидентів безпеки Anthropic тепер сама опинилася під ударом. ШІ-агенти змінюють принцип роботи кібератак, і цей злам демонструє, наскільки швидко відбуваються зміни. До того ж це не звичайний злам, адже Anthropic, імовірно, є компанією, найкраще підготовленою до захисту від атак із використанням ШІ.

Грем скористався нагодою, щоб попередити: зловмисники вже цілодобово запускають ШІ-агентів, спеціально націлюючи їх на зовнішні залежності. За його словами, навіть моделі, що відстають від сучасного передового рівня на пів покоління або ціле покоління, достатньо потужні для таких атак, а майбутні супротивники неминуче матимуть у своєму розпорядженні потужніші системи.

Рішення Грема полягає в безперервному внутрішньому тестуванні на проникнення та перебудові програмного забезпечення з формальною верифікацією, яку ШІ тепер робить економічно доцільною. «Вам, імовірно, варто постійно проводити власне тестування червоною командою. Сучасні моделі дуже креативні», — написав Грем.

Він не пояснив, як Cathedral вдалося проникнути настільки глибоко, попри те, що Anthropic має доступ до, імовірно, найпотужніших у світі моделей ШІ для кіберзахисту.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний передовий звіт «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.