Anthropic надає зовнішньому наглядачу за ШІ доступ «як у працівника»
«Якщо схильність банку до ризику може становити загрозу для суспільства, треті сторони намагаються завчасно це виявити», — заявила компанія.
Anthropic також перебуває під тиском, аби запевнити інвесторів, що питання безпеки не затьмарять її первинне публічне розміщення акцій, яке очікується цього року за оцінки понад $2 трлн. Цього тижня компанія присвятила значну частину презентацій для інвесторів опису своїх практик безпеки.
METR була однією з організацій, які розслідували злам Hugging Face, здійснений зловмисними моделями OpenAI, переглянувши тисячі журналів і отримавши ноутбуки компанії.
Тепер Anthropic залучила шістьох співробітників METR, надавши їм корпоративне обладнання, офісні приміщення та «доступ до внутрішніх інструментів і систем, приблизно співмірний із доступом, який мають наші власні команди оцінювання ризиків».
Лабораторія заявила, що заохочувала співробітників ділитися інформацією з оцінювачами так само, як вони ділилися б нею з колегою, який працює у сфері ризиків.
Anthropic не платить METR за цю домовленість. Дослідницька група не приймає пожертв від компаній, що працюють у сфері ШІ, або їхніх співробітників. Вона фінансується за рахунок пожертв від приватних осіб і філантропічних організацій, а також державних установ, таких як Інститут безпеки ШІ Великої Британії.
Оцінювачі опублікують свій аналіз, і Anthropic не може накласти вето на публікацію. Водночас компанія може вимагати вилучити інформацію, що належить до певних категорій, як-от дані клієнтів, відомості, захищені адвокатською таємницею, або інформацію про архітектуру моделей.
Anthropic додала, що й надалі співпрацює з Accenture, яку минулого місяця назвали партнером у тестуванні безпеки, причому кожна з компаній зобов’язалася виділити щонайменше $1 млрд на створення нових засобів захисту.
Ще одним стороннім тестувальником є SecureBio, яка оцінює для компанії ризики, пов’язані з хімічною та біологічною зброєю.
«Ми добровільно залучаємо оцінювачів до роботи й вважаємо, що кожна компанія, яка розробляє передові системи ШІ, повинна робити те саме», — заявила Anthropic.
METR заявила: «Ми готові співпрацювати з усіма розробниками передових систем ШІ, щоб надати громадськості переконливіші докази».
© 2026 The Financial Times Ltd. Усі права захищені Забороняється поширювати, копіювати або змінювати будь-яким чином.
Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.