Anthropic надала METR внутрішній доступ для аудиту своїх ШІ-моделей і практик безпеки

Anthropic надала команді некомерційної організації METR внутрішній доступ для перевірки своїх моделей ШІ та практик безпеки, повідомила компанія. Шестеро співробітників METR отримали обладнання компанії, офісне приміщення та доступ до внутрішніх інструментів, що, за словами Anthropic, ставить їх приблизно на один рівень із власними командами компанії, які займаються оцінкою ризиків.

Дані клієнтів, інформація, захищена адвокатською таємницею, а також деталі архітектури моделей залишаються недоступними. METR опублікує свої висновки незалежно. Anthropic заявляє, що може вимагати редагування матеріалів у певних заздалегідь визначених категоріях, але METR має право публічно повідомити, чи вважає такі редагування виправданими.

Anthropic стверджує, що не всю інформацію, пов’язану з безпекою, можна оприлюднити — або тому, що вона може допомогти зловмисникам, або тому, що має комерційну чутливість. Угода з METR виходить за межі того, що компанія пропонувала іншим зовнішнім рецензентам. SecureBio, Accenture і Faculty досі отримували менший доступ і жорсткіші обмеження щодо того, що вони можуть публікувати, а Anthropic розпочала попередні переговори з Hugging Face. Цей крок стався після підписання Anthropic Білої домовленості про надінтелект, яка передбачає зобов’язання співпрацювати із зовнішніми рецензентами.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний шість разів на рік звіт про передові розробки «AI Radar», повний доступ до архіву та доступ до розділу коментарів.