Anthropic предоставя на METR вътрешен достъп за одит на своите AI модели и практики за безопасност

Anthropic предостави на екип от неправителствената организация METR вътрешен достъп за преглед на своите AI модели и практики за безопасност, съобщи компанията. Шестима служители на METR получиха фирмен хардуер, офис пространство и достъп до вътрешни инструменти — според Anthropic това ги поставя приблизително наравно със собствените екипи на компанията за оценка на риска.

Данните на клиентите, информацията, защитена от адвокатска тайна, и подробностите за архитектурата на моделите остават недостъпни. METR ще публикува независимо своите констатации. Anthropic заявява, че може да поиска заличаване на информация в определени предварително дефинирани категории, но METR има свободата публично да заяви дали смята, че тези заличавания са били оправдани.

Anthropic твърди, че не цялата информация, свързана с безопасността, може да бъде оповестена публично — или защото би могла да помогне на нападатели, или защото е чувствителна от търговска гледна точка. Споразумението с METR отива по-далеч от това, което компанията е предложила на други външни проверяващи. Досега SecureBio, Accenture и Faculty са получили по-ограничен достъп и по-строги ограничения върху това, което могат да публикуват, а Anthropic е започнала предварителни разговори с Hugging Face. Този ход идва след подписването от Anthropic на Споразумението на Белия дом за свръхинтелигентността, което включва ангажимент за работа с външни проверяващи.

AI новини без сензации – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен бюлетин за AI, нашия ексклузивен годишен шестмесечен доклад „AI Radar“ за водещите разработки, пълен достъп до архива и достъп до секцията за коментари.