Anthropic предоставила METR внутренний доступ для аудита своих ИИ-моделей и практик безопасности

Anthropic предоставила команде некоммерческой организации METR внутренний доступ для проверки своих ИИ-моделей и практик безопасности, сообщила компания. Шесть сотрудников METR получили оборудование компании, офисные помещения и доступ к внутренним инструментам — по словам Anthropic, это ставит их примерно на один уровень с собственными командами компании по оценке рисков.

Данные клиентов, информация, защищённая адвокатской тайной, и сведения об архитектуре моделей остаются недоступными. METR опубликует свои выводы независимо. Anthropic сообщает, что может запросить удаление информации в рамках определённых заранее категорий, однако METR вправе публично заявить, считает ли она такие ограничения обоснованными.

Anthropic утверждает, что не вся информация, имеющая отношение к безопасности, может быть обнародована — либо потому, что она способна помочь злоумышленникам, либо потому, что представляет коммерческую тайну. Соглашение с METR выходит за рамки того, что компания предлагала другим внешним проверяющим. SecureBio, Accenture и Faculty пока получили меньший доступ и более жёсткие ограничения на публикацию материалов, а Anthropic начала предварительные переговоры с Hugging Face. Этот шаг последовал за подписанием Anthropic соглашения Белого дома о сверхинтеллекте, которое предусматривает обязательство сотрудничать с внешними проверяющими.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER и получите чтение без рекламы, еженедельную рассылку об ИИ, наш эксклюзивный доклад о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.