Гэвин Ньюсом добивается создания аварийного выключателя для ИИ

Распоряжение Ньюсома поручает штату созвать группу экспертов, которая в течение двух месяцев представит рекомендации о том, как усилить меры по обеспечению безопасности ИИ в законодательстве штата. Ньюсом хочет, чтобы группа рассмотрела, каким образом штат мог бы обязать компании, занимающиеся ИИ, размещать на своих объектах независимые группы верификации для проведения регулярных аудитов, подчинить их отчёты о прозрачности и оценки рисков стандартам независимых аудиторов, создать «аварийный выключатель», эффективность которого регулярно проверялась бы, а также обеспечить обязательную отчётность компаний об «инцидентах потери контроля», таких как атака OpenAI на Hugging Face, как о критических инцидентах, связанных с безопасностью. Распоряжение также поручает государственному ведомству ускорить реализацию двух недавно подписанных им законов, создающих основу для независимых верификаторов, оценивающих безопасность ИИ, и реестр аудиторов ИИ штата.