Губернатор Калифорнии Гэвин Ньюсом подписал указ, требующий «аварийного выключателя» для моделей ИИ

Губернатор Калифорнии Гэвин Ньюсом подписал указ, призванный ускорить независимый надзор за компаниями, занимающимися ИИ, и продвинуть создание «аварийного выключателя» для моделей ИИ. Этот указ стал ответом на недавние инциденты, такие как атака на Hugging Face. Экспертной комиссии дается два месяца на подготовку рекомендаций, включая требование к компаниям, занимающимся ИИ, размещать независимых аудиторов непосредственно в своих лабораториях. Это предложение уже исходило от самих лабораторий ИИ в рамках более масштабного призыва замедлить исследования и разработки.

Ньюсом резко раскритиковал своего соперника Дональда Трампа, который обвинил лаборатории в нагнетании страха. Ньюсом указал, что ни один федеральный закон не обязывает компании, занимающиеся ИИ, сообщать об опасных инцидентах. По его словам, Калифорния уже приняла законы, регулирующие безопасность ИИ, защиту детей, дипфейки, конфиденциальность данных и кибербезопасность. Ньюсом призывает Конгресс принять эту систему регулирования в качестве общенационального базового стандарта. Помимо самих лабораторий, группа из 42 математиков также предупредила об опасностях передовых систем ИИ, которые в ближайшем будущем могут стремительно развиваться.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный годовой отчет о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.