Губернатор Каліфорнії Гевін Ньюсом підписав указ, що вимагає «аварійного вимикача» для моделей ШІ

Губернатор Каліфорнії Гевін Ньюсом підписав указ, щоб прискорити незалежний нагляд за компаніями, що розробляють ШІ, і просунути створення «аварійного вимикача» для моделей ШІ. Указ є реакцією на нещодавні інциденти, зокрема атаку на Hugging Face. Експертна комісія має два місяці, щоб надати рекомендації, зокрема щодо вимоги до компаній, які розробляють ШІ, розміщувати незалежних аудиторів безпосередньо у своїх лабораторіях. Ця пропозиція вже надходила від самих лабораторій ШІ у межах ширшого заклику сповільнити дослідження та розробку.

Ньюсом різко розкритикував свого суперника Дональда Трампа, який звинуватив лабораторії в нагнітанні страху. Ньюсом зазначив, що жоден федеральний закон не зобов’язує компанії, які розробляють ШІ, повідомляти про небезпечні інциденти. За його словами, Каліфорнія вже ухвалила закони, що регулюють безпеку ШІ, захист дітей, дипфейки, конфіденційність даних і кібербезпеку. Ньюсом закликає Конгрес ухвалити цю систему як загальнонаціональний базовий стандарт. Окрім самих лабораторій, група з 42 математиків також попередила про ризики передових систем ШІ, які найближчим часом можуть стрімко розвиватися.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.