Губернаторът на Калифорния Гавин Нюсъм подписа указ, изискващ „авариен превключвател“ за моделите на ИИ

Губернаторът на Калифорния Гавин Нюсъм подписа указ за ускоряване на независимия надзор над компаниите за изкуствен интелект и за насърчаване на създаването на „авариен прекъсвач“ за моделите с изкуствен интелект. Указът е в отговор на последните инциденти, като например атаката срещу Hugging Face. Експертна комисия разполага с два месеца, за да представи препоръки, включително изискване към компаниите за изкуствен интелект да внедрят независими одитори директно в своите лаборатории. Предложението вече беше отправено от самите лаборатории за изкуствен интелект като част от по-широк призив за забавяне на научните изследвания и разработките.

Нюсъм остро разкритикува своя съперник Доналд Тръмп, който обвини лабораториите в насаждане на страх. Нюсъм посочи, че нито един федерален закон не изисква от компаниите за изкуствен интелект да съобщават за опасни инциденти. По думите му Калифорния вече е приела закони, обхващащи безопасността на изкуствения интелект, защитата на децата, дийпфейковете, поверителността на данните и киберсигурността. Нюсъм призовава Конгреса да приеме тази рамка като национален минимум. Освен самите лаборатории, група от 42 математици също предупреди за рисковете от усъвършенстваните системи с изкуствен интелект, които в близко бъдеще могат да се развиват с бързи темпове.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен бюлетин за изкуствения интелект, нашия ексклузивен шест пъти годишно доклад за водещите разработки „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.