План Трампа по безопасности ИИ опирается на добровольный контроль компаний
Дональд Трамп считает саморегулирование технологической отрасли наиболее подходящим способом снижения рисков при создании передовых систем искусственного интеллекта. Это происходит на фоне ряда инцидентов, связанных с безопасностью ИИ, после которых OpenAI приостановила обучение и выпуск новых продуктов.
Согласно соглашению, представленному во вторник, два десятка технологических компаний добровольно согласились внедрить меры, рекомендованные Белым домом. В их число входят независимые аудиты безопасности. Они должны проверить, насколько эффективно работают внутренние механизмы контроля, мониторинга и выявления проблем у компаний.
Внешние проверки будут охватывать риски кибербезопасности и биобезопасности, химические угрозы, а также непреднамеренные действия моделей ИИ. Компании также обязались регулярно встречаться для обмена передовыми практиками и формирования общих стандартов и критериев безопасности. Среди подписантов — Дарио Амодеи из Anthropic, Сэм Альтман из OpenAI, Илон Маск из SpaceXAI, Дженсен Хуанг из Nvidia, Марк Цукерберг из Meta и Сундар Пичаи из Alphabet/Google.
Текст подготовлен ИИ Sakhanda Wire по материалу Ars Technica. Факты, цитаты и полный контекст — в оригинальной статье ниже.