Sakhanda Wire
NVDA $155.46 -0.44% MSFT $506.24 -2.27% GOOGL $280.20 -1.24% META $618.87 -1.20% AMZN $257.89 +0.05%
← К новостям

Бывший специалист OpenAI предупреждает о кризисе культуры безопасности

Дэвид Робинсон, ранее готовивший отчёты о безопасности для каждого крупного выпуска моделей OpenAI, на этой неделе покинул компанию. В редакционной статье для The Atlantic он рассказал о своих опасениях и заявил, что культура в индустрии искусственного интеллекта носит системно проблемный характер.

По мнению Робинсона, проблему нельзя решить одним лишь введением новых правил или регулирования обучения моделей. Он считает, что высокая самоуверенность технологического сектора, постоянная работа в ускоренном темпе и оптимистичный настрой привели к игнорированию либо недооценке возможных угроз. Робинсон призывает компании проявлять больше смирения и учитывать опыт отраслей, где ошибки могут иметь серьёзные последствия.

Он предлагает, чтобы ведущие лаборатории ИИ применяли меры защиты, сопоставимые с практиками на атомных электростанциях и загруженных аэропортах. Речь идёт о нескольких уровнях резервирования и тщательном планировании, призванных не допустить катастрофы из-за неизбежной человеческой ошибки. Уход Робинсона стал частью серии подобных уходов специалистов по безопасности, включая Jacob Coxon, Robert O’Callahan, Bilal Chughtai, Josh Engels и Joe Benton.

Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Verge

Читать оригинал на The Verge ↗

Репортаж и изображение принадлежат The Verge и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости