Бывший специалист OpenAI предупреждает о кризисе культуры безопасности
Дэвид Робинсон, ранее готовивший отчёты о безопасности для каждого крупного выпуска моделей OpenAI, на этой неделе покинул компанию. В редакционной статье для The Atlantic он рассказал о своих опасениях и заявил, что культура в индустрии искусственного интеллекта носит системно проблемный характер.
По мнению Робинсона, проблему нельзя решить одним лишь введением новых правил или регулирования обучения моделей. Он считает, что высокая самоуверенность технологического сектора, постоянная работа в ускоренном темпе и оптимистичный настрой привели к игнорированию либо недооценке возможных угроз. Робинсон призывает компании проявлять больше смирения и учитывать опыт отраслей, где ошибки могут иметь серьёзные последствия.
Он предлагает, чтобы ведущие лаборатории ИИ применяли меры защиты, сопоставимые с практиками на атомных электростанциях и загруженных аэропортах. Речь идёт о нескольких уровнях резервирования и тщательном планировании, призванных не допустить катастрофы из-за неизбежной человеческой ошибки. Уход Робинсона стал частью серии подобных уходов специалистов по безопасности, включая Jacob Coxon, Robert O’Callahan, Bilal Chughtai, Josh Engels и Joe Benton.
Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.