Бивш служител по безопасността на OpenAI предупреждава за проблемна култура
Дейвид Робинсън, който преди е изготвял докладите за безопасност към всяко основно издание на модел на OpenAI, е напуснал компанията тази седмица. В редакционен материал в The Atlantic той вече говори публично за опасенията си и заявява, че културата в индустрията за изкуствен интелект е фундаментално проблемна.
Според Робинсън въпросът не може да бъде решен само с добавянето на нови правила или регулации за обучението на модели. Той смята, че увереността в технологичния сектор, постоянният натиск за бърза разработка и оптимизмът са довели до пренебрегване или подценяване на възможните проблеми. По думите му компаниите трябва да проявят повече смирение и да се поучат от отрасли, които управляват значителни рискове.
Робинсън призовава водещите лаборатории за изкуствен интелект да въведат защити, сравними с тези в атомни електроцентрали или натоварени летища. Той посочва нуждата от многослойна резервираност и внимателно планиране. Напускането му следва поредица от оттегляния на специалисти по безопасност, сред които Jacob Coxon, Robert O’Callahan, Bilal Chughtai, Josh Engels и Joe Benton.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Verge. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.