Колишній фахівець OpenAI попередив про зламану культуру індустрії
Девід Робінсон, який раніше готував звіти з безпеки для кожного великого випуску моделей OpenAI, цього тижня звільнився з компанії. У редакційній статті для The Atlantic він розповів про свої побоювання та заявив, що культура в індустрії штучного інтелекту є системно зламаною.
За словами Робінсона, проблему не можна вирішити лише запровадженням нових правил або регулюванням навчання моделей. Він вважає, що надмірна впевненість технологічного сектору, постійні прискорені цикли розробки та оптимізм сприяли ігноруванню або недооцінюванню можливих загроз. Робінсон закликає компанії до більшої стриманості та до використання досвіду галузей, де помилки можуть мати серйозні наслідки.
Він пропонує, щоб провідні лабораторії ШІ застосовували запобіжники, подібні до тих, що діють на атомних електростанціях і завантажених летовищах. Йдеться про кілька рівнів резервування та ретельне планування, які мають не допустити катастрофи через неминучу людську помилку. Його відставка стала частиною низки звільнень фахівців із безпеки, серед яких Jacob Coxon, Robert O’Callahan, Bilal Chughtai, Josh Engels і Joe Benton.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Verge. Факти, цитати та повний контекст — в оригінальній статті нижче.