Служител по безопасността в OpenAI напусна и бие тревога

Дейвид Робинсън е писал доклади за безопасността в OpenAI, а сега казва, че културата ѝ е „счупена“

Дейвид Робинсън е писал доклади за безопасността в OpenAI, а сега казва, че културата ѝ е „счупена“

Дейвид Робинсън е писал докладите за безопасността, които придружаваха всяко голямо пускане на модел от OpenAI. Тази седмица той подаде оставка и сега говори открито в редакционна статия в The Atlantic.

Разбираемо е, ако сте малко цинични към това как всички изведнъж излизат от сенките, за да предупредят колко опасно е нещото, което са помогнали да бъде създадено. Все пак именно те създадоха тази бъркотия. Но това не означава, че трябва да пренебрегваме предупрежденията им.

Робинсън казва, че културата в индустрията е фундаментално счупена. Според него проблемът е по-дълбок от простото добавяне на няколко нови правила или регулации за начина, по който обучаваме модели. Силициевата долина работи с „изключителна увереност“ и „вечни спринтове“, казва той, създавайки все по-големи и по-добри модели с „необезпокояван оптимизъм“, който игнорира или подценява потенциалните проблеми.

Той казва, че е време компаниите за изкуствен интелект да развият чувство за смирение и да погледнат извън затворения свят на технологичната индустрия, който работи бързо и чупи неща. По-конкретно, според него изкуственият интелект се нуждае от предпазни мерки на ядрено ниво:

Предвид днешните рискове лабораториите, работещи по водещи модели, трябва да функционират като атомни електроцентрали или натоварени летища, с множество нива на резервираност и внимателно, отнемащо време планиране, така че случайна и неизбежна човешка грешка да не отвори врата към бедствие.

Робинсън е само последният от нарастващата редица изследователи и служители по безопасността, напуснали позициите си във водещи компании за изкуствен интелект. Изглежда, че Джейкъб Коксън постави началото на оттеглянето, като напусна Anthropic, а след това публично заяви, че изкуственият интелект „може да ни убие всички до края на десетилетието“. След него дойдоха Робърт О'Калахан, Билал Чугтай и Джош Енгълс от Google DeepMind, както и Джо Бентън от Anthropic.

• Теранс О'Брайън