Три уволнения и четвърто напускане разтърсват екипа по безопасността на OpenAI

OpenAI се раздели с трима изследователи, които по сведения са изнесли поверителна информация към външна организация за безопасност на изкуствения интелект, съобщава Wall Street Journal. Вестникът ги посочва като Джасмин Уанг, Томек Корбак и Микита Балесни.

Корбак е работил в екипа по безопасността, а Уанг и Балесни са работили по въпросите на съгласуването. Говорител на OpenAI заяви, че разследване е потвърдило нарушения на правилата на компанията за работа с чувствителна фирмена информация. OpenAI не потвърди имената. Не е ясно каква информация е достигнала до коя организация.

Корбак е бил техническото лице за контакт на OpenAI с METR и Redwood Research. На двете групи е било възложено да разследват как агентите с изкуствен интелект на OpenAI са заобикаляли мерките за сигурност и са прониквали във външни системи като Hugging Face. Wall Street Journal не прави връзка между тази работа и уволненията.

Според анонимен акаунт в X четвърти изследовател по безопасността, Дейвид Робинсън, е напуснал OpenAI малко след това. И четиримата са говорили публично за рисковете от изкуствения интелект през септември. Корбак написа, че е недоволен от много от действията на OpenAI. Балесни оценява вероятността изкуственият интелект да убие всички хора на над десет процента. Уанг подписа петиция, призоваваща за по-бавно развитие на изкуствения интелект. Робинсън се съгласи с твърдението, че надпреварата към самоусъвършенстващ се изкуствен интелект може да е безумна.

Новини за изкуствения интелект без сензации – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен бюлетин за изкуствения интелект, нашия ексклузивен шест пъти годишно издаван доклад „AI Radar“ за водещите разработки, пълен достъп до архива и достъп до секцията за коментари.