OpenAI отстоява решението си да уволни трима изследователи в областта на безопасността на ИИ

Лабораторията за ИИ настоя, че решението е било свързано с „нарушение на доверието“, а не с повдигането на въпроси относно безопасността.

Лабораторията за ИИ настоя, че решението е било свързано с „нарушение на доверието“, а не с повдигането на въпроси относно безопасността.

OpenAI не отстъпва от решението си да уволни трима изследователи по безопасността, след като разследване установи, че са извършили „значително нарушение на доверието“.

В публикация в X в петък компанията заяви, че Джасмин Уанг, Томек Корбак и Микита ⁠Балесни са били уволнени за нарушаване на „ясни политики относно боравенето с чувствителна информация“. Тя настоя, че решението не е свързано с публичните изказвания на тримата относно компанията и опасенията им за безопасността на ИИ.

Публикацията е пряк отговор на отворено писмо, публикувано от изследователите в четвъртък, в което те призовават OpenAI да бъде по-прозрачна относно решението. В него и в поредица от публикации в социалните медии групата заяви, че вярва, че е била уволнена заради повдигането на опасения относно безопасността и че е „действала в съответствие с мисията на OpenAI и в рамките на работните норми по онова време“.

OpenAI заяви, че вътрешно разследване е установило нарушения, „надхвърлящи описаното в писмото“, но не предостави подробности.

Безопасността на най-напредналите системи се превърна във все по-голям проблем за служителите в компаниите за ИИ след поредица от сериозни пробиви тази година, най-вече хакването на Hugging Face от OpenAI. Много служители вече призовават компаниите да забавят темпото и да направят повече за защита срещу потенциалните последици от създаването на самоусъвършенстващи се системи.

• Робърт Харт