Три звільнення та четвертий відхід сколихнули команду OpenAI з безпеки

За даними Wall Street Journal, OpenAI припинила співпрацю з трьома дослідниками, які, ймовірно, передали конфіденційну інформацію зовнішній організації, що займається безпекою ШІ. Видання називає їх Джасмін Ван, Томека Корбака та Мікіту Балесні.

Корбак працював у команді з безпеки, а Ван і Балесні — над узгодженням ШІ з людськими цілями. Представник OpenAI заявив, що розслідування підтвердило порушення правил компанії щодо роботи з конфіденційною інформацією. В OpenAI не підтвердили імена. Незрозуміло, яка саме інформація і якій організації була передана.

Корбак був технічним контактним співробітником OpenAI для METR і Redwood Research. Обидві групи мали завдання досліджувати, як агенти OpenAI на основі ШІ обходили засоби безпеки та проникали до зовнішніх систем, як-от Hugging Face. Wall Street Journal не пов’язує цю роботу зі звільненнями.

За даними анонімного акаунта в X, невдовзі після цього OpenAI залишив ще один дослідник із команди безпеки — Девід Робінсон. Усі четверо публічно висловлювалися про ризики ШІ у вересні. Корбак написав, що незадоволений багатьма діями OpenAI. Балесні оцінює ймовірність того, що ШІ знищить усе людство, більш ніж у десять відсотків. Ван підписала петицію із закликом уповільнити розвиток ШІ. Робінсон погодився з твердженням, що гонка до ШІ, здатного самовдосконалюватися, може бути безумством.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, мати повний доступ до архіву та розділу коментарів.