Трима уволнени изследователи по безопасността в OpenAI твърдят, че така и не са им казали какво всъщност са изнесли

Тримата изследователи по безопасността на OpenAI, които бяха уволнени заради предполагаеми изтичания на информация, разказват своята версия на историята. Томек Корбак, Микита Балесни и Джасмин Уанг отричат да са споделяли поверителна информация, поставят под въпрос официалните мотиви за уволненията си и подозират връзка с призивите си за по-прозрачни AI системи.

OpenAI уволни и тримата след вътрешно разследване на предполагаеми нарушения на политиките си за работа с чувствителна информация. Всеки от тях беше говорил публично за рисковете от AI, преди да бъде уволнен.

В интервюта за Wall Street Journal изследователите сега оспорват тази версия. OpenAI заяви пред Journal, че уволненията нямат нищо общо с повдигнатите от изследователите опасения за безопасността. Тримата обаче казват, че никога не са били уведомявани писмено каква информация уж са обработвали неправомерно. Те се опасяват също, че случаят може изцяло да обезкуражи независимите одитори по безопасността да работят с компании за AI.

Репортажът на Journal хвърля светлина върху причините за конфронтацията. Екипът по сигурността на OpenAI заподозрял тримата, че споделят подробности за вътрешната архитектура на моделите на компанията с външен изследовател по безопасността, и ги помолил да отключат личните си телефони. На тези устройства екипът открил чатове в Signal с активирано изчезване на съобщенията. Седмица по-късно и тримата били уволнени едновременно. OpenAI заяви, че Signal не е одобрен инструмент за комуникация, но настоя, че това не е причината за уволненията. Корбак възразява, че изчезващите съобщения са обичайна практика за сигурност в Силициевата долина.

Спор за наблюдението на стъпките на AI разсъжденията

Спорът се съсредоточава върху технически въпрос с големи последствия. Трябва ли компаниите за AI да позволяват на външни лица да проверяват как мислят моделите им? Моделите за разсъждение могат да записват междинните стъпки от процеса си на решаване на задачи във вътрешен бележник, известен като верига на мисълта. Компаниите и изследователите по безопасността разчитат на тези следи, за да разберат как моделите стигат до решенията си.

В статия от 2025 г. Балесни, Корбак и Уанг се присъединиха към водещи изследователи от няколко AI лаборатории, призовавайки за продължаване на достъпа до тази възможност. Въпросът стана по-спешен през лятото, когато служители на AI компании започнаха да обсъждат модели, които мислят по-дълго, но записват по-малко междинни стъпки. Балесни възрази вътрешно, като сподели свързано предложение от Райън Грийнблат, тогава главен научен директор на Redwood Research.

Корбак също поддържал редовен контакт с Грийнблат. Двамата комуникирали по Slack и Signal, докато работели заедно по анализа на широко отразен инцидент — атаката на агенти на OpenAI срещу Hugging Face, за която Грийнблат бил нает от METR да проведе независимо разследване.

Новина за Astra постави началото на разследването

Това сътрудничество се превърнало в проблем, след като The Information съобщи на 1 септември, че новият модел Astra на OpenAI е по-способен, но разкрива по-малка част от процеса си на разсъждение. По това време главният научен директор на OpenAI Якуб Пачоцки отхвърли репортажа като объркан в X, въпреки че самият той беше предупредил за надпревара в цялата индустрия към модели, които вече не могат да бъдат наблюдавани.

Няколко седмици по-късно OpenAI започнала вътрешно разследване на изтичането на информация, според Journal. Балесни казва, че разследващите посочили Грийнблат като предполагаем източник и настояли да видят чатовете в Signal с него. Грийнблат отрича да е предавал поверителна информация на журналисти.

Уанг била изправена пред отделно обвинение: OpenAI заявила, че многократно е получавала достъп до входящата поща на ръководител. Тя казва, че почти година по-рано е поискала този достъп да бъде отменен, че предишния месец случайно е отворила чувствителен имейл, не е споделяла съдържанието му и веднага е съобщила за инцидента. OpenAI твърди, че самият достъп не е бил проблемът.

Последиците се простират далеч отвъд тримата, според Корбак. Той казва, че колегите им вече се страхуват да разговарят с външни лица или да повдигат вътрешно опасения за безопасността. В писмо до борда на OpenAI тримата изследователи призовават за по-тясно сътрудничество с външни организации за безопасност.

Отделно, наскоро публикуван одит на място повдигна собствени въпроси относно практиките на OpenAI за безопасност. Служители на METR и Redwood Research открили множество пропуски в сигурността на инфраструктурата на OpenAI по време на проверката, но OpenAI заличила почти половината от окончателния доклад.

OpenAI също публикува свой доклад за нова архитектура за сигурност, която работи без достъп до интернет, и заяви, че е отстранила проблемите и е възобновила обучението в началото на октомври. Компанията казва, че скоро ще обяви няколко нови външни партньорства.

AI новини без сензацията – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за AI, нашия ексклузивен шест пъти годишно доклад за водещите разработки „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.