Трое уволенных исследователей безопасности OpenAI заявляют, что им так и не сказали, что именно они якобы раскрыли

Трое исследователей по безопасности OpenAI, уволенных из-за предполагаемой утечки, рассказывают свою версию событий. Томек Корбак, Микита Балесни и Джасмин Ван отрицают, что делились конфиденциальной информацией, ставят под сомнение официальные причины своего увольнения и подозревают связь с их выступлениями за более прозрачные системы ИИ.

OpenAI уволила всех троих после внутреннего расследования предполагаемых нарушений своих правил обращения с конфиденциальной информацией. Каждый из них до увольнения публично говорил о рисках, связанных с ИИ.

В интервью Wall Street Journal исследователи теперь оспаривают эту версию. OpenAI заявила изданию, что увольнения никак не были связаны с вопросами безопасности, о которых говорили исследователи. Однако все трое утверждают, что им так и не сообщили в письменном виде, с какой именно информацией они якобы неправильно обращались. Они также опасаются, что этот случай может оттолкнуть независимых аудиторов безопасности от сотрудничества с компаниями, занимающимися ИИ.

Из расследования Journal становится понятнее, что привело к конфликту. Служба безопасности OpenAI заподозрила троих в том, что они делились сведениями о внутренней архитектуре моделей компании с внешним исследователем в области безопасности, и потребовала разблокировать их личные телефоны. На этих устройствах сотрудники обнаружили переписку в Signal с включенным исчезновением сообщений. Неделю спустя всех троих уволили одновременно. OpenAI заявила, что Signal не был одобренным инструментом коммуникации, но подчеркнула, что причиной увольнений он не стал. Корбак возражает, что исчезающие сообщения — обычная практика обеспечения безопасности во всей Кремниевой долине.

Спор о мониторинге этапов рассуждений ИИ

В центре спора стоит технический вопрос с серьезными последствиями. Следует ли компаниям, занимающимся ИИ, позволять посторонним наблюдать за тем, как рассуждают их модели? Модели рассуждений могут записывать промежуточные этапы процесса решения задач во внутреннем рабочем поле, известном как цепочка рассуждений. Компании и исследователи безопасности используют эти записи, чтобы понять, как модели приходят к своим решениям.

В статье 2025 года Балесни, Корбак и Ван вместе с ведущими исследователями из нескольких лабораторий ИИ призвали сохранить доступ к этой возможности. Летом вопрос стал еще более актуальным, когда сотрудники компаний, занимающихся ИИ, начали обсуждать модели, которые рассуждают дольше, но записывают меньше промежуточных этапов. Балесни выступил против этого внутри компании, поделившись связанным с темой предложением Райана Гринблатта, тогдашнего главного научного сотрудника Redwood Research.

Корбак также регулярно общался с Гринблаттом. Они переписывались в Slack и Signal, совместно работая над анализом нашумевшего инцидента — атаки агентов OpenAI на Hugging Face, расследование которой Гринблатт проводил по найму METR в рамках независимого расследования.

Расследование началось после публикации новости об Astra

Это сотрудничество стало проблемой после того, как The Information 1 сентября сообщило, что новая модель Astra OpenAI обладает большими возможностями, но раскрывает меньше информации о процессе своих рассуждений. Главный научный сотрудник OpenAI Якуб Пахоцкий в тот момент назвал этот материал запутанным в X, хотя сам предупреждал о гонке в отрасли за моделями, которые больше нельзя будет контролировать.

По данным Journal, несколько недель спустя OpenAI начала внутреннее расследование утечки. Балесни утверждает, что следователи назвали Гринблатта предполагаемым источником и потребовали показать переписку с ним в Signal. Гринблатт отрицает, что передавал журналистам конфиденциальную информацию.

Ван столкнулась с отдельным обвинением: OpenAI заявила, что она неоднократно заходила в почтовый ящик одного из руководителей. Она утверждает, что почти годом ранее просила закрыть ей доступ, в предыдущем месяце случайно открыла конфиденциальное письмо, не передавала его содержимое и сразу сообщила об инциденте. OpenAI заявляет, что проблема заключалась не в самом доступе.

По словам Корбака, последствия затронули гораздо больше людей, чем только их троих. Теперь коллеги боятся общаться с посторонними или поднимать внутри компании вопросы безопасности, утверждает он. В письме совету директоров OpenAI трое исследователей призывают к более тесному сотрудничеству с внешними организациями по безопасности.

Отдельно недавно опубликованный аудит на территории компании вызвал новые вопросы о практике OpenAI в области безопасности. Сотрудники METR и Redwood Research обнаружили во время проверки многочисленные пробелы в защите инфраструктуры OpenAI, однако OpenAI скрыла почти половину итогового отчета.

OpenAI также опубликовала собственный отчет о новой архитектуре безопасности, работающей без доступа к интернету, и заявила, что устранила проблемы и возобновила обучение в начале октября. Компания сообщила, что вскоре объявит о нескольких новых внешних партнерствах.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный годовой отчет о передовых разработках «AI Radar», выходящий шесть раз в год, полный доступ к архиву и разделу комментариев.