Троє звільнених дослідників безпеки OpenAI заявляють, що їм так і не сказали, що саме вони насправді розголосили

Троє дослідників безпеки OpenAI, яких звільнили через ймовірні витоки інформації, розповідають свою версію подій. Томек Корбак, Мікіта Балесні та Джасмін Ван заперечують, що передавали конфіденційну інформацію, ставлять під сумнів офіційне обґрунтування свого звільнення та підозрюють, що воно пов’язане з їхніми закликами до більш прозорих систем ШІ.

OpenAI звільнила всіх трьох після внутрішнього розслідування ймовірних порушень її політики щодо роботи з чутливою інформацією. До звільнення кожен із них публічно говорив про ризики, пов’язані зі ШІ.

В інтерв’ю Wall Street Journal дослідники тепер заперечують цю версію. OpenAI повідомила Journal, що звільнення не мали жодного стосунку до занепокоєнь щодо безпеки, про які говорили дослідники. Однак усі троє кажуть, що їм так і не повідомили письмово, з якою саме інформацією вони нібито поводилися неналежно. Вони також побоюються, що цей випадок може відбити в незалежних аудиторів безпеки бажання співпрацювати з компаніями, що займаються ШІ.

Розслідування Journal проливає світло на те, що призвело до конфронтації. Команда безпеки OpenAI запідозрила трьох дослідників у передачі зовнішньому досліднику безпеки деталей внутрішньої архітектури моделей компанії та попросила їх розблокувати особисті телефони. На цих пристроях команда виявила чати в Signal з увімкненим автоматичним видаленням повідомлень. Через тиждень усіх трьох звільнили одночасно. В OpenAI заявили, що Signal не був схваленим інструментом комунікації, але наполягали, що саме це не стало причиною звільнення. Корбак заперечує, зазначаючи, що повідомлення, які зникають, є звичайною практикою безпеки в Кремнієвій долині.

Суперечка навколо моніторингу етапів міркування ШІ

У центрі суперечки — технічне питання з далекосяжними наслідками. Чи повинні компанії, що займаються ШІ, дозволяти стороннім спостерігачам перевіряти, як міркують їхні моделі? Моделі міркування можуть записувати проміжні етапи процесу розв’язання задач у внутрішньому чернетковому полі, відомому як ланцюжок міркувань. Компанії та дослідники безпеки покладаються на ці записи, щоб зрозуміти, як моделі доходять своїх рішень.

У статті 2025 року Балесні, Корбак і Ван приєдналися до провідних дослідників із кількох лабораторій ШІ, закликавши й надалі зберігати доступ до цієї можливості. Влітку питання стало ще нагальнішим, коли працівники компаній, що займаються ШІ, почали обговорювати моделі, які міркують довше, але записують менше проміжних етапів. Балесні заперечив цю тенденцію всередині компанії, поділившись відповідною пропозицією Раяна Грінблатта, тодішнього головного науковця Redwood Research.

Корбак також регулярно контактував із Грінблаттом. Вони спілкувалися через Slack і Signal, спільно працюючи над аналізом резонансного інциденту — атакою агентів OpenAI на Hugging Face, для розслідування якої METR найняла Грінблатта з метою провести незалежне розслідування.

Розслідування розпочалося після новини про Astra

Ця співпраця стала проблемою після того, як The Information 1 вересня повідомило, що нова модель Astra від OpenAI була потужнішою, але розкривала менше деталей свого процесу міркування. Тоді головний науковець OpenAI Якуб Пачоцький назвав це повідомлення плутаним у соцмережі X, хоча сам раніше попереджав про загальногалузеву гонку до створення моделей, які більше не можна буде контролювати.

За даними Journal, за кілька тижнів OpenAI розпочала внутрішнє розслідування витоку інформації. Балесні каже, що розслідувачі назвали Грінблатта ймовірним джерелом і вимагали показати чати в Signal із ним. Грінблатт заперечує, що передавав журналістам конфіденційну інформацію.

Ван зіткнулася з окремим звинуваченням: OpenAI заявила, що вона неодноразово заходила до поштової скриньки одного з керівників. Вона каже, що майже роком раніше просила скасувати цей доступ, попереднього місяця випадково відкрила чутливий електронний лист, не передавала його вміст і одразу повідомила про інцидент. В OpenAI заявляють, що проблема полягала не в самому доступі.

За словами Корбака, наслідки виходять далеко за межі цієї трійки. Він каже, що колеги тепер бояться спілкуватися зі сторонніми або порушувати питання безпеки всередині компанії. У листі до ради директорів OpenAI троє дослідників закликають до тіснішої співпраці із зовнішніми організаціями, що займаються безпекою.

Окремо нещодавно опублікований аудит на території компанії порушив власні питання щодо практик безпеки OpenAI. Співробітники METR і Redwood Research під час перевірки виявили численні прогалини в системі безпеки інфраструктури OpenAI, однак OpenAI вилучила майже половину фінального звіту.

OpenAI також опублікувала власний звіт про нову архітектуру безпеки, яка працює без доступу до інтернету, і заявила, що усунула проблеми та відновила навчання на початку жовтня. Компанія каже, що незабаром оголосить про кілька нових зовнішніх партнерств.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.