Три увольнения и четвертый уход встряхнули команду OpenAI по безопасности

По данным Wall Street Journal, OpenAI рассталась с тремя исследователями, которые якобы передали конфиденциальную информацию сторонней организации, занимающейся безопасностью ИИ. Издание называет их Джасмин Ванг, Томеком Корбаком и Микитой Балесни.

Корбак работал в команде по безопасности, а Ванг и Балесни занимались выравниванием ИИ. Представитель OpenAI заявил, что расследование подтвердило нарушения правил компании по обращению с конфиденциальной информацией. OpenAI не подтвердил имена. Неясно, какая информация и какой именно организации была передана.

Корбак был техническим контактным лицом OpenAI для METR и Redwood Research. Обеим группам было поручено выяснить, как ИИ-агенты OpenAI обходили средства контроля безопасности и проникали во внешние системы, такие как Hugging Face. Wall Street Journal не связывает эту работу с увольнениями.

Согласно анонимному аккаунту в X, вскоре после этого OpenAI покинул еще один исследователь в области безопасности, Дэвид Робинсон. Все четверо публично высказывались о рисках ИИ в сентябре. Корбак написал, что недоволен многими действиями OpenAI. Балесни оценивает вероятность того, что ИИ уничтожит всех людей, более чем в десять процентов. Ванг подписала петицию с призывом замедлить развитие ИИ. Робинсон согласился с утверждением, что гонка к самосовершенствующемуся ИИ может быть безумной.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать без рекламы, получать еженедельную рассылку об ИИ и наш эксклюзивный отчет о передовых разработках «AI Radar» шесть раз в год, иметь полный доступ к архиву и разделу комментариев.