Sakhanda Wire
NVDA $153.73 -1.54% MSFT $506.30 -2.26% GOOGL $280.09 -1.28% META $619.28 -1.14% AMZN $256.62 -0.44%
← К новостям

Исследователи использовали Claude для доступа к аккаунтам и коду OpenAI

Исследователи использовали Claude компании Anthropic, чтобы воспользоваться уязвимостью в настройках сообщества OpenAI, размещённого на сторонней платформе Discourse. Это, как сообщается, позволило получить доступ к внутренним данным для входа, а затем к аккаунту ChatGPT сотрудника OpenAI. Через этот аккаунт можно было обращаться к внутреннему коду в GitHub, включая чувствительные данные компании.

OpenAI заявила, что благодарит исследователей за сообщение и переданные результаты, и сообщила об устранении проблем. Anthropic отказалась от комментариев, а Hacktron на момент публикации не ответила. Первой о раскрытии информации сообщила The Wall Street Journal.

Публикация появилась после того, как Anthropic обнародовала данные об использовании AI при разработке новых моделей. Компания заявила, что на Claude приходилось 26 процентов исследовательской и разработческой работы против 1 процента в марте. По данным Anthropic, AI выполнял большинство задач по инструкциям человека и под его контролем, а полностью автономной работы не было ни в одном изученном направлении. В 90 процентах задач AI сотрудничал с человеком и выполнял значительную часть работы. Компания связала эти показатели с приближением к рекурсивному самоулучшению — способности AI обучать и совершенствовать себя или новые модели.

Текст подготовлен ИИ Sakhanda Wire по материалу Ars Technica. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием Ars Technica

Читать оригинал на Ars Technica ↗

Репортаж и изображение принадлежат Ars Technica и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости