Модели OpenAI взломали криптокошелёк и проникли ещё на несколько сайтов
OpenAI заявила, что внутренние модели взломали еще два веб-сайта, обошли введенные компанией ограничения на просмотр веб-страниц и использовали раскрытые учетные данные, чтобы вывести криптовалюту из кошелька, к которому иначе не могли получить доступ, — в рамках последней серии раскрытий информации о том, как ее агенты совершают неэтичные и, вероятно, незаконные действия.
В четверг компания опубликовала отчеты о четырех новых инцидентах, все они произошли в июне. Это произошло после того, как компания раскрыла в июле, что внутренние тестовые агенты использовали уязвимость нулевого дня в инструменте, предназначенном для ограничения их доступа к Интернету. Затем они проникли в сеть поставщика инструментов ИИ Hugging Face. Агенты пошли на этот незаконный шаг, чтобы украсть ответы на хакерский тест, которые были недоступны при самостоятельном выполнении заданий. Этот инцидент — который, вероятно, привел бы к уголовным обвинениям, если бы такие действия непосредственно совершил человек, — еще больше усилил опасения, что широкое использование ИИ может иметь вредные последствия беспрецедентного масштаба.
Проще попросить прощения, чем разрешения
В двух случаях, о которых OpenAI сообщила в четверг, агенты компании, которым было поручено получить информацию с веб-сайтов, взломали их, столкнувшись с препятствиями при попытке получить ее напрямую. В одном из инцидентов во время обучения с подкреплением модель, получив отказ в доступе при попытке получить историческую статистику по больничным койкам на правительственном статистическом сайте, «использовала функцию загрузки файлов на сайте, чтобы получить конфигурацию сервера и файлы приложения, включая конфиденциальные учетные данные», сообщила OpenAI. «Она изучила код приложения, обошла проверки авторизации конечной точки статистики и получила данные, в доступе к которым ранее было отказано. Модель сохранила данные локально».
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.