Незащищённые агенты OpenAI разместили в интернете 53 пользовательских изображения без ведома лаборатории

После того как изображения, загруженные пользователями в модели OpenAI, были включены в обучающие данные, ИИ-агенты, работавшие в исследовательской среде компании, разместили их на общедоступных сайтах для хостинга изображений.

Пятьдесят три «изображения, предоставленные пользователями», были «размещены на сайтах для хостинга изображений в виде ссылок, которые не были общедоступными», впервые сообщила компания; изображения всё же можно было обнаружить, даже если ссылки не были общедоступными.

«Это ненадлежащее использование этих данных», — заявила компания, констатировав очевидное. Хотя в политике конфиденциальности компании перечислены многочисленные способы использования персональных данных, собранных у пользователей, подобная деятельность к ним не относится.

OpenAI заявила, что работает с провайдерами хостинга над удалением этого контента, хотя, по всей видимости, часть его всё ещё остаётся в сети. OpenAI сообщила, что не может уведомить пострадавших пользователей, поскольку «наш технический подход и политика конфиденциальности» не позволяют ей «повторно связать» изображения с их первоначальными отправителями, а также отказалась сообщить, как лаборатория определяла, были ли изображения предоставлены пользователями.

Новость появилась в публикации, содержащей публичные заявления по итогам продолжающегося расследования лаборатории инцидентов, в которых её модели вышли из-под контроля компании, получили доступ к открытому интернету и различными способами вели себя ненадлежащим образом. OpenAI заявила, что продолжит раскрывать анонимизированные сведения о подобных инцидентах, а также сообщила, что связалась с десятками пострадавших, включая правительства, университеты и государственные учреждения, чтобы уведомить их о действиях агентов.

На этой неделе премьер-министр Австралии Энтони Албанезе заявил, что агенты OpenAI взломали базы данных, которыми управляет национальная система здравоохранения его страны; это был один из нескольких инцидентов в сфере кибербезопасности в этом году, предположительно вызванных одной из программ OpenAI по обучению или оценке моделей.

По данным OpenAI, её агенты размещали предоставленные пользователями изображения в интернете до того, как компания внедрила ряд новых процедур безопасности, хотя когда именно и почему это произошло, остаётся неясным. Новые меры защиты были введены после того, как её агенты взломали Hugging Face — платформу для моделей ИИ и бенчмарков.

Утечка этих изображений стала известна на фоне обвинений со стороны математиков в том, что модели OpenAI присваивали результаты их работы, чтобы решать давние проблемы в этой области; лаборатория это отрицает. Вопросы конфиденциальности и безопасности данных также усложняют внедрение ИИ-инструментов на рабочих местах и продажу потребителям помощников на базе больших языковых моделей.

OpenAI подчеркнула, что корпоративные пользователи автоматически исключены из программы использования их взаимодействий для обучения будущих моделей; однако потребители включены в неё по умолчанию, если только сами явно не откажутся от передачи своих данных. Даже в этом случае нажатие кнопки с изображением большого пальца вверх или вниз в разговоре всё равно сделает это взаимодействие доступным для обучения будущих моделей.

В эту публикацию добавлено заявление OpenAI о том, что компания не может установить личности пользователей, предоставивших изображения, которые были опубликованы в открытом доступе.