OpenAI создала систему выявления злоупотреблений без хранения данных клиентов
OpenAI планирует предоставить корпоративным клиентам свои наиболее продвинутые модели, не сохраняя их данные, и одновременно выявлять злоупотребления. Для этого компания разработала систему безопасности Private Safety Processing. Она анализирует признаки злоупотреблений в нескольких связанных взаимодействиях и поддерживает режим нулевого хранения данных (ZDR), при котором информация удаляется после обработки.
Как заявляет OpenAI, компании передается только ограниченный сигнал безопасности: он указывает тип и серьезность активности. Содержимое запросов и ответов модели OpenAI не получает. Данные клиента остаются в его собственной инфраструктуре либо хранятся в зашифрованном виде, причем ключи шифрования сохраняются у клиента.
Aleah Houze, руководитель направления продуктовой политики OpenAI, отметила, что отдельные риски могут проявляться лишь на протяжении нескольких разговоров. В статье этот подход сравнивается с политикой Anthropic: для наиболее мощных моделей, включая Fable 5, компания требует хранить данные 30 дней. OpenAI ожидает выпустить технический документ в сентябре.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.