OpenAI создает систему безопасности, выявляющую злоупотребления без хранения данных клиентов

OpenAI хочет предоставлять корпоративным клиентам свои самые передовые модели ИИ, не сохраняя их данные и одновременно выявляя злоупотребления. Для этого компания создала систему безопасности под названием «Private Safety Processing».

Система выявляет модели злоупотреблений в нескольких связанных взаимодействиях, обеспечивая при этом нулевое хранение данных (ZDR), то есть после обработки данные не сохраняются. OpenAI заявляет, что получает лишь узкий сигнал безопасности, содержащий тип и степень серьезности активности, не видя фактических входных или выходных данных.

Данные клиентов остаются на их собственной инфраструктуре или хранятся в зашифрованном виде, причем ключи остаются у клиента. Алеа Хоуз, руководитель отдела продуктовой политики OpenAI, заявила, что риски часто становятся очевидными только в ходе нескольких разговоров. Конкурент Anthropic, с другой стороны, требует хранить данные в течение 30 дней для своих наиболее мощных моделей, таких как Fable 5. По данным OpenAI, технический документ будет опубликован в сентябре.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ и наш эксклюзивный обзор передовых разработок «AI Radar» шесть раз в год, иметь полный доступ к архиву и разделу комментариев.