OpenAI створює систему безпеки, яка виявляє зловживання без зберігання даних клієнтів

OpenAI хоче пропонувати корпоративним клієнтам свої найсучасніші моделі ШІ без зберігання їхніх даних і водночас виявляти зловживання. Для цього компанія створила систему безпеки під назвою «Private Safety Processing».

Система виявляє моделі зловживань у кількох пов’язаних взаємодіях, водночас забезпечуючи нульове зберігання даних (ZDR), тобто після обробки жодні дані не зберігаються. OpenAI заявляє, що отримує лише вузький сигнал безпеки, який містить тип і серйозність активності, не бачачи фактичних вхідних або вихідних даних.

Дані клієнта залишаються на його власній інфраструктурі або зберігаються в зашифрованому вигляді, причому ключі залишаються у клієнта. Алеа Хауз, керівниця відділу продуктової політики OpenAI, заявила, що ризики часто стають очевидними лише впродовж кількох розмов. Натомість конкурент Anthropic вимагає зберігати дані протягом 30 днів для своїх найпотужніших моделей, таких як Fable 5. За даними OpenAI, технічний білий документ має бути опублікований у вересні.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.