OpenAI изгражда система за безопасност, която открива злоупотреби, без да съхранява данни на клиентите

OpenAI иска да предлага на корпоративните клиенти най-усъвършенстваните си модели с изкуствен интелект, без да съхранява данните им, като същевременно открива злоупотреби. Компанията е изградила система за безопасност, наречена „Private Safety Processing“, за да постигне това.

Системата открива модели на злоупотреба в множество свързани взаимодействия, като същевременно поддържа нулево съхранение на данни (ZDR), което означава, че след обработката не се запазват никакви данни. OpenAI заявява, че получава само ограничен сигнал за безопасност, който включва вида и сериозността на дадена дейност, без да вижда самите входове или изходи.

Данните на клиентите остават в собствената инфраструктура на клиента или се съхраняват в криптиран вид, като клиентът запазва ключовете. Алеа Хоуз, ръководител на продуктовата политика в OpenAI, заяви, че рисковете често стават очевидни едва в рамките на множество разговори. За разлика от това конкурентът Anthropic изисква 30 дни съхранение на данни за най-мощните си модели, като Fable 5. Според OpenAI техническият доклад се очаква да бъде публикуван през септември.

Новини за изкуствения интелект без сензация – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен бюлетин за изкуствения интелект, нашия ексклузивен годишен граничен доклад „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.