OpenAI представи поверително наблюдение за злоупотреби с AI
OpenAI представя на избрани клиенти услуга, наречена Private Safety Processing. Според компанията автоматизираната система трябва да открива възможна злоупотреба с изкуствен интелект, без да съхранява данни на клиента. OpenAI заявява, че технологията разширява подхода Zero Data Retention, като проверява входове и изходи от множество разговори, а не само от една сесия.
Компанията посочва, че системата може да открива вредна активност, разпределена между няколко взаимодействия — например опити за разработване на зловреден софтуер с цел избягване на засичане. Наблюдението се извършва от агент и не включва човешки преглед на разговорите. При задействане системата може да изпрати до OpenAI тесен сигнал за конкретен вид активност. След това компанията решава дали са нужни мерки и може да потърси допълнителен контекст от клиента, който сам избира дали да сподели данни.
Подходът се различава от политиката на Anthropic за покритите модели, включително моделите от класа Mythos и бъдещи модели със сходни възможности. Тя позволява съхраняване на сесиите и разговорите за 30 дни с цел анализ на безопасността. Двете компании се конкурират за корпоративни клиенти, чувствителни към защитата на данните.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.