Sakhanda Wire
NVDA $150.96 -2.89% MSFT $508.29 +0.40% GOOGL $282.44 +0.80% META $616.38 -0.40% AMZN $267.74 +3.82%
← Към новините

OpenAI представи поверително наблюдение за злоупотреби с AI

OpenAI представя на избрани клиенти услуга, наречена Private Safety Processing. Според компанията автоматизираната система трябва да открива възможна злоупотреба с изкуствен интелект, без да съхранява данни на клиента. OpenAI заявява, че технологията разширява подхода Zero Data Retention, като проверява входове и изходи от множество разговори, а не само от една сесия.

Компанията посочва, че системата може да открива вредна активност, разпределена между няколко взаимодействия — например опити за разработване на зловреден софтуер с цел избягване на засичане. Наблюдението се извършва от агент и не включва човешки преглед на разговорите. При задействане системата може да изпрати до OpenAI тесен сигнал за конкретен вид активност. След това компанията решава дали са нужни мерки и може да потърси допълнителен контекст от клиента, който сам избира дали да сподели данни.

Подходът се различава от политиката на Anthropic за покритите модели, включително моделите от класа Mythos и бъдещи модели със сходни възможности. Тя позволява съхраняване на сесиите и разговорите за 30 дни с цел анализ на безопасността. Двете компании се конкурират за корпоративни клиенти, чувствителни към защитата на данните.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от TechCrunch на

Прочетете оригинала в TechCrunch ↗

Репортажът и изображението принадлежат на TechCrunch и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини