Sakhanda Wire
NVDA $154.51 -1.04% MSFT $506.49 -2.22% GOOGL $281.27 -0.86% META $621.51 -0.78% AMZN $256.90 -0.33%
← Към новините

OpenAI представи класификатор за генерирани от AI изображения с насилие над деца

OpenAI обяви класификатор, предназначен да помага на разследващите, които преглеждат сигнали за сексуално насилие над деца, по-бързо да откриват материали, изискващи действия. Компанията заявява, че системата намалява фалшивите положителни резултати с 48 процента. Според OpenAI изображенията, които тя е маркирала, са два пъти по-склонни да съдържат материали с насилие.

Инструментът е разработен за откриване на генерирани от AI изображения с насилие, създадени чрез различни видове софтуер, включително модели с отворен код и приложения за дигитално събличане. На брифинг в понеделник във Вашингтон Джон Бъкли, ръководител на публичната политика за безопасност на децата в OpenAI, заяви, че това е първият широко достъпен класификатор на материали със сексуално насилие над деца със специален сигнал за съдържание, генерирано от AI.

Бъкли каза, че разграничаването между изображения на измислено и на реално дете е важно за сортирането на сигналите към правоохранителните органи. По думите му генерираните от AI материали могат да подкопаят обществените норми и често се откриват заедно с изображения на реални деца.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Verge. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Verge на

Прочетете оригинала в The Verge ↗

Репортажът и изображението принадлежат на The Verge и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини