Sakhanda Wire
NVDA $154.00 -1.37% MSFT $506.28 -2.26% GOOGL $280.87 -1.00% META $620.34 -0.97% AMZN $256.88 -0.34%
← Към новините

OpenAI добави класификатор за CSAM и временни блокировки в ChatGPT

OpenAI представи инструменти за борба с материалите със сексуално насилие над деца (CSAM), включително класификатор на изображения, който може да открива непознати досега изображения с насилие, включително създадени от изкуствен интелект. Компанията предоставя безплатен API достъп на избрани организации. Според OpenAI системата оценява изображенията с резултат, който помага на проверяващите да насочват вниманието си. Класификаторът е разработен с National Center for Missing and Exploited Children (NCMEC), а Tech Coalition и ROOST съдействат за споделянето на достъпа.

При ранни тестове с партньори инструментът е маркирал с 48% по-малко изображения, като същевременно е открил същия брой изображения с насилие. По данни на OpenAI изображенията, маркирани от него, са били два пъти по-склонни да съдържат насилие. ChatGPT вече показва предупреждение при опити за достъп до материали, сексуализиращи деца, насочва потребителите към специализирана помощ и спира профила за 24 часа. Повторни нарушения могат да доведат до окончателно премахване на профила.

OpenAI публикува насоки за разработчици и предоставя на правоприлагащи органи специализирани приставки, разследващи инструменти, анализ на сложни данни, обучение и практическо ръководство. Мерките са обявени на фона на съдебни дела и критики за рисковете от AI системите за децата.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от TechCrunch на

Прочетете оригинала в TechCrunch ↗

Репортажът и изображението принадлежат на TechCrunch и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини