Sakhanda Wire
NVDA $154.51 -1.04% MSFT $506.49 -2.22% GOOGL $281.27 -0.86% META $621.51 -0.78% AMZN $256.90 -0.33%
← К новостям

OpenAI представила классификатор для выявления ИИ-изображений насилия над детей

OpenAI объявила о создании классификатора, который должен помочь специалистам, изучающим сообщения о сексуальном насилии над детьми, быстрее находить материалы, требующие действий. Компания утверждает, что система на 48 процентов сокращает число ложных срабатываний. По данным OpenAI, изображения, отмеченные классификатором, в два раза чаще содержали материалы с насилием.

Инструмент рассчитан на выявление сгенерированных ИИ изображений насилия, созданных с помощью разных средств, включая модели с открытым исходным кодом и приложения для цифрового раздевания. На брифинге в понедельник в Вашингтоне Джон Бакли, руководитель направления публичной политики OpenAI по безопасности детей, заявил, что это первый широко доступный классификатор материалов сексуального насилия над детьми с отдельной отметкой для контента, созданного ИИ.

По словам Бакли, для работы правоохранительных органов важно отличать изображения вымышленного ребенка от изображений реального ребенка. Он также заявил, что материалы, созданные ИИ, могут размывать общественные нормы, связанные с преступлениями против детей, и часто встречаются вместе с изображениями сексуального насилия над реальными детьми.

Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Verge

Читать оригинал на The Verge ↗

Репортаж и изображение принадлежат The Verge и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости