Sakhanda Wire
NVDA $154.51 -1.04% MSFT $506.49 -2.22% GOOGL $281.27 -0.86% META $621.51 -0.78% AMZN $256.90 -0.33%
← До новин

OpenAI представила класифікатор для виявлення ШІ-зображень насильства над дітьми

OpenAI оголосила про класифікатор, покликаний допомогти фахівцям, які опрацьовують повідомлення про сексуальне насильство над дітьми, швидше знаходити матеріали, що потребують дій. Компанія стверджує, що система на 48 відсотків зменшує кількість хибнопозитивних результатів. За даними OpenAI, зображення, позначені класифікатором, удвічі частіше містили матеріали з насильством.

Інструмент розрахований на виявлення згенерованих ШІ зображень насильства, створених за допомогою різних засобів, зокрема моделей із відкритим кодом і застосунків для цифрового роздягання. На брифінгу в понеділок у Вашингтоні Джон Баклі, керівник напряму публічної політики OpenAI з безпеки дітей, заявив, що це перший широко доступний класифікатор матеріалів сексуального насильства над дітьми з окремою позначкою для контенту, створеного ШІ.

За словами Баклі, для правоохоронних органів важливо відрізняти зображення вигаданої дитини від зображення реальної. Він також заявив, що матеріали, створені ШІ, можуть послаблювати суспільні норми щодо злочинів проти дітей і часто трапляються разом із зображеннями сексуального насильства над реальними дітьми.

Текст підготовлено ШІ Sakhanda Wire за матеріалом The Verge. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням The Verge

Читати оригінал на The Verge ↗

Репортаж і зображення належать The Verge і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини