OpenAI запустила класифікатор CSAM і тимчасові блокування в ChatGPT
OpenAI представила інструменти для боротьби з матеріалами сексуального насильства над дітьми (CSAM), зокрема класифікатор зображень. Він має виявляти раніше не бачені зображення насильства, включно зі створеними штучним інтелектом. Відібрані компанії отримають безкоштовний доступ до класифікатора через API. За даними OpenAI, система присвоює зображенням оцінку, яка допомагає перевіряльникам визначати пріоритетність випадків. Інструмент розробили спільно з National Center for Missing and Exploited Children (NCMEC), а Tech Coalition і ROOST допомагають поширювати доступ до нього.
Під час раннього тестування з партнерами класифікатор позначав на 48% менше зображень, водночас знаходячи таку саму кількість зображень із насильством. OpenAI повідомляє, що ймовірність виявити насильство серед позначених ним зображень була вдвічі вищою. У ChatGPT з’явилися попередження для запитів щодо матеріалів, які сексуалізують дітей. Користувач отримує сповіщення, пропозицію звернутися до спеціалізованої підтримки та 24-годинне блокування облікового запису. Повторні порушення можуть призвести до остаточного видалення акаунта.
OpenAI також оприлюднила рекомендації для розробників і надала правоохоронцям плагіни, інструменти розслідувань, засоби аналізу складних даних, навчання та практичний посібник. Нові заходи представлено на тлі позовів до компанії та критики ризиків ШІ для дітей.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.