OpenAI привлекает сотни подрядчиков для проверки разговоров в ChatGPT
OpenAI привлекает сотни работников по контракту, которые изучают реальные разговоры пользователей с ChatGPT, чтобы улучшать ответы чат-бота. Об этом сообщила 404 Media после изучения утекших внутренних документов и бесед с источниками. Проверяющие оценивают ответы по шкале от одного до семи, в том числе с точки зрения чрезмерной лести и слишком человекоподобной манеры общения. В некоторых диалогах пользователи прямо просили не разглашать их содержание.
Запросы обезличиваются, однако в них могут сохраняться чувствительные персональные данные. OpenAI применяет фильтр конфиденциальности и признаёт, что он способен ошибаться. По данным 404 Media, работников набирают через Crossing Hurdles, а выплаты проходят через Mercor. Один проверяющий из Северной Америки сообщил, что получает более $50 в час.
Пользователь может отключить включённую по умолчанию настройку “Improve the model for everyone”, чтобы новые разговоры не использовались для обучения и потенциального просмотра людьми. По описанию OpenAI, режим Temporary Chat не применяет введённые данные для обучения моделей. Возможность доступа уполномоченных сотрудников и поставщиков услуг компания указывает в разделе часто задаваемых вопросов. Anthropic и Google также используют людей для проверки отдельных ответов или сохранённых чатов в рамках своих настроек конфиденциальности.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.