OpenAI има стотици служители по договор, които четат разговорите ви в ChatGPT

OpenAI наема стотици договорни работници, които четат реални разговори на потребители с ChatGPT, за да подобряват отговорите на чатбота, сочи разследване на 404 Media.

Медията се е сдобила с изтекли вътрешни документи и е разговаряла с допълнителни източници. Проверяващите оценяват отговорите на ChatGPT по скала от едно до седем и имат задачата да намалят прекомерното ласкателство и поведението, подобно на човешкото, в отговорите на модела.

Един от проверяващите е казал пред 404 Media, че не смята, че потребителите знаят, че хора четат разговорите им. Прегледаните подкани потвърждават това: В някои разговори потребителите изрично са молили ChatGPT да запази съдържанието в тайна. Подканите са анонимизирани, но все пак могат да съдържат чувствителни лични данни. OpenAI използва филтър за поверителност, но признава, че той може да допуска грешки.

Договорните работници са набирани чрез Crossing Hurdles („Свързваме квалифицирани професионалисти с бъдещето на AI труда“) и получават заплащане чрез компанията за обучение на AI Mercor, според 404 Media. Един проверяващ, базиран в Северна Америка, е казал, че печели повече от 50 долара на час.

Потребителите могат да изключат настройката „Подобряване на модела за всички“, която е включена по подразбиране, за да спрат използването на разговорите им за обучение на модела и евентуалното им прочитане от хора. Настройката се прилага само за нови разговори. OpenAI предлага и режим на временен чат, който според компанията не използва входните данни за обучение на модела.

OpenAI споменава човешкия преглед само в скрит раздел с често задавани въпроси

Когато 404 Media попитала къде потребителите изрично са информирани за човешкия преглед, OpenAI първоначално не отговорила. На страница с често задавани въпроси компанията обяснява, че упълномощени служители и доставчици на услуги могат да преглеждат потребителски данни, за да подобряват работата на модела, и съветва да не се въвежда чувствителна информация. Това уведомление е публикувано онлайн поне от 2023 г. и през годините е претърпяло само незначителни промени.

404 Media твърди, че информацията е твърде скрита и твърде неясна, за да могат потребителите да разберат колко човешки прегледи всъщност се извършват. А „Подобряване на модела за всички“ звучи по-скоро като приятелски призив за принос към общността, отколкото като съгласие хора да четат разговорите ви. Но неясната формулировка вероятно е внимателно обмислена. Ако OpenAI поискаше изрично съгласие, делът на отказалите се вероятно щеше да е висок.

За AI лабораториите обаче този вид човешка обратна връзка е ключова част от подобряването на моделите им. Практиката е широко разпространена. Anthropic е потвърдила пред 404 Media, че използва човешки проверяващи, за да проверяват отговорите на Claude и да подобряват бъдещи модели. Това се отнася за потребителите, които са включили „Помогнете за подобряването на нашите AI модели“ в настройките си за поверителност. Anthropic също анонимизира разговорите преди човешкия преглед, като премахва данни за акаунта, например имейл адреси. Google също използва човешки проверяващи и отбелязва в Gemini, че хора могат да преглеждат запазените чатове.

AI новини без сензации – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен AI бюлетин, нашия ексклузивен годишен шестмесечен доклад „AI Radar“ за водещите тенденции, пълен достъп до архива и достъп до секцията за коментари.