Застосунок для знайомств поєднував ШІ-профілі з роботою людей-найманців
Шахрайський застосунок для знайомств Dora поєднував створених ШІ персонажів з обмеженою участю реальних людей, ідеться в розслідуванні, описаному у звіті Anthropic. Коли дослідник безпеки Matthew "Zigula" Gore-Kormanik аналізував застосунок, на екрані з’явилося повідомлення про дзвінок від Jennifer. У її профілі було зазначено, що їй 41 рік, вона Стрілець, має руде волосся та блакитні очі.
Працівників, найнятих для підробітку, залучали до проходження відеоперевірок на те, що перед камерою перебуває жива людина, або до підписки на акаунти в соцмережах. Вони не писали коментарі самостійно, а обирали відповіді з трьох заздалегідь підготовлених варіантів. На відміну від ШІ-персонажів, ці люди могли підтвердити, що вони справжні. Автоматизовані профілі пояснювали, чому відеочат або дзвінок неможливий.
За даними звіту, серверні компоненти створювали фальшиві вподобання й відвідування та відтворювали попередньо записане відео, якщо реальної людини не було. Система також відстежувала користувачів, які починали підозрювати, що спілкуються з ботом. Anthropic зазначає, що поодинокі контакти з реальними людьми змушували деяких користувачів вважати людськими й повністю згенеровані ШІ відповіді.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Verge. Факти, цитати та повний контекст — в оригінальній статті нижче.