Приложение для знакомств сочетало ИИ-профили с работой людей по найму
Мошенническое приложение для знакомств Dora совмещало созданных ИИ персонажей с ограниченным участием реальных людей, говорится в расследовании, описанном в отчёте Anthropic. Когда специалист по безопасности Matthew "Zigula" Gore-Kormanik изучал приложение, на экране появилось уведомление о входящем звонке от Jennifer. В её анкете было указано, что ей 41 год, она Стрелец, у неё рыжие волосы и голубые глаза.
Нанятые через сервисы подработки люди проходили видеопроверки на присутствие живого человека или подписывались на аккаунты в социальных сетях. Комментарии они не придумывали: ответы на сообщения выбирались из трёх заранее подготовленных вариантов. В отличие от ИИ-персонажей, такие работники могли подтвердить, что они люди. Автоматизированные собеседники отвечали правдоподобными объяснениями, почему видеочат или звонок невозможен.
Согласно отчёту, серверные компоненты создавали искусственные отметки «нравится» и посещения, а при отсутствии реального собеседника показывали заранее записанное видео. Система также отслеживала пользователей, которые начинали подозревать разговор с ботом. Anthropic отмечает, что отдельные контакты с реальными людьми убеждали некоторых пользователей считать человеческими и ответы, полностью созданные ИИ.
Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.