Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← К новостям

Приложение для знакомств сочетало ИИ-профили с работой людей по найму

Мошенническое приложение для знакомств Dora совмещало созданных ИИ персонажей с ограниченным участием реальных людей, говорится в расследовании, описанном в отчёте Anthropic. Когда специалист по безопасности Matthew "Zigula" Gore-Kormanik изучал приложение, на экране появилось уведомление о входящем звонке от Jennifer. В её анкете было указано, что ей 41 год, она Стрелец, у неё рыжие волосы и голубые глаза.

Нанятые через сервисы подработки люди проходили видеопроверки на присутствие живого человека или подписывались на аккаунты в социальных сетях. Комментарии они не придумывали: ответы на сообщения выбирались из трёх заранее подготовленных вариантов. В отличие от ИИ-персонажей, такие работники могли подтвердить, что они люди. Автоматизированные собеседники отвечали правдоподобными объяснениями, почему видеочат или звонок невозможен.

Согласно отчёту, серверные компоненты создавали искусственные отметки «нравится» и посещения, а при отсутствии реального собеседника показывали заранее записанное видео. Система также отслеживала пользователей, которые начинали подозревать разговор с ботом. Anthropic отмечает, что отдельные контакты с реальными людьми убеждали некоторых пользователей считать человеческими и ответы, полностью созданные ИИ.

Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Verge

Читать оригинал на The Verge ↗

Репортаж и изображение принадлежат The Verge и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости