Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← Към новините

Приложение за запознанства използвало AI профили и платени човешки посредници

Измамно приложение за запознанства, наречено Dora, съчетавало генерирани от AI персонажи с ограничено участие на реални хора, според разследване, описано в доклад на Anthropic. Докато анализирал приложението, изследователят по сигурността Matthew "Zigula" Gore-Kormanik получил изскачащо съобщение, че Jennifer му се обажда. В профила ѝ пишело, че е 41-годишна жена от зодия Стрелец, с червена коса и сини очи.

Наети чрез платформи за почасова работа хора преминавали проверки за жизненост чрез видео или следвали акаунти в социални мрежи. Те не пишели коментарите сами, а отговаряли, като избирали една от три предварително подготвени реплики. За разлика от AI персонажите, можели да докажат, че са истински хора. Автоматизираните профили давали правдоподобни обяснения защо видеоразговор или обаждане не е възможно.

Според доклада системите в задната част на приложението създавали фалшиви харесвания и посещения и пускали предварително записано видео, когато нямало реален човек. Те също отбелязвали кои потребители са започнали да подозират, че разговарят с бот. Anthropic посочва, че отделните контакти с реални хора карали някои потребители да приемат и изцяло генерираните от AI отговори за човешки.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Verge. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от The Verge на

Прочетете оригинала в The Verge ↗

Репортажът и изображението принадлежат на The Verge и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини