Исследование: чат-боты рекомендуют опасные сайты магазинов
Исследование компании Podqi, занимающейся защитой интеллектуальной собственности, показало, что чат-боты с искусственным интеллектом иногда направляют покупателей на небезопасные сайты при поиске товаров или мест для их покупки. Анализ включал 6 795 ответов трех AI-сервисов.
К опасным Podqi отнесла сайты, выдающие себя за настоящих продавцов, торгующие подделками, использующие старые домены брендов, заново зарегистрированные другими людьми, а также неработающие сайты, которые можно приобрести и использовать повторно. Gemini от Google показал такой сайт в 4% ответов — это самый низкий показатель. У ChatGPT показатель составил 8%, а у Perplexity — 15%.
В подсчет вошли рекомендации, отображение сайта без пояснений и предупреждения о нем. ChatGPT предупреждал о 24% опасных сайтов, которые показывал, что стало лучшим результатом среди трех сервисов по этому критерию. По данным Podqi, в ответах на запросы о крупных компаниях опасные сайты встречались примерно вдвое реже, чем в ответах о небольших брендах.
Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.