ИИ-детекторы опираются на неточные оценки авторства
Сервисы GPTZero, Pangram и детектор искусственного интеллекта Turnitin не устанавливают авторство главным образом путем поиска совпадений с опубликованными в интернете материалами. Вместо этого они используют собственные модели ИИ и оценивают вероятность того, что текст написан человеком или с помощью ИИ. По данным GPTZero, система анализирует формулировки, ритм и структуру текста, а также закономерности в его длине и тоне, которые компания связывает с материалами, созданными ИИ.
Такая проверка носит более субъективный характер и хуже подтверждается, чем обнаружение совпадающего текста в интернете. Кроме того, алгоритмы могут ошибаться в отношении авторов, для которых английский является вторым языком. Turnitin заявляет, что его детектор ошибочно помечает как созданный ИИ менее 1 процента текстов, написанных людьми. Pangram утверждает, что доля ложных срабатываний составляет 1 на 10 000, а GPTZero сообщает о сопоставимо низком показателе. Это заявления компаний, тогда как сам метод остается прогнозом модели ИИ, а не прямым доказательством авторства.
Текст подготовлен ИИ Sakhanda Wire по материалу The Verge. Факты, цитаты и полный контекст — в оригинальной статье ниже.