ШІ-детектори спираються на неточні оцінки авторства
Сервіси GPTZero, Pangram і детектор штучного інтелекту Turnitin визначають авторство не переважно через пошук збігів із матеріалами, опублікованими в інтернеті. Натомість вони використовують власні моделі ШІ, щоб оцінити, чи міг текст бути написаний людиною або за допомогою ШІ. За словами GPTZero, система аналізує формулювання, ритм і структуру тексту, а також закономірності його довжини й тону, які компанія пов’язує з матеріалами, створеними ШІ.
Така оцінка є більш суб’єктивною та гірше перевіряється, ніж виявлення текстового збігу онлайн. Алгоритми також можуть помилково реагувати на тексти авторів, для яких англійська є другою мовою. Turnitin заявляє, що його детектор помилково позначає як створений ШІ менш ніж 1 відсоток написаного людьми контенту. Pangram стверджує, що частота хибнопозитивних результатів становить 1 на 10 000, а GPTZero повідомляє про подібно низький показник. Це твердження компаній, тоді як метод залишається прогнозом моделі ШІ, а не прямим доказом авторства.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Verge. Факти, цитати та повний контекст — в оригінальній статті нижче.