ШІ-агенти заповнюють державні служби новими запитами

Оскільки ШІ спрощує заповнення форм і подання скарг, державні служби в усьому світі фіксують величезне зростання кількості заяв та інших звернень.

У Великій Британії кількість скарг до житлового омбудсмена з моменту появи ChatGPT зросла більш ніж удвічі — з 2600 у 2022 році до трохи понад 7000 минулого року. Бюро фінансового захисту споживачів США (CFPB) за той самий період зафіксувало п’ятикратне зростання кількості скарг. Подібні стрибки спостерігалися в судових клопотаннях у Бразилії та петиціях до парламенту Німеччини.

Дослідник Кріс Шмітц відстежує це зростання як частину ширшої тенденції, яку він назвав «агентним затопленням». У статті , яку наступного місяця представлять на конференції з етики ШІ та суспільства, він розглядає 84 різні випадки потенційного затоплення в 11 юрисдикціях і виявляє численні докази того, що інструменти ШІ змінюють спосіб взаємодії людей із державними службами. 

Складніше питання — що робити у відповідь. Хоча деякі нові подання явно мають ворожий характер, інші є результатом роботи легітимних заявників, які використовують ШІ для подання вимог, від яких інакше відмовилися б. Дехто може сприймати нові заявки як спам, створений ШІ, але Шмітц вважає це рідкісною можливістю перебудувати соціальні служби для епохи ШІ.

Шмітц досліджував служби — від подання заяв на соціальну допомогу до офіційних судових апеляцій, — але всі вони мають онлайн-сервіси, до яких може отримати доступ помічник зі штучним інтелектом. (Для довідки, повний набір даних розміщено тут). З методологічних причин у своїй статті Шмітц утримується від твердження, що саме ШІ безпосередньо спричиняє сплеск кількості нових заявників. Однак більшість із 84 випадків розвиваються за однаковим базовим сценарієм: до 2022 року кількість подань залишалася приблизно стабільною, а потім почала зростати дедалі швидше в міру поширення технологій ШІ. Важливо, що в більшості випадків це зростання не сповільнилося, що свідчить: імовірно, воно триватиме ще багато років.

На думку Шмітца, легко зрозуміти, як зростання навичок і доступності ШІ сприятиме ширшому використанню таких сервісів.

«Люди дізнаються, що це можливо, і поступово робити це стає дедалі простіше… раніше, можливо, доводилося збирати докупи великий обсяг контексту й дуже точно формулювати запити для ChatGPT 3.5, а тепер достатньо просто вставити текст або сфотографувати лист у застосунку Claude й отримати досить хорошу відповідь за одну спробу», — сказав він.

Стрибок обсягів подібний до того, що минулого року пережили багато сервісів винагороди за пошук помилок, коли компанії виявили, що їхні вхідні скриньки заполонили неякісні звіти, створені великими мовними моделями. Звіти рідко містили суттєві проблеми з безпекою, але компанії все одно були зобов’язані перевіряти їх у міру надходження, що суттєво виснажувало ресурси. Легко уявити, що державні служби зіткнуться з подібною проблемою, коли їм доведеться обробляти вп’ятеро більше заявників за того самого бюджету.

Але якщо програми винагороди за пошук помилок були переповнені марними поданнями, Шмітц каже, що більшість нових заяв до державних служб надходить від реальних людей із законними вимогами. 

«Переважна більшість випадків, які ми виявляємо, — це люди, які мають право на щось і подають заяву саме на це», — сказав він TechCrunch. 

Якщо раніше ці люди не подавали заяв на допомогу, можливо, причиною було те, що сам процес подання здавався надто складним — у світі державної політики це називають адміністративним тягарем. Тепер, коли ШІ може зняти цей тягар, це може стати нагодою перебудувати багато таких сервісів у спосіб, зручніший для використання ШІ.

Це масштабне завдання, за яке ми здебільшого ще навіть не почали братися, але Шмітц вважає це приводом для оптимізму.

«Важлива частина того, щоб ШІ працював належним чином, — це здатність детально описати, як виглядає хороший варіант розвитку подій. І кожен, хто коли-небудь використовував ChatGPT для заповнення податкової декларації, знає, що тут можливий хороший сценарій, коли вам допомагають, — каже Шмітц. — Можливо, настав момент сказати: “Нам потрібно переосмислити практично все в тому, як виглядає цей процес”».