ИИ-агенты наводняют госуслуги новыми запросами

По мере того как ИИ упрощает заполнение форм и подачу жалоб, государственные службы по всему миру фиксируют огромный рост числа заявлений и других обращений.

В Великобритании число жалоб в омбудсменскую службу по вопросам жилья более чем удвоилось с момента появления ChatGPT: с 2600 в 2022 году до чуть более 7000 в прошлом году. Бюро финансовой защиты потребителей США (CFPB) за тот же период зафиксировало пятикратный рост числа жалоб. Аналогичный скачок наблюдался в числе судебных ходатайств в Бразилии и парламентских петиций в Германии.

Исследователь Крис Шмиц отслеживает этот рост как часть более широкой тенденции, которую он назвал «агентским наводнением». В статье , которую в следующем месяце представят на конференции по этике ИИ и обществу, он рассматривает 84 различных случая потенциального наводнения в 11 юрисдикциях и обнаруживает убедительные свидетельства того, что инструменты ИИ меняют способы взаимодействия людей с государственными службами. 

Более сложный вопрос — что с этим делать. Хотя некоторые из новых обращений явно носят враждебный характер, другие стали результатом действий добросовестных заявителей, использующих ИИ для подачи требований, от которых они в противном случае отказались бы. Некоторые могут рассматривать новые заявления как спам, сгенерированный ИИ, однако Шмиц видит в этом редкую возможность перестроить социальные службы с учётом реалий эпохи ИИ.

Шмиц изучил службы — от подачи заявлений на социальные пособия до официальных судебных апелляций, — однако все они располагают онлайн-сервисами, к которым может получить доступ ИИ-ассистент. (Для справки, полный набор данных размещён здесь). По методологическим причинам в своей статье Шмиц не утверждает напрямую, что именно ИИ вызывает наплыв новых заявителей. Но большинство из 84 случаев развиваются по одной и той же базовой схеме: до 2022 года число обращений оставалось примерно стабильным, а затем начало расти всё более быстрыми темпами по мере распространения технологий ИИ. Что особенно важно, в большинстве случаев этот рост не замедлился, что указывает на его вероятное продолжение в течение многих лет.

По мнению Шмица, легко понять, как рост возможностей и доступности ИИ может привести к увеличению его использования.

«Люди выясняют, что это вообще возможно, и постепенно сделать это становится всё проще… раньше требовалось собрать воедино множество контекстных данных и очень точно сформулировать запрос для ChatGPT 3.5, а теперь может быть достаточно просто вставить текст письма или сфотографировать его с помощью приложения Claude и получить довольно хороший ответ с первой попытки», — сказал он.

Скачок объёма обращений похож на то, что в прошлом году испытали многие сервисы поиска уязвимостей, поскольку компании обнаружили, что их почтовые ящики заполонили низкокачественные отчёты, сгенерированные большими языковыми моделями. Эти отчёты редко содержали существенные проблемы безопасности, однако компании всё равно были обязаны проверять их по мере поступления, что значительно истощало ресурсы. Легко представить, что государственные службы столкнутся с аналогичной проблемой, если им придётся обрабатывать в пять раз больше заявителей при том же бюджете.

Но если программы поиска уязвимостей были наводнены бесполезными материалами, то, по словам Шмица, большинство новых обращений в государственные службы поступает от реальных людей с обоснованными требованиями. 

«В подавляющем большинстве изученных нами случаев речь идёт о людях, которые имеют право на что-либо и обращаются именно за этим», — сказал он TechCrunch. 

Если раньше эти люди не обращались за положенными им льготами, возможно, причиной было то, что процесс подачи заявления казался слишком сложным — в мире государственной политики это известно как административное бремя. Теперь, когда ИИ способен снять это бремя, появляется возможность перестроить многие из этих служб так, чтобы они лучше соответствовали возможностям ИИ.

Это масштабная задача, к решению которой мы в основном ещё даже не приступили, но Шмиц видит в этом повод для оптимизма.

«Важная часть того, чтобы ИИ развивался благополучно, — это способность подробно описать, как выглядит хороший вариант развития событий. И любой, кто когда-либо использовал ChatGPT для заполнения налоговой декларации, знает, что здесь возможен хороший сценарий, в котором вам оказывают помощь», — говорит Шмиц. «Возможно, сейчас самое время сказать: “Нам нужно переосмыслить практически всё в том, как выглядит этот процесс”».