Может ли чат-бот распутать правительственный лабиринт? Белый дом скоро это выяснит

Президент Дональд Трамп объявил во вторник, что Белый дом запускает America.gov — чат-бот на основе ИИ, призванный помогать людям находить государственные услуги и другую информацию.

Google подтвердила, что является партнёром этого проекта и что в нём задействована её модель ИИ Gemini, однако неизвестно, участвовали ли в нём также другие компании, занимающиеся ИИ.

«Вместо того чтобы заставлять граждан искать нужную информацию в бесконечном лабиринте из десятков тысяч правительственных сайтов и правил… теперь у вас будет единая точка входа для любого вопроса», — сказал Трамп в публикации на платформе X.

Упростить доступ к государственным услугам — достойная цель, но является ли чат-бот на основе ИИ лучшим способом её достичь? Большие языковые модели не безошибочны и по-прежнему склонны к галлюцинациям. Более того, CNN недавно сообщила, что американские военные едва не начали вооружённую операцию против китайского судна, которое, как они считали, перевозило компоненты для ядерного оружия. Военные отменили миссию в последний момент, осознав, что предполагаемая угроза была всего лишь галлюцинацией ИИ.

Если кто-то получит недостоверную информацию от America.gov, это, вероятно, не приведёт к ядерной войне, но ошибка всё равно может иметь серьёзные последствия. Люди могут положиться на этот чат-бот, чтобы получить информацию о подаче заявления на продовольственные талоны, продлении визы или заполнении налоговой декларации, и ошибки могут привести к пропущенным срокам, отказу в пособиях или штрафам.