Белый дом запускает ИИ-чатбот для госуслуг
Президент Дональд Трамп сообщил во вторник о запуске Белым домом America.gov — чатбота на основе искусственного интеллекта, который должен помогать пользователям находить государственные услуги и другую информацию. Google подтвердил участие в проекте и сообщил, что в нем используется модель Gemini. При этом неизвестно, привлекались ли к запуску другие разработчики ИИ.
Трамп представил сервис как единую точку доступа к ответам, которые раньше приходилось искать на десятках тысяч государственных сайтов и среди многочисленных правил. Однако большие языковые модели способны выдавать галлюцинации — правдоподобные, но ошибочные сведения. Риск особенно заметен в ситуациях, когда пользователи опираются на ответы чатбота при решении важных административных вопросов.
В статье приводится недавнее сообщение CNN о том, что американские военные едва не начали вооруженную операцию против китайского судна, которое, как они считали, перевозило компоненты ядерного оружия. Операцию отменили в последний момент, выяснив, что предполагаемая угроза была результатом галлюцинации ИИ. Ошибка America.gov, вероятно, не приведет к сопоставимой опасности, но неверные сведения о продовольственных пособиях, продлении виз или налоговой отчетности могут повлечь пропущенные сроки, отказ в выплатах или штрафы.
Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.