Пентагон просит 30 миллионов долларов на создание детектора лжи с искусственным интеллектом

Правительство США хочет потратить 30,3 миллиона долларов в течение следующих пяти лет на усовершенствованную версию детектора лжи, говорится в запросе Министерства обороны о бюджете. Программа под названием «Polygraph+» или «Polygraph Next» будет сосредоточена на алгоритмах оценки, использующих искусственный интеллект и машинное обучение, а также на методике, называемой «дистанционным зондированием», которая предполагает возможность снимать физиологические показатели испытуемого без прикрепления к нему какого-либо устройства.

Согласно подробностям бюджетного документа, о которых первым сообщило издание Inside Defense, проект призван «модернизировать федеральные технологии полиграфа и оценки достоверности» для повышения их точности и надежности. Однако этот проект может оказаться лишь последней в длинной череде неудачных попыток использовать технологии для выявления лжи. «Это ошибочная попытка свести сложное явление к чему-то осязаемому», — говорит Кири Коцоглу, профессор юридической школы Нортумбрийского университета в Великобритании, изучающий применение полиграфов в системе правосудия.

Этот шаг предпринимается в период высокой напряженности внутри Министерства обороны. При министре обороны Пите Хегсете Пентагон все чаще обращается к проверкам на полиграфе в попытке найти источники предполагаемых утечек в прессу. В сентябре New York Times сообщила, что около 50 офицеров из Объединенного комитета начальников штабов прошли проверки на полиграфе после публикаций о сокращении запасов американского оружия в ходе войны с Ираном. 

Реализацией Polygraph+ займется Агентство контрразведки и безопасности Министерства обороны (DCSA), которое проводит проверки биографических данных для федерального правительства. Согласно бюджетному документу, который еще не утвержден Конгрессом, новая технология будет использоваться для проверки потенциальных сотрудников и «выявления внутренних угроз». Пока неясно, какие именно технологии будут применяться, а DCSA не ответило на запрос о дополнительной информации. 

Однако другие проекты Министерства обороны могут дать представление о возможных решениях. В 2023 году Отдел оборонных инноваций ведомства (DIU) провел открытый конкурс заявок в поисках компаний, чьи продукты можно было бы использовать для выявления обмана.

Он выбрал две компании для создания прототипов: Presage Technologies, заявляющую, что способна измерять частоту сердцебиения и дыхания с помощью обычных камер, и Altec Research — компанию, производящую медицинские датчики и теперь осваивающую технологии бесконтактного зондирования. На скриншоте прототипа технологии Altec, опубликованном DIU, видно, что она отслеживает движения головы, температуру кожи лица и активность пор. Presage Technologies и Altec Research не ответили на запросы о комментариях. В DIU отказались от комментариев. 

Современная технология полиграфа почти не изменилась с тех пор, как устройство было изобретено в 1920-х годах. Эксперты используют показатели кровяного давления, пульса, дыхания и потоотделения, чтобы определить, лжет ли человек. Они судят о достоверности ответов испытуемого на основе различий в его физиологической реакции на контрольные вопросы вроде «Небо голубое?» и проверочные вопросы вроде «Совершали ли вы когда-нибудь преступление?».

Федеральное правительство ежегодно проводит десятки тысяч таких проверок при отборе сотрудников, однако полиграф неоднократно подвергался опровержению, а его результаты редко допускаются в суде. В 1983 году Управление Конгресса по оценке технологий заключило, что существует крайне мало доказательств в пользу использования полиграфа для проверки сотрудников, а в 2003 году Национальный исследовательский совет США заявил, что доказательства его эффективности были «в лучшем случае слабыми». 

Исследования показывают, что люди без какой-либо технической помощи способны распознать ложь лишь немного более чем в половине случаев. Американская ассоциация полиграфологов утверждает, что точность полиграфа составляет от 80 до 94%. Однако в отчете Национального исследовательского совета за 2003 год отмечалось, что проверка с таким уровнем точности все равно может приводить к множеству ошибок. В Министерстве обороны работают 2,8 миллиона человек — несовершенная система, применяемая в таком масштабе, может в итоге ложно обвинить десятки тысяч людей.

Есть и другие проблемы. Интерпретация результатов полиграфа часто субъективна: разные эксперты получают совершенно разные результаты, а людей из групп меньшинств чаще признают обманщиками. Более того, после обучения участники опроса могут освоить различные контрмеры, помогающие обмануть тест; чаще всего они искусственно усиливают физиологическую реакцию организма на контрольные вопросы — например, наступая на спрятанную в обуви булавку. 

«Если вы знаете, как он работает, его можно обмануть», — говорит Софи ван дер Зе, доцент Роттердамского университета имени Эразма, изучающая обман. По ее словам, главный эффект устройства — сдерживание: испытуемые часто признаются еще до начала проверки. «Но это работает только в том случае, если люди верят, что полиграф работает».

На протяжении нескольких десятилетий предпринималось немало попыток создать новые типы детекторов лжи — от тепловизионных камер и устройств для отслеживания зрачков до сканирования мозга. Ни один из них не продемонстрировал надежных результатов за пределами лаборатории. Проблема носит структурный характер: не существует единственного верного признака лжи, который был бы характерен для всех людей и проявлялся всегда. «Пиноκкио всё еще не обзавелся носом», — говорит ван дер Зе. 

Теоретически ИИ мог бы усовершенствовать полиграфы, если бы смог обнаружить в данных закономерности, недоступные экспертам. Алгоритмы ИИ также с большей вероятностью будут использоваться для «мультимодального» выявления обмана, при котором несколько показателей объединяются в единую «оценку» обмана, которую людям сложнее обойти. Под поверхностью происходят три процесса, на которых пытается сосредоточиться выявление лжи, говорит ван дер Зе: физиологический стресс, когнитивная нагрузка и сознательные усилия людей скрыть тот факт, что они лгут. Современная технология полиграфа учитывает только один из них.

«Чем больше вы сможете объединить методов, рассматривающих проблему с этих трех разных сторон, тем успешнее будет результат», — говорит ван дер Зе. Это не новая концепция: в 2000-х годах исследователи Манчестерского столичного университета разработали систему под названием «Silent Talker», которая вычисляла оценку обмана по видеозаписи, а позднее была включена в финансируемую ЕС пилотную программу iBorderCtrl. В США в рамках проекта под названием AVATAR для использования на пограничных пунктах объединялись отслеживание взгляда, анализ голоса и выявление движений тела. Все эти проекты постепенно сошли на нет. 

По словам Коцоглу, сочетание ИИ и полиграфа — это «худшее из двух миров», поскольку оно добавляет неопределенность к уже недоказанной методике. Даже если ИИ или машинное обучение смогут выявлять ранее неизвестные закономерности в физиологических данных, они не смогут надежно связать их с ложью из-за отсутствия достоверных исходных данных. 

«Даже если у вас есть все существующие записи проверок на полиграфе, вы не знаете, были ли эти проверки правильными», — говорит Марион Освальд, профессор права, которая вместе с Коцоглу писала о применении полиграфов в системе правосудия. Она опасается, что новые формы выявления лжи, как и полиграф, будут использоваться скорее как психологический реквизит, чем как научный инструмент. 

«Это очень похоже на реакцию на обеспокоенность нынешней администрации утечками и предполагаемым недостатком лояльности», — говорит Освальд. «[Выявление лжи] используется как угроза, чтобы запугать людей и заставить их признаться в чем-либо, а не для получения действительно достоверной информации».