Пентагон просить 30 мільйонів доларів на створення детектора брехні зі штучним інтелектом

Уряд США хоче витратити 30,3 мільйона доларів протягом наступних п’яти років на вдосконалену форму детектора брехні, йдеться в запиті Міністерства оборони на бюджетне фінансування. Програма під назвою «Polygraph+» або «Polygraph Next» зосередиться на алгоритмах оцінювання, які використовують штучний інтелект і машинне навчання, а також на методиці, що називається «дистанційне зондування» і передбачає можливість знімати фізіологічні показники людини без прикріплення до неї пристрою.

Згідно з деталями бюджетного документа, про які вперше повідомило видання Inside Defense, проєкт має «модернізувати федеральні технології поліграфа й оцінювання достовірності», щоб підвищити їхню точність і надійність. Але цей проєкт може бути лише останньою ланкою в довгому ланцюзі невдалих спроб використовувати технології для виявлення брехні. «Це хибна спроба звести складне до чогось матеріального», — каже Кірі Коцоглу, професорка юридичної школи Нортумбрійського університету у Великій Британії, яка вивчає використання поліграфів у системі правосуддя.

Цей крок зроблено в період високої напруженості в Міністерстві оборони. За міністра оборони Піта Гегсета Пентагон дедалі частіше вдається до поліграфних тестів, намагаючись знайти джерела ймовірних витоків інформації до преси. У вересні New York Times повідомила, що близько 50 офіцерів Об’єднаного комітету начальників штабів пройшли поліграфні тести після публікацій у ЗМІ про виснажені запаси американської зброї у війні з Іраном. 

Програмою Polygraph+ керуватиме Агентство контррозвідки та безпеки Міністерства оборони (DCSA), яке проводить перевірки біографічних даних для федерального уряду. Згідно з бюджетним документом, який Конгрес ще не затвердив, нову технологію використовуватимуть для перевірки потенційних працівників і «виявлення внутрішніх загроз». Поки що незрозуміло, які саме технології буде застосовано, а DCSA не відповіло на запит про додаткову інформацію. 

Однак інші ініціативи Міністерства оборони дають змогу припустити, що саме це може бути. У 2023 році його Підрозділ оборонних інновацій (DIU) провів відкритий відбір заявок, щоб знайти компанії, чиї продукти можна було б використовувати для виявлення обману.

Було обрано дві компанії для створення прототипів: Presage Technologies, яка стверджує, що здатна вимірювати частоту серцебиття й дихання за допомогою звичайних камер, і Altec Research — компанія, що виробляє медичні сенсори, а тепер розширює діяльність у сфері безконтактних технологій зондування. На скриншоті прототипу технології Altec, оприлюдненому DIU, видно, що вона відстежує рухи голови, температуру шкіри обличчя та активність пор. Presage Technologies і Altec Research не відповіли на запити про коментарі. У DIU відмовилися від коментарів. 

Сучасна технологія поліграфа майже не змінилася відтоді, як пристрій було винайдено у 1920-х роках. Експерти спираються на вимірювання кров’яного тиску, пульсу, дихання та потовиділення, щоб визначити, чи бреше людина. Вони оцінюють правдивість відповідей респондента на основі відмінностей у його фізіологічній реакції на контрольні запитання на кшталт «Небо блакитне?» і цільові запитання на кшталт «Чи скоювали ви коли-небудь злочин?».

Федеральний уряд проводить десятки тисяч таких тестів щороку під час перевірки працівників, але поліграф неодноразово спростовували, а його результати рідко допускають як докази в суді. У 1983 році Управління Конгресу з оцінювання технологій дійшло висновку, що наявні дуже обмежені докази на користь використання поліграфа для перевірки працівників, а у 2003 році Національна дослідницька рада США (NRC) заявила, що докази його ефективності були «у кращому разі слабкими». 

Дослідження свідчать, що люди здатні розпізнати брехню трохи більше ніж у половині випадків без будь-якої технічної допомоги. Американська поліграфна асоціація стверджує, що поліграф точний у 80–94% випадків. Але у звіті NRC за 2003 рік зазначалося, що тест із таким рівнем точності все одно може призводити до великої кількості помилок. У Міністерстві оборони США працює 2,8 мільйона людей — недосконала система, застосована в такому масштабі, зрештою може хибно звинуватити десятки тисяч людей.

Є й інші проблеми. Інтерпретації результатів поліграфа часто суб’єктивні: різні експерти отримують кардинально різні результати, а людей із меншин частіше визнають такими, що обманюють. Крім того, після відповідної підготовки опитувані можуть навчитися різноманітних контрзаходів, які допомагають обдурити тест; найчастіше вони штучно посилюють фізіологічну реакцію свого тіла на контрольні запитання, наприклад наступаючи на заховану у взутті шпильку. 

«Якщо ви знаєте, як це працює, ви можете його обдурити», — каже Софі ван дер Зе, доцентка Еразмуського університету в Роттердамі, яка вивчає обман. За її словами, найбільший ефект пристрою — стримувальний: часто люди зізнаються ще до початку тесту. «Але це працює лише тоді, коли люди вважають, що поліграф працює».

Протягом десятиліть було здійснено чимало спроб створити нові типи детекторів брехні — від тепловізійних камер і трекерів зіниць до сканування мозку. Жодна з них не дала надійних результатів за межами лабораторії. Проблема має структурний характер: не існує єдиної безпомилкової ознаки брехні, яка працювала б для всіх і завжди. «Пінакіо досі не має носа, який би зростав», — каже ван дер Зе. 

Теоретично ШІ міг би вдосконалити поліграфи, якби зміг знаходити в даних закономірності, яких не помічають експерти. Алгоритми ШІ також, імовірніше, використовуватимуть для «мультимодального» виявлення обману, що передбачає поєднання кількох вимірювань для створення загальної «оцінки» обману, яку людям важче сфальсифікувати. За словами ван дер Зе, під поверхнею відбуваються три процеси, на яких намагається зосередитися виявлення брехні: фізіологічний стрес, когнітивне навантаження та свідомі зусилля людини приховати факт брехні. Сучасна технологія поліграфа охоплює лише один із них.

«Чим більше ви можете поєднувати методи, які підходять до цього з цих трьох різних боків, тим успішнішими ви будете», — каже ван дер Зе. Це не нова концепція: у 2000-х роках дослідники Манчестерського столичного університету розробили систему під назвою «Silent Talker», яка генерувала оцінку обману на основі відеозапису, а згодом стала частиною фінансованої ЄС пілотної програми iBorderCtrl. У США проєкт під назвою AVATAR поєднував відстеження рухів очей, аналіз голосу та виявлення рухів тіла для використання на пунктах перетину кордону. Усі ці проєкти тихо зникли. 

Коцоглу каже, що поєднання ШІ та поліграфа — це «найгірше з обох світів», оскільки воно додає невизначеність до недостовірності. Навіть якщо штучний інтелект або машинне навчання здатні помічати раніше невідомі закономірності у фізіологічних даних, вони не зможуть надійно пов’язати їх із брехнею через відсутність еталонної істини. 

«Навіть якщо у вас є всі записи поліграфних тестів у світі, ви не знаєте, чи правильні результати цих тестів», — каже Маріон Освальд, професорка права, яка разом із Коцоглу писала про використання поліграфів у системі правосуддя. Вона побоюється, що нові форми виявлення брехні, як і поліграф, використовуватимуть радше як психологічний реквізит, ніж як науковий інструмент. 

«Це дуже схоже на реакцію нинішньої адміністрації на занепокоєння через витоки інформації та сприйману нестачу лояльності», — каже Освальд. «[Виявлення брехні] використовують як погрозу, щоб залякувати людей і змушувати їх зізнаватися в чомусь, а не для отримання достовірної інформації».