Чого не помічають захисники Flock

Ця історія спочатку з’явилася в The Algorithm, нашому щотижневому новинному бюлетені про ШІ. Щоб першими отримувати на свою електронну пошту подібні історії, підпишіться тут.

Flock, технологічний гігант у сфері поліцейських технологій, відомий своєю мережею приблизно зі 120 000 автоматичних камер розпізнавання номерних знаків по всіх США, оголосив про деякі зміни у своїй платформі минулого четверга. Оновлення мають запобігти використанню платформи правоохоронцями в незаконних або неправомірних цілях. 

Зокрема, для переслідування. Нещодавно Washington Post виявила 50 випадків, коли правоохоронці зловживали системами Flock та її конкурентів, часто переслідуючи й залякуючи жінок. Одна жінка з Вісконсину стверджувала, що її колишній хлопець-поліцейський 179 разів шукав її автомобіль. Іншу жінку переслідував начальник поліції, і їй не було кому на нього поскаржитися.

Flock відповіла практиками, покликаними гарантувати, що правоохоронці мають належні підстави для кожного пошуку, зокрема використанням програмного забезпечення для позначення аномальних пошуків і вимогою до користувачів вводити номер кримінальної справи.

Втім, ці зміни мають великі лазівки. Наприклад, правоохоронці можуть вводити вигадані номери справ, так само як вони брехали, щоб обійти інші запобіжники Flock. Політики також не розв’язують ширших проблем, на які вказують групи із захисту громадянських свобод і приватності: Flock перетворює те, що продавалося як інструмент боротьби зі злочинністю, на мережу масового стеження. Ця критика спричинила дедалі сильнішу негативну реакцію: деякі міста вже розривають контракти, а деякі штати намагаються ухвалити закони, які обмежують або повністю забороняють використання камер розпізнавання номерних знаків. 

На тлі всього цього нещодавно з’явилося кілька аргументів на захист Flock: якщо ці камери допомагають розкривати злочини, то в чому проблема? У найкращому разі вони можуть допомогти спіймати викрадача, а якщо ні, то просто фотографують мою машину, і ніхто не стане переглядати ці знімки. 

Залишаючи осторонь питання про те, наскільки системи Flock насправді допомагають розкривати або запобігати злочинам, усе це оминає важливіше питання: яку саме систему боротьби зі злочинністю вирішила створити Flock?Її мережа працює так, як працює, через низку рішень щодо того, яку інформацію збирати, хто може її шукати, як довго її зберігати та наскільки широко нею ділитися. Ці рішення визначають умови компромісу між безпекою та громадянськими свободами. Віра в те, що технології мають відігравати роль у розкритті злочинів, не повинна означати сліпого прийняття умов цього компромісу.

Розгляньмо, наприклад, її нову вимогу до правоохоронців вводити номер справи перед виконанням пошуку на платформі Flock. Це має гарантувати, що пошуки мають законну мету. Але Flock підтвердила MIT Technology Review, що не перевіряє ці номери справ, тож правоохоронець може просто ввести вигаданий номер. Можна уявити систему, яка натомість вимагала б номери справ, що відповідають записам поліцейського управління, — можливо, це була б більш нав’язлива інтеграція, але водночас значно надійніший запобіжник, який залишав би корисніший аудиторський слід.

Або що, якщо йдеться про пошук людей, яких викрали або які зникли, — про випадок використання, який Flock згадує найчастіше? Зусилля з розкриття таких злочинів надзвичайно виграли б від загальнонаціональної мережі камер Flock. Але якщо американці хочуть, щоб правоохоронці підключалися до цієї мережі лише з такою метою, ми могли б спроєктувати її саме так: пошуки, пов’язані з активним сповіщенням Amber Alert або подібною надзвичайною ситуацією, могли б отримувати доступ до більших обсягів даних із сусідніх міст. Це зберегло б цінність мережі в надзвичайних ситуаціях, не змушуючи людей погоджуватися на масове стеження.  

Зрештою, постає питання про те, скільки даних збирає Flock і як довго їх зберігає. Flock здебільшого працює як національна мережа: поліція в одному місті або штаті може здійснювати пошук даних, зібраних в іншому, а відомства можуть зберігати ці дані місяцями або роками. Водночас сама Flock стверджує, що 90% пошуків відбуваються протягом тижня після інциденту. Це вказує на ще один можливий компроміс: зберігати й поширювати дані лише настільки широко й довго, наскільки вони насправді корисні для розкриття злочинів. (Нещодавно компанія змінила рекомендований термін зберігання на сім днів, але насправді відомства можуть зберігати дані стільки, скільки захочуть.)

Коротко кажучи, Flock могла б розробити свою систему стеження так, щоб вона була значно вужчою. Якби вона це зробила, деякі критики компанії, можливо, не припинили б критики. Чад Марлоу, старший радник з питань політики в ACLU, напівжартома сказав мені, що найприйнятніший за його стандартами контракт із Flock — це «контракт, який ніколи не підписують», і наголосив, що найкращий спосіб встановити обмеження на стеження — це не нові рекомендації Flock, а нові закони. (Своєю чергою, генеральний директор Flock Гаррет Ленґлі сказав, що він «мабуть, завжди матиме інший погляд, ніж ACLU».) 

А звуження сфери застосування її технології поставило б під загрозу всю пропозицію компанії для поліцейських управлінь. Камери розпізнавання номерних знаків існують із 1990-х років і використовуються для стягнення плати за проїзд та виписування штрафів. Бізнес-модель Flock — і нещодавня оцінка компанії у 8 мільярдів доларів — натомість ґрунтується на перетворенні її камер на величезну мережу, яка збирає великі обсяги даних і пропонує поліцейським управлінням модернізований спосіб аналізувати не лише власні дані, а й дані інших.

Незабаром Flock, можливо, буде змушена діяти. Міста розірвали контракти з компанією. Деякі перейшли до конкурентів, а інші взяли паузу, поки мешканці обмірковують, як вони хочуть використовувати цю технологію, і розробляють нові правила, яких має дотримуватися поліція. Результатом може стати те, що громади самі визначатимуть умови щодо того, як технології можна використовувати для розкриття злочинів і наскільки масштабне стеження люди мають прийняти заради цього.