Чего не замечают защитники Flock

Эта статья впервые появилась в The Algorithm — нашей еженедельной рассылке об искусственном интеллекте. Чтобы первыми получать подобные материалы на свою электронную почту, подпишитесь здесь.

Flock, гигант в сфере полицейских технологий, известный своей сетью из примерно 120 000 автоматических считывателей номерных знаков по всей территории США, объявила об изменениях в своей платформе в прошлый четверг. Эти обновления призваны не допустить, чтобы сотрудники правоохранительных органов использовали платформу в незаконных или неправомерных целях. 

В том числе для преследования людей. Недавно Washington Post выявила 50 случаев, когда сотрудники правоохранительных органов злоупотребляли системами Flock и её конкурентов — зачастую для преследования и травли женщин. Одна женщина из Висконсина утверждала, что её бывший возлюбленный, служивший в полиции, 179 раз искал информацию о её автомобиле. Другую женщину преследовал начальник полиции, и ей было некому на него пожаловаться.

Flock ответила мерами, призванными гарантировать наличие у сотрудников надлежащих оснований для каждого поиска: например, с помощью программного обеспечения, выявляющего аномальные поисковые запросы, и требования указывать номер уголовного дела.

Однако эти изменения оставляют большие лазейки. Например, сотрудники могут вводить фиктивные номера дел — так же, как они лгали, чтобы обойти другие меры защиты Flock. Эти правила также не затрагивают более широкие опасения организаций, защищающих гражданские свободы и право на неприкосновенность частной жизни: Flock превращает то, что преподносилось как инструмент борьбы с преступностью, в сеть массового наблюдения. Эта критика вызвала растущую волну недовольства: некоторые города уже расторгают контракты, а некоторые штаты пытаются принять законы, ограничивающие или полностью запрещающие считыватели номерных знаков. 

На фоне всего этого в последнее время появилось несколько аргументов в защиту Flock: если эти камеры помогают раскрывать преступления, то в чём проблема? В удачный день они могут помочь поймать похитителя, а если нет — всего лишь делают снимки моей машины, которые никто не станет просматривать. 

Оставляя в стороне вопрос о том, в какой степени системы Flock на самом деле помогают раскрывать или предотвращать преступления, всё это обходит стороной более важный вопрос: какую именно систему борьбы с преступностью решила создать Flock?Её сеть работает так, как работает, из-за целого ряда решений о том, какую информацию собирать, кто может выполнять поиск по ней, как долго её хранить и насколько широко ею делиться. Эти решения определяют условия компромисса между безопасностью и гражданскими свободами. Убеждённость в том, что технология должна играть роль в раскрытии преступлений, не должна означать слепое принятие условий этого компромисса.

Рассмотрим, например, новое требование указывать номер дела перед выполнением поиска на платформе Flock. Оно призвано гарантировать, что поиски имеют законную цель. Но Flock подтвердила MIT Technology Review, что не проверяет эти номера дел, поэтому сотрудник может просто ввести фиктивный номер. Можно представить себе систему, которая вместо этого требует номера дел, соответствующие данным полицейского управления, — возможно, это было бы более масштабной интеграцией и сильнее затрагивало бы частную жизнь, но одновременно стало бы гораздо более надёжной мерой защиты и оставляло бы более полезный след аудита.

А как насчёт поиска людей, которых похитили или которые пропали без вести, — сценария использования, который Flock упоминает чаще всего? Раскрытию таких преступлений чрезвычайно помогла бы общенациональная сеть камер Flock. Но если американцы хотят, чтобы сотрудники обращались к этой сети только для подобных целей, её можно спроектировать соответствующим образом: поисковые запросы, связанные с действующим оповещением Amber Alert или чрезвычайной ситуацией аналогичного характера, могли бы получать доступ к большим объёмам данных из соседних городов. Это сохранило бы ценность сети в чрезвычайных ситуациях, не заставляя людей соглашаться на массовое наблюдение.  

Наконец, возникает вопрос о том, сколько данных собирает Flock и как долго их хранит. Flock в основном работает как национальная сеть: полиция одного города или штата может искать данные, собранные в другом, а ведомства могут хранить эти данные месяцами или годами. При этом сама Flock утверждает, что 90% поисковых запросов выполняются в течение недели после инцидента. Это указывает на ещё один возможный компромисс: хранить данные и делиться ими только в том объёме и в течение того срока, которые действительно необходимы для раскрытия преступлений. (Недавно компания изменила рекомендуемый срок хранения на семь дней, но на практике ведомства могут сохранять данные столько, сколько захотят.)

Иными словами, Flock могла бы сделать своё наблюдение гораздо более ограниченным. Если бы она так поступила, некоторые критики компании, возможно, всё равно не замолчали бы. Чад Марлоу, старший советник по вопросам политики в ACLU, в шутку сказал мне, что наиболее приемлемый по его стандартам контракт с Flock — это «контракт, который никогда не будет подписан», и подчеркнул, что лучший способ установить ограничения на наблюдение — не новые правила Flock, а новые законы. (Генеральный директор Flock Гарретт Лэнгли, со своей стороны, заявил, что «вероятно, всегда будет придерживаться иного мнения, чем ACLU».) 

А ограничение сферы применения её технологий поставило бы под угрозу всё предложение компании для полицейских управлений. Считыватели номерных знаков существуют с 1990-х годов и используются для взимания платы за проезд и оформления штрафов. Бизнес-модель Flock — и недавняя оценка компании в 8 миллиардов долларов — основана на том, чтобы превратить её камеры в огромную сеть, собирающую значительные объёмы данных и предлагающую полицейским управлениям современный способ анализировать не только собственную информацию, но и данные других ведомств. 

Вскоре Flock, возможно, придётся действовать под давлением обстоятельств. Города расторгли контракты с компанией. Некоторые перешли к конкурентам, тогда как другие взяли паузу: жители обдумывают, как именно они хотят использовать эту технологию, и разрабатывают новые правила, которым должна следовать полиция. В результате сообщества могут самостоятельно определить условия того, как технологии можно использовать для раскрытия преступлений и какой уровень наблюдения люди должны принимать ради этого.