Какво пропускат защитниците на Flock

Тази статия първоначално се появи в The Algorithm, нашия седмичен бюлетин за изкуствения интелект. За да получавате първи в пощенската си кутия подобни истории, се абонирайте тук.

Flock, гигантът в полицейските технологии, известен със своята мрежа от около 120 000 автоматични устройства за разчитане на регистрационни номера в САЩ, обяви някои промени в платформата си миналия четвъртък. Актуализациите имат за цел да попречат на служителите да използват платформата за незаконни или неправомерни цели. 

Това включва и преследването. Наскоро Washington Post идентифицира 50 случая, в които служители са злоупотребявали със системи на Flock и нейните конкуренти, често за да преследват и тормозят жени. Една жена от Уисконсин твърди, че бившият ѝ приятел, който е полицай, е търсил автомобила ѝ 179 пъти. Друга жена е била преследвана от началника на полицията, без да има на кого да се оплаче.

Flock реагира с практики, целящи да гарантират, че служителите имат основателна причина за всяко търсене, като например използване на софтуер за отбелязване на необичайни търсения и изискване от търсещите да въведат номер на наказателно дело.

Промените обаче са съпътствани от големи вратички. Например служителите могат да въвеждат фиктивни номера на дела, точно както са лъгали, за да заобикалят други мерки за защита на Flock. Политиките също така не разглеждат някои от по-широките опасения на групите за граждански свободи и неприкосновеност на личния живот, че Flock превръща инструмент, представян като средство за предотвратяване на престъпността, в мрежа за масово наблюдение. Тези критики доведоха до нарастваща реакция, в резултат на която някои градове вече прекратяват договорите си, а някои щати се опитват да приемат закони за ограничаване или пълна забрана на устройствата за разчитане на регистрационни номера. 

На фона на всичко това наскоро се появиха няколко аргумента в защита на Flock: Ако тези камери помагат за разкриването на престъпления, какъв е проблемът? В добър ден те може да помогнат за залавянето на похитител, а ако не, просто правят снимки на автомобила ми, които никой няма да си направи труда да прегледа. 

Като оставим настрана въпроса без отговор доколко системите на Flock действително разкриват или предотвратяват престъпления, всичко това пропуска един по-важен въпрос: Какъв вид система за борба с престъпността е избрала да изгради Flock?Нейната мрежа функционира по този начин заради поредица от решения относно това каква информация да се събира, кой да може да я търси, колко дълго да се съхранява и колко широко да се споделя. Тези решения определят условията на сделката между сигурността и гражданските свободи. Вярата, че технологиите трябва да играят роля в разкриването на престъпления, не бива да означава сляпо приемане на условията на тази сделка.

Да разгледаме например новото изискване служителите да въвеждат номер на дело, преди да извършат търсене в платформата на Flock. Целта е да се гарантира, че търсенията имат легитимна цел. Но Flock потвърди пред MIT Technology Review, че не проверява тези номера на дела, така че служителят може просто да въведе фиктивен номер. Можем да си представим система, която вместо това изисква номера на дела да съвпадат с данните на полицейското управление — може би по-натрапчива интеграция, но и много по-силна защитна мярка, която оставя по-полезна следа за одит.

А какво да кажем за откриването на хора, които са били отвлечени или са изчезнали — приложението, което Flock посочва по-често от всяко друго? Усилията за разкриване на тези престъпления биха спечелили много от националната мрежа от камери на Flock. Но ако американците искат служителите да използват тази мрежа само за тази цел, можем да я проектираме по този начин: Търсения, свързани с активна тревога Amber Alert или друга подобна извънредна ситуация, биха могли да получават достъп до по-големи количества данни от околните градове. Така стойността на мрежата при извънредни ситуации ще се запази, без хората да бъдат принуждавани да приемат масово наблюдение.  

Накрая стои въпросът колко данни събира Flock и колко дълго ги съхранява. Flock функционира предимно като национална мрежа: Полицията в един град или щат може да търси данни, събрани в друг, а службите могат да съхраняват тези данни месеци или години. Самата Flock обаче твърди, че 90% от търсенията се извършват в рамките на седмица след даден инцидент. Това предполага друга възможна сделка: Данните да се съхраняват и споделят само толкова широко и толкова дълго, колкото действително са полезни за разкриването на престъпления. (Наскоро компанията промени препоръчителния срок за съхранение на седем дни, но на практика службите могат да пазят данните толкова дълго, колкото пожелаят.)

Накратко, Flock би могла да проектира наблюдението си така, че да бъде много по-ограничено. Ако го направи, някои от критиците на компанията може и да не престанат. Чад Марлоу, старши правен съветник по политиките в ACLU, шеговито ми каза, че най-приемливият според неговите стандарти договор с Flock е „такъв, който никога не е подписан“, и подчерта, че най-добрият начин за поставяне на ограничения върху наблюдението не е чрез нови правила на Flock, а чрез нови закони. (Главният изпълнителен директор на Flock Гарет Лангли, от своя страна, заяви, че „вероятно винаги ще има различно мнение от ACLU“.) 

А ограничаването на обхвата на технологията ѝ би застрашило цялото предложение, което компанията отправя към полицейските управления. Устройствата за разчитане на регистрационни номера съществуват от 90-те години на миналия век и се използват за пътни такси и глоби. Бизнес моделът на Flock — и неотдавнашната ѝ оценка от 8 милиарда долара — се основава именно на превръщането на камерите ѝ в огромна мрежа, която събира богати масиви от данни и предлага на полицейските управления съвременен начин да осмислят не само собствените си данни, но и тези на други служби. 

Ръката на Flock скоро може да бъде принудена. Градове са прекратили договорите си с компанията. Някои са се насочили към конкуренти, докато други изчакват, докато жителите обмислят как искат да се използва тази технология и приемат нови правила, които полицията да спазва. Резултатът може да бъде общностите сами да определят условията за това как технологиите могат да се използват за разкриване на престъпления и колко наблюдение трябва да приемат хората, за да се постигне това.