Zákaz technológie rozpoznávania tváre v San Franciscu, vysvetlil
Mestský zákaz tejto technológie by mohol vytvoriť celoštátny precedens.
Tento príbeh je súčasťou skupiny príbehov tzv 
Odhaľovanie a vysvetľovanie toho, ako sa mení náš digitálny svet – a mení nás.
San Francisco je prvé veľké mesto, ktoré zakázalo miestnym vládnym agentúram používať rozpoznávanie tváre, a stalo sa lídrom v regulácii technológie kritizovanej za jej potenciál rozšíriť rozšírený vládny dohľad a posilniť zaujatosť polície.
The Zastavte nariadenie o tajnom sledovaní V utorok v hlasovaní dozornej rady mesta prešiel pomerom 8:1. Nariadením sa zavedie úplný zákaz používania monitorovania tváre agentúrami mesta San Francisco, ktoré technologické spoločnosti ako Amazon a Microsoft v súčasnosti predávajú do rôznych USA vládne agentúry vrátane prípadu Amazonu, Americké policajné oddelenia a v Prípad Microsoftu, americké väzenie . Tieto technológie dokážu rozpoznať tváre na obrázkoch alebo živých videostreamoch a priradiť tieto charakteristiky tváre k identite niekoho v databáze.
Dnes je technológia rozpoznávania tváre široko používaný čínskou vládou na orwellovské masové sledovanie obyčajných občanov vo verejnom živote – najznepokojujúcejšie je zamerať sa na ujgurskú moslimskú etnickú menšinu v tzv automatizovaný rasizmus.
V USA sú nástroje oveľa menej všadeprítomné, ale sa stáva čoraz obľúbenejším u orgánov činných v trestnom konaní . Desiatky miestnych policajných oddelení po celých USA používajú túto technológiu na porovnávanie obrázkov vodičských preukazov a záberov hrnčekov s kriminálnymi databázami. Používa sa tiež (v niektorých prípadoch súkromnými občanmi, nie políciou) na monitorovanie davov na podujatiach, ako napr protesty , nákupné centrá a koncerty identifikovať potenciálnych podozrivých v reálnom čase, čo vyvolalo znepokojenie medzi zástancami občianskych slobôd, ktorí tvrdia, že toto použitie môže mať mrazivý vplyv na slobodu prejavu.
Tento zákaz je len jednou časťou nariadenia o dohľade v San Franciscu, ktorý bude tiež vyžadovať, aby mestské úrady získali súhlas mesta pred nákupom iných druhov technológií sledovania, ako sú automatické. čítačky ŠPZ a drony s podporou kamery. Súkromným občanom alebo firmám to však nezabráni v používaní týchto systémov rozpoznávania tváre. (Takže, Taylor Swift, ak to čítaš - stále máš jasno privítať návštevníkov koncertov v San Franciscu skenovaním tváre.) A samozrejme, každodenní San Francisci sa môžu aj naďalej dobrovoľne zúčastňovať na všadeprítomnej technológii rozpoznávania tváre ako my ostatní, keď napríklad odomkneme svoje telefóny iPhone alebo označíme odporúčaného priateľa na fotke na Facebooku. .
Podporovatelia technológie rozpoznávania tváre tvrdia, že má schopnosť pomôcť policajným oddeleniam efektívnejšie identifikovať a zatknúť podozrivých z trestnej činnosti, ale kritici poukazujú na príklady zneužitia, ktoré podľa nich dokazujú, že môže spôsobiť viac škody ako úžitku.
V obzvlášť hrozivom príklade Americká únia občianskych slobôd (ACLU) vykonala test softvéru Amazon na rozpoznávanie tváre a zistila, že nesprávne označil 28 černošských členov Kongresu za zločincov . Zistili to vedci z MIT Celkovo softvér vrátil horšie výsledky pre ženy a jednotlivcov s tmavšou pleťou (v oboch prípadoch Amazon spochybnil zistenia). A na miestach, ako je Maryland, boli policajné agentúry obviňované, že vo všeobecnosti intenzívnejšie využívajú technológiu rozpoznávania tváre v černošských komunitách a zameriavajú sa na aktivistov – napríklad políciu v Baltimore. použil na identifikáciu a zatknutie demonštrantov o smrti Freddieho Graya v rukách orgánov činných v trestnom konaní.
Sklon technológie rozpoznávania tváre ohrozovať občianske práva a občianske slobody výrazne prevažuje nad jej údajnými výhodami, znie vyhláška zo San Francisca , ktorej autorom je mestský dozorca Aaron Peskin a päť ďalších dozorcov v 11-člennom predstavenstve, a táto technológia prehĺbi rasovú nespravodlivosť a ohrozí našu schopnosť žiť bez nepretržitého vládneho monitorovania.
Ďalšie mestá nasledujú príklad San Francisca. V neďalekom Oaklande — a po celej krajine v Somerville, Massachusetts — mestské zastupiteľstvo má hlasovať o návrhu zákona, ktorý by zaviedol podobný zákaz.
Tieto nariadenia presúvajú moc z presadzovania práva na ľudí a zabezpečujú demokratickú diskusiu a dohľad, povedala Mana Azarmi, politická rada Centra pre demokraciu a technológiu. Azarmi ocenil San Francisco a Oakland ako predvoj pri tvorbe legislatívy, ktorá je jedinečným nástrojom zodpovednosti na ukončenie tajného sledovania.
Oblasť San Francisco Bay Area je domovom rozsiahlej siete skupín občianskych slobôd a rasovej spravodlivosti, takže nie je prekvapením, že tamojšie mestské samosprávy majú poprednú reguláciu technológie, ktorá by mohla zbaviť súkromie a posilniť spoločenské nerovnosti.
Ale s technologickými gigantmi ako Amazon, Microsoft, Google a Facebook v pretekoch o vybudovanie všestrannej AI je zákaz znakom niečoho, čo často nevidíme: vlády, ktoré sa snažia predbehnúť potenciálneho technologického Frankensteina.
Vyhláška nie je bez svojich kritikov a pokúša sa dohliadať na komplexnú sieť verejno-súkromných partnerstiev v oblasti sledovacej technológie, ktorá sa pravdepodobne časom zmení. Tu je určitý kontext toho, čo v skutočnosti robí, a precedens, ktorý by mohol vytvoriť.
Čo zákaz urobí – a čo neurobí
Zákaz rozpoznávania tváre najpriamejšie obmedzí policajné oddelenie v San Franciscu, ktoré v súčasnosti nepoužíva technológiu rozpoznávania tváre, ale v minulosti ju testovalo. Ak vyhláška prejde, SFPD nebude môcť reštartovať žiadne testovanie takýchto nástrojov. To znamená, že nebudú môcť, povedzme, prepojiť bezpečnostné kamery inštalované na verejných uliciach s technológiou spracovania obrazu a databázami kriminálnych záberov.
V iných mestách boli hlavnými zástancami technológie rozpoznávania tváre policajné oddelenia, pričom argumentovali, že im pomáha pri vyšetrovaní trestných činov. V okrese Washington v štáte Oregon úrad šerifa uviedol, že produkt Amazon Rekognition výrazne zvýšil schopnosť našich policajtov konať rýchlo a rozhodne tým, že skrátil čas potrebný na identifikáciu podozrivých z trestnej činnosti z dvoch na tri dni na minúty. svedectvo o Zákaznícka webová stránka Amazonu pre softvér .
Je ľahké vidieť príťažlivosť týchto nástrojov. Hoci sa SFPD vyhýbala verejnej podpore rozpoznávania tváre (alebo sa od neho dištancovala), ministerstvo vyzvalo na zmeny a doplnenia legislatívy, ktoré riešia obavy súvisiace s ochranou súkromia v súvislosti s technológiou a zároveň vyvažujú obavy o verejnú bezpečnosť nášho rastúceho medzinárodného mesta.
Nariadenie tiež obmedzí miestnu políciu v zdieľaní niektorých informácií s federálnymi agentúrami, ako sú imigračné a colné orgány, podľa Matta Caglea, právnika ACLU v oblasti technológií a občianskych slobôd. Cagle na verejnom vypočutí k nariadeniu uviedol, že imigračný úrad zodpovedný za deportáciu imigrantov bez dokladov si už predtým vyžiadal informácie od policajného oddelenia v San Franciscu. San Francisco je svätostánkové mesto , čo znamená, že vo väčšine prípadov nespolupracuje s federálnymi agentúrami, ako je ICE, pri deportácii neoprávnených prisťahovalcov.
Obmedzenia sledovacej technológie však nebudú platiť na medzinárodnom letisku v San Franciscu, kde majú jurisdikciu federálne agentúry, ako napríklad Správa bezpečnosti dopravy a colná a pohraničná hliadka – a sú bezplatné používanie systémov rozpoznávania tváre a biometrické skenery podľa ľubovôle. (Samozrejme, verejnosť má tiež možnosť tlačiť späť na toto rovnako, a má .)
Niekoľko obyvateľov San Francisca sa na nedávnom verejnom vypočutí obávalo, že toto opatrenie sťaží miestnym podnikom chytiť a odradiť zlodejov. Nová vyhláška umožňuje súkromným firmám a občanom zdieľať zábery z bezpečnostných kamier, a to aj z nástrojov, ktoré využívajú technológiu rozpoznávania tváre, s políciou na pomoc pri vyšetrovaní. Načrtáva však postupy, ako môžu občania tieto zábery zdieľať.
Ďalšou kritikou legislatívy je, že bráni miestnym orgánom činným v trestnom konaní používať technológiu sledovania tváre na identifikáciu podozrivých teroristov na masových podujatiach, ako sú koncerty a prehliadky.
Naozaj chceme povedať každému predstaviteľovi bielej rasy – „Hej, San Francisco organizuje lunárny pochod, ale obmedzujú bezpečnostné kamery,“ povedal Frank Noto, prezident STOP Crime SF, miestnej skupiny pre zodpovednosť v oblasti trestného súdnictva. nedávne verejné prerokovanie vyhlášky.
Rozšírenie do iných miest
V mnohých ohľadoch San Francisco a Kalifornia vo všeobecnosti určujú trend pre mestské oblasti v celej krajine, ktoré čoraz viac vyžadujú väčší dohľad nad technológiou sledovania.
V roku 2016 ACLU spustila Komunitná kontrola nad policajným dohľadom úsilie poskytnúť miestnym samosprávam rámec na prijímanie legislatívy na zlepšenie policajného dohľadu. Regionálne orgány a mestá v oblasti Bay Area, ako napríklad okres Santa Clara, Oakland a Berkeley, boli jedny z prvých miest, ktoré prijali takúto legislatívu.
Symbolicky je dôležité, že väčšinu tejto technológie vytvárame v oblasti Bay Area a teraz okolo nej zavádzame predpisy, povedal Brian Hofer, predseda poradnej komisie pre ochranu osobných údajov mesta Oakland, ktorá pomáha viesť úsilie. umiestniť tam zákaz rozpoznávania tváre.
O niečo menej ako tucet amerických miest - vrátane Seattlu, Nashvillu a Cambridge, Massachusetts - schválili zákony využívajúce tento rámec, aby poskytli svojim miestnym úradníkom väčšiu právomoc regulovať používanie nástrojov dohľadu. A približne 20 ďalších miest aktívne pracuje na podobnej legislatíve. Medzitým mnohí požadovali federálnu legislatívu – vrátane spoločnosti Microsoft, hlavného dodávateľa technológie rozpoznávania tváre. Ale aspoň z krátkodobého hľadiska sa zdá, že mozaika miestnej regulácie je pravdepodobnejšia a dosiahnuteľná, podľa výskumníkov a obhajcov ochrany súkromia v tejto oblasti.
Americkí spotrebitelia sa možno dobrovoľne vzdali očakávania digitálneho súkromia, pretože naša chuť neustále počúva inteligentné zariadenia, mobilné technológie neustále sledujúce polohu a neustále napadnuteľné aplikácie sociálnych médií. A doteraz boli regulačné orgány väčšinou pomalé a neúčinné pri potláčaní tejto závislosti alebo regulácii zásahov do súkromia.
Ale očakávanie, že budete môcť prejsť cez ulicu bez toho, aby Veľký brat vedel, kde ste, je občianska sloboda, ktorá je hlboko zakorenená v americkej kultúre a vďaka ktorej vládne používanie technológie rozpoznávania tváre je zrelé na reguláciu, kým nebude príliš neskoro, povedal Hofer.
Tieto druhy technológií sa tak rýchlo šíria v súkromnom sektore, ale stále máme šancu udržať džina vo fľaši, pričom ich používanie vládou obmedzuje, povedal.
Recode a Vox spojili svoje sily, aby odhalili a vysvetlili, ako sa náš digitálny svet mení – a mení nás. Prihlásiť sa na odber Prekódujte podcasty počuť Karu Swisher a Petra Kafku viesť náročné rozhovory, ktoré dnes technologický priemysel potrebuje.
