Ako môžeme zakázať rozpoznávanie tváre, keď je už všade?
Rastúci počet miniaplikácií skenuje vašu tvár.
Tento príbeh je súčasťou skupiny príbehov tzv 
Odhaľovanie a vysvetľovanie toho, ako sa mení náš digitálny svet – a mení nás.
Rozpoznanie tváre znamená zúčtovanie. Nedávne protesty proti rasizmu a policajnej brutalite vrhli svetlo na nástroje sledovania, ktoré majú orgány činné v trestnom konaní k dispozícii, a veľké technologické spoločnosti dočasne ustupujú od rozpoznávania tváre a naliehanie na federálnych predstaviteľov, aby zakročili a regulovali .
Koncom minulého mesiaca sme sa dozvedeli o prvé známe falošné zatknutie spôsobený chybným systémom rozpoznávania tváre, ktorý zahŕňal černocha v Michigane identifikovaného softvérom, o ktorom detroitský policajný šéf neskôr priznal, že mal Miera nesprávnej identifikácie 96 percent . A politická skupina z Združenie pre výpočtovú techniku , počítačová spoločnosť s takmer 100 000 členmi, vyzvala na pozastavenie firemné a vládne využitie technológie s odvolaním sa na obavy, že jeho vstavané predsudky by mohli vážne ohroziť ľudí.
Existuje aj tlak Kongresu. Zástupcovia Pramila Jayapal a Ayanna Pressley a senátor Jeff Merkley a Ed Markey navrhovaná nová právna úprava to by zakázalo federálnej vláde používať rozpoznávanie tváre a povzbudilo štátne a miestne vlády, aby urobili to isté. Ide o jeden z najrozsiahlejších návrhov na obmedzenie kontroverznej biometrickej technológie v Spojených štátoch. bol oslavovaný rasovou spravodlivosťou a obhajcovia súkromia .
To všetko nasleduje po kroku niekoľkých veľkých technologických spoločností, vrátane IBM, Amazon a Microsoft pozastaviť alebo obmedziť prístup orgánov činných v trestnom konaní k ich vlastným programom na rozpoznávanie tváre.
Ale uprostred zamerania na vládne používanie rozpoznávania tváre mnohé spoločnosti stále integrujú túto technológiu do širokej škály spotrebiteľských produktov. V júni Apple oznámil, že bude vrátane rozpoznávania tváre do svojho príslušenstva HomeKit a že jeho technológia Face ID bude rozšírená o podporu prihlasovanie na stránky v Safari . Uprostred pandémie COVID-19 sa niektoré firmy predháňali v tom, aby predstavili viac bezkontaktných biometrických technológií, ako napr. ovládanie prístupu s podporou rozpoznávania tváre .
Keď premýšľame o všetkých týchto zdanlivo neškodných spôsoboch, akými sú naše obrázky zachytené, musíme si uvedomiť, že nemáme zákony, ktoré by nás chránili, povedal pre Recode Mutale Nkonde, člen Harvard Law School's Berkman Klein Center. A tak môžu byť tieto obrázky použité proti vám.
Pohodlie, ktoré mnohí nachádzajú v spotrebiteľských zariadeniach vybavených funkciami na rozpoznávanie tváre, je v ostrom kontraste s rastúcim tlakom na reguláciu a dokonca zákaz používania technológie vládou. To je znamenie, že úradníci, ktorí chcú túto technológiu efektívne regulovať, budú musieť vziať do úvahy jej rozsah použitia, od rozpoznávania tváre, ktoré odomkne smartfón, až po dystopicky znejúce databázy prevádzkované orgánmi činnými v trestnom konaní.
Koniec koncov, keď sa začiatkom tohto roka Recode spýtal senátora Jeffa Merkleyho, čo inšpirovalo jeho snahu regulovať technológiu, poukázal na to, ako rýchlo dokáže aplikácia Fotky na jeho iPhone identifikovať členov jeho rodiny. Bol ohromený tým, ako ľahko môžu orgány činné v trestnom konaní sledovať ľudí pomocou tejto technológie, ale aj to, aká silná sa už stala na jeho vlastnom zariadení.
Môžete udrieť túto osobu a zobrazí sa každá fotografia, ktorú ste urobili s touto osobou, povedal vtedy Merkley. Len idem: ‚Páni.‘
Rozpoznávanie tváre je v spotrebiteľských zariadeniach čoraz rozšírenejšie
Jedným z najpopulárnejších spôsobov použitia rozpoznávania tváre je overenie, ktoré sa často používa na prihlásenie do elektronických zariadení. Namiesto zadávania prístupového kódu predná kamera na telefóne nasníma obrázok používateľa a potom nasadí algoritmy rozpoznávania tváre na potvrdenie jeho identity. Je to pohodlné (aj keď nie úplne spoľahlivý ) funkcia, ktorá sa stala populárnou, keď spoločnosť Apple uviedla na trh ID tváre s iPhone X v roku 2017. Mnoho ďalších telefónnych spoločností, počítajúc do toho Samsung, LG a Motorola , teraz poskytujú odomykanie telefónu na základe rozpoznávania tváre a táto technológia sa čoraz viac používa na jednoduchšie prihlásenie herné konzoly , notebooky a aplikácie všetkého druhu .
Niektoré aplikácie rozpoznávania tváre zamerané na spotrebiteľov však presahujú rámec overenia, čo znamená, že sa nepokúšajú identifikovať iba svojich vlastných používateľov, ale aj iných ľudí. Jedným z prvých príkladov je označovanie fotografií na základe rozpoznávania tváre na Facebooku, ktoré skenuje fotografie, ktoré používatelia uverejňujú na platforme s cieľom navrhnúť určitých priateľov, ktorých môžu označiť. Podobná technológia funguje aj v aplikáciách, ako sú Fotky Google a Fotky Apple, pričom obe dokážu automaticky identifikovať a označiť predmety na fotke.
Spoločnosť Apple v skutočnosti používa funkciu označovania vo svojej aplikácii Fotografie na napájanie novej funkcie rozpoznávania tváre v aplikácii HomeKit bezpečnostné kamery a inteligentné zvončeky . Tváre, ktoré sa zobrazujú v informačnom kanáli fotoaparátu, je možné porovnať s databázou z aplikácie Fotky, takže budete upozornení, keď vám napríklad konkrétny priateľ zaklope na dvere. kamery Nest od Googlu a ďalšie bezpečnostné systémy s podporou rozpoznávania tváre ponúkajú podobné funkcie. U niektorých sa objavuje aj identifikácia na základe tváre inteligentné televízory ktorý dokáže rozpoznať, ktorý člen domácnosti sa pozerá a navrhnúť prispôsobený obsah .
Súvisiace
Nájomníci spustili poplach pri rozpoznávaní tváre vo svojich budovách. Zákonodarcovia počúvajú.
Rozpoznávanie tváre sa používa na identifikáciu a overovanie v čoraz väčšom počte zariadení, ale pravdepodobne budú existovať možnosti pre technológiu, ktorá presahuje tieto dve spotrebiteľské aplikácie. Spoločnosť HireVue skenuje tváre pomocou umelej inteligencie hodnotiť uchádzačov o zamestnanie. Niektoré autá, ako napr Subaru Forester, používať biometriu a kamery na sledovanie toho, či sa vodiči sústredia na cestu, a niekoľko spoločnosti skúmajú softvér, ktorý dokáže vycítiť emócie v tvári, funkciu, ktorú možno použiť na monitorovanie vodičov. To však môže priniesť aj nové problémy so zaujatosťou.
V rámci samoriadiacich áut chcú vidieť, či je vodič unavený. A myšlienkou je, že ak je vodič unavený, auto prevezme riadenie, povedal Nkonde, ktorý tiež prevádzkuje neziskovú AI pre ľudí. Problém je v tom, že [všetci] necítime emócie rovnakým spôsobom.
Rozmazaná hranica medzi rozpoznávaním tváre pre domácu bezpečnosť a súkromným dohľadom pre políciu
Systémy rozpoznávania tvárí majú tri základné zložky: zdrojový obrázok, databázu a algoritmus, ktorý je natrénovaný na porovnávanie tvárí na rôznych obrázkoch. Tieto algoritmy sa môžu značne líšiť vo svojej presnosti a ako zdokumentovali výskumníci ako Joy Buolamwini z MIT, ukázalo sa, že sú neprimerane nepresné na základe kategórií, ako je pohlavie a rasa. Napriek tomu sa systémy na rozpoznávanie tváre môžu líšiť veľkosťou svojich databáz – teda koľko ľudí dokáže systém identifikovať – ako aj počtom kamier alebo obrázkov, ku ktorým majú prístup.
Face ID je príkladom technológie rozpoznávania tváre používanej na overenie identity. Systém skontroluje, či sa tvár používateľa zhoduje s tvárou, ktorá sa pokúša otvoriť zariadenie. V prípade Face ID boli podrobnosti o tvári jednotlivého používateľa predtým zaregistrované v zariadení. Algoritmus Apple ako taký jednoducho odpovedá na otázku, či daná osoba je alebo nie je používateľom telefónu. Nie je určený na identifikáciu veľkého počtu ľudí. Ide len o biometrické informácie jedného používateľa, a čo je dôležité, Apple nie odoslať tieto biometrické údaje do cloudu; zostane na zariadení používateľa.
Ak ide o viac ako jednu osobu, overenie identity založené na rozpoznávaní tváre je komplikovanejšie. Vezmite Označovanie fotografií na základe rozpoznávania tváre na Facebooku , napríklad. Skenuje fotografie používateľa, aby identifikoval jeho priateľov, takže nejde len o identifikáciu používateľa, čo je jediná úloha Face ID. Snaží sa rozpoznať ktoréhokoľvek z priateľov používateľa, ktorí sa prihlásili do funkcie označovania na základe rozpoznávania tváre. Facebook tvrdí, že s nikým nezdieľa šablóny tváre ľudí, ale trvalo roky, kým spoločnosť dala používateľom kontrolu nad touto funkciou. Facebook nepodarilo získať povolenie používateľov pred implementáciou funkcie označovania fotografií v roku 2010; v tomto roku spoločnosť súhlasil so zaplatením 550 miliónov dolárov za urovnanie súdneho sporu porušovania súkromia používateľov. Facebook nezačal žiadať používateľov, aby sa prihlásili do roku 2019 .
Otázka súhlasu sa v kontexte záberov z bezpečnostných kamier stáva vyslovene problematickou. Kamery Google Nest Cam, kamery Apple HomeKit a ďalšie zariadenia umožňujú používateľom vytvárať albumy známych tvárí, aby mohli dostať upozornenie, keď technológia rozpoznávania tváre fotoaparátu zaznamená jedného z týchto ľudí. Podľa spoločnosti Apple nová funkcia rozpoznávania tváre HomeKit umožňuje používateľom zapnúť upozornenia, keď sa na fotoaparáte objavia ľudia označení v ich aplikácii Fotky. Umožňuje im tiež nastaviť upozornenia pre ľudí, ktorí často prichádzajú k ich dverám, ako napríklad psíčkari, ale nie sú v aplikácii knižnice fotografií. Apple tvrdí, že identifikácia prebieha lokálne na zariadeniach.
Nová funkcia Apple je podobná ako detekcia známej tváre funkciu, ktorú možno použiť so zvončekom Google Nest a bezpečnostnými kamerami. Ale používanie funkcie, ktorá je predvolene vypnutá, je trochu nejasné. Google varuje používateľov, že v závislosti od zákonov, v ktorých žijú, sa možno budú musieť dostať súhlas z tých, pre ktoré pridávajú upozornenia, a niektorí to možno nebudú môcť použiť vôbec. Google napríklad túto funkciu nesprístupňuje v štáte Illinois, kde prísny zákon o ochrane osobných údajov v biometrických informáciách vyžaduje výslovné povolenie na zhromažďovanie biometrických údajov. (Tento zákon bol v centre z nedávneho vyrovnania Facebooku vo výške 550 miliónov dolárov.) Google tvrdí, že knižnice tvárí jeho používateľov sú uložené v cloude, kde sú šifrované pri prenose a v pokoji a tváre sa nezdieľajú mimo ich štruktúry.
Takže bezpečnostné kamery poháňané spoločnosťami Google a Apple sú výslovne zamerané na spotrebiteľov a databázy používané ich algoritmami na rozpoznávanie tváre sú viac-menej obmedzené.
Hranica medzi spotrebiteľskými technológiami, ako je táto, a potenciálom pre výkonné nástroje policajného dohľadu sa však stiera bezpečnostné systémy od spoločnosti Ring . Spoločnosť Ring, ktorú vlastní Amazon, spolupracuje s policajné oddelenia a hoci Ring tvrdí, že jeho produkty v súčasnosti nepoužívajú technológiu rozpoznávania tváre, viacnásobné správy uviesť, že spoločnosť snažil postaviť zoznamy sledovaných oblastí založené na rozpoznávaní tváre. Ring tiež distribuoval prieskumy beta testerom, aby zistili, ako by to urobili vnímať funkcie rozpoznávania tváre . Rozsah týchto partnerstiev je natoľko znepokojujúci, že vo štvrtok poslanec Raja Krishnamoorthi, vedúci výboru pre dohľad Snemovne reprezentantov, požiadal o ďalšie informácie o Ringove potenciálne integrácie rozpoznávania tváre , okrem iných otázok o dlhodobom probléme produktu s rasizmom.
Zdá sa teda, že keď sa systémy rozpoznávania tvárí stávajú ambicióznejšími – ako sa ich databázy zväčšujú a ich algoritmy majú za úlohu náročnejšie úlohy – stávajú sa problematickejšími. Matthew Guariglia, politický analytik z Electronic Frontier Foundation, povedal pre Recode, že rozpoznávanie tváre je potrebné hodnotiť na kĺzavej škále poškodenia.
Keď sa táto technológia používa vo vašom telefóne, väčšinu času trávi vo vrecku a nepreskenuje verejné priestranstvá. Na druhej strane prstencová kamera nie je nasadená len na účely pozerania sa na vašu tvár, povedal Guariglia. Ak by bolo povolené rozpoznávanie tváre, pozeralo by sa na tváre každého chodca, ktorý by prešiel okolo, a mohol by ich identifikovať.
Nie je teda prekvapením, že úradníci najagresívnejšie presadzujú obmedzenie používania technológie rozpoznávania tváre orgánmi činnými v trestnom konaní . Policajné oddelenia a podobné agentúry majú prístup nielen k obrovskému množstvu kamerových záznamov, ale aj k neuveriteľne veľkým databázam tvárí. V skutočnosti to zistilo Georgetown Center on Privacy and Technology v roku 2016 viac ako polovica Američanov je v databáze rozpoznávania tváre , ktorý môže zahŕňať zábery na hrnčeky alebo jednoducho profilové obrázky prijaté na DMV .
A v poslednom čase sa rozsah databáz tvárí, ktoré má polícia k dispozícii, ešte zväčšil. Kontroverzný startup Clearview AI tvrdí, že ťažil na webe miliardy fotografií zverejnených online a na sociálnych sieťach vytvoriť rozsiahlu databázu rozpoznávania tvárí, ktorú sprístupnila orgánom činným v trestnom konaní. Podľa Jakea Laperruquea, hlavného poradcu Projektu vládneho dohľadu, to predstavuje desivú budúcnosť technológie rozpoznávania tváre.
Jeho účinky, keď je to v rukách vlády, môžu byť skutočne vážne, povedal Laperruque. Môže to byť naozaj ťažké, ak to nefunguje a máte falošné ID, ktoré sa zrazu stanú vodítkom, ktoré sa stane základom celého prípadu a môže spôsobiť, že niekoho zastaví alebo zatkne.
Dodal: A môže to byť naozaj ťažké, ak to funguje dobre a ak sa používa na katalogizáciu zoznamov ľudí, ktorí sú na protestoch alebo na politickom zhromaždení.
Regulácia rozpoznávania tváre bude po kúskoch
Zákon o moratóriu na rozpoznávanie tváre a biometrické technológie, ktorý bol nedávno predstavený na Capitol Hill, je rozsiahly. Zakázalo by to federálne používanie nielen rozpoznávania tváre, ale aj iných typov biometrických technológií, ako je rozpoznávanie hlasu a rozpoznávanie chôdze, kým Kongres neprijme ďalší zákon upravujúci túto technológiu. Návrh zákona nasleduje po iných návrhoch na obmedzenie vládneho používania technológie, vrátane jedného, ktorý by vyžadoval súdny príkaz na používanie rozpoznávania tváre a ďalšieho, ktorý by obmedzil biometriu vo federálne podporovanom bývaní. Niektoré samosprávy, ako San Francisco , tiež obmedzili vlastnú akvizíciu technológie.
Čo teda rozpoznávanie tváre, keď sa používa na osobných zariadeniach ľudí alebo súkromnými spoločnosťami? Kongres diskutoval o použití komerčné rozpoznávanie tváre a umelá inteligencia v širšom zmysle. Návrh zákona s názvom Commercial Facial Facial Recognition Privacy Act by si vyžadoval výslovný súhlas spoločností zbieranie biometrických informácií ľudí a Algorithmic Accountability Act by vyžadoval veľké spoločnosti na kontrolu ich umelej inteligencie , vrátane systémov rozpoznávania tváre, za zaujatosť.
Všadeprítomná povaha rozpoznávania tváre však znamená, že regulácia technológie si nevyhnutne vyžiada čiastkovú legislatívu a pozornosť venovanú detailom, aby sa neprehliadli konkrétne prípady použitia. Napríklad San Francisco po ňom muselo upraviť svoju vyhlášku o rozpoznávaní tváre omylom urobil iPhone vlastnený políciou nezákonným . Keď Boston schválil svoju nedávnu vyhlášku o rozpoznávaní tváre, vytvoril výnimku pre rozpoznávanie tvárí prihlasovanie do osobných zariadení ako notebooky a telefóny.
Mechanizmy regulátorov sú také odlišné, povedal Brian Hofer, ktorý pomáhal vyrábať San Francisco's zákaz rozpoznávania tváre , pričom dodal, že teraz sa zaoberá tvorbou miestnych zákonov podľa vzoru zákona o ochrane osobných údajov v biometrických informáciách štátu Illinois, ktoré sa viac zameriavajú na spotrebiteľov. Zákony sú také odlišné, že by bolo pravdepodobne nemožné napísať čistý, jasne pochopený zákon regulujúci spotrebiteľov aj vládu.
Jediný zákon upravujúci technológiu rozpoznávania tváre nemusí stačiť. Výskumníci z Algorithmic Justice League, organizácie, ktorá sa zameriava na spravodlivú umelú inteligenciu, vyzvali na komplexnejší prístup. Tvrdia, že technológia by mala byť regulované a kontrolované federálnym úradom. V májovom návrhu výskumníci načrtli, ako by Food and Drug Administration mohla slúžiť ako model pre novú agentúru, ktorá by bola schopná prispôsobiť sa širokému spektru vládnych, firemných a súkromných použití tejto technológie. To by mohlo poskytnúť regulačný rámec na ochranu spotrebiteľov pred tým, čo kupujú, vrátane zariadení s rozpoznávaním tváre.
Medzitým rastúca všadeprítomnosť technológie rozpoznávania tváre normalizuje určitú formu sledovania. Ako tvrdí profesor Rochesterského technologického inštitútu Evan Selinger, keď sa ľudia prispôsobujú rutinnému používaniu akéhokoľvek systému skenovania tváre a to ustupuje do pozadia ako ďalší nevšedný aspekt súčasného digitálne sprostredkovaného života, ich túžby a presvedčenia sa môžu prepracovať.
A tak, aj keď existuje zákaz presadzovania práva pomocou rozpoznávania tváre a je to do určitej miery účinné, technológia sa stále stáva súčasťou každodenného života. Nakoniec sa budeme musieť vyrovnať s jeho následkami.
oprava: Skoršia verzia tohto príbehu uvádzala nesprávnu sumu za vyrovnanie sa s ochranou osobných údajov používateľov Facebooku. Zaplatená suma bola 550 miliónov dolárov.
Open Sourced umožňuje sieť Omidyar. Všetok obsah s otvoreným zdrojom je redakčne nezávislý a vytvárajú ho naši novinári.
