Poliția și agențiile federale au găsit o nouă modalitate controversată de a ocoli mozaicul tot mai mare de legi care restricționează modul în care utilizează recunoașterea facială: un model de inteligență artificială care poate urmări oamenii folosind atribute precum dimensiunea corpului, sexul, culoarea și stilul părului, îmbrăcămintea și accesoriile. 

Instrumentul, numit Track și construit de compania de analiză video Veritone, este utilizat de 400 de clienți, inclusiv departamente de poliție statale și locale și universități din întreaga SUA. De asemenea, se extinde. la nivel federalProcurori americani de la Departamentul de Justiție a început să folosească Pistă pentru investigații criminale în august anul trecut. Suita mai largă de instrumente de inteligență artificială de la Veritone, care include recunoaștere facială autentică, este utilizată și de Departamentul pentru Securitate Internă - care găzduiește agențiile de imigrare - și Departamentul Apărării, potrivit companiei. 

„Întreaga viziune din spatele Track”, spune Ryan Steelberg, CEO al Veritone, a fost „dacă nu avem voie să urmărim fețele oamenilor, cum putem ajuta la încercarea de a identifica potențiali infractori sau comportamente sau activități rău intenționate?” Pe lângă urmărirea persoanelor acolo unde recunoașterea facială nu este permisă din punct de vedere legal, spune Steelberg, permite urmărirea și atunci când fețele sunt ascunse sau nu sunt vizibile. 

Produsul a atras critici din partea Uniunii Americane pentru Libertăți Civile, care - după ce a aflat despre instrument prin intermediul Revista Tehnologiei MIT—au spus că este prima dată când au văzut un sistem de urmărire nonbiometric utilizat la scară largă în SUA. Aceștia au avertizat că aceasta ridică multe dintre aceleași probleme de confidențialitate ca și recunoașterea facială, dar introduce și altele noi într-un moment în care administrația Trump face presiuni asupra agențiilor federale să intensifice monitorizarea protestatarilor, imigranților și studenților.

Veritone ne-a oferit o demonstrație a aplicației Track, în care a analizat persoane din filmări din diferite medii, de la revoltele din 6 ianuarie până la stațiile de metrou. Îl puteți folosi pentru a găsi persoane specificând dimensiunea corpului, sexul, culoarea și stilul părului, încălțămintea, îmbrăcămintea și diverse accesorii. Instrumentul poate apoi asambla cronologii, urmărind o persoană în diferite locații și fluxuri video. Poate fi accesat prin platformele cloud Amazon și Microsoft.

Într-un interviu, Steelberg a declarat că numărul de atribute folosite de Track pentru a identifica oamenii va continua să crească. Întrebat dacă Track diferențiază în funcție de nuanța pielii, un purtător de cuvânt al companiei a spus că este unul dintre atributele folosite de algoritm pentru a distinge oamenii, dar că software-ul nu permite în prezent utilizatorilor să caute persoane după culoarea pielii. Track funcționează în prezent doar pe înregistrări video, dar Steelberg susține că firma mai are mai puțin de un an până când va putea să îl ruleze pe fluxuri video live.

Agențiile care utilizează Track pot adăuga imagini de la camerele video de pe corp ale poliției, drone, videoclipuri publice de pe YouTube sau așa-numitele imagini încărcate de cetățeni (de pe camerele Ring sau telefoanele mobile, de exemplu) ca răspuns la solicitările poliției.

„Ne place să numim aceasta aplicația noastră Jason Bourne”, spune Steelberg. El se așteaptă ca tehnologia să fie analizată în instanță, dar spune: „Sper că exonerăm oamenii la fel de mult cum ajutăm poliția să-i găsească pe răufăcători”. Sectorul public reprezintă în prezent doar 6% din afacerile Veritone (majoritatea clienților săi sunt companii media și de divertisment), dar compania spune că aceasta este piața sa cu cea mai rapidă creștere, cu clienți în locuri precum California, Washington, Colorado, New Jersey și Illinois. 

Această expansiune rapidă a început să provoace îngrijorare în anumite cercuri. Jay Stanley, analist senior de politici la ACLU, a scris În 2019, inteligența artificială va accelera într-o zi sarcina plictisitoare de a analiza înregistrările de supraveghere, permițând analiza automată, indiferent dacă a avut loc o infracțiune. De atunci, numeroase companii de tehnologie din domeniul poliției au construit sisteme de analiză video care pot, de exemplu, detecta când o persoană intră într-o anumită zonă. Cu toate acestea, Stanley spune că Track este primul produs pe care l-a văzut făcând fezabilă din punct de vedere tehnologic la scară largă urmărirea pe scară largă a anumitor persoane.

„Aceasta este o tehnologie potențial autoritară”, spune el. „Una care oferă puteri mari poliției și guvernului, ceea ce le va ușura, fără îndoială, rezolvarea anumitor infracțiuni, dar le va facilita și utilizarea excesivă a acestei tehnologii și, eventual, abuzul de ea.”

Stanley spune că șansele unei astfel de supravegheri abuzive sunt deosebit de mari în acest moment în agențiile federale unde Veritone are clienți. Departamentul pentru Securitate Internă a declarat luna trecută că va... monitor activitățile imigranților pe rețelele de socializare și utilizează dovezile pe care le găsește acolo pentru a refuza vizele și cărțile verzi, iar Imigrația și Vama au reținut activiști în urma declarațiilor sau aparițiilor pro-palestiniene la proteste. 

Într-un interviu, Jon Gacek, directorul general al diviziei din sectorul public a Veritone, a declarat că Track este un „instrument de selecție” menit să accelereze sarcina de identificare a părților importante ale videoclipurilor, nu un instrument general de supraveghere. Veritone nu a specificat ce grupuri din cadrul Departamentului de Securitate Internă sau al altor agenții federale utilizează Track. Departamentele Apărării, Justiției și Securității Interne nu au răspuns solicitărilor de comentarii.

Pentru departamentele de poliție, instrumentul extinde dramatic cantitatea de videoclipuri care pot fi utilizate în investigații. În timp ce recunoașterea facială necesită imagini în care fețele sunt clar vizibile, Track nu are această limitare. Nathan Wessler, avocat al ACLU, spune că acest lucru înseamnă că poliția ar putea analiza videoclipuri care nu i-au interesat anterior. 

„Creează o amploare și o natură absolut nouă a încălcării vieții private și a potențialului de abuz, care literalmente nu a fost posibilă niciodată în istoria omenirii”, spune Wessler. „Acum vorbim nu despre accelerarea acțiunii unui polițist, ci despre crearea unei capacități pe care niciun polițist nu a avut-o vreodată.”

Extinderea Track vine în contextul răspândirii legilor care limitează utilizarea recunoașterii faciale, declanșate de arestări nejustificate în care ofițerii au fost excesiv de încrezători în judecățile algoritmilor. Numeroase studii au demonstrat că astfel de algoritmi sunt mai puțin preciși în cazul fețelor de altă culoare. Legile din Montana și Maine limitează drastic când poliția îi poate folosi - nu este permis în timp real cu videoclipuri live - în timp ce San Francisco și Oakland, California, au interdicții aproape complete privind recunoașterea facială. Track oferă o alternativă. 

Deși astfel de legi fac adesea referire la „date biometrice”, Wessler spune că această sintagmă este departe de a fi clar definită. În general, se referă la caracteristici imuabile precum fețele, mersul și amprentele digitale, mai degrabă decât la lucruri care se schimbă, cum ar fi îmbrăcămintea. Însă anumite atribute, cum ar fi dimensiunea corpului, estompează această distincție. 

Luați în considerare și, spune Wessler, pe cineva care iarna poartă frecvent aceleași cizme, haină și rucsac. „Profilul lor va fi același zi de zi”, spune Wessler. „Potențialul de a urmări pe cineva în timp, pe baza modului în care se mișcă pe o mulțime de fluxuri video salvate diferite, este cam echivalent cu recunoașterea facială.”

Cu alte cuvinte, Track ar putea oferi o modalitate de a urmări pe cineva, ceea ce ridică multe dintre aceleași probleme ca și recunoașterea facială, dar nu este supus legilor care restricționează utilizarea recunoașterii faciale, deoarece nu implică din punct de vedere tehnic date biometrice. Steelberg a spus că există mai multe cazuri în curs care includ dovezi video de la Track, dar că nu poate numi cazurile sau comenta mai multe. Așadar, deocamdată, nu este clar dacă este adoptată în jurisdicțiile în care recunoașterea facială este interzisă.