ACLU Blasts Reacțiunile Facilității de recunoaștere facială a Clearview | Emerging Tech


Uniunea Americană pentru Libertăți Civile la începutul acestei săptămâni a criticat dezvoltatorul instrumentelor de recunoaștere facială
Vedere clara pentru formularea unor afirmații înșelătoare despre acuratețea produsului său.

Se pare că Clearview a spus agențiilor de aplicare a legii că tehnologia sa a fost supusă testării de precizie modelată la testul ACLU din 2018 pentru instrumentul de recunoaștere facială Amazon Rekognition.

Pentru acel test, ACLU a simulat modul în care forțele de ordine au folosit Rekognition în teren, potrivind fotografiile tuturor celor 535 de membri ai Congresului Statelor Unite cu o bază de date pe care a construit-o din 25.000 de canițe de arestați disponibile publicului.

Recunoasterea a potrivit incorect 28 de parlamentari cu fotografiile arestatilor. Potrivirile false au prezentat în mod disproporționat parlamentarii de culoare.

Testul Clearview a fost examinat

Testul de acuratețe al Clearview a comparat comparațiile cu capul de la toți cei 535 de membri ai Congresului, toți cei 119 membri ai Legislativului de Stat din California și 180 de membri ai Legislativului de Stat din Texas cu baza sa de date.

Clearview are o bază de date de aproximativ 2,8 miliarde de fețe răzuite de pe diverse rețele de socializare și alte site-uri de internet publice.

Testul lui Clearview „nu poate fi mai diferit de activitatea ACLU și lasă răspunsurile cruciale fără răspuns”, a scris Jacob Snow, avocat tehnologic și de libertăți civile la ACLU. „În loc să caute parlamentari într-o bază de date cu fotografii de arestare, Clearview a căutat în propria sa bază de date cu fotografii asamblate în mod obraznic."

Raportul de testare a preciziei companiei, din octombrie 2019, a fost semnat de trei persoane: Jonathan Lippmann, judecătorul șef al Curții de Apel din New York, în perioada 2009-2015; Nicholas Cassimatis, fost șef al Laboratoarei de inovație a informațiilor la Samsung Research America; și Aaron Renn, un analist de politică urbană care anterior a fost partener la Accenture.

Cei trei au evaluat Clearview 100% exact. Cu toate acestea, niciunul dintre ei nu are experiență în recunoașterea facială.

Nu există niciun indiciu că Clearview și-a supus produsul la teste riguroase, zăpada ACLU a menținut. Precizia unui algoritm este probabil redusă în lumea reală din cauza calității fotografiei, a iluminării, a prejudecăților utilizatorilor și a altor factori.

„Imitația poate fi cea mai sinceră formă de lingușire, dar aceasta este o lingușire pe care o putem face fără”, a scris Snow. „Dacă Clearview este atât de disperat încât să înceapă să-și salveze reputația, ar trebui să înceteze aprobările de fabricație și să înceapă să șteargă miliardele de fotografii care compun. baza de date, opriți serverele sale și ieșiți din activitatea de supraveghere ".

Bad Buzz

Clearview a generat controverse considerabile cu campaniile și revendicările sale:

  • Aceasta susține că a ajutat Departamentul de Poliție din New York arestarea suspecților în cel puțin două cazuri, pe care NYPD le negă;
  • Afirmațiile lui Clearview de a avea o mie de forțe de poliție care folosesc aplicația sa nu au fost justificate;
  • Twitter, Google, Facebook, YouTube, Venmo și LinkedIn au scris compania solicitând să înceteze să răzuie fotografii de pe platformele lor;
  • Îngrijorările legate de tehnologia Clearview i-a determinat pe EPIC și alte organizații să scrie Consiliul de confidențialitate și libertățile civile care solicită suspendarea sistemelor de recunoaștere facială în așteptarea examinării ulterioare;
  • Fundația Electronic Frontier a solicitat o legislație federală completă privind confidențialitatea în jurul colectării de date;
  • Senatorul Ed Markey, D-Mass., A scris Clearview solicitând informații despre comercializarea acesteia către agențiile de aplicare a legii, luând în considerare tehnologia sa; și
  • Un proces care solicită statutul de acțiune în clasă a fost înregistrat într-o instanță din Illinois, susținând că produsul Clearview încalcă informațiile biometrice ale statului. Legea privind confidențialitatea (BISA).

Încălcarea BISA a costat Facebook o amendă de 550 milioane USD, un record pentru orice proces de confidențialitate.

Clearview „pare a fi extrem de necinstit cu pretențiile lor și, în calitate de companie, nu sunt de încredere”, a observat Rob Enderle, analist principal la Enderle Group.

"Având în vedere că nu poți să ai încredere în cât de bună este instrumentul", a spus el pentru TechNewsWorld. "Așa că veți avea nevoie de multă căldură pentru a o utiliza și apoi, dacă nu funcționează, veți părea un idiot. Acesta ar putea fi o carieră pentru cei implicați."

Utilizarea adecvată a tehnicii

Biroul Federal de Investigații al SUA a decis că sistemul său de identificare de generație următoare (NGI) este scutit de una sau mai multe dispoziții din Legea privind confidențialitatea din 1974.

Acesta este unul dintre motivele pentru care recunoașterea facială ridică îngrijorari. Un alt lucru este că unele școli au început să folosească sisteme de recunoaștere facială.

"Toată lumea este îngrijorată de faptul că utilizarea fără restricții a recunoașterii faciale ar putea dăuna libertății personale", a declarat Mike Jude, director de cercetare la IDC.

"Clearview nu este reglementat în prezent și, evident, are un stimulent puternic pentru a promova utilizarea recunoașterii faciale", a spus el pentru TechNewsWorld.

Județele false sunt întotdeauna o problemă, a remarcat Jude. „Recunoașterea facială nu este neîndoielnică. Este pur și simplu un caz de fotografii de gunoi, identificări de gunoi”.

Cu toate acestea, tehnologia "poate fi un instrument foarte valoros în diverse domenii, inclusiv cu amănuntul", în funcție de modul în care este utilizată, a spus el.

„Ar fi nefericit dacă am arunca copilul afară cu apa de baie”, a spus Jude. „Probabil vor exista legi care încearcă să controleze utilizarea recunoașterii faciale”.

Uniunea Europeană, care inițial a considerat o interdicție de cinci ani a recunoașterii faciale în locuri publice, a decis în schimb să lase statele membre să se ocupe de această problemă.

Autoritățile franceze și suedeze de protecție a datelor au exclus să utilizeze programe de recunoaștere facială în școli.

În Marea Britanie, poliția folosește tehnologia, pe care au implementat-o ​​la Londra.

În China, înregistrarea pentru un serviciu de telefonie mobilă necesită o scanare a feței. Între timp, India se pregătește să instaleze un sistem național de recunoaștere facială.

În Statele Unite, Oregon, New Hampshire și California au interzis tehnologia, dar numai în corpurile de corp ale poliției. Mai multe orașe, inclusiv San Francisco și Oakland, interzic cu totul.

"Recunoașterea facială vine, ne place sau nu", a prezis Enderle. "Acest lucru înseamnă că trebuie să se concentreze mai mult pe îmbunătățirea seturilor de instruire și punerea în aplicare a regulilor despre unde și când aceste instrumente pot fi utilizate."


Richard Adhikari este reporter ECT News Network încă din 2008. Domeniile sale de acțiune includ cybersecurity, tehnologii mobile, CRM, baze de date, dezvoltare software, calculatoare mainframe și mid-range și dezvoltare de aplicații. A scris și editat pentru numeroase publicații, inclusiv Săptămâna informației și Computerworld. Este autorul a două cărți despre tehnologia client / server.
Email pe Richard.

.



Cititi mai mult pe technewsworld.com

Lasă un răspuns