Persone arrestate per errore e violazione delle libertà: come il riconoscimento facciale può fare danni

La tecnologia di riconoscimento facciale nasconde molti rischi: può violare libertà fondamentali e portare ad arrestare persone sbagliate e semplificare la persecuzione delle minoranze. Un rapporto dell'International Network of Civil Liberties Organization (INCLO) ha riassunto tutti i problemi derivanti da un sistema che può identificare una persona scansionare immagini e video ripresi dalle telecamere di sorveglianza. Un sistema che, soprattutto in Paesi dove la libertà di espressione è messa a rischio, può significare la limitazione delle proprie libertà.

Inoltre, c'è il tema del bias dei sistemi di riconoscimento facciale, che vengono addestrati a riconoscere i volti delle persone studiando una serie di fotografie: se questo campione di base è poco eterogeneo (non ci sono abbastanza donne o abbastanza persone di colore, per esempio), allora i risultati possono dare falsi positivi. "Questi sistemi - si legge nel rapporto - hanno riconosciuti bias di genere, etnici e razziali verso le persone di colore e le donne". Ciò significa che una persona può essere identificata per errore come protagonista di un crimine e quindi perseguita senza giusta ragione.

L'INCLO ha stilato una serie di episodi che, negli ultimi anni, hanno dimostrato tutti i problemi dei sistemi di riconoscimento facciale, usato soprattutto dalle forze dell'ordine. Secondo le rilevazioni della  Carnegie Endowment for International Peace, 64 Paesi su 176 avevano adottato nel 2019 sistemi di riconoscimento facciale.

L'INCLO ha denunciato che in molti Paesi l'uso della tecnologia di riconoscimento facciale "ha poca o nessuna base legislativa", sottolineando quindi la necessità di una cornice legale per "assicurare trasparenza, responsabilità e una vera sicurezza".

Arresti sbagliati e minoranze perseguitate

Le possibili violazioni delle libertà sono trasversali: libertà di espressione, discriminazione, libertà di manifestare pacificamente e il diritto alla privacy, per esempio. A gennaio 2020, un cittadino statunitense di nome Robert Williams è stato arrestato per errore dopo che la polizia del Michigan aveva riconosciuto il suo volto durante un furto di orologi avvenuto a ottobre 2018: è stato detenuto per diverso tempo prima che l'interrogatorio rivelasse che Williams era la persona sbagliata.

Un altro caso emblematico è quello di Ed Bridges, un cittadino britannico. Il suo volto è stato scansionato la prima volta mentre faceva acquisti in un centro commerciale di Cardiff e poi, separatamente, durante una protesta pacifica alcuni mesi più tardi. La Corte di Appello a cui Bridges si è rivolto ha definito l'uso della tecnologia da parte della polizia "illecito e in violazione delle leggi per la protezione dei dati personali e dei diritti della privacy". Inoltre, è stato rilevato che la polizia non aveva condotto un'indagine per valutare se la tecnologia potesse essere discriminatoria sul piano razziale e sessuale.

"Ignorare i rischi che la tecnologia di riconoscimento facciale pone per il diritto alla libertà di espressione significa ignorarli a proprio rischio e pericolo" sostiene Olga Cronin dell'Irish Council for Civil Liberties.

Una simile tecnologia è inoltre usata in Cina per monitorare le attività dei musulmani uiguri, una minoranza perseguitata: si ritiene che un milioni di uiguri sia rinchiuso in campi di detenzione, nonostante la Cina dica altrimenti.

Secondo INCLO, l'impatto complessivo e gli effetti della tecnologia di riconoscimento facciale sulla vita delle persone "stanno solo iniziando a emergere", ma già ora può essere sostenuto che la diffusione globale di questi sistemi "sta pericolosamente normalizzando la sorveglianza".