test

Tag: riconoscimento facciale

  • Riconoscimento facciale: quanto è accurato (e imparziale) il sistema che ti identifica?

    Riconoscimento facciale: quanto è accurato (e imparziale) il sistema che ti identifica?

    Un’analisi critica

    Il riconoscimento facciale è una tecnologia in rapida espansione, utilizzata in svariati settori, dalla sicurezza alla pubblicità personalizzata. Tuttavia, negli ultimi anni, sono emerse crescenti preoccupazioni riguardo ai bias* intrinseci a questi sistemi, in particolare per quanto concerne il *genere* e l’*etnia*. Questi *bias possono portare a risultati inaccurati, con conseguenze potenzialmente gravi, soprattutto in ambiti delicati come la giustizia penale* e la *sicurezza*. Uno dei sistemi più scrutinati in questo senso è *Amazon Rekognition*, un servizio di *riconoscimento facciale offerto da Amazon Web Services (AWS). L’attenzione si è concentrata sulla sua accuratezza variabile a seconda delle caratteristiche demografiche degli individui analizzati, sollevando interrogativi sull’equità e l’imparzialità di questa tecnologia. Diversi studi indipendenti hanno messo in luce queste disparità, mettendo in discussione l’affidabilità del sistema in contesti reali. Le implicazioni di tali bias non sono solamente teoriche; possono influenzare la vita di persone appartenenti a gruppi minoritari, portando a discriminazioni e violazioni dei diritti civili. Nel 2015*, un’applicazione *Google* ha identificato persone di colore come gorilla.

    L’importanza di affrontare questi *bias è cruciale per garantire che le tecnologie di intelligenza artificiale (IA)* siano utilizzate in modo etico e responsabile. La discussione attorno a *Rekognition è quindi emblematica di una sfida più ampia che riguarda l’intero settore dell’IA, ovvero la necessità di sviluppare algoritmi che siano equi, trasparenti e privi di discriminazioni. Il dibattito è aperto e coinvolge ricercatori, esperti legali, aziende tecnologiche e rappresentanti dei gruppi marginalizzati, tutti impegnati nella ricerca di soluzioni che possano garantire un futuro in cui l’IA sia uno strumento al servizio di tutti, senza lasciare indietro nessuno. Il progresso tecnologico, infatti, non può prescindere da una profonda riflessione etica e sociale, al fine di evitare che le nuove tecnologie amplifichino le disuguaglianze esistenti.

    Test indipendenti: l’evidenza delle disparità

    Diversi test indipendenti hanno confermato le preoccupazioni riguardanti i bias* di *Amazon Rekognition*. Uno studio particolarmente significativo, condotto dal *MIT Media Lab, ha analizzato le prestazioni del sistema nell’identificazione del genere di persone con diverse tonalità della pelle. I risultati sono stati allarmanti: mentre il sistema si è dimostrato quasi perfetto nell’identificare il genere di uomini con pelle chiara, ha commesso errori significativi con le donne e con le persone dalla pelle più scura. In particolare, ha confuso le donne con gli uomini nel 19%* dei casi e le donne dalla pelle più scura addirittura nel *31%* dei casi. Questi dati evidenziano un chiaro *bias* razziale e di *genere, suggerendo che l’algoritmo è stato addestrato su un set di dati non sufficientemente diversificato. La ricercatrice Joy Buolamwini*, a capo dello studio, ha sottolineato come questi risultati dimostrino che i sistemi di *riconoscimento facciale non sono infallibili e possono perpetuare la discriminazione* se non sviluppati e testati con la dovuta attenzione.

    Un ulteriore test, condotto dall’*American Civil Liberties Union (ACLU), ha rivelato che Rekognition* ha falsamente identificato *28* membri del *Congresso statunitense, associandoli a foto segnaletiche. Anche in questo caso, un numero sproporzionato di individui erroneamente identificati apparteneva a minoranze etniche. L’ACLU* ha utilizzato l’impostazione di “soglia di confidenza” predefinita del *80%* per *Rekognition, un livello che, secondo l’organizzazione, è troppo basso per garantire un’identificazione accurata. Jacob Snow*, avvocato per le libertà civili dell’*ACLU, ha affermato che questi risultati dimostrano la necessità di una moratoria sull’uso della sorveglianza facciale da parte delle forze dell’ordine, a causa del rischio di violazioni dei diritti civili. Questi test indipendenti, pur con metodologie diverse, convergono nel mettere in luce le criticità di Amazon Rekognition, sollevando dubbi sulla sua idoneità per applicazioni che richiedono un’elevata accuratezza e imparzialità. Il limite dell’80% crea gravi errori di identificazione.

    Implicazioni per la giustizia penale e la sicurezza

    I bias* presenti negli algoritmi di *riconoscimento facciale* hanno implicazioni particolarmente preoccupanti nel contesto della *giustizia penale e della sicurezza*. L’utilizzo di questi sistemi da parte delle forze dell’ordine può portare a *errori di identificazione*, *arresti ingiusti* e altre violazioni dei diritti civili, colpendo in modo sproporzionato le comunità marginalizzate. Se le autorità si affidano a tecnologie imperfette, il rischio di *discriminazione aumenta notevolmente. Un falso positivo* in un sistema di *riconoscimento facciale può avere conseguenze devastanti per un individuo, portando a un’indagine penale, un arresto e persino una condanna ingiusta. Il problema è ancora più grave se si considera che i sistemi di riconoscimento facciale sono spesso utilizzati in combinazione con altre tecnologie di sorveglianza, come le telecamere a circuito chiuso e i database di polizia, creando un sistema di controllo pervasivo che può minare la libertà e la privacy dei cittadini.
    È fondamentale che le forze dell’ordine siano consapevoli dei bias* presenti negli algoritmi di *riconoscimento facciale e che adottino misure per mitigare i rischi. Ciò include l’utilizzo di questi sistemi solo in combinazione con altre prove e l’implementazione di protocolli rigorosi per verificare l’accuratezza delle identificazioni. Inoltre, è necessario garantire che i dati utilizzati per addestrare gli algoritmi siano rappresentativi della diversità della popolazione e che siano sottoposti a un controllo accurato per eliminare eventuali bias*. Infine, è essenziale che vi sia una supervisione indipendente sull’uso dei sistemi di *riconoscimento facciale da parte delle forze dell’ordine, al fine di garantire che siano utilizzati in modo responsabile ed etico. Nel maggio 2018*, *34* gruppi per i diritti civili hanno inviato una lettera a *Bezos contestando l’uso del riconoscimento facciale.

    La risposta di amazon e le contromisure adottate

    Di fronte alle crescenti critiche, Amazon* ha risposto sostenendo che i test condotti da terzi non sono stati realizzati con le versioni più aggiornate di *Rekognition e che le impostazioni utilizzate potrebbero non essere adatte per applicazioni di sicurezza. L’azienda raccomanda di utilizzare una soglia di confidenza del 95%* o superiore per l’identificazione in ambito legale, al fine di ridurre il rischio di *falsi positivi. Tuttavia, i critici contestano che l’impostazione predefinita del sistema dovrebbe essere più elevata, al fine di evitare che utenti meno esperti utilizzino impostazioni che possono portare a errori. Inoltre, Amazon* afferma di essere impegnata a mitigare i *bias nei suoi algoritmi attraverso un processo di sviluppo iterativo. Ciò include la creazione di set di dati che acquisiscono una vasta gamma di caratteristiche facciali umane e tonalità della pelle, test regolari su diversi casi d’uso e l’adozione di misure per aumentare i tassi di corrispondenza effettiva e/o i tassi di mancata corrispondenza effettiva per i gruppi in cui Rekognition* ha ottenuto risultati meno buoni.
    *Amazon* sottolinea che i risultati delle prestazioni dipendono da una serie di fattori, tra cui     Rekognition*, il flusso di lavoro del cliente e il set di dati di valutazione, e consiglia ai clienti di eseguire ulteriori test utilizzando i propri contenuti. L’azienda ha anche introdotto strumenti e risorse per aiutare i clienti a comprendere e mitigare i bias* nei loro sistemi di *riconoscimento facciale. Tuttavia, molti esperti ritengono che siano necessari ulteriori sforzi per affrontare il problema in modo efficace. Alcune possibili soluzioni includono l’utilizzo di set di dati di addestramento più diversificati, lo sviluppo di metriche di valutazione più eque e una maggiore trasparenza nel funzionamento degli algoritmi. La trasparenza nel funzionamento è fondamentale per dare fiducia al pubblico. L’azienda iBeta*, valutando le performance di Rekognition, ha evidenziato un tasso di errore dello *0.03%.

    Verso un’intelligenza artificiale più etica e inclusiva

    La questione dei bias* di *genere* e razziali nelle *API* di *riconoscimento facciale* di *Amazon Rekognition rappresenta una sfida cruciale per l’equità e la giustizia nell’era dell’intelligenza artificiale*. È imperativo che i produttori di tecnologie di *riconoscimento facciale, i legislatori e la società nel suo complesso collaborino per affrontare queste problematiche e garantire che queste tecnologie siano utilizzate in modo responsabile ed equo. Il percorso verso un’IA* etica richiede un impegno costante per l’identificazione e la correzione dei *bias algoritmici, oltre a una profonda riflessione sulle implicazioni sociali di queste tecnologie. L’obiettivo è creare un ecosistema digitale in cui l’IA* sia uno strumento al servizio di tutti, senza discriminazioni o pregiudizi.

    Un concetto fondamentale dell’*intelligenza artificiale* è il machine learning, ovvero la capacità di un sistema di apprendere dai dati senza essere esplicitamente programmato. Nel caso del *riconoscimento facciale, gli algoritmi vengono addestrati su vasti set di dati di immagini di volti, imparando a identificare e classificare le diverse caratteristiche. Tuttavia, se i dati di addestramento non sono rappresentativi della diversità della popolazione, il sistema può sviluppare bias* che si traducono in prestazioni inferiori per alcuni gruppi demografici.
    Un concetto più avanzato è quello della *fairness* nell’*IA    , ovvero la ricerca di algoritmi che siano equi e imparziali per tutti gli utenti. Esistono diverse definizioni di fairness, e la scelta della definizione più appropriata dipende dal contesto specifico e dai valori etici che si desidera promuovere. Alcune definizioni si concentrano sull’uguaglianza delle opportunità, mentre altre mirano a minimizzare gli errori per i gruppi più vulnerabili.

    Di fronte a queste sfide, è fondamentale che ognuno di noi sviluppi una consapevolezza critica nei confronti delle tecnologie di intelligenza artificiale e si interroghi sulle loro implicazioni etiche e sociali. Non possiamo delegare la responsabilità di un futuro equo e inclusivo alle sole aziende tecnologiche o ai legislatori; è necessario un impegno collettivo per garantire che l’IA sia uno strumento al servizio dell’umanità, senza lasciare indietro nessuno. È importante che i cittadini si informino, partecipino al dibattito pubblico e chiedano conto ai responsabili delle decisioni che riguardano il futuro dell’intelligenza artificiale. Solo così potremo costruire un mondo in cui la tecnologia sia una forza positiva per il progresso e il benessere di tutti.

  • Riconoscimento facciale: scopri i rischi e le normative del 2025

    Riconoscimento facciale: scopri i rischi e le normative del 2025

    Un’analisi del riconoscimento facciale e delle sue implicazioni

    Riconoscimento facciale: tra innovazione e minaccia alla privacy

    Il progresso tecnologico, in particolare nel campo dell’intelligenza artificiale, ha portato a sviluppi significativi nel riconoscimento facciale. Questa tecnologia, che consente di identificare o verificare l’identità di una persona a partire da un’immagine o un video, è diventata sempre più diffusa in diversi settori, dalla sicurezza pubblica al commercio al dettaglio. Tuttavia, la sua adozione su larga scala solleva serie preoccupazioni riguardo alla privacy e alle libertà civili. Nel corso del 2016 il riconoscimento biometrico, nello specifico, ha contribuito ad accendere un dibattito sugli aspetti etici di tale tecnologia.

    A puntare il dito contro il riconoscimento facciale non sono solo gli attivisti o i cultori della materia, ma anche le autorità di controllo e le istituzioni, sia nazionali che sovranazionali. Nessuno vuole fermare il progresso tecnologico. L’importante è non ledere gli altri diritti fondamentali. La questione centrale è il bilanciamento tra la necessità di garantire la sicurezza pubblica e il diritto alla privacy dei cittadini. L’implementazione di sistemi di riconoscimento facciale, spesso giustificata con la promessa di ridurre la criminalità e aumentare l’efficienza dei servizi, può portare a una sorveglianza di massa, limitando la libertà di movimento e creando un clima di paura e autocensura. La possibilità di essere identificati e tracciati in ogni momento può inibire l’esercizio dei diritti fondamentali, come la libertà di espressione e di associazione.

    Un ulteriore motivo di preoccupazione è legato alla precisione e all’affidabilità dei sistemi di riconoscimento facciale. Studi hanno dimostrato che questi sistemi possono essere meno accurati nell’identificazione di persone di colore, donne e altri gruppi minoritari, portando a errori di identificazione e a potenziali discriminazioni. L’uso di algoritmi distorti può rafforzare pregiudizi esistenti, con conseguenze negative per le persone colpite.

    La mancanza di una regolamentazione chiara e completa sull’uso del riconoscimento facciale aggrava ulteriormente la situazione. Mentre alcune giurisdizioni hanno iniziato a introdurre limitazioni e moratorie, in molti paesi la legislazione è ancora insufficiente a proteggere i diritti dei cittadini. L’assenza di norme specifiche consente alle aziende e ai governi di utilizzare questa tecnologia in modo indiscriminato, senza un adeguato controllo e senza garantire la trasparenza necessaria.

    Nel febbraio del 2025 Amnesty International ha pubblicato una nuova ricerca nell’ambito della campagna Ban the scan. Quest’ultima iniziativa, avviata circa un anno fa, aveva ed ha come obiettivo il divieto assoluto dell’uso, dello sviluppo, della produzione e della vendita di tecnologia di riconoscimento facciale a scopo di sorveglianza di massa da parte delle forze di polizia e di altre agenzie. La nuova ricerca è stata resa possibile grazie al supporto di moltissimi volontari del progetto Decode Surveillance NYC che hanno mappato oltre 25.500 telecamere a circuito chiuso installate a New York. Successivamente, i dati sono stati incrociati con le statistiche sulle perquisizioni e con informazioni demografiche.

    TOREPLACE: Crea un’immagine iconica ispirata all’arte naturalista e impressionista, con una palette di colori caldi e desaturati. L’immagine deve raffigurare in modo metaforico le principali entità coinvolte: una rete di telecamere di sorveglianza stilizzate che si estende su un volto umano, simboleggiando la sorveglianza e la perdita di privacy. Le telecamere devono avere un design elegante e non minaccioso, quasi come fiori che sbocciano sul volto. Sullo sfondo, si intravede la sagoma di una città moderna, anch’essa stilizzata. L’immagine deve trasmettere un senso di inquietudine e di controllo, ma anche di bellezza e complessità. Stile iconico, arte naturalista, arte impressionista, colori caldi e desaturati, metafore.”

    Il ruolo delle istituzioni e le normative in discussione

    Di fronte a queste sfide, le istituzioni e le autorità di controllo stanno iniziando a prendere posizione. L’Unione Europea, con l’AI Act, ha introdotto un quadro normativo per l’uso dell’intelligenza artificiale, compreso il riconoscimento facciale, con un approccio basato sul rischio. Il Regolamento prevede divieti per usi considerati inaccettabili, come l’identificazione biometrica remota in tempo reale in spazi pubblici, salvo eccezioni specifiche e autorizzazioni giudiziarie. Tuttavia, l’implementazione completa del Regolamento è prevista solo a partire dal 2 agosto 2026, con un ulteriore slittamento al 2030 per i sistemi già in uso, lasciando spazio a una fase di transizione in cui le normative settoriali esistenti continuano ad applicarsi.

    Anche l’Italia ha adottato misure per limitare l’uso del riconoscimento facciale. Nella legge n. 205/21 è stata inserita una moratoria sui sistemi di riconoscimento facciale nei luoghi pubblici fino al 2023, diventando il primo paese dell’Unione europea ad adoperarsi in tal senso. Questa moratoria è stata poi prorogata fino al 31 dicembre 2025. Tuttavia, la moratoria non si applica ai trattamenti effettuati dalle autorità competenti a fini di prevenzione e repressione dei reati o di esecuzione di sanzioni penali, sollevando i dubbi di alcune associazioni per i diritti umani. La legge precisa infatti che il divieto non si applica “ai trattamenti effettuati dalle autorità competenti a fini di prevenzione e repressione dei reati o di esecuzione di sanzioni penali di cui al decreto legislativo 18 maggio 2018, n. 51, in presenza, salvo che si tratti di trattamenti effettuati dall’autorità giudiziaria nell’esercizio delle funzioni giurisdizionali nonché di quelle giudiziarie del pubblico ministero, di parere favorevole del Garante reso ai sensi dell’articolo 24, comma 1, lettera b), del medesimo decreto legislativo n. 51 del 2018´´.

    Nonostante questi interventi, la strada verso una regolamentazione efficace del riconoscimento facciale è ancora lunga e tortuosa. Le normative esistenti spesso presentano lacune e ambiguità, rendendo difficile garantire una protezione adeguata dei diritti dei cittadini. Inoltre, la rapida evoluzione tecnologica rende necessario un aggiornamento costante delle leggi, per far fronte alle nuove sfide poste dall’intelligenza artificiale.

    Clearview ai: un caso emblematico

    Il caso di Clearview AI, una società statunitense che fornisce software di riconoscimento facciale a migliaia di agenzie e forze dell’ordine in tutto il mondo, è emblematico delle sfide etiche poste dal riconoscimento facciale. La società ha creato un enorme database di immagini facciali estrapolate da internet, consentendo ai suoi clienti di identificare individui a partire da una semplice foto. Il 5 aprile del 2022 sono state pubblicate notizie che parlano di un fenomeno in netta crescita, nonostante le norme tese ad arginarlo.

    L’archivio di immagini di Clearview AI è basato sulle foto condivise via social, che verrebbero poi scansionate in massa tramite sistemi automatizzati, una pratica, peraltro, non consentita. Questo ha infatti suscitato le reazioni di alcuni paesi. Pochi mesi fa la Commission Nationale de l’Informatique et des Libertés (CNIL) – il Garante privacy francese – ha ordinato a Clearview AI di cancellare tutti i dati raccolti sui cittadini francesi per violazione delle regole del GDPR. Non è però la prima ingiunzione contro la società, che già due anni fa fece scalpore per aver elaborato un sistema di identificazione rimpinguato tramite la raccolta di 10 miliardi di selfie per venderlo alle forze dell’ordine, attirando l’attenzione di Regno Unito, Canada e Australia, le quali hanno invocato diverse violazioni delle leggi locali sulla privacy.

    Tuttavia, Clearview AI ha contestato tutte le ingiunzioni, ribadendo la piena legalità delle sue attività e la nobiltà dei suoi obiettivi, che a detta loro non sono la sorveglianza di massa e la violazione della privacy, bensì la lotta al crimine e la tutela della sicurezza pubblica. Nel frattempo, i sistemi di Clearview AI sono sempre più diffusi tra le forze dell’ordine americane e, come visto, mira ad una grossa espansione. Recentemente, la società ha stipulato un accordo da circa 50mila dollari con l’Aeronautica degli Stati Uniti per la ricerca su occhiali per la realtàaumentata in grado di scansionare i volti delle persone per utilizzarli nella protezione di aeroporti e basi militari.

    Il caso di Clearview AI solleva interrogativi inquietanti sulla liceità della raccolta e dell’utilizzo di dati biometrici senza il consenso degli interessati. La società ha costruito un enorme database di immagini facciali estrapolate da internet, senza chiedere il permesso alle persone ritratte. Questo solleva preoccupazioni sulla violazione della privacy e sul potenziale uso improprio di questi dati. L’azienda avrebbe in media 14 immagini per ciascun essere umano sulla Terra. Un altro progetto in cantiere porterebbe invece allo sviluppo di ulteriori tecnologie, come quelle per il riconoscimento delle persone in base a come si muovono o un sistema per rilevare il luogo dove si trovano i soggetti analizzando lo sfondo delle foto. Secondo alcuni, però, i finanziamenti servirebbero anche a espandere il reparto vendite internazionale e influenzare le attività dei legislatori affinché promuovano nuove regole più elastiche in materia di privacy.

    Verso un futuro responsabile: bilanciare sicurezza e libertà

    Il futuro del riconoscimento facciale dipende dalla nostra capacità di trovare un equilibrio tra la necessità di garantire la sicurezza pubblica e il diritto alla privacy dei cittadini. Non possiamo permettere che la tecnologia diventi uno strumento di sorveglianza di massa, limitando la libertà di movimento e creando un clima di paura e autocensura. Nel febbraio 2025, è stata pubblicata una nuova ricerca da parte di Amnesty International nell’ambito della campagna Ban the scan. Quest’ultima iniziativa, avviata circa un anno fa, ha come obiettivo il divieto assoluto dell’uso, dello sviluppo, della produzione e della vendita di tecnologia di riconoscimento facciale a scopo di sorveglianza di massa da parte delle forze di polizia e di altre agenzie.

    È necessario un ripensamento radicale dell’etica digitale, che metta al centro la dignità umana e i diritti fondamentali. Una vera “etica na IA livro” deve guidare lo sviluppo e l’implementazione del riconoscimento facciale, garantendo che questa tecnologia sia utilizzata in modo responsabile e trasparente. Dobbiamo esigere trasparenza, responsabilità e un quadro normativo adeguato, per proteggere i nostri diritti e le nostre libertà. Altrimenti, rischiamo di trasformare l’intelligenza artificiale da strumento di progresso a strumento di oppressione.

    La sfida è complessa, ma non insormontabile. Con un impegno congiunto da parte delle istituzioni, delle aziende e dei cittadini, possiamo costruire un futuro in cui la tecnologia sia al servizio dell’umanità, e non viceversa.

    Riflessioni finali: intelligenza artificiale, privacy e il futuro della società

    Ciao! Ti sei mai chiesto come funziona il riconoscimento facciale? In parole semplici, sfrutta algoritmi di intelligenza artificiale, in particolare il deep learning, per analizzare le caratteristiche uniche del nostro volto e confrontarle con un database. Questa è una nozione base, ma fondamentale per capire le potenzialità (e i rischi) di questa tecnologia.

    Andando un po’ più a fondo, un concetto avanzato che si lega a tutto questo è la privacy differenziale. Immagina di voler usare dati sensibili, come quelli biometrici, per migliorare un servizio senza però rivelare informazioni personali su nessuno. La privacy differenziale aggiunge un “rumore” matematico ai dati, rendendo difficile risalire all’individuo ma mantenendo utili le informazioni aggregate. Applicare questa tecnica al riconoscimento facciale potrebbe essere una via per proteggere la nostra privacy, pur sfruttando i vantaggi di questa tecnologia.

    Tutto questo ci porta a una riflessione più ampia. In un mondo sempre più digitalizzato, la tecnologia può essere un’alleata o una minaccia. Dipende da come la usiamo. Il riconoscimento facciale, con tutte le sue implicazioni, ci spinge a interrogarci sul tipo di società che vogliamo costruire. Vogliamo una società trasparente, dove la tecnologia è al servizio del bene comune, o una società di sorveglianza, dove la privacy è un lusso e la libertà un ricordo? La risposta è nelle nostre mani.