Welcome to the Matrix

Sul decreto del "riconoscimento facciale" approvato il 4 agosto

Con risata spagnola: “jajajaaj”.

Qui sopra il messaggio che Carlo, il mio coinquilino, mi ha lasciato su un foglio strappato da un vecchio quaderno ad anelli.

Sono tornata da due settimane di ferie molto intense in Perù e non posso fare altro che ridere, perché quello del “sistema Matrix” è un tema ricorrente a casa nostra.

Ne parliamo ogni volta che ci sentiamo impotenti, stanchi e poco combattivi.
Quando vorremmo delegare o a qualcuno o a qualcosa la responsabilità delle nostre scelte. Quando il sistema ci sembra troppo grande persino per essere capito, figurarsi cambiato.

In Matrix, una delle domande che mi ha sempre fatto ragionare e che mi porta direttamente all’argomento di oggi, è questa:

Quanto tempo passerà prima che tutto questo ci sembri normale?

Nel film le persone vivono dentro un sistema che osserva tutto, controlla tutto e interviene non appena qualcuno prova a uscire dalle regole. La cosa più inquietante, però, non è soltanto che quel controllo sia totale, ma che per quasi tutti sia invisibile: è diventato l’ambiente stesso in cui vivono, qualcosa di così pervasivo e abituale da sembrare naturale.

Ovviamente non penso che le telecamere italiane siano gestite da macchine senzienti o che il governo voglia trasformarci in batterie umane. Per quello credo che ci voglia qualcosina in più di un decreto.

Quello che mi domando è:

cosa succede quando tecnologie capaci di riconoscere le persone, associare un volto a un’identità e ricostruirne la presenza in un luogo diventano parte ordinaria degli spazi pubblici?

E soprattutto: cosa succede quando questo controllo non richiede necessariamente nuove telecamere visibili, ma può essere integrato nei sistemi di videosorveglianza che esistono già, trasformando ciò che accade dietro l’obiettivo senza che, da fuori, cambi quasi nulla? (dopo ci arrivo)

Arriviamo al punto

Parliamo del decreto con cui il governo italiano stabilisce quando e come le forze di polizia possono utilizzare sistemi di riconoscimento facciale basati sull’intelligenza artificiale.

In realtà il provvedimento, che adegua la normativa italiana all’AI Act europeo, ha un obiettivo più ampio: disciplinare l’uso dei sistemi di intelligenza artificiale da parte delle forze di polizia, fissando limiti, condizioni e garanzie per gli strumenti considerati più delicati, tra cui proprio il riconoscimento biometrico.

Questa newsletter, però, stava per uscire con una storia leggermente diversa.

Il 10 giugno il governo aveva approvato una prima bozza molto discussa, soprattutto per quello che prevedeva in alcuni luoghi ed eventi considerati sensibili per l’ordine pubblico: i volti di tutte le persone presenti sarebbero stati trasformati automaticamente e in via preventiva in dati biometrici, anche senza che fosse stato commesso alcun reato.

Quei dati sarebbero poi confluiti in un archivio locale, conservato fino a sette giorni e consultabile dalle forze dell’ordine nel caso in cui, durante quel periodo, fosse stato commesso un reato e fosse necessario cercare una persona già indiziata.

Poi, il 4 agosto, il Consiglio dei ministri ha approvato definitivamente il decreto introducendo alcune modifiche importanti proprio su questo punto.

Al momento il testo definitivo non è ancora stato pubblicato, quindi le prime informazioni arrivano dalle dichiarazioni del viceministro della Giustizia Francesco Paolo Sisto e dalle anticipazioni delle agenzie.

Cosa cambia?

Riprendiamo brevemente i due articoli che hanno generato tutto il putiferio.

L’articolo 8

Riguarda il riconoscimento facciale in tempo reale negli spazi pubblici, consentito soltanto per prevenire minacce gravi e specifiche, come un attentato terroristico, oppure per cercare persone scomparse o vittime di sequestro, tratta o sfruttamento sessuale.

In questi casi il sistema serve a cercare persone già individuate, non a identificare indiscriminatamente chiunque passi davanti a una telecamera.

L’articolo 10

Riguarda il riconoscimento facciale “a posteriori”, quello che accennavamo prima, ed è qui che è arrivata la modifica più importante.

Nella prima versione, entrando in luoghi come stadi, piazze o eventi considerati sensibili per l’ordine pubblico, il volto di ogni persona poteva essere trasformato automaticamente in un dato biometrico e conservato per 7 giorni.

Nel testo approvato il 4 agosto questo non dovrebbe più accadere.

Le telecamere possono registrare e conservare le normali immagini, ma il riconoscimento facciale può essere attivato soltanto dopo che viene commesso un reato e per cercare persone già indiziate

È una differenza enorme. Un conto è creare preventivamente un archivio biometrico di tutte le persone presenti. Un altro è conservare le immagini e utilizzare il riconoscimento facciale soltanto successivamente, quando esiste un’indagine concreta.

Era proprio uno dei punti più contestati della prima versione. Il Garante Privacy aveva chiesto di eliminare la raccolta preventiva e generalizzata dei dati biometrici, sostenendo che il riconoscimento a posteriori dovesse essere utilizzato soltanto per ricerche mirate legate a un reato.

Anche la Commissione europea, durante un briefing con la stampa del 30 luglio, aveva richiamato i limiti molto rigidi imposti dall’AI Act al riconoscimento biometrico negli spazi pubblici, pur senza dichiarare formalmente incompatibile il decreto italiano.

Su questo punto, quindi, il governo ha fatto un passo indietro.

Ok, ma come funziona sta roba?

Un software analizza l’immagine di un volto e la trasforma in una rappresentazione numerica basata sulle sue caratteristiche fisiche. Poi confronta quella rappresentazione con quelle presenti in una banca dati e restituisce possibili corrispondenze con una percentuale di somiglianza.

Non “riconosce” quindi qualcuno come facciamo noi: calcola quanto due volti si assomigliano.

Sempre con la nuova modifica anche le banche dati vengono limitate.

Secondo quanto anticipato dal governo, non potranno essere costruite raccogliendo immagini indiscriminatamente da internet e, nel caso del riconoscimento in tempo reale, dovranno essere create per una finalità specifica e cancellate alla fine dell’autorizzazione.

Chi decide quando si può usare questa tecnologia?

Anche qui il decreto prova a mettere dei limiti.

Per il riconoscimento in tempo reale, le forze dell’ordine devono presentare una richiesta motivata all’autorità giudiziaria. Nei casi urgenti possono iniziare prima, ma devono chiedere l’autorizzazione entro 24 ore.

Per il riconoscimento a posteriori il trattamento dei dati biometrici può partire soltanto dopo un reato e deve essere autorizzato da un magistrato.

Su alcuni dettagli, però, bisognerà aspettare il testo pubblicato: Sisto ha detto che i controlli saranno distribuiti tra pubblico ministero e giudice per le indagini preliminari, senza spiegare ancora precisamente in quali casi interverrà l’uno o l’altro.

Ed eccoci quindi al punto. La domanda che ci facevamo nella prima versione di questa newsletter era:

per poter cercare una persona sospettata è necessario trasformare preventivamente in dati biometrici i volti di tutti?

Con le modifiche del 4 agosto, quindi, la risposta del governo alla domanda che ci facevamo prima sembra essere diventata: no.

È un cambiamento importante, ma c’è un ultimo tassello che ci riporta alla domanda da cui siamo partiti.

In un video pubblicato prima dell’approvazione definitiva del decreto, Breaking Italy aveva fatto notare un dettaglio interessante della bozza allora all’esame del Parlamento: l’articolo 10 prevedeva che installazione e manutenzione dei sistemi potessero essere sostenute anche dai gestori privati dei luoghi o dagli organizzatori degli eventi, per poi concederli in comodato gratuito alle questure.

La relazione tecnica precisava inoltre che non sarebbe stato necessario installare necessariamente nuovi sistemi di videosorveglianza, perché quelli già previsti dalla legge avrebbero potuto essere integrati con componenti di intelligenza artificiale.

Non sappiamo ancora se questa previsione sia rimasta identica nel testo approvato il 4 agosto, perché mentre scriviamo il decreto non è ancora stato pubblicato integralmente.

Se sarà confermata, però, significa una cosa importante: il riconoscimento facciale potrebbe diffondersi senza bisogno di installare nuove telecamere, semplicemente aggiungendo nuovi software ai sistemi di videosorveglianza che esistono già.

Ed è qui che, secondo me, torna davvero Matrix.

La sorveglianza, pensata così, non sembrerà invasiva e non farà troppo rumore.
Può entrare poco alla volta dentro oggetti che siamo già abituati a vedere ogni giorno: la telecamera dello stadio, quella della stazione, quella sopra l’ingresso di un luogo pubblico.

Da fuori è sempre la stessa, quello che cambia è ciò che il sistema all’interno è capace di fare.

È questo ci riporta alla domanda iniziale.

Quanto controllo siamo disposti ad accettare? Quanto tempo ci vorrà prima di dimenticarci dell’esistenza di questi sistemi e di come vengono usati i nostri dati?

---

Ciao! Se sei qui, è perché ti trovi In Mezzo.

In Mezzo è la newsletter dell’ecosistema di Rassegnally che esplora il confine tra online e offline, ammesso che esista ancora.

Internet ha cambiato le nostre vite in modo drastico e non c’è motivo di pensare che si fermerà qui. In un momento in cui l’intelligenza artificiale sembra poterci salvare o travolgere da un giorno all’altro, tra annunci roboanti e sperimentazioni continue, l’unica certezza è che il confine tra vita digitale e vita reale non è mai stato così sfocato.

È proprio lì, In Mezzo, che proviamo a capirci qualcosa: un episodio alla volta, una domanda alla volta.