Che l’idea e la necessità di un “Dipartimento PreCrimine” provenga da oltre l’oceano, dove valeva e vale ancora “strike first, ask later” (“prima colpisci, dopo poni domande”), non ci sorprende più di tanto.
Il termine stesso è stato coniato dall’intoccabile scrittore di fantascienza Philip K. Dick e, senza di lui, generazioni di visivi non si sarebbero godute film come Blade Runner, Total Recall, Minority Report, Paycheck, Next, Blade Runner 2049, ecc.; la lista è troppo lunga per elencarla tutta.
E gli algoritmi del male?
Siamo all’ennesimo, clamoroso annuncio; questa volta a farlo sono i ricercatori dell’Università di Chicago, su un programma che è capace di prevedere i crimini con una settimana di anticipo e con una precisione del 90% (!)
Wow! Quasi figo, sì… quasi!
Chiariamo subito: non è che il modello annunciato prevede specifici crimini individuali di tipo “Pippi Calzelunghe, il giorno x, alle ore y, ammazzerà il proprio marito nel sonno a casa loro e nella loro camera da letto”, in pieno stile Minority Report!
No, siamo lontani da questo -seppure in altre ricerche si sfiorano anche queste dinamiche!
Parliamo di un modello di criminologia algoritmica che, ad una prima occhiata, sembra abbastanza semplice: in base agli archivi storici, individua le zone calde dove potrebbero risultare rilevanti concentrazioni di crimini vari: aggressione, violenze, furto, molestie ecc.
In realtà, dall’altra parte dell’Atlantico, l’intelligenza artificiale (IA) è già ampiamente usata nei tribunali e dalle forze dell’ordine. Per esempio, sulla base della personalità dell’individuo, delle caratteristiche socioeconomiche ecc., l’algoritmo calcola la probabilità che un soggetto ha di commettere o reiterare un certo tipo di reato, supportando così i giudici nell’emettere le sentenze, decidere detenzioni o scarcerazioni condizionali o, in casi peggiori, decidere sulla necessità di atti preventivi.
Un primo programma di questo tipo è stato usato nello stato di Virginia già nel lontano 1994, e da allora la tendenza si sta ampiamente allargando anche ad altri paesi.
L’idea della previsione del crimine risale alla vecchia scuola positivista di fine ‘800, e soprattutto si rifà a Cesare Lombroso e alle sue convinzioni che “delinquenti si nasce” e che si possono individuare in anticipo sulla base di determinate caratteristiche biologiche, psicologiche e sociologiche. Oggi idee simili sono sostenute dal movimento Social Defense Movementche si richiama alla “giustizia attuariale” e alla visione di una società radicalmente nuova, “la società della sicurezza” la quale,ovvio, necessità di strategie nuove, strumenti nuovi, e di una “criminologia nuova” (!)
Anche senza essere muniti di una fantasia galoppante, per chi ha letto la novella di Dick, il pensiero ti porta per forza nella trama, dove il potenziale, ripetiamo POTENZIALE (!), criminale viene deportato in un campo di concentramento preventivo, dove il soggetto non esiste più come individuo, è senza diritti, non può fare ricorso (figuriamoci!) e manco può avere un avvocato!
No morevicino psicopatico che ti fa l’ennesima querela perché non saluti in modo adeguato; no more marito misogino e narcisista che ammazza la moglie perché…non si sa bene il perché; no more delitti mediatici dove tutti ci guadagnano in soldoni ma il giusto processo o la giusta pena finiscono sulla discarica della storia; no more politico voltagabbana che, come una meretrice, saltella di fiore in fiore per propri interessi e furbescamente manipola gli eventuali elettori con tanto di piffero magico; no more la paura di metterti il tuo diamante da trilioni di carati perché Caio potrebbe aspettarti dietro l’angolo e tagliarti il dito per questo misero, inutile e freddo oggetto, e di nuovo no more, no more… Ehm, pensandoci bene, non è poi così male!
Tornando in sé…
Insomma! Il tutto puzza un po’ d’isteria collettiva, un po’ come quella anticomunista di John McCarthy, o alla follia lucida e razionale dello psichiatra Arnold Hutschnecker che con le sue bizzarre idee indirizzate nientemeno che a Richard Nixon (…suo paziente!), suggeriva dei test pre-delinquenza per bambini, o la sua, questa volta nemmeno tanto malsana, idea che i politici, prima di candidarsi, dovrebbero sottoporsi ad una visita psichiatrica.
Preveniamo tutto per un mondo migliore ma con la differenza che, se prima tra migliaia di parole chiave si perdeva un cervello umano nel raccogliere e mettere insieme i dati su interminabili fogli Excel, ora abbiamo l’IA che lo fa più veloce, in modo più preciso e con meno fatica, soprattutto meno fatica.
In un mondo ideale e immaginario tutto è perfetto, ma non vivendo in un mondo ideale (e soprattutto perfetto…), e che dietro ai miliardi di codici ci sta l’imperfezione dell’uomo, la paura di abusi, ghettizzazioni, discriminazioni diventa alta.
E i dati, i report, cosa ci dicono?
Mettendo sotto la lente d’ingrandimento uno strumento come il COMPAS, uno tra le centinaia di programmi usati nelle aule di giustizia e dalla polizia, uno studio ha evidenziato che, seppure il programma non raccolga esplicitamente dati sulla razza, ha mostrato disparità razziali, sbagliando così anche nelle previsioni sulla recidiva dei reati a favore dell’etnia bianca contro quella nera.
Ma allora come funzionano questi così? Com’è possibile?
Spulciamo prima il problema principale, uno di quelli più vecchi del mondo…
Gli algoritmi usati sono dei segreti commerciali (ovvio no?!) e non sono a disponibilità di valutazioni, né del pubblico né di chi usa i programmi. Ah!
Un’altra criticità è rappresentata dal fatto (già discusso nel caso di Blake e la sua Odissea) che gli algoritmi basati sull’apprendimento automatico dipendono dal database a disposizione e, se i dati sono…diciamo…distorti (ne bastano pochi eh!), altrettanto lo saranno i risultati.
Ma tornando alle disavventure di questi modelli per la predizione del crimine, non si può non passare per le colonne del Tampa Bay Times, quotidiano della Florida, precisamente di St. Petersburg, che vanta 14 premi Pulitzer, perciò non un nababbo sul generis, e che nel 2020 ha pubblicato una serie di articoli/inchiesta spassosi con tanto di video (consiglio vivamente la lettura e la visione, il divertimento è garantito e dopo, volendo, si potrebbe aprire una chat -senza il bot- per discutere sul nuovo virus, non ancora individuato dall’Oms, che causa demenza senile precoce…).
Ma torniamo al dunque… cos’è successo in una lontanissima contea della Florida?
Ma cosa potrebbe mai essere successo! Lo sceriffo, molto, molto Hi-Tech, della Contea di Pasco, ha avuto una idea super brillante e audace: usare l’intelligenza artificiale all’avanguardia per fermare il crimine prima che questo sia commesso. Sempre lì siamo!
Il risultato invece?
Un’operazione di alto livello d’intelligence che monitora, intimidisce e molesta le famiglie in tutta la contea! Ecco cosa è successo!
La super macchina ha iniziato a sputare elenchi di persone “suscettibili” a violare la legge sulla base di precedenti reati e altro tipo di dati non ben specificati (as usual) e, se ci aggiungiamo anche le decisioni e le analisi arbitrarie della polizia, il caso è fatto!
Gli agenti hanno iniziato a fare visite a domicilio nelle ore più impensabili, al lavoro, dagli amici, dagli amici di amici (non si è mai troppo prudenti!), sbirciando di nascosto nelle case dei residenti attraverso le finestre come la banda Bassotti.
Andavano a trovare chiunque apparisse in quel famigerato elenco, senza una prova di reato, senza un mandato di perquisizione e stampavano multe e convocazioni a presentarsi in tribunale in modo instancabile, come se non ci fosse un domani.
Nel mirino del programma finiscono anche parenti e amici a 360 gradi, perché controllando di qua e di là continuamente, ripetutamente e in modo instancabile, ovvio che prima o poi becchi l’adolescente che fuma di nascosto, o la vicina di casa che pascola i polli dietro il cortile del suo villino e il database si aggiorna, aggiungendo nuovi nomi, nuove trasgressioni, diventando così una macchina infernale dell’assurdo.
In soli 5 anni, il sistema sputa nomi, ha “intrappolato” circa 1000 persone e, almeno una su dieci, aveva meno di 18 anni.
Ma mica può finire qui! L’ufficio dello sceriffo ha annunciato il controllo anche di soggetti incensurati ma che difettano nell’esser stati più volte ospitati nei reparti psichiatrici! Ovvio! Non si sa mai…
Perciò occhio anche a chiedere aiuto in casi di depressione.
Dai dati presentati dalla Contea di Pasco emerge che i crimini contro il patrimonio sono realmente diminuiti, ma come ha descritto questo metodo un ex deputato (metodo che possiamo tranquillamente etichettare anche come metodo ossessivo compulsivo):
“Rendi la loro vita infelice finché non si trasferiscono altrove…”.
Che dire: ci ha preso in pieno!
E guardando in altre parti del mondo?
Nel 2016 due ricercatori cinesi hanno avvisato il globo che il loro algoritmo, con una semplice scansione del viso, prevede, con un’accuratezza del 89,5%, se una persona è un criminale…anche se il soggetto in questione non ne è ancora consapevole (!?), ma di questo “cianceremo” un’altra volta.
In Germania nel 2004 compare l’opzione “detenzione preventiva retroattiva”, che, causa l’intervento della Corte europea dei diritti dell’uomo, viene mascherata sotto la definizione “detenzione per terapia”.
In Francia abbiamo la “detenzione di sicurezza” dal 2008, ecc., ecc.
La domanda che si pone è (e non importa se si tratta di programmi di IA):
un sistema di giustizia moderno può violare principi tradizionalmente sacri e punire per reati non ancora commessi?
E l’Italia? Questo tema scottante come viene masticato a casa nostra?
Interessante un articolo dell’ANSA datato ottobre 2018 con il titolo “L’AI per prevenire il crimine“:
“Usare l’intelligenza artificiale e l’enorme mole di dati che provengono dagli smartphone, dai social e dalle transazioni delle carte di credito, per analizzare le città così da poter predire e prevenire i crimini.”
Che dire? Solo un grande mal di testa! O come direbbe Anderton, il capo dell’agenzia Precrime nella novella di Dick:
“(…) nella nostra società non abbiamo crimini gravi, ma abbiamo un campo di detenzione pieno di aspiranti criminali”.
Eh, sì! Perché il compito dell’agenzia Precrime è identificare ed eliminare le persone che commetteranno crimini in futuro (!) e se dietro ci stanno le veggenti, l’IA o semplicemente un essere umano che usa le sue celluline grigie e fa calcoli su carta con una matita, non importa!
Hf & Cya
“Strike first, strike hard & no mercy, sir!” – film Karate Kid
tags: Precrime, IA, Philip K. Dick, Minority Report, algoritmo, Università di Chicago, COMPAS, Sistema giudiziario, criminologia algoritmica, Lombroso, Social Defense Movement, giustizia attuariale, Arnold Hutschnecker, disparità razziale, apprendimento automatico, Tampa Bay Times. Contea di Pasco, detenzione per terapia, detenzione preventiva, Anderton, Karate Kid
by K.BERLOT
link utili:
https://www.nature.com/articles/s41562-022-01372-0
https://projects.tampabay.com/projects/2020/investigations/police-pasco-sheriff-targeted/
https://it.wikipedia.org/wiki/Philip_K._Dick
“Strike first, strike hard & no mercy, sir!” – film Karate Kid
tags: Precrime, IA, Philip K. Dick, Minority Report, algoritmo, Università di Chicago, COMPAS, Sistema giudiziario, criminologia algoritmica, Lombroso, Social Defense Movement, giustizia attuariale, Arnold Hutschnecker, disparità razziale, apprendimento automatico, Tampa Bay Times. Contea di Pasco, detenzione per terapia, detenzione preventiva, Anderton, Karate Kid
