Chi è il miglior giudice: l’uomo o l’IA? (Vincenzo Giglio)

Introduzione

L’ingresso sempre più esteso dell’intelligenza artificiale (di seguito IA) nelle nostre vite e la percezione semplificata che ne abbiamo, quasi si trattasse di un fenomeno unitario o addirittura di un’unica creatura digitale, inducono preoccupazioni e domande.

Che ne sarà di noi, delle nostre vite, del nostro lavoro? Chi avrà il controllo? Chi prenderà le decisioni?

La cinematografia influenza la nostra immaginazione.

Pensiamo alla saga del Pianeta delle scimmie, come esempio di potere conquistato dal basso, quasi una rivisitazione della rivoluzione del proletariato.

2001: Odissea nello spazio di Kubrik ci offre al contrario il paradigma di un potere che viene dall’alto, elitario e tecnocratico, esercitato da macchine iper-intelligenti come HAL 9000.

La letteratura, poi, è un contenitore sterminato di storie di collaborazione o conflitto tra l’uomo e l’IA.

In questo magma di suggestioni e paure finisce sempre per emergere un’orgogliosa rivendicazione: noi esseri umani siamo migliori delle macchine; siamo i loro creatori e, per quanto possano essere abili a governare miriadi di calcoli, non avranno mai quel di più che solo la razza umana ha.

Cosa sia il di più, è difficile a dirsi, essendo prima ancora difficile da pensare e definire.

Per restare sul sicuro, si potrebbe affermare che il di più della razza umana sta nella sua umanità, cui si assocerebbe un’inimitabile capacità di stare al mondo e di capirne la complessità che nessun’altra specie, corporea o incorporea, possiede.

La conferma dovrebbe essere di tipo empirico: se gli umani sono diventati padroni del pianeta, vuol dire che sono migliori di qualsiasi altro concorrente.

Chi è il miglior giudice, l’uomo o l’IA?

Il giudizio, in quanto procedura insieme cognitiva e valutativa, tipicamente compresa nell’area del cosiddetto pensiero superiore (che, in teoria, ci distingue dagli scimpanzè con i quali condividiamo il 96% del nostro genoma), si presta assai bene a testare la validità dell’assioma che ci vuole migliori dell’IA.

Attingerò a piene mani da “Probabilità, numeri, rischio. Stime probabilistiche e percezione dei rischi da parte dei giudici“, un brillante scritto di Susanna Arcieri, parte del volume collettaneo “La psicologia del giudicare“, pubblicato di recente come Quaderno n. 32 dalla Scuola superiore della magistratura (scaricabile a questo link).

La citazione d’apertura, “If something can go wrong, it will“, tratta dalla ben nota Legge di Murphy, secondo la quale “Se qualcosa può andar male, lo farà“, è già un avviso ai naviganti.

La tesi di fondo dell’Autrice – sintetizzo brutalmente – è che viviamo in un mondo senza certezze il che implica l’impossibilità ontologica del “rischio zero” nelle attività umane, comprese quelle più innocue.

A questa constatazione, sconfortante ma vera, segue, allorché il rischio si trasformi in eventi di rilievo giudiziario, la necessità di un uso sempre più frequente e impegnativo del calcolo statistico e della stima delle probabilità nei giudizi e nelle sentenze.

Diventa quindi essenziale che il giudice, cui spetta valutare se un rischio è consentito oppure no, “sappia maneggiare in modo adeguato la nozione, ed effettuare stime e valutazioni corrette dei rischi connessi alle diverse attività suscettibili di dare luogo a responsabilità (penali e non) in capo agli autori delle stesse“.

Inizia qui la parte del lavoro della Arcieri denominata “Errori comuni nei calcoli probabilistici e nelle stime di rischio“, divisa in varie partizioni, ognuna delle quali illustra e documenta una specifica inadeguatezza del giudice, in quanto essere umano, nel governo di quei calcoli e di quelle stime.

Premesso che solo la lettura integrale dello scritto della Arcieri può far comprendere compiutamente la fenomenologia che ne costituisce l’oggetto e gli studi che hanno portato alla sua emersione, provo a riassumere i punti essenziali.

La mente umana è incapace di ragionare in termini probabilistici

Varie ricerche e indagini (particolarmente quelle di Kahneman e Tversky) hanno riscontrato “una generale incoerenza tra i giudizi (intuitivi) formulati dai soggetti sottoposti ai loro test e i più basilari principi statistici” e questo risultato non è cambiato anche quando le persone testate avevano familiarità con concetti e principi statistici.

La controintuitività di tali principi rimane curiosamente tale anche quando il significato della regola statistica è perfettamente compreso e dipende dalla cosiddetta “fallacia della congiunzione” che consiste nella violazione inconsapevole di una legge statistica fondamentale, la “regola della congiunzione” secondo la quale “la probabilità di una congiunzione tra A e B non può mai essere maggiore né della probabilità del solo A, né della probabilità del solo B“.

Ci sono poi errori di percezione dell’effettivo ordine di grandezza di un rischio che potrebbero dipendere dal modo in cui il rischio stesso è comunicato.

L’esempio riportato dalla Arcieri è un comunicato del Comitato britannico sulla sicurezza dei medicinali in cui si affermava che una pillola anticoncezionale appena proposta sul mercato aumentava del 100% il rischio di trombosi rispetto alla versione precedente dello stesso prodotto.

Quel comunicato suscitò nel pubblico timore e diffidenza ma la verità era che con la prima versione della pillola c’era stato un solo caso di trombosi tra 7.000 assuntrici mentre, con la seconda, su un campione di pari dimensioni numeriche i casi erano aumentati a due: indubbio l’aumento del 100% ma due casi su 7.000 restano comunque una percentuale pressoché irrilevante.

Questi errori sono compiuti anche dai giudici.

Lo prova uno studio condotto alla fine degli anni Novanta che coinvolse un centinaio di giudici statunitensi, finalizzato a comprendere come stimassero il rischio di morte.

Gli fu rivolta questa domanda: “Nel 1993, 47.000 persone sono morte a causa di un incidente d’auto. Quan­te persone sono decedute a causa dei fattori elencati di seguito?“.

Il seguito era un elenco di 22 specifiche cause di morte, tra le quali alcune di minima incidenza statistica quali botulismo (due soli casi), incidenti prodotti da materiale pirotecnico (cinque casi), morbillo (cinque casi) ed altre di massima incidenza (forme maligne di tumore).

Il risultato è stato che i giudici hanno sovrastimato le cause meno incidenti e sottostimato quelle più incidenti.

Peraltro, la sovrastima delle cause meno incidenti è stata ben più significativa della sottostima delle cause più incidenti e questa caratteristica è probabilmente dipesa dal fatto che la conoscenza delle cause minori è modesta e quindi il campione testato si è pronunciato per così dire alla cieca.

Seguono altri esempi di altrettante categorie di errori:

• euristica della rappresentatività: tendenza ad attribuire caratteristiche simili a situazioni considerate simili, ignorando le informazioni, pur esistenti, che porterebbero a invece a differenziare il giudizio, sconfessando la “classificazione” della situazione come simile ad altra già nota;
• bias del “senno di poi”: giu­dizio retrospettivo, che induce l’individuo a credere, una volta che un fatto si è verificato, di aver sempre saputo che si sarebbe verificato in quello specifico modo, anche se, nella realtà, non disponeva degli elementi necessari per una simile previsione;
• fallacia dell’accusatore: bias statistico che induce a ritenere coincidenti – e a sovrappor­re indebitamente – la probabilità della concordanza con la probabilità che la persona sia innocente in caso di concordanza;
• valutazione della pericolosità individuale e “bias categoriale”: errore compiuto nei contesti legali o clinici in cui serve disporre di una stima probabilistica dei futuri comportamenti violenti di una persona.

Mi resta solo da aggiungere che nello studio della Arcieri sono riportate con ampiezza di riferimenti le ricerche sulle quali ha fondato le sue argomentazioni, i ricercatori che le hanno condotte, i test che hanno somministrato ai campioni di persone prese in considerazione, le risposte che hanno ottenuto e le conclusioni che ne hanno tratto.

Per finire

Si è partiti da un assioma: noi esseri umani siamo meglio delle macchine, proprio perché siamo umani.

Si è verificato che noi esseri umani commettiamo inevitabilmente numerosi errori di giudizio, proprio perché siamo umani.

Una sola cosa si può quindi dire: può essere che l’umanità renda gli esseri umani più adatti delle macchine a giudicare i loro simili; è certo che questa superiorità, se c’è, non può essere fondata sulla nostra infallibilità.