Proseguiamo con questo post il viaggio verso l’IA nel diritto.
Abbiamo bisogno tutti, noi che scriviamo per primi, di capire cosa incontreremo lungo la strada.
Proviamo a farlo insieme.
Cos’è un algoritmo
Un algoritmo è una serie di istruzioni che dicono a un computer come trasformare un insieme di fatti in informazioni utili.
I fatti sono rappresentati dai dati e le informazioni utili che se ne ricavano servono ad acquisire ulteriore conoscenza, possono trasformarsi in istruzioni per le macchine oppure nell’input per la creazione di un altro algoritmo.
Per chiarire il concetto, ecco un esempio pratico: come ci vestiamo la mattina.
Pensiamo, prima di cominciare, alle informazioni di cui avremo bisogno: il tipo di vestiti a disposizione nell’armadio; la temperatura esterna; le previsioni del tempo per la giornata; le preferenze personali.
Le nostre informazioni costituiscono l’input, necessario al computer per prendere decisioni. Esse possono essere rappresentate nei dati, che sono essenzialmente semplici raccolte di numeri o parole. Ad esempio, la temperatura è un numero e una previsione meteorologica potrebbe essere “piovoso” o “soleggiato”.
A questo punto i dati acquisiti permetteranno al computer di calcolare quale abbigliamento risulta migliore per noi, tenendo conto delle informazioni processate, e infine di fornire l’output, la risposta. Per un computer, l’output è solitamente costituito da dati, proprio come l’input.
In alcuni casi esso consente al computer di produrre più algoritmi, mentre in altri, a seconda dei programmi in esecuzione, l’output può essere visualizzato direttamente sullo schermo del PC sotto forma di testo o di immagini e talvolta può essere restituito anche sotto forma di suoni tramite dispositivi audio esterni come degli altoparlanti o cuffie.
Machine Learning (ML)
Quando un processo decisionale risulta troppo complesso, una categoria speciale di algoritmi, gli algoritmi di apprendimento automatico, cerca di “imparare” sulla base di una serie di esempi decisionali passati. L’apprendimento automatico detto anche “Machine Learning” è comunemente utilizzato per argomenti come consigli, previsioni e ricerca di informazioni.
Nel nostro quotidiano entriamo frequentemente in contatto con questi sistemi e il più delle volte lo facciamo in modo inconsapevole.
Di seguito alcuni esempi di applicazioni di ML:
- il software che consente ai motori di ricerca di rispondere alle ricerche degli utenti;
- la tecnologia di riconoscimento vocale negli smartphone;
- i filtri antispam per le mail indesiderate;
- la creazione di pubblicità personalizzata sulla base delle abitudini di navigazione degli utenti;
- la prevenzione delle frodi in campo finanziario attraverso l’apprendimento delle abitudini degli utenti e segnalando comportamenti anomali che potrebbero derivare da pratiche truffaldine;
- la ricerca medica con la creazione di modelli predittivi estremamente accurati.
E molti altri.
Ritornando al nostro esempio, un algoritmo di apprendimento automatico equivarrebbe a ricordare le decisioni passate su cosa indossare, di sapere quanto ci siamo sentiti a nostro agio indossando ogni capo, quanti complimenti abbiamo ottenuto e utilizzare queste informazioni per migliorare le scelte.
Quindi, riassumendo, un algoritmo è il processo utilizzato da un computer per trasformare i dati di input in dati di output.
Chi crea gli algoritmi?
Ma da chi vengono creati gli algoritmi?
Gli algoritmi sono creati da matematici, ingegneri e ricercatori.
Esistono marketplaces presenti in rete come: Quantiacs (un trading system), Precision Mapper e Algorithmia) in grado di offrire anche fino a 5000 tipi diversi di algoritmi.
L’intelligenza artificiale nelle nostre vite
L’intelligenza artificiale (IA) diventa sempre più parte integrante della nostra vita quotidiana e i vantaggi che derivano dal suo uso sono infiniti ma l’adozione di qualsiasi tecnologia comporta inevitabilmente anche effetti collaterali e rischi.
…Distorsioni dell’IA e rischi conseguenti
La misura in cui l’intelligenza artificiale potrebbe subire distorsioni dipende dagli sviluppatori di intelligenza artificiale e dagli algoritmi utilizzati per addestrarla, nonché dalle motivazioni e dai pregiudizi di coloro che creano e implementano i sistemi di intelligenza artificiale.
Se i dati e la formazione utilizzati per sviluppare i sistemi di intelligenza artificiale continuano a essere distorti e privi di rappresentazioni differenziate e democratiche, i risultati potrebbero essere pericolosi.
La capacità di perpetuare e amplificare i pregiudizi può avere un impatto su un numero imprevedibile di attività umane: ci possono essere implicazioni per la giustizia penale, la salute e la sicurezza.
Anche la sicurezza informatica e la privacy personale diventeranno sempre più minacciate, con i criminali che avranno le stesse capacità di creare truffe di phishing estremamente convincenti o di impersonare individui online usando i programmi per il riconoscimento facciale, per esempio.
…Processi decisionali non trasparenti
Un altro problema è la mancanza di trasparenza nel processo decisionale che rende difficile capire perché un sistema di intelligenza artificiale abbia preso una determinata decisione. Inoltre può essere altrettanto arduo identificare e correggere i pregiudizi nel sistema per non parlare dell’attribuzione di colpe e responsabilità.
Per finire
Le sintetiche note di questo post, tratte da attendibili fonti aperte, sono sufficienti a legittimare alcune conclusioni o forse, meno presuntuosamente, impressioni.
L’IA è ciò che il creatore dei suoi algoritmi programma che essa sia: l’uomo ordina e la macchina esegue e non sono prevedibili, certamente non nel breve periodo, inversioni di questo rapporto gerarchico. Sono quindi infondati i timori quasi millenaristi di chi si raffigura scenari apocalittici in cui gli esseri umani sono ridotti al rango di schiavi di macchine super-intelligenti.
Per la stessa ragione, cioè perché è l’uomo al comando, l’IA non è e non sarà mai neutrale.
Gli algoritmi che danno vita ai software sono infatti l’espressione della personalità del loro artefice, ivi compresi, se ci sono, i suoi pregiudizi e i suoi sistemi di credenze.
Non solo: contano e pure tanto le finalità della creazione e il grado della sua accuratezza.
Si può creare IA per far soldi – il che è legittimo – ma a questa finalità utilitaristica potrebbe astrattamente corrispondere una programmazione focalizzata sulla massimizzazione del lucro e quindi meno o punto attenta alla correttezza degli output.
Il creatore può non avere i mezzi o la voglia di investire i capitali necessari per supervisionare a dovere le istruzioni impartite all’IA: il risultato sarà un software non addestrato in modo accurato e quindi il suo processo di apprendimento sarà affidato alla progressiva interazione con gli utenti con elevato rischio di errori. Come se, chiudendo con un altro esempio, un bambino, piuttosto che frequentare un regolare corso scolastico, fosse mandato sulla strada per fare esperienza di vita.
Questo è ciò che abbiamo capito e, con tutte le avvertenze del caso, lo sottoponiamo ai lettori.
Seguiranno a breve ulteriori post che proveranno ad esplorare le ricadute attuali e future dell’IA nella branca penalistica.
TERZULTIMA FERMATA 