Sentenza Artificiale, di Barbara Baraldi (ChiareLettere)
“Il futuro è adesso”, una brevissima frase, potente indubbiamente, estrapolata da un contesto per la sua capacità di attirare l’attenzione ed insignita della funzione di apertura della seconda di copertina. Ma questa frase è molto significativa per quello che sarà il tema che Barbara Baraldi, scrittrice di thriller, sceneggiatrice di Dylan Dog, autrice della serie di Aurora Scalviati profiler del buio (Giunti), ha scelto di trattare in questo romanzo: può il verdetto finale essere affidato ad un’intelligenza artificiale? Un tema che viene presentato subito, nelle primissime pagine, con il dibattito fra i sostenitori delle tue contrapposte posizioni: da un lato Aristotele Damanakis, potente industriale, produttore del software LexIA che potrebbe rivoluzionare il sistema giudiziario, dall’altro Colbran, portavoce della fazione oppositrice, i Responsabilisti, scandalizzati alla sola idea che il giudizio di colpa-innocenza che si traduce in reclusione-libertà sia affidato ad una macchina: “Non c’è legalità senza umanità” è il loro slogan.
La giornalista Valeria Pisani, in procinto di intervistare quest’ultimo, parlando di “una riforma che migliorerà l’efficienza del sistema giudiziario secondo la maggioranza di governo, un pericolo per la democrazia secondo il movimento extraparlamentare dei Responsabilisti”, palesa l’imminente realizzazione di quel progetto ormai già accettato. Ecco il denso contenuto di quella breve frase: il futuro è adesso. Quello che è potrebbe essere argomento di un romanzo fantascientifico diventa sotto la penna della Baraldi un credibilissimo argomento di attualità. Per questo non viene da classificare questo romanzo come distopico (termine con il quale si dà per scontata una visione temuta, immaginata, ancora potenzialmente variabile). Questo è a tutti gli effetti un thriller scientifico. Perchè l’intelligenza artificiale è già in atto in diverse applicazioni.
E Barbara Baraldi è capace di sostenere il tecnicismo dell’argomento rimanendo perfettamente in equilibrio fra la verosimiglianza tecnica e la comprensibilità da parte di qualsiasi lettore. La sua prosa è scorrevolissima e nello stesso tempo ferma nel trattenere l’attenzione dalla prima all’ultima pagina. Una grande dote.
Se Colbran presenta la sua opposizione all’introduzione di LexIA nel sistema giudiziario ai microfoni della Pisani, Damanakis, l’Elon Musk del diritto, ex consulente del Ministero della Giustizia, fondatore ed amministratore delegato della Leg Tech che ha realizzato il software LexIa, sa trovare gli argomenti più oggettivi e convincenti: “L’applicazione del codice penale richiede logica, deduzione, capacità di raziocinio. Ma per natura siamo anche inevitabilmente soggetti a emotività, pressioni stress. Non esiste uomo che possa dirsi immune ai pregiudizi”.
Quello che però succede è l’inatteso. Il movimento dei responsabilisti sfocia in un’invasione violenta del tribunale e nell’assassinio di Damanakis. Appena il tumulto si placa, è come se il riflettore si puntasse su una persona che ha in mano l’arma dalla quale è partito il colpo.
Con due anni di ritardo, il progetto LexIA diventa comunque realtà. Pochi giorni prima della sua prima applicazione pratica, Cassia Niro, giovane talentuosa hacker professionale, tester presso la l’Umaa, l’unità ministeriale di analisi degli algoritmi, scopre un’anomalia nell’algoritmo di LexIA. Commette per ingenuità e buona fede l’errore di segnalarla al suo capo, il quale non solo non mostra alcuna sorpresa, ma la svilisce nella sua professionalità, richiamandosi alla sua giovane età anagrafica e professionale. Ma Cassia non è un tecnico informatico qualunque: fin da bambina si era rivelata “un talento naturale nell’uso dei protocolli di sicurezza: aveva fiuto per le vulnerabilità dei dispositivi informatici e creatività nello sfruttarle”. Quando la sua coinquilina Maddalena rimane gravemente ferita nell’esplosione della casa causata dal dispositivo di domotica, comprende di essere finita “in un ingranaggio tentacolare, da cui adesso si sentiva stritolare. Era avvinghiata da una sensazione strisciante. La sensazione di essere osservata. Perché nessuno era riuscito prima d’ora ad avvicinarsi così tanto al suo spazio privato attraverso la rete”. Frase emblematica perché in tutto il romanzo Cassia non si libererà più di quella sensazione inquietante di essere seguita e minacciata.
Da quel momento comincia la sua fuga, la ricerca di un nascondiglio che la porta a ritrovare un vecchio compagno di università e di interessi, Umberto che prima la ospita a casa sua, poi la coinvolge nel suo gruppo di naucrates una sorta di setta segreta di hacker, il cui ruolo era quello di scoprire il marcio annidato nelle istituzioni bancarie e nelle multinazionali. Non si erano mai trovati a giocare con la politica ma questa volta l’incontro con Cassia apre loro sentieri nuovi e pericolosi.
Nell’elaborazione di una nuova prospettiva con cui guardare la commistione fra intelligenza artificiale e giustizia, per Cassia è importante il confronto con Massimo Landi, docente universitario di Etica. Le pagine del loro dialogo sono rappresentative delle opposte visioni delle cose: quella di Cassia, programmatrice, quindi razionale sostenitrice dei benefici del progresso tecnico-scientifico: “è nella natura dell’uomo utilizzare gli strumenti messi a disposizione dalla tecnologia per migliorare la vita quotidiana”. E, per contro, quella di Landi, filosofo, quindi sostenitore dell’imprescindibilità della prevalenza dell’uomo sulla macchina: “Fino a che punto possiamo affidarci all’intelligenza artificiale per prendere decisioni di carattere etico e morale che creerebbero difficoltà anche a un essere umano? (…) Una IA non è in grado di distinguere tra il bene e il male come li intendiamo noi, così come non può prescindere dalle convinzioni dei suoi progettisti. Si limita ad applicare dei regolamenti, prendendo decisioni di importanza cruciale sulla base della rappresentazione astratta di una realtà che non può capire, perché priva di coscienza (…) un’entità artificiale a cui non è possibile attribuire nemmeno la responsabilità delle proprie decisioni, in quanto priva di libero arbitrio”.
Se nel primo incontro Cassia aveva ribattuto fino alla fine alle posizioni del professore, gli eventi la faranno ricredere e quelle sue parole le torneranno in mente nel momento più cruciale della storia. Da un lato, è vero, se la ruggine della corruzione attacca le maglie della classe dirigente, l’uomo diventa davvero inaffidabile. Ma non è nel rinunciare alla parte buona dell’umanità la soluzione. Perché proprio questa sua elasticità a renderlo insostituibile da una macchina. Cassia ricorda l’insegnamento più profondo del padre e nell’assimilarlo pienamente forse solo ora, trova le risorse per vincere la potenza di LexIA: “Le macchine sono capricciose, e a volte sembra che non ci sia una via d’uscita da una situazione di stallo. Ma non c’è nessuna difficoltà che tu non possa superare, se ragioni al di fuori degli schemi imposti dal problema. Adatta il tuo pensiero alla soluzione che vuoi ottenere. Abbiamo milioni di anni di evoluzione alle spalle. Nessuna macchina può competere con la flessibilità della nostra mente. Il nostro maggiore vantaggio è proprio il fatto di essere umani“.
Il messaggio del romanzo non è una semplicistica contestazione della diffusione sempre più vasta della digitalizzazione. Sarebbe un voltarsi indietro o coprirsi infantilmente gli occhi. È un invito, anzi, a sfruttarne le potenzialità, mantenendone il controllo con quella prerogativa che è e resta tipica dell’essere umano perché lo ha portato dalla preistoria all’oggi, l’adattabilità come risposta vincente attraverso quello che, informaticamente parlando, sarebbe un errore. Ogni specie si è evoluta dagli errori della programmazione iniziale. Per questo, la perfezione dell’artificiale, utile e preziosa, necessita del supporto dell’imperfezione umana. Due realtà che devono restare divise, compresenti, collaborative: “Non possiamo affidarci all’umanità per creare un modello di umanità. Il rischio è che le macchine imparino a comportarsi come gli esseri umani si sono sempre comportati. Guerre, sopraffazioni, oppressione comprese”.