L'embrione dell'intelligenza artificiale è Computer Machinery and Intelligence, un testo di Alan Turing datato 1950. Nella prima riga del suo articolo lo scienziato inglese poneva la domanda "Can machines think?". La risposta provò a trovarla un gruppo di scienziati e ingegneri che, nell'estate del 1956, si riunì al Dartmouth College, nel New Hampshire, con l'obiettivo di creare una nuova disciplina chiamata Artificial Intelligence. Tra di loro c'erano i futuri premi Nobel Herbert Simon e John Nash, ma anche Marvin Minsky – che poi fonderà l'AI Laboratory del MIT – e Claude Shannon, il padre della teoria dell'informazione. 1
Oggi, a più di sessant'anni di distanza, l'intelligenza artificiale rappresenta uno dei maggiori sforzi scientifici nella storia dell'uomo, un'area che racchiude al proprio interno diverse discipline, sia scientifiche che umanistiche. È uno dei propulsori della quarta rivoluzione industriale, un processo già in atto nella nostra società, che sta spostando la discussione sull'IA dagli ambienti accademici ai tavoli della politica, dai media all'opinione pubblica.
La definizione di intelligenza artificiale è un concetto che è cambiato molto negli ultimi decenni, e la sua traiettoria futura è difficile da immaginare. AI100, uno studio finanziato dall'Università di Stanford che si svilupperà per i prossimi cento anni, è uno dei maggiori progetti di ricerca sull'impatto dell'IA a livello globale. La prima pubblicazione, Artificial Intelligence and Life in 2030 risale allo scorso settembre e mette in luce uno degli aspetti più interessanti di questa disciplina: "Curiosamente, la mancanza di una precisa e universalmente accettata definizione di intelligenza artificiale ne ha probabilmente aiutato la crescita".
Non è sempre necessario sapere dove si va per fare strada, e lungo il percorso si può finire per fare grandi scoperte. Tuttavia, mai come oggi è necessario discutere le ripercussioni dell'intelligenza artificiale sulla nostra società, di modo da regolarne l'utilizzo. Si tratta di un tema complesso, la cui rappresentazione mediatica necessita di una guida scientifica se si vogliono evitare banalità e narrazioni fuorvianti.
Nello Cristianini insegna Artificial Intelligence all'Università di Bristol dal 2006, dove coordina Think Big, progetto che studia metodi, applicazioni e implicazioni dell'intelligenza artificiale nella nostra società. Think Big ha ottenuto l’European Research Council Advanced Grant, l'assegno di ricerca più prestigioso firmato dalla Commissione Europea. Cristianini è stato inserito nella lista degli scienziati più influenti della decade stilata da Reuters ed è uno dei maggiori esperti di intelligenza artificiale al mondo. Nel suo studio ci sono tanti libri, un computer, una lavagna e una scrivania coperta di documenti. Il focus della sua ricerca è il machine learning, ovvero algoritmi che, alimentati dai big data, creano software intelligenti, che imparano. Secondo Nello, questo è un concetto fondamentale per capire lo stato dell'arte dell'intelligenza artificiale.
Cristianini: Mi occupo di statistical machine learning da più di vent'anni, già dai tempi del master e poi del dottorato. Ho sempre lavorato nell'area statistica del machine learning, come Assistant professor all'University of California prima e poi per un paio di start up. Lo dico perché quando si parla di IA, il machine learning è un concetto centrale: se tu vuoi fare speech recognition, image recognition o traduzioni, devi usare il machine learning. Questa è la prima notizia, l'IA di oggi ha fatto progressi incredibili e continuerà a farne, perché il machine learning funziona. Se tu vuoi tradurre testi – come fa Google translate – crei un sistema e gli fornisci articoli in due lingue, per esempio inglese e francese, e milioni di testi in quelle due lingue. Così il sistema impara a tradurre. Non c'è linguistica o analisi del periodo, è statistica pura. Lo stesso per il riconoscimento di immagini o della scrittura a mano. Non c'è altro modo. Da circa 20 anni, l'IA ha smesso di cercare di implementare top-down la logica che sottende i discorsi umani. E improvvisamente si traduce.
Pizzato: L'intelligenza artificiale ha iniziato a funzionare senza aver bisogno di capire.
Cristianini: Per quarantacinque anni sono stati i linguisti a lavorare sulle traduzioni e i modelli del linguaggio per vision speech, traduzioni, natural language processing. Certamente l'IA è una disciplina più ampia del machine learning, ma la sua secret sauce negli ultimi anni è stata il machine learning: consentire alle macchine di comportarsi intelligentemente imparando dai dati. A questo punto, il problema diventa non tanto fare algoritmi, ma trovare dati. Così, si è aperta la caccia ai dati: come fanno Google e Facebook per le pubblicità, Amazon per raccomandare i libri, Apple per Siri. Data collection e machine learning sono diventati la base dell'IA, tutto il resto è un corollario. Questa è una rivoluzione culturale incredibile. È il paradigm shift di Thomas Khun, la scienza progredisce attraverso i cambiamenti di paradigma. La domanda non è più comprendere cos'è l'intelligenza, capire e implementare, ma emulare un comportamento utile. Se si può usare la statistica, si percorrerà quella strada. Aiuta a capire il modo di pensare degli umani? No, ma non importa. Non c'è bisogno di avere un contatto umano, in linguaggio naturale con Siri per definirlo intelligente. Si possono costruire sistemi intelligenti in modo statistico o anche no, ma la statistica funziona meglio e quindi si va in quella direzione.
Pizzato: Il correttore automatico del telefono è una forma di intelligenza artificiale?
Cristianini: Autocomplete e autocorrection funzionano senza comprendere i testi. Quando Amazon consiglia i libri funziona esattamente nello stesso modo. È abbastanza semplice, quasi ovvio: “Tanto va la gatta al lardo, che…”. È uguale per i libri di Harry Potter, se hai letto il primo e il secondo, probabilmente vorrai leggere il terzo. Inizialmente Amazon lavorava con esseri umani, poi gli algoritmi si sono dimostrati migliori. Abbiamo smesso di cercare se e che cosa la macchina comprenda. Il test di Turing e approcci analoghi sono obsoleti. Il punto è creare sistemi autonomi che funzionino. Pensa all'autocomplete del tuo telefono cellulare: ti inventi una frase nuova, la usi e il sistema la impara. Anche il filtro anti-spam dell'email funziona nello stesso modo.
Abbiamo smesso di cercare di risolvere i problemi in modo teorico e abbiamo preso una scorciatoia. Ecco perché il machine learning è al centro di tutto. La genomica funziona allo stesso modo, anche la biologia ha imparato dal machine learning. Sicurezza, assicurazioni, è tutto data-driven, oggi. Però servono i dati, e infatti è partita la caccia ai dati. Improvvisamente un'innovazione che era puramente informatica viene applicata alla società e la cambia. Ecco perché c'è un legame tra IA e dati.
Pizzato: Quindi l'intelligenza artificiale è già protagonista della nostra vita quotidiana.
Cristianini: L'IA non sta arrivando, è già qui. Non è interlocutore né antagonista dell'uomo, è infrastruttura, è parte dell'ecosistema in cui viviamo, è il mediatore tra noi e il mondo che ci circonda. Sui media si parla di un'IA come qualcosa che riflette l'intelligenza umana. Non si tratta di robot che ci inseguono sparando e si ribellano, qui si parla di infrastruttura. È l'infrastruttura che oggi controlla tutto, dai social network, ad Amazon, a Uber. Non sarà una specie di Terminator che arriva e ci stermina tutti, è l'infrastruttura che stiamo creando che è intelligente. Mandiamo già avanti la nostra vita grazie a questa infrastruttura.
Pizzato: In sostanza è come se l'intelligenza artificiale fosse diventata efficiente quando ha smesso di replicare un approccio umano.
Cristianini: Esattamente. In realtà non sappiamo come gli umani funzionino davvero. Ovviamente non è che le teorie siano inutili, ma per ora nel campo dell'intelligenza artificiale, stanno vincendo i dati, la statistica.
Dal punto di vista filosofico, l'antropocentrismo è un limite alla discussione, ogni volta cerchiamo di scartare tutto il resto. Come quando la terra doveva essere al centro dell'uni-verso e la nostra specie non poteva essere come le altre, doveva essere per forza speciale. Il tipo di intelligenza umana per qualche motivo deve sempre essere diversa e superiore alle altre.
L'intelligenza umana non è l'unica forma di intelligenza, è così perché è frutto di una storia evolutiva che l'ha portata a essere quella che è, ma non è l'unica forma di intelligenza. Prima che il primo umano camminasse nella savana, prima che la prima parola fosse pronunciata da una voce umana, c'era già intelligenza su questo pianeta. I dinosauri che cacciavano in gruppo, comunicavano tra loro, scappavano dai predatori. Perché avevano un cervello, altrimenti? Tornando all'IA, le macchine non stanno cercando di diventare umane, ma una macchina che ha il cervello di un pollo è intelligente e può fare molte cose
Pizzato: Cos'è quindi l'intelligenza artificiale?
Cristianini: L'intelligenza artificiale è lo studio degli agenti intelligenti. Questa è una cosa a cui tengo molto: vista la storia dell'IA, è pericoloso cercare di definire l'intelligenza. Pensa a un agente in un ambiente, pensa a una formica, a una medusa o a un gatto, a un agente che si muove in un dato ambiente con un obiettivo. Un agente che acquisisce informazioni, le processa, impara, fa dei piani, sceglie ed esegue delle azioni, o meglio si comporta in modo da massimizzare il suo profitto. La medusa cerca di stare in un ambiente né troppo caldo né troppo freddo, la formica vuole procurarsi del cibo, il gatto vuole scappare dal cane e inseguire il topo. Si chiama goal-driven intelligence. Sembra una sciocchezza, ma non lo è. Nel campo dell'IA questo si traduce in un pezzo di software – un agente in un ambiente – che ha un obiettivo, come massimizzare i profitti finanziari, tradurre testi, spostare un'auto da un posto all'altro, o consigliare libri. L'intelligenza artificiale è questo, lo studio degli agenti intelligenti, previsioni e modelli di comportamento in un determinato ambiente.
Pizzato: Quanto è realistico lo scenario in cui questi agenti diventino tanto intelligenti da sottomettere il genere umano? Se l'IA governa le dinamiche dovrebbe saper distinguere tra bene e male.
Cristianini: È un malinteso, e molto serio. Così come non puoi ragionare con le formiche, con le piante carnivore o con un dinosauro, non puoi ragionare con un computer. Tu gli dai un obiettivo, e come sistema autonomo la macchina lo persegue. Non puoi ragionare di etica con una macchina costruita per vincere una guerra, la macchina lo fa e basta, a tutti i costi.
Pizzato: Forse l'equivoco nasce dal fatto che con Siri si ha l'impressione di parlare.
Cristianini: Non c'è nessuna empatia, nessun dialogo reale, ragionamento o etica. Ecco perché i filosofi sbagliano direzione. Come quando si discute su come la self-driving car deve comportarsi scegliendo in caso di incidenti, deve salvare il bambino o la nonna? Quella macchina non deve schiantarsi, non è una questione di etica. Il sistema ha un'altro tipo di funzionamento: deve andare da A a B in modo sicuro, se tutto funziona la macchina si ferma, se va male sbaglia e colpisce qualcuno.
Pizzato: Viene da chiedersi se l'obiettivo non sia creare un mercato che voglia queste tecnologie più che dei prodotti che miglioreranno la vita delle persone. Abbiamo davvero bisogno di un'auto che si guida da sola?
Cristianini: Il marketing è un discorso a parte. Se hai una flotta di 40 mila camion che va da una parte all'altra del paese probabilmente ti conviene avere dei robot, è più efficiente e meno costoso.
Pizzato: Certo, ma qual è stato l'investimento in termini di tempo e di denaro necessario ad arrivare a un risultato soddisfacente?
Cristianini: Lungo la strada si imparano tante cose però, anche trasferibili. I benefici possono essere enormi, anche se sviluppi qualcosa che non vendi.
Pizzato: Con sistemi che imparano da sé stessi, non si rischia che test e debug ricadano su chi li usa? Arriveremo a creare un mercato di prodotti ancora in beta?
Cristianini: L'IA è un processo statistico, quindi più aumenta la disponibilità di dati e meglio funziona. I bias nascono dal bisogno di dati, la situazione non può che migliorare con l'aumentare delle informazioni accessibili. Ci sono dei casi in cui questo è accettabile e altri in cui lo è meno, ma non sta a me decidere. La macchina sbaglierà, di certo, sempre meno nel corso del tempo. Chiaro che un bug in un programma di scrittura ha un altro peso rispetto a quello in una centrale nucleare. Vanno semplicemente messi nei posti dove il rischio è più calcolato.
Pizzato: Ma quando si chiede all'IA di fare qualcosa di diverso, come selezionare notizie, la questione etica inevitabilmente si pone.
Cristianini: Certo, gli algoritmi scelgono cosa leggi, come ti informi, come traduci i testi che vedi. Se gli obiettivi dell'IA sono sinistri, finisci per vivere in un mondo parallelo e potenzialmente crei conflitti sociali. Pensa alla filter bubble. È semplice, se l'obiettivo del sistema è massimizzare i clic, massimizzerà i clic. Quell'algoritmo non si preoccupa di creare disuguaglianze.
Pizzato: Quindi il machine learning non si può applicare a tutto.
Cristianini: Si può usare nelle scienze sociali: il social graph di FB è data-driven social science. Le scienze sociali sono interpretazioni di dati, sono anfibie, come l'economia ad esempio, non come le scienze umane, dove non ci sono pattern. Le scienze umane hanno altri valori: uno storico non vuole trovare pattern. Da ingenuo, a me piacerebbe trovarli: come capire se c'è una rivolta popolare quando il PIL scende sotto una certa soglia. Ma è un'ingenuità, e lo storico l'ha imparato. Si limita a dire che, usando un'interpretazione freudiana o marxista, si può capire qualcosa di nuovo rispetto a un periodo storico. Gli ingegneri invece mettono in piedi dei sistemi. Lo shift culturale verso la statistica è arrivato in campi che non condivido. Ad esempio, non penso si dovrebbe applicare questo sistema alla giustizia. Se tu hai l'85% di probabilità di commettere un reato, è giusto che tu rimanga in prigione? Avrai diritto a una spiegazione, a un giudice. Lo stesso per l'accesso dei bambini ai sistemi scolastici o nel campo delle assicurazioni. In questo momento i dati hanno preso il posto di Dio: “i dati dicono che” non può funzionare sempre. Deve esserci posto per il ragionamento umano, per il giudizio.
Pizzato: Non andrà a finire che il mondo sarà nelle mani dei pochi che conoscono questi algoritmi?
Cristianini: Il valore è nei dati, non negli algoritmi, che si possono trovare anche online. I dati sono proprietari, hanno creato delle macchine per raccoglierli e ora li fanno fruttare. Sta a noi raccoglierne, usarne e crearne di nuovi. C'è l'Open Data Movement, Gene Bank, anche la medicina e l'astronomia condividono i loro dati online.
Pizzato: Se i dati finiranno per essere filtrati da poche compagnie private, e incorporati a quelli già in suo possesso, lo sbilanciamento in questo gioco di forze diventerà totale. È qui che trovano il loro posto progetti come ERC?
Cristianini: Credo di sì. È il ruolo della ricerca pubblica, ci sono delle cose che il privato non farà mai: primo perché non è la sua mission, secondo perché è a suo svantaggio. Perché Google e Facebook dovrebbero studiare se i loro prodotti creano addiction? Se non c'è non faranno nulla, se c'è saranno costretti a fare qualcosa. Perché Google dovrebbe occuparsi di storia? Non è il suo lavoro. Quella è una cosa per la quale servono i soldi pubblici. Non possiamo lamentarci per qualcosa che semplicemente non è nei loro obiettivi. Per questo è necessario finanziare i progetti di valore, come anche quelli che indagano le domande etiche più rilevanti nel campo dell'IA. Potremmo ad esempio parlare di diritti umani e di valori, non di meccanismi. Ci servono leggi per i sistemi intelligenti, il diritto alla privacy, all'autonomia, alla spiegazione. Posso o no cancellare i miei dati? Come controllo i dati in possesso dello Stato?
Siamo di fronte a un cambiamento paragonabile alla Rivoluzione industriale. Cambiano i paradigmi stessi della nostra società, abbiamo bisogno di nuovi valori, di nuove leggi per regolare questo processo. Dobbiamo discutere che tipi di macchine e di valori vogliamo avere. Dobbiamo difendere cosa abbiamo prodotto e ottenuto, e adattarli ai nuovi sistemi.
Pizzato: Che ruolo hanno l'epistemologia nella raccolta e dell'interpretazione dei dati e i bias interpretativi che ne conseguono?
Cristianini: Fondamentale, non è vero che i dati sono oggettivi. Data-driven non significa oggettivo, può infatti essere soggettivo, ma in un modo nascosto e quindi più insidioso. Una delle questioni fondamentali è la misurabilità delle cose, l'idea che tutto sia misurabile. Il fatto stesso che noi stiamo misurando qualcosa ha un effetto sulla quella stessa cosa. I ranking si basano su presupposti che modificano il comportamento delle persone. È una follia che ci sia la presunzione di misurare tutto. La gran parte delle scoperte richiedono parole diverse, le scoperte di Einstein non si potevano spiegare con le parole di Newton. Non dobbiamo avere paura del giudizio umano, non possiamo sempre cercare l'algoritmo che rimpiazzi la decisione, l'etica, che decida cosa misurare. Non dobbiamo sempre meccanizzare tutto, i dati non sono sempre più oggettivi, non sono sempre la scelta migliore. Questa è la pars destruens; la pars contruens è che abbiamo ottimizzato i processi autonomi. Parli su Skype in cinese e la voce esce in inglese. L'IA è ovunque nel nostro ambiente, è scomparso nei call center, nei cellulari, nei social media, nelle automobili.
Pizzato: Un mondo data-driven è insidioso, perché basato su un'infrastruttura invisibile e a molti incomprensibile. Chi controllerà data collection e machine learning?
Cristianini: È uno dei grandi problemi che vorrei indagare assieme a un filosofo e a un professore di legge. C'è posto per filosofi e scienziati umani in questo mondo data-driven. Non solo all'inizio del processo, ma anche durante il percorso, continuamente. Gli ingegneri non sono persone culturalmente adatte a farlo. Se io mi trovassi a discriminare una categoria sociale, devo capirlo. L'ingegnere fa onestamente il suo lavoro, che è ottimizzare i processi, e magari non si rende conto delle implicazioni che questo ha. C'è bisogno più che mai di umanisti al giorno d'oggi. Più diventiamo data-driven, e più ce n'è bisogno. C'è bisogno di una rivoluzione culturale, come quella dell'ingegneria che ha esportato la centralità dei dati, e ha creato una struttura per gestirli. L'IA è nata con i soldi della ricerca militare e ora si mantiene con la pubblicità, basti pensare a Google.
Pizzato: L'esplosione della statistica rende quindi centrale il ruolo degli umanisti.
Cristianini: C'è bisogno di filosofi nuovi. Il filosofo della scienza deve guardare i dati, l'etica dei dati, che tipo di problemi può creare una data-driven society. È una tendenza che si sta estendendo anche alle scienze umane man mano che mettiamo insieme database di libri, riviste, giornali. È qui che entrano in campo le discipline chiamate digital humanities, e anche il progetto Think Big, che si sviluppa su tre rami dei big data: techniques (algoritmi e sistemi ingegneristici), applications (contenuti dei social media, archivi di news, eccetera) e implications (le conseguenze sulla società). Domande come “in quale periodo storico la società cambia?” possono beneficiare dall'analisi dei giornali di 150 anni. Così lo storico può lavorare con un data scientist a progetti di data-driven digital humanities. Ad esempio, quanto ci è voluto al treno per essere accettato? La stessa domanda si potrebbe fare riguardo il cellulare o Facebook. Come fai a sapere quanto serve a una nuova tecnologia per venire accettata? Un tempo avresti guardato gli archivi dei giornali, oggi guarderesti Twitter. Per i giornali moderni funziona più o meno allo stesso modo. Prendiamo le elezioni americane: identifichi personaggi e messaggi. Ad esempio, Hillary attacca Trump o viceversa, e ne esce una rete di collegamenti che descrive una dinamica specifica.
Pizzato: Raccogliendo i dati dai media, non si rischia di scambiare la società reale per la sua rappresentazione mediatica?
Cristianini: Non abbiamo accesso alla società reale, solo alla rappresentazione della realtà che ne danno i media. Anche Google è affetto da bias, rappresenta chi è rappresentato nella sfera del web.
Pizzato: La maggior quantità di dati e le tecnologie più avanzate sono in possesso di poche compagnie private. La conoscenza sarà racchiusa in sistemi black-boxed che tagliano fuori la quasi totalità della società.
Cristianini: Sì, e questo non è un problema limitato alle digital humanities, ma anche alla biologia e a tutti gli altri campi nei quali hanno accumulato un'enorme mole di dati: data-driven biology, data-driven marketing e così via. Sono i dati che accentrano il potere, in un mondo data driven, chi ha i dati vince.
Pizzato: È questo il ruolo della ricerca, ribilanciare questa relazione di forze?
Cristianini: Io credo che il mio dovere sia studiare e sviluppare queste tecnologie, non elaborare policy. Quello è il ruolo di chi ci governa. Io non sono un'attivista, io sono un ricercatore. Come scienziato voglio far vedere alla società cosa stiamo facendo, non decido dove si va. Io al massimo posso occuparmi di divulgare le nostre scoperte. Certamente, la gente non ha ancora capito a fondo che sta dando a soggetti privati molto controllo sulle loro vite. Se noi vogliamo dare controllo a grandi aziende private, si voterà e si deciderà. L'importante è che la società, e i decision maker, capiscano dove andiamo.
Pizzato: A volte però, le decisioni vengono invece prese dagli algoritmi. Penso a Uber ad esempio, un software che organizza il lavoro di essere umani.
Cristianini: È un cambio di paradigma. In passato erano le persone ad avere in testa il piano che le macchine avrebbero eseguito, ora è il contrario. Nelle precedenti rivoluzioni industriali erano i blue collars a sentirsi minacciati, ora invece sono i white collars a venire rimpiazzati. Paradossalmente, la macchina fa il piano, diventa il manager, mentre l'autista lo esegue. È il software a decidere chi fa cosa e quanto viene pagato.
[testo pubblicato in Datacrazia. Politica, cultura algoritmica e conflitti al tempo dei big data, a cura di Daniele Gambetta. Roma: D Editore, 2018]
