Ecco un aneddoto su come imparano le macchine. Immaginate di essere l’Esercito degli Stati Uniti e di voler riuscire a vedere ciò che il nemico nasconde. Per esempio un mucchio di carri armati in una foresta. Questi carri armati sono dipinti in modo da mimetizzarsi e confondervi, e sono parcheggiati tra e dietro gli alberi; sono coperti da rami e sterpaglie. Giochi di luce e ombre, strane chiazze di vernice verde e marrone: elementi che cospirano con le migliaia di anni di evoluzione della corteccia visiva per trasformare le tozze figure dei carri armati in forme cangianti e increspate, indistinguibili dal fogliame. Ma se esistesse un altro modo divedere? Se poteste sviluppare rapidamente un altro tipo di vista che percepisse la foresta e i carri armati in modi diversi, cosicché quanto inizialmente era invisibile si manifesti di colpo davanti ai vostri occhi?
Una strategia potrebbe essere quella di insegnare alle macchine a vedere i carri armati. Quindi prendete un plotone di soldati, gli fate nascondere dei carri armati nella foresta e poi gli scattate, diciamo, un centinaio di foto. Poi scattate altre cento foto della foresta vuota. A quel punto mostrate cinquanta foto da ogni serie a una rete neurale, un modello di software sviluppato per imitare il cervello umano. La rete neurale non sa nulla di carri armati o di foreste, né di luci e ombre; sa solo che si tratta di cinquanta foto che contengono qualcosa di importante e di altre cinquanta che non ce l’hanno, quindi prova a trovare le differenze. Vaglia le foto attraverso molteplici strati di neuroni, testandole e analizzandole senza tutti quei preconcetti dovuti all’evoluzione del cervello umano. Ed è così che, dopo un po’,riesce a vedere i carri armati nascosti nella foresta.
Dato che all’inizio avete scattato cento fotografie, è possibile constatare subito se la cosa funziona. Prendete le altre cinquanta foto con i carri armati nascosti e le altre cinquanta con la foresta vuota – quelle che la macchina non ha ancora visto – e chiedete di dividerle in due gruppi. Compito che la macchina svolge alla perfezione. Anche se i carri armati non riuscite a vederli, voi sapete quali sono le foto giuste – e la macchina, senza sapere nulla, sceglie proprio quelle. Voilà! Avete sviluppato un nuovo modo di vedere, e ora potete portare la macchina al campo di addestramento e tirarvela un po’.
Solo che succede il disastro. Sul campo, con un gruppo tutto nuovo di carri armati nascosti nella foresta, i risultati sono catastrofici. O meglio, sono casuali: la macchina scopre gli stessi carri armati che scoprireste voi lanciando una monetina. Cos’è successo?
La leggenda vuole che quando l’Esercito americano ci ha provato, ha commesso un errore cruciale. Tutte le foto dei carri armati erano state scattate di mattina, col cielo azzurro e pulito. Poi i carri armati se ne sono andati e nel pomeriggio, quando sono state scattate quelle della foresta vuota, si era annuvolato. Gli studiosi si sono resi conto che la macchina aveva funzionato perfettamente: solo che aveva imparato non a distinguere la presenza o l’assenza di carri armati, ma se ci fosse il sole o meno.
L’aneddoto, tramandato in tutta la letteratura accademica sull’apprendimento automatizzato , è probabilmente apocrifo; ma ci permette di porre un quesito fondamentale sull’intelligenza artificiale e sui suoi modi di apprendimento: cosa ci è dato sapere di ciò che sanno le macchine? La storia dei carri armati spinge a una riflessione essenziale e di importanza sempre più rilevante: a prescindere da quello che le intelligenze diventeranno in futuro, per noi resteranno sempre fondamentalmente diverse, e in ultima analisi imperscrutabili. E a dispetto dei nostri sistemi sempre più complessi di computazione e visualizzazione, non abbiamo fatto alcun progresso nella comprensione di come l’apprendimento automatico riesca a fare quello che fa; possiamo pronunciarci solo sui risultati.
La prima rete neurale, che probabilmente diede origine a una proto-versione della storia dei carri armati, fu sviluppata per conto dell’Ufficio per le ricerche navali degli Stati Uniti. Fu chiamata Perceptron, e come molti dei primi computer era una macchina molto fisica: una serie di 400 cellule fotosensibili, connesse casualmente tramite un groviglio di cavi a degli interruttori che aggiornavano ogni volta la loro risposta – i neuroni. Il suo ideatore, lo psicologo Frank Rosenblatt della Cornell University, era un grande sostenitore delle possibilità offerte dall’intelligenza artificiale. Quando il Perceptron Mark I fu presentato al pubblico nel 1958, il New York Times scrisse:
La Marina oggi ha svelato l’embrione di un computer elettronico che si prevede un giorno di poter far camminare, parlare, vedere, scrivere, riprodursi ed essere conscio della propria esistenza. Si prevede inoltre che i futuri perceptron saranno in grado di riconoscere le persone e chiamarle per nome e di tradurre istantaneamente un discorso da una lingua a un’altra lingua, anche per iscritto.
L’idea di fondo del Perceptron era il cosiddetto connessionismo: ovvero la convinzione che l’intelligenza fosse la proprietà che risultava dalla connessione tra neuroni, e che imitando i percorsi tortuosi del cervello si potesse indurre le macchine a pensare. Nel corso del decennio seguente l’idea fu contestata da molti ricercatori, secondo i quali l’intelligenza era il prodotto della manipolazione di simboli: in sostanza, era necessaria una qualche conoscenza del mondo per poter operare ragionamenti sensati intorno ad esso. Il dibattito tra connessionisti e simbolisti avrebbe definito il campo dell’intelligenza artificiale per i seguenti quarant’anni, portando a numerosi scontri e ai famigerati “inverni dell’IA”, durante i quali non fu fatto alcun progresso. In essenza, non si trattava di un mero dibattito su cosa significasse essere intelligenti, ma su cosa, dell’intelligenza, fosse intellegibile.
Uno dei più insospettabili sostenitori del primo connessionismo fu Friedrich Hayek, meglio noto oggi come il padre del neoliberismo.Dimenticato per molti anni, ma oggetto di recente revival tra i neuroscienziati con tendenze austriacheggianti, Hayek scrisse nel1952 The Sensory Order: An Inquiry into the Foundations of Theoretical Psychology (“L’ordine sensoriale: un’indagine sulle fondamenta della psicologia teorica”), basandosi su alcuni concetti da lui formulati negli anni Venti. Nel libro, Hayek delinea la sua convinzione che esista una separazione fondamentale tra il mondo sensoriale della mente e il mondo “naturale” esterno. Il primo è inconoscibile, unico in ogni individuo: compito della scienza – e dell’economia – è pertanto costruire un modello che non tenga conto delle debolezze dei singoli individui.
Non è difficile tracciare un parallelo tra l’ordine neoliberale mondiale – in cui ad agire è un mercato neutro e freddo, impermeabile ai pregiudizi umani – e l’interesse di Hayek per un modello connessionista del cervello umano. Come hanno fatto notare i successivi critici, nel modello mentale proposto da Hayek “la conoscenza è dispersa e distribuita nella corteccia cerebrale così come lo è, tra gli individui, nel mercato” . Il ragionamento connessionista di Hayek è di stampo individualista e neoliberale, e fa il paio con la sua famosa dichiarazione, contenuta nel libro La via della schiavitù (1944), secondo la quale tutte le forme di collettivismo portano inesorabilmente al totalitarismo.
Oggi il modello connessionista dell’intelligenza artificiale è tornato a regnare supremo, e a sostenerlo con maggior vigore sono quelli che, come Hayek, credono nell’esistenza di un ordine naturale del mondo che emerge spontaneamente al venire meno del bias umano nella produzione di conoscenza. Ancora una volta, a riemergere sono le stesse teorie sulle reti neurali già avanzate negli anni Cinquanta, solo che stavolta sono teorie che trovano effettive e capillari applicazioni pratiche nel mondo intero.
Nell’ultimo decennio, grazie a importanti scoperte nel campo, le reti neurali hanno conosciuto una generale rinascita che ha sorretto l’attuale rivoluzione delle aspettative sull’intelligenza artificiale. Tra i suoi paladini c’è Google, il cui cofondatore Sergey Brin ha dichiarato, a proposito dei progressi nelle IA, che “possiamo presumere che un giorno riusciremo a costruire macchine in grado di ragionare, pensare e fare cose meglio di noi” . All’amministratore delegato di Google, Sundar Pichai, piace molto ripetere che la Google del futuro sarà “AI first”.
È già da un po’ che Google investe nell’intelligenza artificiale.Nel 2011 è stato svelato il progetto interno Google Brain, con cui la compagnia annunciava di aver costruito una rete neurale a partire da un nucleo di mille macchine contenenti grossomodo 16.000 processori, e di averle sottoposto 10 milioni di immagini raccolte dai video su YouTube . Le immagini erano tutte prive di etichetta, eppure la rete era riuscita a sviluppare la capacità di riconoscerei volti umani – e i gatti – senza alcuna conoscenza pregressa di ciò che questi elementi rappresentassero.
Il riconoscimento delle immagini è un tipico obiettivo di partenza permettere alla prova i sistemi intelligenti, ed è un compito relativamente semplice per una società come Google, la cui attività consiste nel combinare la creazione di reti sempre più vaste di processori sempre più veloci con la raccolta di volumi sempre più.ingenti di dati presi dalle vite quotidiane dei suoi utenti.(Facebook, che porta avanti un programma simile, ha usato 4 milioni di foto dei suoi utenti per creare un software chiamato DeepFace che riesce a riconoscere le persone con una precisione del 98% . L’uso di questo software è illegale in Europa.) Il passo successivo è l’utilizzo del software non per riconoscere, ma per predire.
In un articolo molto dibattuto pubblicato nel 2016, due ricercatori dell’Università Jiao Tong di Shanghai, Xiaolin Wu e Xi Zhang, hanno studiato la capacità di un sistema automatizzato di dedurre la “criminosità” degli individui basandosi sulle immagini facciali. A una rete neurale sono stati sottoposti 1126 ritratti di “non criminali” presi da carte d’identità ufficiali cinesi trovate sul web, e poi altre 730 foto fornite dai tribunali e dalla polizia, e identificative di criminali dichiarati colpevoli. I ricercatori sostengono che, dopo essere stato istruito, il software era in grado di distinguere tra volti di criminali e di non criminali .
Inseguito alla pubblicazione dell’articolo si scatenò un putiferio: intervennero blog di tecnologia, giornali internazionali e colleghi accademici. Le critiche più aspre rivolte a Wu e Zhang furono di aver seguito le orme di Cesare Lombroso e Francis Galton, famigerati sostenitori della fisiognomica criminale nel XIX secolo. Lombroso fu il fondatore dell’antropologia criminale: tuttavia la sua convinzione che la forma della mandibola, l’inclinazione della fronte, le dimensioni degli occhi e la struttura dell’orecchio potessero essere usati per determinare le caratteristiche criminali “ataviche” dei soggetti fu confutata all’inizio del XX secolo. Galton, invece, sviluppò una tecnica di ritrattistica composita per mezzo della quale sperava di ricavare il “tipico” volto criminale, ovvero tratti fisici che corrispondevano alla fibra morale dell’individuo. Gli attacchi ai due ricercatori cinesi alimentarono la narrazione per cui il riconoscimento facciale costituisse una sorta di frenologia digitale, con tutti i relativi pregiudizi culturali del caso.
Wue Zhang furono sconcertati dalle reazioni al loro articolo, e nel maggio del 2017 pubblicarono una replica dai toni indignati. Oltre a rigettare le stroncature più antiscientifiche del loro lavoro, presero di mira in gergo tecnologico i loro detrattori: “Non è davvero necessario tirare in ballo famigerati razzisti in ordine cronologico usandoci come nodo foglia” – come se a tracciare questa discendenza fossero stati i loro detrattori anziché la storia stessa.
Nonostante le loro precise responsabilità nella creazione di aspettative sempre più alte, le compagnie tecnologiche e chiunque traffichi con le IA sono sempre pronti a tirarsi indietro ogni qualvolta si presenti un dilemma etico. Quando nel Regno Unito il giornale di destra Daily Mail usò il programma di riconoscimento facciale How-Old.net permettere in dubbio la reale età dei bambini rifugiati in GranBretagna, la società creatrice dell’app, Microsoft, si affrettò a sottolineare come il software fosse solo “un’app divertente” che “non era nata per essere usata come valutazione credibile dell’età delle persone” . Alla stessa maniera, Wu e Zhang protestarono affermando che “il nostro lavoro ha come fine la pura discussione accademica; che sia finito in pasto ai media ci lascia esterrefatti”.
Una delle critiche che furono mosse ai due venne presa particolarmente sul serio, visto che sottolineava un tropo ricorrente nella storia del riconoscimento facciale: un tropo dalle sottili implicazioni razziali. Negli esempi di volti di criminali e non criminali medi, alcuni critici scorsero “l’accenno di un sorriso” tra i non criminali: una “micro espressione” che nei volti dei criminali era assente, suggerendone quindi la condizione di difficoltà. Ma Wu e Zhang respinsero l’obiezione, adducendo motivazioni non tecnologiche ma culturali: “I nostri colleghi e studenti cinesi, anche dopo essere stati indotti a prendere in considerazione l’accenno di sorriso, non l’hanno rilevato. Hanno soltanto notato che i volti nella riga inferiore apparivano in qualche misura più rilassati di quelli della riga superiore. È possibile che queste diverse percezioni siano da attribuire a differenze di matrice culturale .
Un aspetto dell’articolo originale su cui si sorvolò del tutto, fu il presupposto che un qualunque sistema del genere fosse a priori scevro da bias intrinsechi e incorporati. Al principio del loro studio gli autori scrivevano che:
A differenza di un esaminatore/giudice umano, un algoritmo visivo computerizzato è assolutamente privo di bagaglio soggettivo, non avendo alcuna emozione e nessun pregiudizio dovuto a esperienze passate, razza, religione, dottrina politica, genere sessuale, età, ecc., e non potendo soffrire di affaticamento mentale né di pregresso condizionamento dovuto a mancanza di sonno o cibo. L’inferenza automatizzata della criminosità esclude del tutto la variabile della meta-accuratezza (la competenza del giudice/esaminatore umano) .
È un punto su cui i due ricercatori insistono ulteriormente nella replica alle critiche: “Come vale per la gran parte delle tecnologie, l’apprendimento automatizzato è neutrale”. Insistono poi sul fatto che se l’apprendimento automatico “può essere usato per rinforzare i bias umani nei problemi di computazione sociale, come suggerito da alcuni, allora lo si può usare anche per scovare e correggere gli stessi bias”. Che i due ne fossero coscienti o meno, una replica del genere si basa sulla nostra capacità di ottimizzare non soltanto le macchine che creiamo, ma anche noi stessi.
La tecnologia non viene fuori dal nulla. Al contrario, è la reificazione di un preciso assortimento di credenze e desideri: le inclinazioni coerenti e spesso inconsce dei suoi creatori. In ogni luogo e momento, la tecnologia viene assemblata a partire da una cassetta degli attrezzi contenente idee e fantasie sviluppatesi nel corso di generazioni, attraverso l’evoluzione e la cultura, la pedagogia e il dibattito, infinitamente interconnesse e tra loro avviluppate. Lo stesso concetto di criminosità è un residuo della filosofia morale del XIX secolo, mentre le reti neurali usate per“inferirla” sono, come abbiamo visto, il prodotto di una visione del mondo piuttosto specifica: l’apparente separazione della mente dal mondo, che a sua volta va a rafforzare l’apparente neutralità del suo utilizzo. Ostinarsi ad affermare lo scisma oggettivo tra la tecnologia e il mondo è una sciocchezza; solo che è una sciocchezza dagli esiti fin troppo reali.
È molto semplice trovare esempi di bias incorporati. Nel 2009, una consulente strategica taiwanese-americana di nome Joz Wang acquistò una nuova Nikon Coolpix S630 per la Festa della mamma, ma quando provò a scattare una foto della sua famiglia la macchinetta fotografica si rifiutò di catturare l’immagine. Il messaggio d’errore ripeteva “Qualcuno ha chiuso gli occhi?”. L’apparecchio, preprogrammato con un software per attendere che tutti i soggetti guardassero a occhi aperti nella direzione giusta, non teneva conto della diversa fisionomia dei non-caucasici . Lo stesso anno, un impiegato nero di un concessionario di camper inTexas postò un video su YouTube che ottenne un enorme numero di visualizzazioni, in cui mostrava come la webcam del suo nuovo Hewlett-Packard Pavilion non riconoscesse il suo volto, mentre zoomava sul suo collega bianco. “Lo dichiaro ufficialmente” dice l’uomo nel video. “Lo affermo chiaramente. I computer Hewlett-Packard sono razzisti” .
Ancora una volta, i pregiudizi inscritti nelle tecnologie visive non sono una novità, specie se si tratta di pregiudizi razziali. To Photograph the Details of a Dark Horse in Low Light(“Fotografare i dettagli di un cavallo nero con poca luce”), il titolo di una mostra del 2013 degli artisti Adam Broomberge Oliver Chanarin, fa riferimento a una frase in codice usata dalla Kodak ai tempi dello sviluppo di un nuovo tipo di pellicola negli anni Ottanta. Fin dagli anni Cinquanta, per calibrare le proprie pellicole, la Kodak si serviva di test card con sopra l’immagine di una donna bianca e la scritta “Normale”. Negli anni Settanta, ritenendo la compagnia razzista, Jean-Luc Godard si rifiutò di usare pellicole Kodak durante le sue trasferte in Mozambico. Ma fu solo quando l’industria dei dolciumi e quella dei mobili – ovvero due dei maggiori clienti della Kodak – si lamentarono che il cioccolato fondente e le sedie scure erano difficili da fotografare che la compagnia si decise ad affrontare il problema della resa dei corpi scuri . Broomberg e Chanarin esplorarono anche l’eredità della Polaroid ID-2, una macchina fotografica progettata per scatti da documento d’identità con uno speciale “boost button” per il flash che semplificava la fotografia di soggetti neri. Molto apprezzata dal governo sudafricano durante l’epoca dell’apartheid, la macchinetta divenne oggetto di proteste da parte del Polaroid Revolutionary Workers Movement quando i lavoratori afroamericani scoprirono che veniva impiegata per creare le foto dei famigerati libretti obbligatori d’identità che i sudafricani neri chiamavano “manette” .
La tecnologia della Nikon Coolpix e dell’HP Pavilion nasconde però un tipo di razzismo più moderno e più insidioso: non è che i loro creatori abbiano progettato intenzionalmente delle macchine razziste, né che siano mai state concepite per la profilazione razziale; piuttosto, ci sembra più probabile che simili apparecchi rivelino le disuguaglianze sistemiche ancora oggi esistenti nella forza lavoro del settore tecnologico, in cui a sviluppare e poi testare i sistemi sono ancora e soprattutto persone bianche (nell’America del 2009, la forza lavoro nera della Hewlett-Packard era del 6,74 percento). Rivela inoltre, più che mai, gli storici pregiudizi profondamente incorporati nelle nostre collezioni di dati, che sono poi le impalcature su cui costruiamo la conoscenza contemporanea e i processi decisionali.
Essere coscienti delle ingiustizie storiche è un fattore cruciale se vogliamo comprendere i rischi insiti nell’implementazione meccanica di nuove tecnologie che incorporano acriticamente gli errori del passato. Non risolveremo mai i problemi del presente servendoci degli strumenti del passato. Come ha notato l’artista Trevor Paglen, pervia della sua dipendenza totale dai dati storici come dati di apprendimento, l’ascesa dell’intelligenza artificiale non fa che amplificare timori del genere: “Il passato è un luogo alquanto razzista. E noi disponiamo solo dei dati del passato per istruire l’Intelligenza Artificiale” .
Walter Benjamin, scrivendo nel 1940, affrontò la questione in maniera ancora più veemente: “Non esistono documenti lasciati da alcuna civiltà che non siano anche, allo stesso tempo, documenti di barbarie” . Istruire queste intelligenze nascenti tramite i resti della conoscenza passata significa pertanto codificare tale barbarie nel nostro futuro. E non si tratta soltanto di articoli accademici e macchinette fotografiche di largo consumo: sistemi del genere stanno già plasmando su ampia scala le vite quotidiane delle persone. In particolare, l’apparato poliziesco e quello giudiziario vanno affidandosi sempre più ciecamente ai sistemi intelligenti.Metà dei servizi di polizia negli Stati Uniti stanno già usando programmi di “monitoraggio predittivo” come il PredPol, un pacchetto software che utilizza “matematica di alto livello, apprendimento automatizzato e provate teorie di comportamento criminale” per predire gli orari e i luoghi più probabili in cui aspettarsi che avvengano nuovi crimini: le previsioni del tempo sui reati .
E allora in che modo simili aspettative sugli eventi fisici si legano agli eventi probabilistici della vita di tutti i giorni? In che modo i calcoli sul comportamento assumono la forza della legge naturale? E come fa un’idea del mondo a diventare un’idea della mente, nonostante tutti gli sforzi di tenere i due ambiti separati?
Il terremoto di Nōbi, la cui magnitudine stimata è di 8.0 sulla scalaRichter, avvenne nel 1891 nell’attuale prefettura di Aichi. Una faglia lunga ottanta chilometri scivolò di otto metri provocando il crollo di migliaia di edifici in varie città e uccidendo più di 7000 persone. Ad oggi è ancora il terremoto più violento avvenuto sull’arcipelago giapponese. In seguito al disastro, il pioniere della sismologia Fusakichi Omori descrisse lo schema seguito dalle scosse d’assestamento: un tasso di decadimento che venne poi conosciuto come legge di Omori. A questo punto vale la pena precisare come la legge di Omori e quelle che ne sono derivate siano leggi empiriche: si adattano cioè ai dati esistenti in seguito all’evento, che però è ogni volta diverso. Stiamo parlando di scosse diassestamento: l’eco rombante di qualcosa che è già avvenuto. Nonostante l’impegno pluridecennale di statistici e sismologi, nessun calcolo simile è stato mai sviluppato per predire i terremoti sulla base delle cosiddette scosse premonitrici.
La legge di Omori ha fornito da stimolo per un’implementazione contemporanea di questo calcolo, conosciuta come modello ETAS (Epidemic Type Aftershock Sequence,“sequenza di scosse d’assestamento di tipo epidemico”), oggi impiegata dai sismologi per studiare l’attività sismica a cascata che segue un terremoto di grande entità. Nel 2009 dei matematici dell’Università della California di Los Angeles riferirono che l’andamento dei crimini in una data città seguiva lo stesso modello: il risultato della “contagiosa diffusione del crimine locale [che] porta alla formazione di nuclei di criminosità nello spazio e nel tempo […]. Per esempio, i ladri d’appartamento prenderanno ripetutamente di mira nuclei di obiettivi vicini l’uno all’altro perché i punti deboli di una certa area sono ben noti ai criminali. Una sparatoria tra gang potrebbe dare luogo a un’ondata di violenza di rappresaglia nel dato spazio locale (territorio) della gang rivale” . Per riferirsi a tale andamento gli autori usarono il termine geofisico “autoeccitazione”, che descrive il processo per cui degli eventi si manifestano e amplificano su sollecitazione di tensioni e spinte adiacenti. I matematici evidenziarono anche il modo in cui il paesaggio urbano riflette la topologia a strati della crosta terrestre, con il relativo rischio che il crimine viaggi lateralmente lungo le strade di una città.
È proprio l’ETAS a costituire la base degli odierni programmi di monitoraggio predittivo, il cui valore era stimato a 25 milioni di dollari nel 2016 e la cui crescita è inarrestabile. Ogni volta che il PredPol viene adottato dalla polizia di una città (com’è successo a Los Angeles, Atlanta, Seattle e in centinaia di altre giurisdizioni americane), attraverso l’ETAS vengono analizzati i dati locali degli ultimi anni su orari, tipologie e luoghi dei crimini avvenuti. Il modello che ne risulta, aggiornato costantemente con i nuovi crimini nel momento in cui avvengono, viene utilizzato per creare mappe di calore che seguono gli spostamenti dei potenziali punti critici cittadini. Auto di pattuglia vengono inviate verso i luoghi delle potenziali scosse; agenti di polizia vengono assegnati agli angoli più instabili. In questo modo il crimine diventa una forza fisica: un’onda che attraversa gli strati della vita urbana. La predizione diventa una giustificazione per posti di blocco, perquisizioni, multe e arresti.Le scosse d’assestamento di un terremoto di cent’anni fa rombano ancora oggi nelle nostre strade.
La prevedibilità (o no) di terremoti e omicidi; i bias razziali dei sistemi opachi: sono fenomeni che, col tempo e il ragionamento, finiscono per diventare comprensibili. Si tratta di concetti basati su modelli fin troppo noti e sulla nostra esperienza nella vita di tutti i giorni. Cosa dire invece dei nuovi modelli di pensiero prodotti dalle macchine, decisioni e conseguenze che non comprendiamo in quanto prodotti di processi cognitivi del tutto diversi dai nostri?
Una dimensione che esplicita la nostra mancata comprensione del pensiero delle macchine è la pura e semplice scala a cui questo avviene. Quando Google si è messa in testa di rivedere e modernizzare il suo software di traduzione nel 2016, l’applicazione era già molto in uso ma era anche sinonimo di umorismo involontario. Era stata lanciata nel 2006 usando una tecnica chiamata inferenza statistica linguistica. Anziché tentare di capire il funzionamento reale di una lingua, il sistema assorbiva vasti corpus testuali di traduzioni già esistenti: testi paralleli con lo stesso contenuto espresso in lingue diverse. Era l’equivalente linguistico della “fine della teoria” di Anderson; inaugurata dalla IBM negli anni Novanta, l’inferenza statistica linguistica si sbarazzò della conoscenza specifica di settore in favore di enormi quantità di puri dati. Frederick Jelinek, il ricercatore a capo dei progetti sulla linguistica dell’IBM, dichiarò con un certo clamore: “ogni volta che licenzio un linguista la performance del riconoscimento vocale fa un passo avanti” . Compito dell’inferenza statistica era insomma quello di rimuovere la comprensione dall’equazione e rimpiazzarla con la correlazione di dati.
In un certo senso, la traduzione svolta dalle macchine si avvicina all’ideale descritto da Benjamin nel suo saggio del 1921 Il compito del traduttore: ovvero il concetto che la traduzione più fedele ignora il contesto originale per permettere al significato più profondo di trasparire. Benjamin ribadiva il primato della parola sulla frase, del modo di significare sul contenuto: “Una vera traduzione è trasparente”scriveva. “Non si sovrappone all’originale, non ne blocca la luminosità, consente altresì alla lingua pura, quasi rinforzata dal suo stesso mezzo espressivo, di illuminare l’originale con ancor maggiore intensità” . Ciò che Benjamin esigeva dal traduttore era che, anziché affannarsi a trasmettere direttamente quanto l’autore diceva – “l’imprecisa trasmissione di un contenuto inessenziale” –, comunicasse il proprio modo di dirlo, quello che apparteneva unicamente alla propria scrittura e, di conseguenza, alla traduzione. È un compito che “può essere svolto, in primo luogo, attraverso una resa letterale della sintassi che dimostri come sono le parole e non le proposizioni a costituire l’elemento essenziale per il traduttore”; solo una lettura attenta della scelta lessicale, anziché l’accumulo di frasi superficialmente significative, ci consente di avere accesso al significato più alto del testo originale. Ma Benjamin aggiunge anche che “se la proposizione è il muro che ci separa dalla lingua dell’originale, la letteralità è l’arcata”. Qualunque traduzione è sempre insufficiente: serve a rimarcare la distanza tra una lingua e l’altra, non a superarla. Giungiamo allo spazio arioso dell’arcata solo abbracciando “la distanza, l’alterità, la carenza e l’incompatibilità che esistono tra le lingue”: la traduzione, dunque, non come trasmissione di significato ma come consapevolezza della sua assenza . E alle macchine, a quanto pare, dell’arcata non interessa. (Chissà cosa ne penserebbe Benjamin del fatto che il corpus originale di Google Translate era costituito unicamente da trascrizioni ufficiali multilingue di sedute delle Nazioni Unite e del Parlamento Europeo… Anche questa è barbarie codificata).
Nel 2016 la situazione cambiò. Piuttosto che servirsi di una rigida inferenza statistica tra testi in lingue diverse, il sistema Translate cominciò a usare una rete neurale sviluppata da Google Brain e le sue abilità migliorarono esponenzialmente. Anziché limitarsi a fare riferimenti incrociati tra mucchi di testi, adesso la rete costruisce un proprio modello del mondo, e il risultato non è più un assortimento di collegamenti bidimensionali tra parole, bensì una mappa dell’intero territorio. In questa nuova architettura le parole vengono codificate in base alla distanza reciproca in una fitta matassa di significati – una matassa che solo un computer è in grado di sbrogliare. Mentre un essere umano può facilmente tracciare una linea tra tank (“serbatoio”) e water (“acqua”), diventa quasi subito impossibile collegare sulla stessa mappa “serbatoio” e “rivoluzione”, oppure “acqua” e “disponibilità economica” , per non parlare di tutte le emozioni e inferenze che zampillano da quei collegamenti. La mappa è pertanto multidimensionale e si estende in più direzioni di quante la mente umana sia in grado di gestire. Incalzato da un giornalista che voleva ottenere un’immagine di un tale sistema, un ingegnere di Google commentò: “Di solito non mi diverto a provare a visualizzare vettori mille-dimensionali in spazi tridimensionali” È questo lo spazio non visualizzabile in cui l’apprendimento automatico genera il proprio significato.
Al di là di quanto non siamo in grado di visualizzare, esiste ciò che non siamo in grado nemmeno di comprendere: un’inconoscibilità che sottolinea la propria ineluttabile alterità da noi – per quanto, al contrario, sia proprio quest’alterità a darci l’idea di intelligenza. Nel 1997, a New York, il campione del mondo in carica di scacchi Garry Kasparov si confrontò con Deep Blue, un computer progettato dalla IBM al preciso scopo di batterlo. Dopo uno scontro dello stesso genere avvenuto a Philadelphia l’anno precedente, in cui Kasparov vinse 4-2, l’uomo quasi unanimemente considerato il più grande giocatore di scacchi di tutti i tempi era certo della sua vittoria. Quando fu sconfitto, dichiarò che alcune delle mosse di Deep Blue erano state così intelligenti e creative che potevano solo essere il frutto di una mente umana. Noi però sappiamo cosa c’era dietro le mosse di Deep Blue: il suo era un processo di selezione di pura forza bruta, un’imponente architettura parallela di 14.000 chip progettati appositamente per analizzare 200 milioni di posizioni sulla scacchiera al secondo. All’epoca dell’incontro, Deep Blue era il 259esimo computer più potente del pianeta, ed era dedicato unicamente agli scacchi. A ogni mossa, poteva valutare all’istante molteplici risultati. Kasparov non era stato battuto in intelligenza, ma in potenza di fuoco.
Al contrario, quando il software AlphaGo alimentato da Google Brain sconfisse il professionista coreano del gioco del go Lee Sedol – uno dei più quotati al mondo –, qualcosa era cambiato. Durante la seconda di cinque partite, AlphaGo fece una mossa che lasciò sbalorditi tanto Sedol quanto gli spettatori, andando a mettere una delle sue pietre sul lato opposto della “scacchiera”, dando così l’impressione di voler abbandonare l’incontro. “Una mossa davvero strana” commentò un cronista. “Ho pensato che fosse un errore” disse l’altro. Fan Hui, un altro esperto giocatore di go (che sei mesi prima era stato anch’egli sconfitto dalla macchina), commentò: “Non è una mossa umana. Non ho mai visto un essere umano fare una mossa del genere”. E poi aggiunse: “È una cosa bellissima” . In oltre 2500 anni di storia del gioco, nessuno aveva mai fatto una mossa così. Alla fine AlphaGo vinse la partita, e poi il torneo.
Gli ingegneri di AlphaGo hanno sviluppato il software dando in pasto a una rete neurale milioni di mosse operate da esperti giocatori di go, e poi facendo giocare il software contro se stesso altri milioni di volte, sviluppando così strategie che surclassavano quelle dei giocatori umani. Ma la rappresentazione di tali strategie è, per noi, illeggibile: possiamo capire le mosse compiute, ma come sia giunto alla decisione di metterle in pratica resta un mistero. Ad andare oltre la nostra immaginazione è la sofisticatezza delle mosse che, nel corso di quelle partite tra frammenti digitali, deve aver giocato AlphaGo. Ed è molto improbabile che riusciremo mai a vederle e ad apprezzarle: non c’è modo di quantificare la sofisticatezza; si può quantificare solo la propensione alla vittoria.
Il defunto e assai compianto Iain M. Banks chiamò il luogo in cui quelle mosse avevano luogo “Infinite Fun Space” (“Spazio del Divertimento Infinito”) . Nei romanzi di fantascienza di Banks, la civiltà della Cultura è governata da IA benevole e superintelligenti chiamate Menti. Sebbene siano state originariamente create dagli esseri umani (o perlomeno da entità biologiche a base di carbonio), le Menti hanno da molto tempo superato i loro creatori, riprogettandosi e ricostruendosi per divenire infine tanto imperscrutabili quanto onnipotenti. Tra gli impegni per il controllo di navi e pianeti, la gestione delle guerre e il prendersi cura di miliardi di esseri umani, le Menti trovano anche il tempo per seguire i propri interessi, ovvero calcoli speculativi ben al di là della comprensione umana. In grado di simulare interi universi all’interno della loro immaginazione, alcune Menti si ritirano in via definitiva nell’Infinite Fun Space, un regno di possibilità metamatematiche accessibile solo a intelligenze artificiali superumane. Mentre a noialtri, se snobbiamo l’arcata di Benjamin, non resta che il “Finite Fun”, cioè l’infruttuosa analisi di decisioni macchiniche oltre la nostra comprensione.
E però, alcune delle operazioni delle intelligenze macchiniche non rimangono confinate nell’Infinite Fun Space. Piuttosto, creano nel mondo un’inconoscenza: immagini nuove; volti nuovi; eventi nuovi, sconosciuti o falsi. Lo stesso approccio per il quale la lingua può essere distesa come una matassa infinita di significati a noi alieni può essere applicato a qualunque cosa descrivibile in termini matematici: una ragnatela di connessioni ponderate in uno spazio multidimensionale. Le parole pronunciate dai corpi umani conservano delle relazioni anche quando vengono spogliate del loro significato, di conseguenza si possono svolgere dei calcoli sulla cifra intrinseca in quel significato. In una rete semantica le linee di forza – i vettori – che definiscono la parola “regina” sono allineate con quelle leggibili nell’ordine “re – uomo + donna” . La rete può inferire una relazione di genere tra “re” e “regina” seguendo il percorso di quei vettori. E può fare la stessa cosa con i volti.
Data una collezione di immagini di persone, una rete neurale può svolgere calcoli che non si limitano a seguire tali linee di forza ma determinano esiti nuovi. Un set di fotografie di donne che sorridono, donne che non sorridono e uomini che non sorridono può essere computato per produrre fotografie del tutto nuove di uomini che sorridono, come dimostrato in un articolo pubblicato dai ricercatori di Facebook nel 2015 .
Nello stesso articolo i ricercatori generano tutta una gamma di nuove immagini. Servendosi di un dataset di più di 3 milioni di fotografie di camere da letto tratte da una sfida di riconoscimento immagini su larga scala, la loro rete produce camere da letto del tutto nuove: assortimenti di colori e mobili che non sono mai esistiti nel mondo reale, ma che vengono al mondo all’intersezione dei vettori della camera-da-lettitudine: pareti, finestre, trapunte e cuscini. Macchine che sognano stanze da sogno in cui nessun sogno viene sognato. Ma sono i volti – antropomorfi che non siamo altro – a colpirci di più: chi sono queste persone, e perché stanno sorridendo?
La cosa si fa ancora più straniante quando queste immagini oniriche cominciano a intrecciarsi coi nostri ricordi. Nel 2014 Robert Elliott Smith, un ricercatore di intelligenza artificiale presso lo University College di Londra, tornò da una vacanza assieme alla famiglia in Francia con il telefono pieno di foto. Ne caricò alcune su Google+ per condividerle con la moglie, ma mentre le riguardava notò un’anomalia . In una delle foto vide se stesso e sua moglie sorridere all’obiettivo dalla tavola di un ristorante. Eppure quella foto non era mai stata scattata. Un giorno, a pranzo, suo padre aveva tenuto premuto il pulsante del suo iPhone un po’ più a lungo, avviando la creazione di una sequenza di immagini della stessa scena. Smith ne aveva caricate due per far scegliere alla moglie quella che preferiva. In una lui sorrideva e la moglie no; nell’altra era la moglie a sorridere e lui no. Dalle due immagini, scattate a secondi di distanza l’una dall’altra, gli algoritmi Google per lo smistamento foto ne avevano evocata una terza, un oggetto composito in cui entrambi i soggetti stavano sorridendo “al meglio”. L’algoritmo era parte di un pacchetto chiamato AutoAwesome (poi ribattezzato semplicemente “Assistant”) ed eseguiva sulle foto caricate una serie di modifiche allo scopo di renderle più awesome, “eccezionali”: applicazione di nostalgici filtri retrò, animazioni accattivanti, e così via. In quella circostanza il risultato fu la fotografia di un momento che non era mai avvenuto: un falso ricordo, una riscrittura della storia.
La manipolazione fotografica è un’attività vecchia quanto la fotografia stessa, ma in questo caso l’operazione avveniva automaticamente e invisibilmente su artefatti che appartenevano alla memoria personale. Eppure forse anche qui risiede una lezione che possiamo apprendere: la tardiva rivelazione che le immagini sono sempre false, scatti artificiali di momenti che non sono mai esistiti in quanto singolarità, strappati allo scorrere multidimensionale del tempo stesso. Sono documenti inaffidabili, un insieme composto di obiettivo fotografico e attenzione. Non sono artefatti di questo mondo e della nostra esperienza, ma del processo di registrazione – che, in quanto meccanismo a sua volta falso, non può mai davvero accostarsi alla realtà in quanto tale. È solo quando simili processi vengono reificati attraverso la tecnologia che siamo in grado di percepirne la falsità intrinseca, la loro alienazione dalla realtà. Eccola, la lezione che possiamo trarre dai sogni delle macchine: non sono loro a riscrivere la realtà, ma è la storia che non può essere narrativizzata in modo attendibile e veridico; di conseguenza, non può esserlo neanche il futuro. Le fotografie mappate a partire dai vettori dell’intelligenza artificiale non costituiscono una testimonianza, ma una reimmaginazione continua, una serie sempre cangiante di possibilità di ciò che sarebbe potuto essere e ciò che verrà. Questo cloud di possibilità, per sempre contingente e nebuloso, è un modello di realtà migliore di qualunque asserzione di materialità. Questo cloud, questa nube, è ciò che la tecnologia ci rivela.
Forse la luce gettata sul nostro inconscio dalle macchine è meglio esemplificata da un altro strano prodotto della ricerca sull’apprendimento automatico di Google: un programma chiamato DeepDream. DeepDream è stato progettato per illuminare il funzionamento interno delle imperscrutabili reti neurali. Per imparare a riconoscere gli oggetti, una rete veniva nutrita con milioni di immagini etichettate e raffiguranti cose: alberi, macchine, animali, abitazioni. Una volta che gli veniva proposta un’immagine nuova, il sistema filtrava, allargava, sezionava e comprimeva l’immagine attraverso la rete per classificarla: questo è un albero, questa una macchina, questo un animale, questa una casa. Ma DeepDream compiva il processo inverso: inviando un’immagine nel back end della rete, e attivando i neuroni istruiti a vedere degli oggetti in particolare, il programma chiedeva loro non cosa rappresentasse l’immagine, ma cosa la rete volesse vederci. È un procedimento analogo a quello con cui scorgiamo dei volti nelle nuvole: la corteccia visiva, sempre in cerca di stimoli, assembla pattern riconoscibili a partire dal caos.
L’ingegnere di DeepDream, Alexander Mordvintsev, concepì il primo ciclo del programma alle due del mattino, dopo essersi risvegliato da un incubo . La prima immagine che sottopose al sistema fu quella di un gattino seduto sul troncone di un albero, e il prodotto dell’elaborazione fu un vero e proprio mostro: un ibrido gatto/cane con varie paia d’occhi e nasi umidicci al posto delle zampe. Nel 2012 Google aveva rilasciato una prima rete di classificazione priva di istruzioni, impegnata su 10 milioni di video presi casualmente da YouTube: la prima cosa che questa aveva imparato a riconoscere, senza alcun sollecito esterno, era stato proprio il muso di un gatto – l’animale protettore di internet . La rete di Mordvintsev sognò insomma quello che conosceva meglio, ovvero altri gatti e altri cani. Le prove successive produssero paesaggi infernali à la Bosch popolati da architetture infinite, con archi, pagode, ponti e torri in progressioni frattali senza fine, a seconda dei neuroni attivati. L’unico elemento ricorrente nelle creazioni di DeepDream è l’immagine dell’occhio: occhi di cani, di gatti, di esseri umani; l’onnipresente occhio vigile della rete.
L’occhio fluttuante nei cieli di DeepDream ricorda l’occhio che tutto vede della propaganda distopica: l’inconscio dello stesso Google, composto dai nostri ricordi e dalle nostre azioni, sottoposto ad analisi e monitoraggi costanti per il profitto aziendale e l’intelligence privata. DeepDream è una macchina intrinsecamente paranoica, perché è da un mondo paranoico che prende forma.
Nel frattempo, quando non le costringiamo a visualizzare i loro sogni allo scopo di fare luce su noi stessi, le macchine si addentrano sempre più nel loro spazio immaginario, in luoghi ai quali noi non abbiamo accesso. Il principale desiderio di Walter Benjamin ne Il compito del traduttore era che il processo di trasmissione tra le lingue evocasse una “lingua pura”: un amalgama di tutte le lingue del mondo. Ed è questa lingua aggregata il medium nel quale dovrebbe operare il traduttore, perché ciò che ci rivela non è il significato bensì il modo di pensiero originario. Nel 2016, in seguito all’avviamento della rete neurale di Google Translate, i ricercatori si resero conto che il sistema riusciva non soltanto a tradurre da una lingua all’altra, ma anche al di sopra di esse. Poteva cioè tradurre direttamente tra due lingue che non aveva mai visto l’una di fronte all’altra. Per fare un esempio, una rete istruita su esempi giapponese-inglese e inglese-coreano è in grado di generare traduzioni giapponese-coreano senza mai passare dall’inglese . Si chiama traduzione “zero-shot” e ciò che il concetto implica è l’esistenza di una rappresentazione “interlinguistica”: una metalingua interna composta da concetti condivisi da tutte le lingue. Si tratta a tutti gli effetti della la lingua pura di Benjamin, la metalingua priva di significato dell’arcata. Visualizzando l’architettura della rete e i suoi vettori attraverso chiazze di colori e linee, è possibile scorgere frasi in molteplici lingue raggruppate assieme. Il risultato è una rappresentazione semantica sviluppata dalla stessa rete, non progettata al suo interno. Ma più di così non possiamo nemmeno tentare di comprendere, dato che, vale la pena ripeterlo, stiamo sbirciando da una finestrella dell’Infinite Fun Land: un’arcata che non potremo mai visitare.
Ad aggravare la situazione ci ha pensato nel 2016 una coppia di ricercatori di Google Brain decisa a scoprire se le reti neurali fossero in grado di mantenere un segreto . L’idea veniva da quello che in crittografia va sotto il nome di “avversario”, un elemento sempre più comune nel design delle reti neurali (e che avrebbe di certo compiaciuto Friedrich Hayek). La logica dell’avversario era quella su cui si fondavano le istruzioni sia di AlphaGo che del generatore di camere da letto di Facebook: queste non consistevano di un’unica componente che generava nuove mosse o nuovi luoghi, ma di due componenti in reciproca competizione, impegnate nel tentativo costante di superare l’altra in astuzia e di migliorarsi progressivamente. Portando l’idea dell’avversario alle sue logiche conclusioni, i ricercatori allestirono tre reti chiamate – come da tradizione per gli esperimenti di crittografia – Alice, Bob e Eve. Il loro compito era quello di imparare a crittare le informazioni. Sia Alice che Bob conoscevano un numero – una chiave, in termini crittografici – che era ignoto a Eve. Alice svolgeva alcune operazioni su una stringa di testo e poi ne inviava i risultati a Bob e Eve. Se Bob riusciva a decodificare il messaggio, il punteggio di Alice aumentava; ma se ci riusciva Eve, il punteggio di Alice diminuiva. Nel corso di migliaia di cicli, Alice e Bob impararono a comunicare senza che Eve riuscisse a decifrarli: svilupparono una forma privata di crittaggio come quella usata oggi nelle email personali. Ma il punto, come nel caso delle altre reti neurali che abbiamo visto, è che non comprendiamo il funzionamento di questo crittaggio. La sua modalità operativa è ostruita dagli strati profondi della rete. Ciò che viene nascosto a Eve viene nascosto anche a noi. Le macchine stanno imparando a mantenere i segreti.
Le Tre Leggi della Robotica, formulate da Isaac Asimov negli anni Quaranta, stabiliscono che:
1. Un robot non può recare danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno.
2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge.
3. Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o con la Seconda Legge .
A queste possiamo aggiungerne una quarta: un robot – o qualsiasi altra macchina intelligente – deve essere in grado di spiegarsi agli esseri umani. È una legge che deve avere la precedenza sulle altre, visto che assume i contorni non di un’ingiunzione ma di un principio etico. Il fatto che una simile legge sia già stata infranta – per via della nostra progettazione e della sua inevitabilità – ci porta alla conclusione ineludibile che anche le altre tre subiranno la medesima sorte. Già adesso, e non in un futuro lontano, ci troviamo davanti un mondo in cui non siamo in grado di comprendere le nostre stesse creazioni. E il risultato di una tale opacità è sempre e inesorabilmente la violenza.
Nel riportare la storia di Kasparov contro Deep Blue e di Sedol contro AlphaGo, ne abbiamo tralasciata un’altra parallela. È vero, Kasparov lasciò l’incontro frustrato e incredulo per l’abilità della macchina; ma la sua frustrazione si concentrò interamente su come salvare gli scacchi dal predominio dei computer. Ci sono stati vari tentativi in questo senso, ma pochissimi hanno avuto successo. David Levy, un campione di scacchi scozzese che giocò molte partite dimostrative contro le macchine negli anni Settanta e Ottanta, sviluppò uno stile di gioco ristretto “anti-computer” da lui così descritto: “non fare nulla ma farlo bene”. Il suo gioco era talmente prudente che i suoi avversari computerizzati non riuscivano a discernerne la strategia di lungo periodo finché la posizione di Levy non era così solida da risultare imbattibile. Allo stesso modo, tra anni Novanta e primi Duemila, il grande maestro russo Boris Alterman sviluppò nelle partite contro le macchine una strategia che divenne nota come il “Muro di Alterman”: prendeva tempo nascondendosi dietro a un muro di pedoni sapendo che, più pezzi manteneva sulla scacchiera, più mosse possibili la macchina era costretta a calcolare .
Ma oltre ai cambiamenti nello stile di gioco, è anche possibile cambiare il gioco stesso. Arimaa è il nome di una variante sviluppata nel 2002 da Omar Syed – un ingegnere informatico esperto di intelligenza artificiale – e studiata con l’intento preciso di mettere in difficoltà le macchine pur rimanendo semplice e divertente per gli esseri umani. Il nome deriva da quello del figlio di Syed, che all’epoca aveva quattro anni e che fornì lo standard della comprensibilità del gioco. In Arimaa i giocatori possono disporre i loro pezzi in qualsiasi configurazione, e per vincere la partita devono muovere uno dei loro pezzi più deboli – i pedoni qui si chiamano conigli – fino al lato opposto della scacchiera. Si possono anche usare i pezzi più forti per spingere avanti e indietro i pezzi più deboli verso una serie di caselle-trappola, rimuovendoli così dalla scacchiera e lasciando la via libera per i conigli. La combinazione di svariate disposizioni iniziali, della possibilità di alcuni pezzi di spostarne altri e di fare fino a quattro mosse per turno ha come esito un’esplosione combinatoria: un aumento sostanzioso nel numero di possibilità che diventa ingestibile per un programma di computer, una cosa simile al Muro di Alterman portato a estremi esponenziali. O almeno così si sperava. Il primo torneo di Arimaa per computer si svolse nel 2004, e per il programma vincente c’era in palio il diritto di sfidare un gruppo di giocatori umani e un premio in denaro. Nei primi anni gli esseri umani battevano facilmente i loro avversari computerizzati, riuscendo persino ad accrescere il margine di vittoria dato che la loro abilità nel nuovo gioco cresceva più rapidamente di quella dei programmi che li sfidavano. Ma nel 2015 arrivò la prima vittoria da parte di una macchina, ed è molto improbabile che il risultato potrà mai essere ribaltato.
Di fronte ai sistemi intelligenti, con tutto il loro potere e la loro opacità, la tentazione di rimandare, svicolare o tirarsi indietro è forte. Laddove Levy e Alterman hanno eretto muri, Arimaa è tornato alla terra nel tentativo di reclamare uno spazio alternativo alla sfera di dominio delle macchine. Ma non fu questo l’approccio di Kasparov. Anziché rifiutare tour-court le macchine, l’anno dopo la sua sconfitta contro Deep Blue il campione tornò all’attacco con una variante del gioco degli scacchi che chiamò “scacchi avanzati”.
Tra gli altri nomi con cui gli scacchi avanzati sono diventati noti troviamo “scacchi cyborg” e “scacchi centauro”. La prima immagine suggerisce una fusione tra essere umano e macchina, la seconda tra essere umano e animale – se non proprio qualcosa di totalmente alieno. La leggenda del centauro nella mitologia greca nacque forse con l’arrivo dei guerrieri a cavallo dalle steppe dell’Asia Centrale, quando l’equitazione era ancora sconosciuta nel Mediterraneo (si ritiene che gli aztechi abbiano fatto lo stesso ragionamento all’arrivo dei soldati a cavallo spagnoli). Secondo Robert Graves era una figura ancora più antica: un retaggio dei culti della terra pre-ellenici. I centauri erano anche i nipoti di Nefele, una ninfa delle nubi. In questo senso, dal punto di vista strategico il centauro incarna sia l’evenienza di una necessità contingente da contrapporre alle avversità, sia quella di un ritorno prelapsiario a tempi meno avversi.
Negli scacchi avanzati, un giocatore umano e un programma computerizzato per gli scacchi giocano in squadra contro un’altra coppia composta da un umano e un computer. I risultati sono stati rivoluzionari, inaugurando nuovi territori e strategie di gioco mai viste prima. Uno degli effetti è che vengono eliminati del tutto gli errori madornali: l’umano può analizzare le mosse che intende fare in modo talmente preciso da riuscire a giocare senza mai commettere errori, ottenendo così un piano tattico perfetto e un rigore assoluto nella messa in pratica delle strategie di gioco.
Ma forse il risultato più straordinario degli scacchi avanzati, che di norma vengono giocati da due coppie essere umano-macchina, si ottiene quando un umano e una macchina giocano contro un solo computer. Dopo Deep Blue, sono stati sviluppati numerosi software in grado di battere facilmente e con efficienza qualsiasi umano: i progressi nella capienza dei supporti di memoria e nell’elaborazione dati hanno fatto sì che per riuscire nell’obiettivo non serva più ricorrere a un supercomputer. Ma anche il più potente tra i programmi contemporanei può essere battuto da un bravo giocatore che abbia accesso al suo computer, persino uno meno potente dell’avversario. La cooperazione tra essere umano e macchina si è rivelata una strategia più efficace del più potente computer in solitaria.
È l’Algoritmo dell’Oculista applicato ai giochi: un approccio che, anziché contrapporre le rispettive abilità di umani e macchine, si serve di entrambe a seconda delle necessità. La cooperazione attenua anche gli effetti negativi dell’opacità computazionale: con il gioco di squadra al posto dell’analisi a posteriori possiamo comprendere a un livello più profondo il modo in cui le macchine complesse prendono le loro decisioni. Ammettere la realtà di intelligenze non umane ha implicazioni molto profonde sul nostro agire nel mondo, e ci costringe a riflettere più lucidamente sui nostri comportamenti, le nostre opportunità e i nostri limiti. Se è vero che l’intelligenza artificiale sta superando rapidamente ogni performance umana in molti campi e discipline, è anche vero che non è l’unica forma valida di pensiero – anzi: in molti campi si rivela distruttiva a livello catastrofico. Qualunque strategia diversa da una cooperazione consapevole e ponderata è, in realtà, una forma di disimpegno: una ritirata che non può portare nulla di buono. Non possiamo rifiutare la tecnologia contemporanea così come non possiamo rifiutare i nostri vicini nella società in cui viviamo e nel mondo; siamo tutti legati l’uno all’altro. E nel presente, un’etica della cooperazione non può essere limitata alle sole macchine; contemplando entità non umane, animate e inanimate, può diventare una nuova forma di gestione capace di enfatizzare gli atti di giustizia universale: non in un futuro inconoscibile e incomputabile, ma nel qui e ora.
[testo pubblicato in Nuova Era Oscura, James Bridle. Roma: Not, 2019. Titolo originale: New Dark Age: Technology and the End of the Future, London: Verso Books, 2018]
