L’intelligenza artificiale (AI) occupa una posizione chiave nell’ecosistema culturale contemporaneo. È una risorsa fondamentale per interpretare il mondo e per interagire con le grandi architetture di dati che lo popolano.
Nel 2016, un’era geologica fa in questo ambito, Andrew NG, professore a Stanford ed ex direttore di Google Brain, ne celebrava l’imminente avvento: “Come l’elettricità ha trasformato quasi tutto cento anni fa, fatico ad immaginare un settore che non verrà trasformato dall’AI nei prossimi anni” . Ebbene, il cambio di paradigma previsto da NG sembra oggi essere già in atto. L’AI non riguarda più il nostro futuro, ed è impiegata negli ambiti più disparati dell’attività umana, dalla medicina all’industria, dalla finanza alla domotica, dal marketing alla guerra. Non solo: essa modella il modo in cui sperimentiamo il mondo. Reti neurali e algoritmi “intelligenti” sono ampiamente utilizzati per rilevare, classificare e mappare il nostro comportamento, riconoscere le nostre emozioni, e influenzare le nostre scelte. Lavorano come “curatori invisibili” , prescrivendo ciò che dovremmo vedere, ascoltare, leggere e comprare. Ci sorvegliano, plasmano la nostra comprensione della realtà sociale e politica, e contribuiscono in definitiva a costruire il nostro quadro cognitivo. Essi intervengono inoltre nella creazione, nella manipolazione e nella disseminazione dei media e dei dispositivi di interazione sociale.
Un simile cambiamento non è certo passato inosservato alle attenzioni della critica. Negli ultimi anni, un’intera generazione di artisti, ricercatori e professionisti ha indagato la natura dei sistemi AI e delle loro relazioni con i contesti in cui opera. Eppure, paradossalmente, la definizione stessa di intelligenza artificiale rimane controversa.
Di cosa parliamo quando parliamo di AI, dunque? Rispondere a questa domanda è più difficile di quanto sembri.
Anzitutto serve specificare cosa intendiamo con la parola “Intelligenza”. Dal nous aristotelico al QI di William Stern, l’intelligenza è una nozione che si è riferita a uno spettro vastissimo di significati e di interpretazioni, spesso parziali e faziose. Nella storia dell’uomo, l’intelligenza non è quasi mai stata intesa di per sé, ma al contrario ha designato, a seconda degli ambiti, capacità logica, emotiva, decisionale, di previsione, di pensiero critico, e così via. Il machine learning, ad esempio, sceglie di inquadrarla attraverso il frame della capacità di apprendimento. Un programma sarà dunque intelligente se le sue performance (P) nel compiere un certo compito (T) migliorano con l’esperienza (E) .
Eppure questa dimensione strumentale dell’intelligenza macchinica, come intesa dall’industria, è spesso trascurata, soprattutto quando questa comunica verso l’esterno. La narrazione dominante rimane infatti legata a una rappresentazione mimetica, per cui le reti neurali artificiali, in continuità con la propria storia, andrebbero considerate sostanzialmente come simulazioni del cervello umano . Ma una simile rappresentazione tende a nascondere più o meno deliberatamente il tipo di performance che viene di volta in volta premiata e incentivata. I grandi attori dell’ecosistema AI, che verrà meglio descritto da alcuni saggi presenti nel volume, sfruttano spesso questa confusione per mostrare l’intelligenza artificiale come uno strumento oggettivo e universale. Per usare le parole di Matteo Pasquinelli, il problema “non ha nulla a che vedere con l’intelligenza di per sé, ma piuttosto con il modo in cui essa viene applicata alla governance della società e del lavoro attraverso modelli statistici” . Il ricercatore inglese Dan McQuillan, che ha ben chiara la natura statistica dei moderni sistemi AI, si spinge oltre: per lui “Non c’è intelligenza nell’intelligenza artificiale, e nemmeno un vero apprendimento, e anche se il suo nome tecnico è machine learning, si tratta di semplice minimizzazione matematica” . Interpolazioni, gradienti e regressioni non sarebbero altro che strumenti che l’operatore umano utilizza per interfacciarsi con grosse quantità di dati.
Esiste tuttavia una traiettoria di ricerca che si muove in direzione ancora diversa, e che tende a ricondurre l’AI, e in particolar modo i sistemi di deep learning, a forme di intelligenza in qualche modo aliena – o quantomeno non riconducibile a quella umana. I sistemi di deep learning sono caratterizzati dalla capacità di apprendere multipli livelli di rappresentazione che corrispondono ad altrettanti layer di astrazione; questi livelli formano una gerarchia di concetti, che può essere organizzata anche senza alcuna supervisione umana. La differenza quantitativa nel riconoscere pattern all’interno di grandi quantità di dati si traduce molto spesso in comportamenti e strategie che, ai nostri occhi, sembrano completamente irrazionali e ingiustificabili. Gli esempi di questi comportamenti “alieni” sono numerosi. Il caso più famoso è sicuramente quello del software Alpha Go, che nel 2016 ha sconfitto il campione di go Lee Sedol grazie ad una strategia di gioco che ha lasciato gli osservatori a bocca aperta. L’ex campione europeo Fan Hui ha commentato così la partita decisiva della serie: “Non si è trattato di una mossa umana. Non ho mai visto un essere umano giocare questa mossa [...] Meraviglioso, meraviglioso…” . James Bridle sostiene che l’emergere del deep learning negli ultimi anni sia proprio collegato “alla crescente non-umanità dell’intelligenza che stiamo sviluppando. [...] Più i nostri strumenti diventano potenti, meno siamo in grado di comprenderli” . L’artista inglese suggerisce dunque di cercare una nuova estetica dell’AI, che rinunci a raffigurarla attraverso la metafora del cervello umano. Il suo lavoro, come quello di una nuova generazione di artisti, da Jenna Sutela a Maeid, da Shinseungback Kimyonghun a Sofia Crespo (presente in questo libro) , prova a rappresentare e visualizzare l’AI secondo un’estetica fondata sul riconoscimento di una sua radicale irriducibilità all’intelligenza umana.
Al di là delle loro sostanziali differenze, l’immagine statistica e quella aliena delle AI diventano anzitutto un modo per imparare da esse, per confrontarci con l’inafferrabile complessità del mondo. La loro alterità ci consegna un dispositivo per costruire narrazioni “che noi umani non siamo capaci di creare a causa delle limitazioni del nostro corpo, del nostro cervello e di altri vincoli” (p.206). Lev Manovich, nel suo contributo a questo libro, incoraggia un simile approccio e auspica che le macchine vengano impiegate proprio per svolgere compiti inimmaginati e inauditi: “Sarà qualcosa di cui ci innamoreremo profondamente quando l’incontreremo. Qualcosa che, come l’arte ha già saputo fare, espanderà i confini che ci definiscono come umani” (p.206).
Le tre traiettorie sopra descritte non vanno viste come prospettive alternative e inconciliabili. La psicologia, la neurologia e la machine vision testimoniano di come le reti neurali mimetiche rimangano uno strumento utile per osservare fenomeni umani e naturali dall’esterno, e per capire meglio il funzionamento del cervello e dei sistemi visivi. Allo stesso tempo, in molti altri contesti di applicazione l’AI si riduce effettivamente a uno strumento normativo di minimizzazione matematica, soprattutto quando è usata come dispositivo di dominazione e di controllo. Infine, essa mostra tutta la sua alienità quando la si coinvolge in nuove pratiche narrative, predittive o progettuali.
Anche il termine “Artificiale” è piuttosto problematico. La tradizionale dicotomia tra Naturale e Artificiale è stata ampiamente messa in discussione dal pensiero critico del tardo Novecento. “Non c’è niente di naturale nella natura, ragazzo mio, tienilo bene in mente. Quando la natura ti sembrerà naturale, tutto sarà finito – e comincerà qualcosa d’altro”, ci ricorda il Centauro nella Medea di Pasolini. La prospettiva ecologica ha ben chiara la fallacia che si nasconde in una simile distinzione . La separazione tra natura e cultura non è più rappresentabile come uno scambio tra sistemi separati. In un mondo profondamente interconnesso, “non ci si può aggrappare al concetto di una singola cosa solida e presente ‘laggiù’ chiamata Natura” . Un ecosistema complesso ci restituisce una fitta rete di relazioni in cui gli oggetti coinvolti non sono materia inerte, ma piuttosto vettori di forza dinamici, che cambiano funzione e natura a seconda delle circostanze .
Artificial Remnants, il lavoro di Sofia Crespo e Feileacan McCormick, nasce da “una continua esplorazione della vita artificiale”, e cerca “di dissolvere la distanza, tutta artificiale, che poniamo tra noi e la natura” (p.211). Nel loro lavoro, attraverso il deep learning, un sistema AI ricombina le immagini e le descrizioni anatomiche degli insetti reali presenti nei dataset generando nuovi individui immaginari e nuovi specimen, e renderizzando delle creature nuove – dei nativi digitali. Gli esemplari così generati “dischiudono nuovi modi di comprendere il naturale, che vanno al di là della nostra comprensione umana” (p.210). L’AI si offre dunque come strumento per decifrare la realtà attraverso il suo sguardo alieno. Non solo: i nuovi esemplari diventano portavoce di tutte le agency nascoste e invisibili nell’ecosistema globale. Essi incarnano entità digitali, che assumono così la forma di individui autonomi. In questa nuova veste di rappresentazioni, esse esplorano la propria “integrazione”, “rivendicando la stessa importanza degli altri attori coinvolti” (p.211).
Nel nostro contesto specifico, tuttavia, la dicotomia Naturale / Artificiale si articola per lo più come polarità tra l’intelligenza umana (naturale) e quella delle macchine (artificiale). Alcuni testi presenti in questo libro decostruiscono, partendo da prospettive diverse, anche questa distinzione. Per spiegare il funzionamento e le implicazioni di Amazon Echo, Crawford e Joler si sforzano di comprenderne le varie scale e i livelli (risorse materiali, lavoro umano e dati) attraverso i quali il dispositivo si relaziona con i sistemi politici, economici e naturali globali. L’analisi proposta dai due prende la forma di una rappresentazione anatomica: il dispositivo intelligente viene di fatto esploso in una moltitudine di layer e passaggi che ci restituiscono l’immagine di un network sterminato. Al suo interno ogni fase del processo si articola in diverse dimensioni. L’attenzione, dunque, si rivolge alle materie e le risorse ambientali coinvolte, alla forza lavoro e al capitale umano messi in campo, e ai dati prodotti dai singoli individui. Ma la complessità deriva anche dal fatto che gli stessi attori che si muovono all’interno del network ricoprono spesso ruoli diversi, e non possono quindi essere ridotti ad una singola identità, posizione o agency: “Così come la chimera greca era un animale mitologico in parte leone, capra, serpente e mostro, gli utenti di Echo sono simultaneamente consumatori, risorse, lavoratori e prodotti” (p.63). Siamo di fronte a un network fluido e decentralizzato, in cui le forze in gioco sono “radicalmente contingenti e dinamiche, in altre parole come inclini al cambiamento” .
Matteo Pasquinelli, invece, ci mette in guardia dal considerare l’AI come un attore autonomo, indipendente e senziente, e la decostruisce come prodotto della divisione sociale del lavoro. “Nonostante le modalità con cui viene solitamente raffigurata e problematizzata, l’intelligenza artificiale non è realmente ‘artificiale’ né ‘aliena’: nel processo di mistificazione dell’ideologia essa appare come il deus ex machina del teatro antico che trascende il mondo presente. Ma questo modo di concepirla nasconde la realtà dei fatti: essa emerge dall’intelligenza di questo mondo” (p.110). Pasquinelli compie dunque una demistificazione del machine learning che, di nuovo, si avvicina più a una evoluzione di vecchi modelli statistici che non a una nuova forma di intelligenza.
La mappa anatomica di Crawford e Joler e l’analisi di Pasquinelli non sono altro allora che sforzi di esplorare l’impenetrabile spazio della black box attraverso lo strumento della decostruzione. Più in generale, i testi di questo libro propongono nuovi approcci al modo in cui rappresentiamo e raccontiamo l’AI e il suo emergere nella dimensione privata e quotidiana, nelle società umane e nella biosfera terrestre.
L’immagine dell’AI come un’ingombrante scatola nera che si inserisce nel tessuto ambientale e sociale globale introduce il terzo termine che dà titolo a questo volume. All’interno dei dispositivi e delle infrastrutture AI si nascondono infatti innumerevoli conflitti che, come abbiamo detto, investono l’intero ecosistema contemporaneo. La dimensione politica dell’AI va intesa come un campo di forze attraversato da vettori umani e non umani che, spesso in contrasto tra loro, generano frizioni, tensioni e conflitti: “l’intera Realtà (proprio come la Storia) è un campo di battaglia, in cui miriadi di agency sono perennemente in lotta per affermare nuovi sistemi di interdipendenza” .
In questo primo volume l’attenzione è rivolta verso le relazioni tra l’ecosistema delle AI e i vettori umani coinvolti, considerando quindi le dinamiche e i conflitti che li investono e le agencies (umane e non umane) con cui sono in relazione. Abbiamo dunque deciso di raccogliere e proporre per la prima volta in Italia alcune prospettive maturate negli ultimi anni soprattutto nei campi dei media studies, delle arti visive e della teoria critica, che si interrogano sulla dimensione più strettamente politica delle AI, e su come questa influenzi l’esperienza del mondo in cui viviamo.
Secondo il media artist e programmatore americano Mirek Hardiker i conflitti umani sono sempre intimamente connessi con il linguaggio, inteso come forma imprescindibile di narrazione e rappresentazione. “Una moltitudine di scintille e frizioni scaturiscono dalla lotta per la sopravvivenza linguistica innescata da questi vettori. Perché il Linguaggio è lo strumento che abbiamo per ordinare gli eventi, per costruire l’architettura del mondo e per plasmare il divenire delle cose” . Nell’epoca delle AI, il terreno di scontro su cui si svolge la lotta per la sopravvivenza linguistica descritta da Hardiker deve fare i conti con la black box, e quindi con il problema di come articolare i conflitti che emergono ai margini delle infrastrutture o che rimangono celate al loro interno. La conflittualità diventa quindi una componente imprescindibile e fondante della dimensione politica dell’AI. Qualsiasi tentativo di rappresentarla fallirà laddove non sarà in grado di far emergere i conflitti nascosti nella scatola nera e nella nuova realtà sociale costruita dall’AI stessa.
Il primo conflitto ad emergere dal tentativo sopra descritto riguarda le condizioni, materiali e non, che abilitano l’ecosistema dell’AI. La comunità scientifica ha ricondotto l’emergere prepotente dell’intelligenza artificiale negli ultimi 20 anni ad almeno due recenti eventi significativi: l’aumento esponenziale della capacità di calcolo, grazie soprattutto allo sviluppo di schede video di nuova generazione, e l’enorme disponibilità di informazioni verso cui la computazione viene rivolta . Entrambi questi accadimenti affondano le proprie radici nello sviluppo industriale del XIX secolo e si sono consolidati nel corso del XX in due forme diverse, ma affini, di estrattivismo.
L’industria dell’hardware, necessaria ad alimentare i processi di apprendimento, è il prodotto dell’estrattivismo materiale, analizzato soprattutto nel saggio di Crawford e Joler. Come dimostra il caso del palaquium gutta riportato nel loro Anatomia di un sistema AI, lo sfruttamento delle risorse materiali – con conseguente distruzione di interi ecosistemi e interruzione di processi geologici millenari – non è solo un prodotto dell’infrastruttura AI: è condizione imprescindibile per la sua stessa esistenza. Visualizzare l’anatomia di un assistente vocale domestico e le storie di sfruttamento che vi si annidano diventa dunque un atto insieme linguistico e politico, che coinvolge cioè la sua narrazione e la nostra possibilità di comprenderlo e metterlo in discussione. È un gesto, questo, che si pone in aperta opposizione con “la metafora eterea del ‘cloud’” e che cerca invece di far emergere “la realtà fisica delle estrazioni minerarie e dell’espropriazione di intere popolazioni che la rendono possibile” (p.61).
L’industria che gravita intorno alla produzione, alla raccolta e alla distribuzione dei dati si rifà invece ad un altra forma di estrattivismo. Un estrattivismo cognitivo si sovrappone a quello materiale. Anche se il primo data center venne costruito nel 1965, è con la nascita e l’esplosione di massa del World Wide Web che vengono creati i presupposti per la società dei big data. Da allora, in pochi decenni la produzione di dati è diventata un’attività parassita, che si annida in qualsiasi ambito dell’agire umano: dalla tessera fedeltà del supermercato all’abbonamento alla metropolitana, dall’account su un social network al navigatore GPS. Ciascuna di queste attività genera dei dati che “possono essere impacchettati, venduti, raccolti, organizzati e acquisiti in molti modi, e infine riutilizzati per ragioni di cui noi, i sorvegliati, non siamo a conoscenza e a cui non abbiamo dato approvazione” (p.117). Nel loro saggio, Brunton e Nissenbaum ci mettono in guardia di fronte alle condizioni di profondo disequilibrio che sempre accompagnano questo tipo di attività: una asimmetria sia epistemica (“non sappiamo cosa ne sarà delle informazioni prodotte attraverso questo processo, né dove andranno o quale sarà il loro utilizzo”) che di potere (“raramente possiamo decidere se essere monitorati o no, cosa succede alle informazioni che ci riguardano e cosa accade a causa di queste informazioni”, p.118).
Appare dunque chiaro come l’emergere delle tecnologie AI sia già inscritto all’interno di un campo di forze che si articola secondo il modello dell’estrattivismo. Secondo Sandro Mezzadra e Brett Nielson esso costituisce il paradigma dello sviluppo capitalista e neoliberista del XXI secolo, e ci costringe a estendere il concetto stesso di estrazione per considerare “non solo l’appropriazione delle risorse naturali, ma anche, e per certi versi soprattutto, i processi che sfruttano la cooperazione umana e l’attività sociale” .
Muovendoci dalle condizioni fondanti dei sistemi AI, la seconda classe di conflitti riguarda i loro campi di applicazione, ovvero i diversi modi con cui oggi le tecnologie algoritmiche “intelligenti” vengono impiegate, nonché il loro impatto su alcuni contesti della realtà sociale. Uno dei principali utilizzi delle reti neurali riguarda i sistemi di classificazione di dati. Esso consiste sostanzialmente nel riconoscimento autonomo di pattern (pattern recognition) e altre forme di regolarità a partire dalla lettura e dall’interpretazione di una certa quantità di informazioni e dal successivo decoding. Le applicazioni di questi dispositivi di analisi sono ormai innumerevoli e tentacolari. Riguardano sistemi di identificazione e autenticazione (software per il riconoscimento delle targhe automobilistiche, per l’analisi delle impronte digitali, per il rilevamento facciale o della voce) di diagnostica (che comprende diverse tipologie di screening medici, psicologici e comportamentali), di ingegneria militare (con i vari sistemi di navigazione e di guida, i sistemi di riconoscimento degli obiettivi, ecc.) e di mobilità e trasporti (sistemi avanzati di assistenza alla guida, veicoli autonomi).
La proliferazione di sistemi di pattern recognition si manifesta complessivamente in un gigantesco dispositivo di analisi, un enorme e invasivo apparato in cui la comprensione viene (almeno in buona parte) automatizzata. Il problema è che l’automazione viene oggi esperita come un processo naturale e oggettivo – come cioè prodotto di una razionalità neutrale. Il fatto che uno smartphone sia in grado di riconoscere la nostra impronta vocale, o che un software riesca a leggere e organizzare migliaia di email in pochi secondi, selezionando autonomamente le più importanti, non desta più molta sorpresa. È un dato di fatto ai margini della nostra quotidianità. I task vengono svolti come conseguenza di una legge della natura. Il riconoscimento vocale diventa cioè l’applicazione tecnica di una teoria scientifica .
Rappresentare i dispositivi di pattern recognition come tecnologie neutrali consente di trarre profitto dall’opacità della black box, dato che equivale a nascondere e a naturalizzare le frizioni e le tensioni in essere al suo interno. E questo non è un caso. L’ideologia che propone l’AI come uno strumento neutrale e oggettivo è la stessa che domina da alcuni decenni una buona parte del discorso politico e istituzionale contemporaneo .
Il modello neoliberista è diventato ormai fondamento delle moderne democrazie occidentali. La narrazione di un mercato libero, capace di autoregolamentarsi e quindi di risolvere in modo autonomo, spontaneo e “naturale” le frizioni che si verificano al suo interno è da tempo fuoriuscita dall’ambito strettamente economico, per infiltrarsi nel mondo politico – dal dibattito pubblico agli strumenti di governance. In molti hanno riconosciuto in questo passaggio l’affermarsi di una tendenza che scorre parallela alla naturalizzazione dei processi: la rimozione dei conflitti. La “fine della storia”, che con la caduta del muro di Berlino viene salutata dai teorici del neoliberismo come l’inizio di una nuova era post-ideologica, ha inaugurato in realtà una fase post-politica, in cui l’idea di consenso si è andata a sostituire a quella di conflitto: “al cuore del consenso vi è il sogno di un’amministrazione in cui tutte le incarnazioni simboliche della collettività, e quindi tutti i conflitti legati ad esse, siano liquidate come spettri dell’ideologia” . L’orizzonte politico di oggi è infatti illuminato da un’immagine di consenso tanto razionale quanto astratta. In questo modo, l’idea di conflitto, intesa come dimensione propria del “politico” e delle dinamiche democratiche , è stata costantemente negata e rimossa dal dibattito pubblico e dalle forme di narrazione e di rappresentazione della politica .
Alla rimozione dei conflitti che pervade lo scenario politico contemporaneo fa eco la neutralizzazione delle frizioni e delle tensioni implicite nei dispositivi di analisi e nel pattern recognition delle AI. Nella discussione sulle bias dei sistemi di riconoscimento facciale, quando ad esempio la fotografia di una persona afroamericana viene classificata come un “primate” , i sostenitori della neutralità e dell’oggettività dell’AI imputano tale “errore” a un problema di accuratezza del database. La soluzione tecnica proposta è semplice, come ci ricorda Paglen: “Programmiamo gli algoritmi in modo che vedano tutti allo stesso modo, e gli umani che essi così affettuosamente sorvegliano saranno considerati in modo equo” (p.49). Ma ridurre un episodio simile a una questione di accuratezza è solo un modo per rimuovere la questione politica e conflittuale di cui quell’episodio è espressione. Ciò di cui abbiamo bisogno invece è costruire una mappatura di queste tracce e di collegarle con le infrastrutture che le generano, con gli attori che possiedono tali infrastrutture, con le loro diverse applicazioni nella vita reale, in modo da provare ad articolare una prima rappresentazione dei conflitti e delle tensioni invisibili di cui quelle tracce sono indizi. “Dato che le operazioni sulle immagini avvengono su un livello invisibile e non dipendono da un osservatore umano (e non sono quindi così palesemente ideologiche come i dipinti giganti di Napoleone) sono più difficili da riconoscere per quello che sono realmente: strumenti immensamente potenti di controllo sociale al servizio di specifici interessi di etnia e di classe, che però si presentano come imparziali e oggettivi” (p.49).
Come detto, i dispositivi di pattern recognition sono in grado di imparare come sono distribuiti statisticamente i dati. Per fare ciò, essi costruiscono una rappresentazione latente dei pattern, interna alla black box e dunque non direttamente fruibile dall’operatore umano. Successivamente operano su questa rappresentazione, decodificando tali pattern in classi comprensibili per gli umani che vi si interfacciano. Ma questi pattern possono essere decodificati anche con una finalità diversa, che potremmo definire di sintesi, per generare nuove rappresentazioni verosimili (predizioni, immagini, testi, ecc.) in base alla distribuzione precedentemente appresa. In altre parole, il modello che riconosce il volto di una persona in un database fotografico è sostanzialmente lo stesso che genera immagini realistiche di individui mai esistiti . Piuttosto che configurarsi come modello di interpretazione della realtà, l’AI diventa in questo caso uno strumento per operare su di essa. Dai sistemi predittivi alle GAN, dai software di deepfake ai “curatori algoritmici”, l’AI incide attivamente sull’ecosistema globale, influenzando l’andamento dei conflitti in atto e alimentandone di nuovi.
Nei sistemi generativi predittivi, in particolare, emerge un nuovo attrito, che non è legato a bias di alcun tipo. L’AI prevede scenari futuri solo a partire dal dataset su cui è allenata, e dunque solo sulla base di ciò che è già accaduto in passato. “Il limite logico e politico dell’AI” è dunque legato alla “difficoltà della tecnologia nel riconoscere e prevedere un nuovo evento. Come fa il machine learning ad affrontare un’anomalia veramente unica, un comportamento sociale non comune, un atto innovativo di disturbo? Le due modalità di apprendimento automatico mostrano un limite che non è semplicemente un pregiudizio” . Pasquinelli e Joler sottolineano come questo problema si riveli particolarmente pericoloso nelle sue applicazioni pratiche, ad esempio nelle auto a guida autonoma. Ma, soprattutto, ci mettono in guardia da un fenomeno più generale e intrinsecamente politico: “il machine learning automatizza la dittatura del passato, di tassonomie e modelli comportamentali passati, sul presente” . In altre parole, l’AI ci porta a schiacciare la prospettiva in una concezione conservativa, in cui l’elemento di novità si riduce a una semplice interpolazione (o estrapolazione) del passato .
L’impiego generativo dei sistemi AI non si esaurisce però nello sviluppo di macchine predittive. L’intelligenza artificiale è oggi ampiamente impiegata per produrre rappresentazioni sempre più realistiche (deepfake, fotografie sintetiche, musica, articoli, perfino review di paper accademici ), e per indirizzare il comportamento di utenti e cittadini attraverso la selezione e la distribuzione di contenuti. Entrambe queste attività alimentano la manipolazione e la distorsione dei fatti che caratterizza l’epoca della cosiddetta post-verità. La proliferazione di verità alternative , sostenute spesso da evidenze manipolate o tendenziose, e il loro diffondersi tramite le bolle di filtraggio , distruggono di fatto la possibilità di quello che Weizman chiama un “terreno comune” di confronto e di scontro politico.
La nuova ondata di movimenti populisti e xenofobi – così come la trasformazione del cospirazionismo in un fenomeno mainstream – sembra smentire l’idea secondo cui i sistemi e le narrazioni politiche occidentali sarebbero orientate verso la rimozione degli scontri e l’imposizione di un consenso razionale. Tuttavia, quella forma di conflittualità estremizzata non è altro che una versione radicale della fase post-politica, “il tentativo di depoliticizzare il conflitto portandolo all’estremo attraverso la militarizzazione diretta [...] dove non esiste un terreno condiviso per il conflitto simbolico” . Ci troviamo di fronte alla stessa mancanza di un “terreno comune” ravvisata da Weizman. Alla polarizzazione fa infatti seguito una continua frammentazione in cui non ha più importanza sostenere una o l’altra posizione, ma piuttosto insinuare il dubbio intorno alla possibilità stessa di avere una posizione. Secondo Weizman, la “post-verità” è essenzialmente un fenomeno post-politico, dato che nel negare la possibilità di un terreno comune, essa nega “una condizione metapolitica essenziale, necessaria per qualunque iniziativa e battaglia politica” (p.173).
Ma se da un lato l’AI, con la sua proliferazione di verità alternative, sembra essere una delle principali cause di tale fenomeno, dall’altro essa apre la strada “a pratiche alternative della verità in grado di mettere in dubbio sia l’epistemologia oscura del presente che le nozioni tradizionali di produzione della verità” (p.160).
Seppur con le dovute differenze, le direttrici lungo cui si muovono i testi presenti in questo libro convergono verso narrazioni che esplodono i conflitti nascosti nella black box. Essi ci aiutano a immaginare nuove tattiche anti-egemoniche, che si sviluppano in direzioni diverse: (1) la decostruzione delle narrazioni dominanti, in favore di forme di rappresentazione capaci di restituire la complessità del campo di battaglia dell’AI; (2) la produzione di interferenze, disturbi, disfunzioni all’interno dei processi con cui le AI vengono utilizzate come strumenti di controllo; (3) il tentativo di costruire nuove forme mitopoietiche, che provino a riappropriarsi dell’immaginario AI e a ripensare il rapporto tra epistemologia, estetica e politica.
La prima di queste tattiche è ravvisabile nei contributi di Matteo Pasquinelli e di Kate Crawford e Vladan Joler. Attraverso un’indagine “archeologica” i due saggi infatti smontano alcune delle narrazioni mitologiche più ingombranti e nocive intorno all’AI, e al tempo stesso provano a ricostruire una mappatura – parziale e incompleta – dei limiti, delle frizioni e delle condizioni che determinano lo sviluppo di tali infrastrutture e delle loro innumerevoli applicazioni. Con un excursus storico che attraversa gli antichi rituali Agnicayana, il Perceptron di Frank Rosenblatt e i recenti sviluppi delle vetture a guida autonoma, Pasquinelli decostruisce l’immagine che raffigura il machine learning e gli algoritmi intelligenti come dei corpi alieni o artificiali, separati dalla storia dell’uomo e dai suoi conflitti sociali. La sua analisi ci restituisce invece una nuova lettura delle AI come “sistemi emergenti fondati su una divisione terrena e materiale dello spazio, del tempo, del lavoro e delle relazioni sociali” (p.110). L’idea stessa di un’intelligenza artificiale viene allora demistificata e inserita all’interno della storia delle pratiche umane “che riguardano la demarcazione del territorio e dei corpi, il computo delle persone e delle divinità” (p.110).
La mappa anatomica e il saggio di Crawford e Joler applica in modo letterale il concetto di esplosione e di decostruzione ad Amazon Echo, uno degli assistenti vocali più diffusi e quindi più “normalizzati” di oggi. È interessante notare come la mappa dei due autori si sviluppi lungo diversi piani e vada ad occupare un territorio smisurato – planetario e millenario – nonostante l’apparente semplicità e limitatezza del dispositivo analizzato. In questo senso, l’anatomia di un sistema AI ci mostra come la portata della dimensione conflittuale che si cela al suo interno non dipenda dalla complessità del sistema stesso. Inoltre, come è già stato fatto notare, la decostruzione viene rivolta verso l’immagine e l’immaginario “etereo”, immateriale, trasparente e trascendente del cloud. L’intera infrastruttura implicita nella progettazione, nella costruzione e nella fruizione di Echo viene invece incorporata all’interno dei processi geologici millenari, della storia secolare della conoscenza e nella banalità di un gesto quotidiano con cui chiediamo ad Alexa che ore sono. La metafora impalpabile e vaporosa del cloud cede quindi il posto all’ingombrante immagine dello stack e del paradigma estrattivista, capaci di “raggiungere gli angoli più remoti della biosfera e i livelli più profondi dell’essere cognitivo e affettivo umano” (p.88).
Finn Brunton e Helen Nissenbaum esplorano invece le potenzialità e le ripercussioni etiche e politiche di una tattica, la data obfuscation, che si oppone direttamente ai sistemi e ai processi di raccolta e di profilazione dati. I due ricercatori descrivono diverse pratiche e strumenti che operano attraverso la proliferazione di false tracce – di false informazioni – al fine di ostruire o ingannare la gigantesca macchina che estrapola, organizza e struttura i big data a partire dalle più piccole azioni della nostra quotidianità. Di fronte alle asimmetrie di potere e a quelle epistemologiche che caratterizzano qualsiasi attività di raccolta dati, la data obfuscation emerge quindi come un’attività “per i più deboli”, cioè una forma di resistenza che anche quando si muove ai confini della legalità, appare comunque legittima, sia dal punto di vista politico che etico. D’altronde, come ci ricorda anche Paglen, “per opporsi alle razzie di questo sistema meccanicistico e alla sua costante ottimizzazione, serve progettare delle disfunzionalità intenzionali e delle sfere di esistenza che si sottraggano ai soprusi del mercato e della politica – dei porti sicuri all’interno del dominio invisibile del digitale. È nell’inefficienza, nella sperimentazione, nell’espressione del sé, e spesso nell’infrazione della legge, che risiedono libertà e autorappresentazione politica” (p.54).
La terza e ultima traiettoria lungo la quale si articolano le proposte “generative” e mitopoietiche comprende i contributi di Eyal Weizman, Salvatore Iaconesi e Oriana Persico, Lev Manovich e Sofia Crespo e Feileacan McCormick. La pratica della verifica aperta di Weizman, impegnata sul duplice fronte dell’epistemologia oscura e della verità oggettiva, è infatti orientata verso l’idea di aesthetic commons: la riscoperta di una convergenza tra epistemologia ed estetica dei fatti capace di stabilire “un improbabile ma fondamentale bene comune in cui la costruzione dei fatti costituisce le fondamenta di una comunità epistemica espansa, fondata sulla percezione e una comprensione condivisa del mondo” (p.173).
L’aspetto più generativo di questa terza traiettoria è invece il binario principale del saggio di Manovich e del progetto di Crespo e McCormick. Le nuove specie di insetti aliene generate attraverso il deep learning sembrano infatti rispondere all’appello di Manovich, che, di fronte alla necessità di dare una definizione all’arte AI, intravede negli strumenti del machine learning e delle reti neurali la possibilità di esplorare e creare forme espressive caratterizzate “da una sistematicità altra, che non abbiamo ancora avuto occasione di esperire, neanche nella musica, nella scultura, nell’architettura, nella fotografia o in altre espressioni artistiche moderne e più radicali” (p.206).
Iaconesi e Persico, infine, ci raccontano di un’esperienza a cavallo tra la performance artistica e le pratiche di progettazione collettiva. L’esperimento dell’“AI di quartiere” messo in campo a Torpignattara diventa quindi occasione per sviluppare una riflessione più ampia intorno alle possibilità empatiche e relazionali che le intelligenze artificiali ci offrono, e alla necessità di articolare un nuovo linguaggio e una nuova cosmologia attraverso cui raccontare il nostro rapporto con l’alterità: “Il primo passo è un cambio di sguardo e di estetica in cui gli esseri umani non siano più il centro […] ma i nodi di una rete tra attori umani e non umani: fra aziende, alberi, animali, il mare o le AI. […] È l’ecologia, lo studio delle relazioni, lo studio della differenza e del conflitto” (p.193).
Dalle reazioni degli autori raccolti in questo libro sembra spesso emergere un ruolo nuovo dell'AI, che pure ha radici millenarie e che vede nelle intelligenze altre un formidabile strumento di mitopoiesi. L'AI diviene un dispositivo per costruire narrazioni e quindi per esplorare il mondo con occhi nuovi. Una simile immagine sembra essere piuttosto fruttuosa. Non solo ci aiuta a restituire la funzione rappresentativa dell'intelligenza artificiale, spesso nascosta dalla black box: essa ci invita a riappropriarci della sua dimensione fondativa per portarla in un terreno comune e aperto.
[testo pubblicato in AI & Conflicts. Volume 1, a cura di Andrea Facchetti e Francesco D'Abbraccio. Brescia: Krisis Publishing, 2021]
