Verso la metà del diciottesimo secolo, in varie città europee si diffuse la pratica di numerare sistematicamente le abitazioni di ogni via in ordine crescente. Prima di allora, per poter consegnare una lettera, il postino doveva sapere dove viveva il destinatario, e non sempre questo era facile. È difficile attribuire una data precisa all'invenzione del numero civico, ma quel che è certo è che la sua introduzione non fu accolta felicemente dall'intera popolazione. Più che per esigenze degli abitanti, si iniziò a numerare le case per venire incontro alle richieste del fisco, dei militari e della polizia, per mappare e rintracciare più rapidamente cittadini che avessero problemi con la giustizia. Di questo malcontento ne fece i conti il re Giuseppe II d'Asburgo, contro il quale si scagliò la popolazione ungherese, contraria alla misura. Ma a pagarne le conseguenze furono i soggetti vittime di discriminazioni, come gli ebrei in Boemia alla fine del Settecento, obbligati a installare numeri civici in cifre romane anziché arabe per essere meglio riconosciuti. Come racconta Ivo Andric nel suo romanzo Il ponte sulla Drina, nell'Impero Austro-Ungarico la popolazione escogitò a lungo stratagemmi per eludere la sorveglianza dei numeri: targhe capovolte o imbrattate "per sbaglio" durante una verniciatura del cancello erano all'ordine del giorno. Ma è Walter Benjamin, nei suoi scritti del 1938, che si scaglia senza mezzi termini contro la pratica di numerazione urbana:
Sin dalla Rivoluzione Francese, una vasta rete di controllo serra nelle proprie maglie in maniera sempre più salda la vita borghese. La numerazione delle case nelle grandi città può essere utilizzata per documentare la progressiva standardizzazione. L'amministrazione di Napoleone aveva reso tale numerazione obbligatoria per Parigi nel 1805. Nei quartieri proletari, in verità, questa semplice misura di polizia aveva incontrato resistenza. Ancora nel 1864 a Saint-Antoine, il quartiere dei carpentieri, fu riportato quanto segue: "Se si chiede a un abitante di questo sobborgo quale sia il suo indirizzo, darà sempre il nome della sua casa, e non il suo freddo, ufficiale numero.” [...] Baudelaire trovava questa azione di forza come un'intrusione di un criminale qualsiasi. Cercando di fuggire ai suoi creditori, ava nei bar o ai circoli letterari. A volte aveva due domicili allo stesso tempo - ma nei giorni in cui l'affitto incombeva, passava spesso la notte in un terzo posto con gli amici. [...] Crépet ha contato quattordici indirizzi per Baudelaire negli anni dal 1842 al 1858.
Benjamin continua, attribuendo all'invenzione della fotografia un punto di svolta nello sviluppo del controllo amministrativo e dell'identificazione. Rileggendo oggi queste parole è inevitabile chiedersi cosa penserebbero, Benjamin o Baudelaire, dei tempi in cui viviamo. Identità digitalizzate, geolocalizzazione e registrazione quasi costante di spostamenti, ma anche transazioni finanziarie, dati relativi al nostro stato di salute e ai nostri gusti musicali. Mai come ora, nella storia dell'umanità, si è disposto di una quantità così grande di informazioni immagazzinate su fenomeni e comportamenti sociali. Questo fenomeno ha raggiunto una tale importanza nei processi sociali odierni che si è sentita la necessità di dover coniare un termine specifico: big data.
Se fino ad ora, con piccole quantità di dati, un esperto o un gruppo di ricerca poteva avvalersi di macchine e algoritmi classici per l'analisi e l'estrapolazione di informazioni utili, i big data rendono insoddisfacenti e quindi obsoleti i vecchi metodi, mettendoci nella condizione, mai avuta prima, di possedere una quantità di dati maggiore di quella che i mezzi più accessibili ci permettono di gestire.
Per avere una stima delle quantità di cui parliamo, e dell'accelerazione che il processo di digitalizzazione e datificazione sta subendo, Martin Hilbert della Annenberg School for Communication and Journalism (California del Sud) ha calcolato che, mentre nel 2000 le informazioni registrate nel mondo erano per il 25% supportate da formato digitale e per il 75% contenute su dispositivi analogici (come carta, pellicola o nastri magnetici), nel 2013 le informazioni digitalizzate, stimate attorno i 1200 exabyte, sono il 98% del totale, lasciando all'analogico solo il 2%. Se si stampasse una tale quantità di informazioni in libri, questi coprirebbero l'intera superficie degli Stati Uniti 52 volte. Vi è poi da considerare come la proprietà di questi dati sia in larga parte accentrata in poche mani. Come riportava Tom Simonite in un suo editoriale pubblicato sul MIT Technology Review, «Facebook ha collezionato il più vasto insieme di dati mai assemblato sul comportamento sociale umano. Alcune delle tue informazioni personali ne fanno probabilmente parte».
La peculiarità di questi dati, oltre alla loro quantità, è il fatto di provenire da fonti e metodi di estrazione estremamente variegati, costituendo così dataset infinitamente ricchi ma destrutturati, dai quali estrapolare regolarità e pattern richiede elevate capacità di calcolo ed efficienza algoritmica. Allo stesso tempo i dati non sono raccolti solo da veri e propri addetti ai lavori del settore, ma anche estratti dalle azioni quotidiane di milioni di utenti, autisti, lavoratori diffusi.
La pervasività delle nuove tecnologie apre la strada del possibile a scenari fino ad ora considerati fantascientifici. La polizia di Los Angeles sta già implementando un programma, Predpol, che grazie all'analisi di dati online dovrebbe riuscire a prevedere i futuri crimini, come nella dickiana Precrimine di Minority Report (e non mancano le distorsioni dovute ai pregiudizi razziali), mentre negli ultimi mesi del 2016 si è molto discusso di una proposta del partito comunista cinese che vorrebbe fornire un voto complessivo di ogni cittadino basandosi sui dati online, secondo un metodo di social credit system che a tanti ha ricordato l'episodio Caduta libera di Black Mirror. Un testo molto recente, che analizza in maniera dettagliata vari casi di usi e abusi dell'analisi dati e degli algoritmi in vari ambiti sociali, dall'istruzione al luogo di lavoro, è Armi di distruzione matematica di Cathy O'Neil, dove l'autrice mette giustamente a nudo le disparità economiche e i soprusi sociali al tempo della “dittatura degli algoritmi”.
È importante sottolineare, in questo contesto, che i processi di controllo sociale, di valutazione come strumento disciplinare, di estrazione di valore dalla vita quotidiana, non sono certo fenomeni nati con i social network. Si può invece provare a ragionare di come le nuove tecnologie, ai tempi della datacrazia, costituiscano spesso una lente di ingrandimento per studiare le dinamiche di questi processi.
Matthew Fontaine Maury era un ufficiale della marina americana. Nel 1836 la diligenza su cui viaggiava si ribaltò, procurando al soldato una frattura scomposta al femore. A seguito di un'operazione, Maury divenne claudicante a vita, vedendo per sempre interrotta la sua carriera in mare. Fu quindi messo a lavorare al Depot of Charts and Instruments, un deposito di mappe e giornali di bordo. Caso volle che Maury avesse una vera passione per i numeri, così che si mise quindi a spulciare e raccogliere informazioni catalogando quella marea di documenti, sestanti e barometri lasciati a prendere la polvere. Maury colse al volo l'opportunità che aveva, e mise pure all'opera i suoi sottoposti per aiutarlo nell'impresa. Iniziò così a elaborare rotte migliori di quelle attuali, disegnare carte nautiche e studiare la meteorologia a partire dai diari di bordo rinvenuti. Oltre a ciò, distribuì appositi moduli a navigatori e commercianti, incaricandoli di annotare informazioni durante il viaggio da riconsegnare una volta tornati a terra. Con il lavoro di decine di collaboratori e più di un milione di osservazioni raccolte, Maury pubblicò The Physical Geography of the Sea. Alla fine della sua vita, Maury aveva creato il sistema di rotte che è rimasto in uso sostanzialmente per tutto il XX secolo.
I casi in cui il risultato di lavori collettivi viene scambiato e sfruttato economicamente come opera di un lavoro individuale abbondano in ogni campo della produzione. Chi ha avuto a che fare con la ricerca scientifica e i suoi perversi meccanismi questo lo sa bene, ed è d'altronde proprio su questa rivendicazione che si basano le argomentazioni contro la proprietà intellettuale. Potremmo dire però che certe tecnologie, per il livello di complessità e diffusione capillare, hanno recentemente mostrato in maniera più esplicita i processi di capitalizzazione e sussunzione del lavoro vivo, immateriale, collettivo.
La digitalizzazione e quindi l'automazione dei processi, insieme alla datificazione delle vite, determinano spostamenti di capitali enormi, riportando al centro la questione della precarizzazione del lavoro culturale e cognitivo, e rendendo sempre più simbiotico il rapporto tra mente e macchina. Sarà un caso se uno degli uomini più ricchi e influenti del pianeta abbia guadagnato la sua posizione grazie a una piattaforma che come prima cosa alla mattina ti chiede “a cosa stai pensando?”. La data e sentiment analysis, la profilazione di utenti e l'interesse per il monitoraggio delle amicizie ci ricordano che l'estrazione che oggi avviene, e che determina i flussi, è un'estrazione di un lavoro diffuso nei tempi di vita, un plusvalore prodotto non solo dalla creazione immateriale individuale, ma dal valore aggiunto che è quello di corpi e menti messe in relazione, un plusvalore di rete.
Vari testi usciti in tempi recenti, come le antologie Salari rubati o Gli algoritmi del capitale, cercano di tessere il filo rosso che lega le nuove tecnologie con lo sfruttamento dei nostri tempi di vita e relativa diffusione e intensificazione della precarietà.
“Se non paghi, il prodotto sei tu” recita uno slogan sempre più calzante nel descrivere la nostra epoca. Facebook è gratis, Google è gratis. Perché a lavorare siamo anche noi. Non è facile stimare l'esatto contributo che diamo a queste piattaforme, ma certo è che la retorica dell'economia della condivisione (oltre alle già citate, si pensi anche ad Arbnb, Uber e simili) ha creato strutture fortemente verticali e verticalizzanti.
Citando Andrea Fumagalli, da un dialogo con Francesco Maria Pezzulli pubblicato su Effimera a fine marzo:
Se nella fabbrica tradizionale la produttività, ad esempio il cottimo, era basato su precisi meccanismi tecnici che permettevano (e tuttora permettono) di misurare la produttività individuale, nel capitalismo contemporaneo la produttività della cooperazione sociale non è misurabile in termini di produttività individuale. Questo è un primo nodo problematico. Il secondo nodo è che lo stesso prodotto della cooperazione sociale non è misurabile. Quando si producono simboli, linguaggi, idee, forme di comunicazione, dati, controllo sociale, c'è un problema di misurazione. Non possiamo più dire: “tu fai “tot” quindi, ti pago “tot”: questo non è più possibile.
Un capitalismo, quello delle piattaforme, che sta dando vita a un potere politico ed economico tale da far sì che le proprie policy di utilizzo si trasformino di fatto in leggi internazionali. Piattaforme che forniscono servizi basati su standard proprietari la cui efficienza, garantita dal lavoro vivo diffuso, è tale spesso da superare quella dei servizi classici e pubblici, innescando processi di privatizzazione consensuale e silenziosa. Si pensi a come i colossi del web si stanno imponendo nella ricerca scientifica e nella formazione.
Non è facile immaginare soluzioni pratiche né tanto meno immediate. In un'intervista rilasciata sul Manifesto, Morozov ha riproposto forme di tassazione maggiore per i colossi dell'high-tech:
La politica europea potrebbe fare molte cose. Ma è necessario che ci sia un ripensamento radicale dell'approccio dell'UE alle questioni tecnologiche, a cominciare dall'uso dei dati e dell'intelligenza artificiale (AI). Bisogna uscire dall'idea che i dati generati quotidianamente siano proprietà esclusiva degli operatori delle piattaforme, non dovrebbero appartenere a loro ma ai cittadini che li producono, in forma di common. Ad esempio, si potrebbero far pagare loro delle tasse e investire quei soldi in start-up o in associazioni di cittadini che studino quei dati per il benessere della collettività, per un loro uso socialmente utile o a fini scientifici. [...] Non ho soluzioni a portata di mano ma, in questo scenario, l'Europa deve trovare il modo di uscire dalla narrazione neoliberista e da questo sonno in cui è caduta da anni, per quanto riguarda i dati e il resto.
Una proposta per regolamentare internet potrebbe suonare anti-libertaria, e quindi anomala, se immaginata per contrastare un eccessivo potere. Ma in questa contraddizione resta proprio il nocciolo del conflitto “Stato VS piattaforme” che pervade il dibattito politico sulla rete. Non ci sarebbe ora né il tempo né lo spazio per affrontare la questione in modo approfondito, ma la rete, anche in virtù della sua deterritorializzazione, ha permesso il ritorno in auge di un'etica hacker anarcocapitalista, che mira a emancipare il libero mercato dal giogo della regolamentazione statale. Non è un caso se nel dibattito sulla Net Neutrality la contraddizione riemerge, vedendo schierati i colossi della Silicon Valley a difesa della neutralità insieme a mediattivisti e democratici, contro provider ISP e tentativi di regolamentazione governativa. La circostanza è complessa, ma certamente riconoscere il ruolo attivo della moltitudine diffusa come produttrice diretta di informazione, quindi di valore, nella costituzione di questo impero digitale è un passo fondamentale per iniziare a ragionare sulle possibilità di costruzione di tecnologie e piattaforme utili alla collettività.
Qualcuno potrebbe pure osservare (comunque adottando un punto di vista miope che non considera l'accumulazione originaria a monte) che chi accede a una piattaforma accetta le condizioni previste, quindi anche quella di essere “sfruttato” dal colosso grazie al proprio lavoro messo a disposizione. Ma si potrebbe rispondere mettendo in evidenza come l'oligopolio e il fagocitamento dello spazio virtuale all'interno di poche piattaforme (grazie alla connivenza delle istituzioni) ne rendono ormai spesso impossibile la fuoriuscita individuale (oltre che renderla un'opzione politica non praticabile). Vi sarebbe poi da considerare quanto il materiale condiviso su piattaforme proprietarie altrui, o addirittura open, possa essere utilizzato da terzi per compiere analisi dati o come materia prima per l'apprendimento automatico e lo sviluppo di intelligenza artificiale.
All'inizio del 2017, la Chan Zuckerberg Initiative (organizzazione filantropica fondata da Mark Zuckerberg e sua moglie Priscilla Chan) ha acquistato Meta, un sito specializzato nell'analisi di ricerche e pubblicazioni scientifiche grazie all'utilizzo di intelligenza artificiale. La fondazione si promette di accelerare i progressi scientifici e sostenere lo sviluppo tecnologico e medico, arrivando a «prevenire e gestire tutte le malattie entro la fine del secolo». Le grosse capacità di calcolo ed elaborazione dati possono consentire oggi a un colosso dell'informatica di fornire analisi in qualunque settore, potendo attingere non solo alle risorse del proprio recinto proprietario ma anche da fonti ad accesso aperto. Il 9 novembre 2015 Google ha rilasciato sotto licenza FOSS (Free and Open Source Software) la libreria per l'apprendimento automatico TensorFlow, sapendo così di poter usufruire di un contributo mondiale di una vasta comunità di programmatori. Per l'occasione, il CEO Sundar Pichai ha dichiarato: «Noi speriamo che questa scelta permetterà alla community del machine learning – ricercatori, ingegneri, amatori – di scambiare le idee più velocemente, attraverso il lavoro sul codice anziché soltanto su papers di ricerca».
È da notare che in entrambi i casi – Facebook Initiative e TensorFlow – la volontà estrattiva si traveste da capitalismo umanitario, nel quale il lavoro individuale diventa opportunità di contribuire al progresso.
Sempre restando nel campo della ricerca, c'è un altro caso interessante da considerare. Nel maggio del 2016, l'archivio accademico ad accesso (quasi) aperto SSRN ha annunciato che sarebbe stato acquistato da Elsevier. Il timore maggiore di molti ricercatori era quello di vedere i propri documenti diventare ad accesso chiuso o a pagamento, conoscendo le policy del più grande editore al mondo in ambito medico e scientifico. Come spiega Christopher M. Kelty in It's the Data, Stupid, l'acquisto della piattaforma punta invece a un nuovo modello, cioè poter utilizzare la mole di dati (e metadati) caricati dai ricercatori per sviluppare statistiche e modelli di impact factor da fornire poi come servizio a pagamento a università e centri di ricerca. Il mondo accademico che ci siamo costruiti, scrive Kelty, è un mondo in cui «un gran quantità di giudizi su qualità, reclutamento, avanzamento di carriera, conferimento di cattedre e premi è decisa da metriche poco trasparenti offerte da aziende a scopo di lucro». Tema, quest'ultimo, che aprirebbe anche la questione della valutazione metrica e algoritmica.
Anche se si potrebbe continuare a elencare per pagine e pagine casi di sfruttamento del lavoro collettivo, vale la pena citare un ultimo caso, più vicino all'esperienza quotidiana. Il meccanismo alla base delle nuove forme di intelligenza artificiale è il cosiddetto apprendimento automatico o machine learning. Mentre nell'algoritmica "classica" la macchina ha il compito di eseguire determinati calcoli in un prefissato ordine, nel machine learning l'algoritmo si nutre dei dati, dunque questi ne costituiscono la materia prima. Ad esempio, se si vuole creare un programma che sappia distinguere le foto dei cani da quelle dei gatti, occorre dargli in pasto un enorme dataset (insieme) di foto di cani e di gatti, ognuna contrassegnata da un'etichetta che ne identifichi la specie del soggetto. “Studiando” per lungo tempo queste foto, e ricalibrandosi in modo da commettere meno errori possibili, alla fine l'algoritmo sarà in grado di riconoscere con buona approssimazione un animale in una foto che non aveva ancora “visto”. La potenza incredibile di questo processo è che può essere applicato praticamente a ogni cosa. Questo significa che quando sentiamo di nuovi software che riconoscono tracce musicali o identificano la persona in base a come cammina, dalla voce o da una tra mille variabili, si tratta semplicemente di riapplicare il processo descritto sopra a un nuovo contesto. L'unica cosa di cui abbiamo bisogno per poter applicare questo processo è, in ogni caso, un dataset sufficientemente grande di informazioni adatto al contesto su cui far lavorare l'algoritmo. Ed è qui che torniamo a interfacciarci con il general intellect, la produzione diffusa, il valore user-generated.
Prendiamo il caso del sentiment analysis, branca del Natural Language Processing, ovvero quei sistemi sviluppati per determinare il livello di “positività” emotiva di un determinato testo. Per creare tale algoritmo è necessaria una grossa mole di testi “etichettati” come positivi o negativi, su cui fare training. Una possibile soluzione, oltre a quella di assumere a basso costo manovalanza per scrivere testi e catalogarli, è quella di usare i commenti delle recensioni di TripAdvisor, o siti simili, disponibili pubblicamente e costituiti da un testo annesso a una valutazione in stelline, che già ne costituisce una catalogazione sentimentale. Il dataset è lì, a portata di mano, pronto per essere usato per poter costruire un eventuale algoritmo di riconoscimento testuale, che poi sarebbe stato brevettato e diffuso in licenza proprietaria.
Riconoscere che il valore estratto in rete è già prodotto da un lavoro, e che il plusvalore relazionale costituisce l'input principale per il capitalismo contemporaneo, è infine fondamentale per elaborare una teoria sul reddito di base incondizionato che sappia essere attuale, come scrivono Andrea Fumagalli e Cristina Morini in un puntuale articolo pubblicato su Effimera:
Siamo tutte e tutti, nessuno escluso, “produttori di dati e di relazioni” che entrano in modo sempre più diretto nei processi di accumulazione capitalistica, o per via di espropriazione o per via di assoggettamento. La remunerazione simbolica tende a sostituirsi alla remunerazione monetaria. Per questo è necessario ribadire che il reddito di base, lungi dall'essere forma di assistenza, è lo strumento della remunerazione del lavoro contemporaneo (relazionale e della cooperazione sociale) sfruttato – ora organizzandolo esplicitamente; ora in modo parassitario – dal biopotere del capitale.
Italo Calvino scrisse nel saggio Cibernetica e fantasmi:
Nel modo in cui la cultura d'oggi vede il mondo, c'è una tendenza che affiora contemporaneamente da varie parti: […] Il pensiero, che fino a ieri ci appariva come qualcosa di fluido, evocava in noi immagini lineari come un fiume che scorre o un filo che si dipana […], oggi tendiamo a vederlo come una serie di stati discontinui, di combinazioni di impulsi su un numero finito di organi sensori e di controllo.
La percezione che i rapporti personali siano definitivamente digitalizzati è ormai diffusa. La fantascienza recente è spesso tornata sul dilemma della personalizzazione dell'automa che diventa distopia della delega affettiva algoritmica (Her, Ghost in the Shell, Black Mirror, Westworld…).
Un processo di discretizzazione avviene anche nel pensiero scientifico, per quanto riguarda i metodi della ricerca e la sua interpretazione. Nelle fasi storiche della scienza è possibile riscontrare un passaggio dall'utilizzo di metodi qualitativi a metodi via via più quantitativi, numerici, formalizzati.
Pensiamo alla chimica, nata dal sistema esoterico alchemico e formalizzatasi solo nel 1661 con Boyle e Lavoisier sotto forma di formule codificate. Laddove il processo di quantificazione si applica alle scienze umane e sociali, emerge il tentativo di analizzare e modellizzare ogni fenomeno in termini formali, matematici.
“Quo facto, calculemus”. Era il diciassettesimo secolo quando il filosofo e matematico Gottfried Leibniz, ancora giovane, sperava di poter elaborare un modello logico capace di risolvere ogni dibattito in un mero calcolo, che fornisse risposte precise e inconfutabili. Oggi, per i profeti della Silicon Valley e i loro adepti, quel mito è più vivo che mai. Ad alimentarlo sono i proprietari dei dati e delle grandi capacità di calcolo, che si autoproclamano così detentori di verità. Nel giugno 2008 su Wired viene pubblicato The End of Theory, il celebre articolo col quale Chris Anderson proclama l'inizio dell'Era dei Petabyte, nella quale il metodo scientifico è reso obsoleto dall'analisi dei dati, e l'elaborazione di modelli teorici non è quindi più necessaria. Dall'articolo di Anderson, emerge una fiducia cieca verso l'algoritmo e la correlazione statistica, non solo in termini di efficienza e velocità ma di decisionalità, delegando alla macchina capacità di analisi obiettive.
L'algoritmo valuta gli insegnanti, come e quanto investire in Borsa, quando ci ammaleremo e di cosa. Ci dice cosa ci piace, quali libri fanno per noi e che musica ascoltare. In virtù di una pretesa misurabilità di ogni cosa, l'algoritmo si sostituisce al critico, all'esperto e al giudizio.
Una tale visione, senza dubbio, è accompagnata dai sempre più frequenti successi ottenuti nel campo del machine learning nel simulare le capacità intuitive dell'intelletto umano. L'algoritmo apprende, elabora, dando vita a una black box capace di fornire valutazioni o risultati senza che il programmatore sia a conoscenza dei specifici criteri che agiscono nel risultato finale. Per riuscire a far compiere ad una macchina ragionamenti “intuitivi”, abbiamo costruito macchine capaci di affidarsi a valutazioni probabilistiche, più che deterministiche, lasciandogli, in un certo senso, la possibilità di sbagliare (cosa che, ad esempio, non è concessa a un algoritmo dedicato al riconoscimento di una password).
Ma soprattutto, la fase di apprendimento di un metodo intuitivo è un processo in cui la macchina si appropria anche di bias, distorsioni ed errori eventualmente presenti nel dataset di partenza. Ce lo ricorda il celebre caso di Tay, il Twitter-bot di Microsoft ritirato perché antisemita, o il software affetto da pregiudizi sessisti dopo aver imparato a scrivere da Google News. Ma sarebbe un errore dedurre da questi casi che gli algoritmi non siano in grado di scrivere tweet o articoli, così come sarebbe superficiale concludere che il giudizio di qualità non è affare delle macchine.
Il vero mito irrealizzabile, semmai, è proprio quello – auspicato o strumentalizzato a seconda delle occasioni – di una oggettivazione del giudizio, della neutralizzazione (nel senso di “divenire neutrale”) della valutazione. La delega algoritmica si avvale di una retorica scientista, che tende a eclissare i processi di rappresentazione e le scelte che avvengono nella costruzione dei modelli. Al pari di un essere umano, la cui capacità di analisi e valutazione non può essere oggettiva essendo influenzata dalle sue esperienze e dalla sua cultura, così l'algoritmo di machine learning si sviluppa apprendendo. Vi sono quindi certamente da considerare le implicazioni politiche di questa dinamica, ovvero di come spesso un dataset possa essere costruito ignorando le minoranze culturali e le diversità, rischiando così di dare origine a una macchina con opinioni e gusti aderenti all'interpretazione dominante e allo stesso tempo forte di una retorica oggettiva. Oltre ai casi già citati di Tai e Google, esistono tanti esempi di algoritmi fortemente condizionati da pregiudizi. «Gli algoritmi di deep learning sono intelligenti tanto quanto chi li programma».
Compas è un software prodotto dalla Northpointe, il cui algoritmo è coperto da brevetto, utilizzato da molti tribunali americani per valutare la probabilità che un imputato commetta un crimine in futuro. Nel 2016 ProPublica ha diffuso un'inchiesta nella quale accusano il software di essere soggetto a distorsioni razziali.
Dopo aver analizzato oltre 7.000 imputati della Broward Country, in Florida, si è riscontrato che «solo circa il 20% di queste persone ha commesso un crimine dopo che l'algoritmo l'aveva previsto». Inoltre, dal report si legge che l'algoritmo falsifica in misura doppia i risultati degli imputati di colore rispetto a quelli bianchi. Di Compas (acronimo di correctional offender management profiling for alternative sanctions) si è tornato a parlare recentemente, dopo la pubblicazione di un altro studio, su Science Advances, nel quale i ricercatori del Dartmouth college Julia Dressel e Hany Farid hanno dimostrato che Compas non è più affidabile di un gruppo di volontari scelti a caso. Non è possibile sapere con esattezza il metodo di funzionamento e apprendimento del software in questione, ma come in altri casi simili è evidente che il problema deriva dalla particolarità dell'intelligenza artificiale di riprodurre bias e distorsioni presenti nei dati originali. Un problema simile sorge anche in contesti diversi da quello del machine learning, proprio perché rappresenta una criticità sempre presente nella statistica applicata.
Nella sua tesi di dottorato, Lucía Ciccia confuta la tesi, supportata da numerose pubblicazioni di neuroscienza, secondo cui esisterebbero differenze nel cervello tra uomini e donne. Oltre al fatto che spesso questi studi si basano su piccoli campioni statistici, studi del genere tendono a ignorare che i soggetti presi in esame provengono da contesti sociali connotati da culture sessiste e patriarcali. Le differenze tra uomo e donna, laddove presenti, sarebbero allora da considerare frutto della diversa educazione e della cultura che si ripercuote nella morfologia di un organo (il cervello) che si distingue per la sua plasticità e capacità di adattamento. Confondere semplicisticamente correlazione con causalità può portare a conclusioni fuorvianti, oltre che validare, e quindi riprodurre, pregiudizi già esistenti. Allo stesso tempo quindi, anche la fantomatica morte delle teorie scientifiche a favore dell'era dei petabyte o la promessa di algoritmi che riconoscono fake news in modo insindacabile, sono da ripensare in favore di un'analisi che rimetta sempre al centro la non neutralità della scienza e i rapporti di forza che agiscono in essa.
Da anni, il dibattito politico sulla tecnologia, e in particolare sulla rete, è incagliato in un discorso dualistico tra apocalittici e integrati. Lo scorrere unidirezionale e monodimensionale nel tempo ci ha messo di fronte alla difficoltà di distinguere le opportunità offerte dal progresso tecnologico, dalla tecnicizzazione della vita e dall'antropizzazione brutale del nostro pianeta. La tecnologia, quindi la macchina, diventa allora simbolo dell'annientamento dell'essere umano, nemesi della qualità della vita. Scriveva addirittura nel 1991 Antonio Caronia:
Se nel mondo antico la macchina può essere ancora un simbolo dell'unità con la natura, o il prodotto di una ingegnosità fuori dal comune (come gli automi semoventi di Erone Alessandrino), con l'arrivo della civiltà industriale e della modernità quella lacerazione fra uomo e natura è ormai insanabile. [...] Riusciremo mai a sfuggire all'alternativa falsa e paralizzante fra la demonizzazione della macchina e la sua esaltazione acritica?
La dicotomia macchina-natura è centrale se vogliamo capire gli umori e i timori sull'avvento della robotizzazione e della pervasività della tecnologia nella vita. Nel suo celebre Manifesto Cyborg, Donna Haraway parla proprio di “dualismi” quando afferma che questi sono sempre esistiti nella tradizione occidentale, «e sono stati tutti funzionali alle logiche e alle pratiche del dominio sulle donne, sulla gente di colore, sulla natura, sui lavoratori, sugli animali: dal dominio cioè di chiunque fosse costruito come altro col compito di rispecchiare il sé».
Non siamo mai stati umani, siamo sempre stati ibridi cibernetici, siamo sempre stati cyborg. Non vi sarebbe qui lo spazio ed esulerebbe dal tema del testo approfondire il tema del postumano, ma è proprio dalle teorie del femminismo cyborg, dal quale emerge la critica alla natura umana come dispositivo di potere, che può emergere un'intuizione di prassi che sappia rompere con il dualismo sulle tecnologie, ripensando alle potenzialità liberanti che queste offrono, se spogliate dall'apparenza di forze neutrali e considerate invece prodotto sociale.
È partendo dalle posizioni della Haraway che il collettivo internazionale Laboria Cuboniks stende il Manifesto Xenofemminista per rilanciare l'azione tecnopolitica:
Perché lo sforzo esplicito e organizzato per reindirizzare le tecnologie a fini politici progressisti di genere è così carente? XF vuole schierare strategicamente le tecnologie esistenti per riprogettare il mondo. In questi strumenti sono incorporati gravi rischi; essi tendono verso gli squilibri, gli abusi e lo sfruttamento de* deboli. Piuttosto che far finta di non rischiare nulla, XF propone il necessario assemblaggio di interfacce tecno-politiche reattive a questi rischi.
In un interessantissimo, e ancora attuale articolo pubblicato su Giap nel settembre del 2011, i Wu Ming si interrogavano sulla compresenza di pratiche assoggettanti e pratiche liberanti nell'uso della tecnologia, partendo dal caso Apple e dai suicidi nelle fabbriche Foxconn. Anche in quel caso si parlava di tecno-utopie e tecno-pessimismi, di apocalittici e integrati, anche se su temi diversi dal rapporto uomo-macchina. Ma il discorso non cambia. Disinnescare l'aut-aut tra tecnofeticismo e tecnofobia significa «smettere di pensare alla tecnologia come forza autonoma e riconoscendo che è plasmata da rapporti di proprietà e produzione, e indirizzata da relazioni di potere e di classe».
Come esempio viene citata l'eolipila, un prototipo di macchina a vapore concepita nel I secolo a.C. dal matematico greco Erone di Alessandria, che avrebbe potuto anticipare la tecnologia a vapore di diciotto secoli, ma che non trovò alcuna applicazione pratica, in quanto la grande disponibilità di schiavi rendeva superfluo investire su questa tecnologia. Rimettere al centro i rapporti di forza è imprescindibile se si vuole affrontare il reale in tutta la sua complessità.
Se può sembrare che ci siamo discostati dal tema centrale della pubblicazione, il dibattito sui dati non è esule da quanto appena detto. Lo sa bene chi ha avuto modo di studiare o fare ricerca in accademia su temi di data analysis e machine learning, in tempi in cui l'istruzione tende a una neutralizzazione del discorso politico, se non addirittura a un soggiogamento nei confronti del privato. È quasi impossibile, se non in pochi e fortuiti contesti, trovare spazio per la messa in discussione critica delle nuove tecnologie, dove si possa al tempo stesso progettare e fare ricerca in una direzione politicamente ragionata. Al tempo stesso, il data scientist diventa sempre più una figura sponsorizzata dal mercato da una parte e demonizzata dall'altra, da chi mette a critica il ruolo coercitivo delle tecnologie di dominio. È possibile, allora, schierare strategicamente le tecnologie esistenti per riprogettare il mondo? Di certo la soluzione alla questione non la troverete direttamente in queste pagine, anche se l'intento è quello di fornire analisi che portino nella direzione di questa possibilità. La realizzazione stessa del testo che state leggendo, è frutto di una rete di relazioni, di progetti di ricerca collettiva e critica distribuita sia territorialmente che virtualmente, e vuole costituire un esperimento di autoformazione e co-ricerca.
Elaborare piattaforme collaborative e non estrattive, creare strumenti di indagine e inchiesta che svelino i meccanismi, spesso proprietari e oscuri, degli algoritmi che determinano le nostre vite, far emergere contraddizioni utili nel rivendicare il proprio ruolo di sfruttati diffusi rimettendo al centro la questione del reddito, sono strade senz'altro percorribili.
Se in questi tempi è evidente la necessità di elaborare analisi e riflessioni sull'influenza delle nuove tecnologie nella vita quotidiana e nella società, è anche facile accorgersi di come oggi, voler parlare di dati e algoritmi, significa voler parlare praticamente di tutto.
Non è facile, in questo contesto, decidere cosa approfondire e cosa tralasciare in un'eventuale pubblicazione su queste tematiche, considerando il numero massimo di pagine entro le quali è doveroso restare. Oltre a questo, nel tempo di realizzazione di un prodotto editoriale come quello che avete tra le mani il mondo attorno a noi si trasforma con una velocità vertiginosa, tanto da rischiare di rendere obsoleti (o poco attuali) i punti di vista assunti in precedenza. Ci sono testi, scritti in anni passati più o meno lontani, che a ogni rilettura continuano a stupire per la capacità di sopravvivere nella loro attualità per decenni. Penso non solo ad antropologi e sociologi come Bateson o McLuhan, ma anche al già citato Antonio Caronia, così come appunto al mondo cyberpunk che lui stesso analizzava, dai romanzi alle fanzine degli anni '70, o ancora ai testi di alcuni movimenti sociali, che negli anni '90 già indagavano i riflessi delle nuove tecnologie sull'identità, sulle trasformazioni delle forme di lavoro.
Rileggendo questi testi, e tanti altri che condividono gli stessi pregi, emerge la potenza del processo di astrazione, nel senso di passaggio del discorso a un livello di generalizzazione superiore, che rende possibile la descrizione di più casi singoli contemporaneamente, e consente l'analisi di processi emergenti che, se presi nei vari contesti specifici in cui si riscontrano, potrebbero sembrare poco determinanti, ma la cui influenza nel tempo risulta preponderante, in forme e modi che in una prima fase non è possibile prevedere con precisione. Sempre partendo da esempi come i testi citati sopra, è evidente il ruolo dell'interdisciplinarietà e del confronto tra forme diverse del sapere, nell'elaborazione di un punto di vista comune, dove resta forte la volontà di critica sociale.
Non si può quindi di certo dire che viviamo tempi brillanti da questo punto di vista, considerando l'elogio dell'individualismo competitivo che dilaga negli ambienti accademici, accompagnato da una rincorsa alla specializzazione, che qualcuno ha brillantemente definito “il sapere tutto di niente”. A questo si aggiunge la diffusa pretesa di apprendere e insegnare un sapere neutrale, oggettivo, e privo di analisi sui fattori sociali che lo determinano, che finisce per estrarre il processo dal contesto, perdendo il senso dato dai rapporti reciproci tra le parti in gioco.
Negli ultimi anni si è fatto uso in vari contesti, anche sociali, del termine black box, un concetto della teoria dei sistemi usato per indicare un modello a “scatola nera” descrivibile solo in termini di output fornito per un determinato input, senza che siano noti i precisi meccanismi di funzionamento interno. Le macchine che oggi determinano le nostre vite, sia burocratiche che tecnologiche, sono spesso macchine complesse e proprietarie, closed-source, che ci restituiscono un'informazione o un servizio senza descriverci gli algoritmi (decisionali, burocratici, matematici) che lo hanno generato. Una complessità, quella della nostra epoca, che rischia di far emergere la figura dell'esperto intoccabile, incontestabile se non da parte dei suoi simili, perché ritenuti degni di prendere parola da parte di enti accademici, al di sopra della possibilità di contraddittorio.
In questo scenario, la scelta di scrivere un saggio su algoritmi e big data, non poteva che andare nella direzione, almeno in volontà, di portare una riflessione multidisciplinare, critica, per certi versi anche narrativa e personale, che provasse a delineare orizzonti di immaginario. Circa un anno prima della pubblicazione, discutendo della realizzazione del progetto, emerse l'idea di un'antologia di più autori e autrici, sembrandoci questa la modalità più consona per aprire un dibattito che fosse stimolante sotto diversi punti di vista. Nei mesi di lavoro mi sono sempre più convinto che questa strada era la più ovvia e adatta nel tentare di descrivere l'overcomplessità di una tecnologia ai limiti della comprensione.
Al momento di dover sbrogliare la matassa della scelta dei temi da trattare, ci siamo confrontati con i dilemmi di cui parlavo a inizio paragrafo. Per i motivi elencati finora, piuttosto che dover compiere una selezione di pochi argomenti, la cui analisi non sarebbe comunque mai potuta dirsi esaustiva per la profondità delle questioni, abbiamo optato per mantenere uno sguardo più ampio, delineando alcune tematiche che potessero fare da traccia ma lasciando ampio margine per mostrare la presenza di simili dinamiche nei più disparati contesti, dall'economia al giornalismo, dalla politica all'arte, dalla ricerca scientifica alla musica.
I contatti maturati negli ultimi mesi e anni, insieme agli ambienti di discussione nati attorno ad alcune riviste online, mi hanno permesso di trovare con relativa facilità persone interessate a inserirsi in questo progetto, e che ringrazio una ad una. È stato interessantissimo, nei mesi di elaborazione di Datacrazia, vedere l'emergere di discorsi comuni da autrici e autori che non si conoscono neppure tra loro (e che alcuni non ho ancora avuto l'occasione di incontrare di persona). Il risultato è una vera e propria playlist di sottotracce, in cui questioni come il mito della neutralità, l'estrazione di lavoro vivo, l'impero delle piattaforme, rispuntano in momenti inaspettati e declinati in maniera di volta in volta leggermente diversa, come melodie e ritornelli che si susseguono in una polifonia. Penso di poter affermare con tranquillità che nessuno dei partecipanti di questa antologia avrebbe potuto descrivere, esclusivamente grazie alle proprie conoscenze personali, tutti i temi qui trattati, rendendo questo progetto ben più che la somma delle parti.
L'indice dei contributi è stato costruito suddividendo la pubblicazione in cinque sezioni. Una prima più introduttiva, per descrivere l'impatto economico e politico delle nuove tecnologie su larga scala, con contributi di Andrea Fumagalli, Giorgio Griziotti, entrambi partecipanti del gruppo di ricerca indipendente Effimera, e Simone Pieranni, che porta un approfondimento sul caso della Cina. La seconda sezione, con i testi di alcuni ricercatori (Emanuele Cozzo, Eleonora Priori, Andrea e Mauro Capocci, Roberto Paura), è dedicata alla ricerca, al dibattito scaturito dall'utilizzo massivo dei big data nelle indagini scientifiche ma anche storiche, con un focus particolare sul mito della fine della teoria profetizzata dai data-entusiasti. Dopo un terzo breve capitolo che fa da parentesi sull'intelligenza artificiale a cura di Andrea Daniele Signorelli e Roberto Pizzato, un quarto, il più lungo, vuole essere un compendio di esempi che diano la percezione della pervasività delle nuove tecnologie nel determinare le azioni quotidiane. Si ragiona sul significato e l'etimologia del dato (Flavio Pintarelli) nell'emergere della cultura algoritmica (Massimo Airoldi, Angelo Paura), per poi parlare di dati nel giornalismo (Leilo Simi), nel mondo della musica on-demand (Corrado Gemini), nell'arte (Tommaso Campagna) e nella produzione di identità e linguaggio (Federico Nejrotti e Daniele Salvini). Una quinta parte, a cura di Alberto Manconi, è composta da una sua introduzione e due testi tradotti dallo spagnolo (rispettivamente di Javier Toret e di Antonio Calleja López, Xabier E. Barandiaran e Arnau Monterde), che propongono strategie tecnopolitiche ispirandosi a progetti sperimentati durante e a seguito delle mobilitazioni del 15M. A chiudere, la traduzione di un breve testo di Donatella della Ratta e Geert Lovink, From Data to Dada. In appendice, un glossario minimo (di parte) della datacrazia.
Nei giorni in cui stiamo portando a conclusione quest'antologia infuria sui giornali la bufera attorno al caso di Facebook e Cambridge Analytica e all'eventuale ruolo di questa azienda nella vittoria di Trump. Al di là di quanto si possa discutere dell'effettiva importanza o anomalia rappresentata dal caso specifico, varrebbe la pena sottolineare come questo “scandalo da prima pagina”, permetta di porre, forse per la prima volta, la lente di ingrandimento sul nuovo modello produttivo del capitalismo delle piattaforme. Una vicenda come questa, con queste tempistiche, è a conferma delle questioni appena: la profondità dei temi di cui stiamo trattando e la loro rapida evoluzione. Non era ovviamente possibile dire tutto quello che c'era da dire. I processi in corso sono tanti e tutti da esplorare, come il divenire delle piattaforme in "organismi sovranazionali diffusi", con le proprie leggi (policy) e le loro misure (sospensioni account, eliminazione), nella difficile articolazione del conflitto tra Silicon Valley e Stato-Nazione. Si potrebbe parlare di più di privacy, di come questa sia ormai interpretata come una difesa di una sfera privata, piuttosto che uno strumento per costituire zone sicure dalle ingerenze repressive dello Stato e del Capitale. Ancora, avremmo potuto spendere più tempo riguardo il mondo delle criptovalute, nel quale si ritrovano le retoriche anarcocapitaliste in declinazione finanziaria… Questioni che, se le condizioni lo permetteranno, abbiamo ancora tutta l'intenzione di affrontare in futuro.
Una cosa è certa: quello che abbiamo davanti è uno scenario sul quale vale la pena prendere parola, senza alcuna pretesa di mettere il punto alle questioni o fornire strategie di uscita, ma provando a rilanciare la discussione, auspicando la costruzione di gruppi di ricerca indipendente, critica, transmediale, capaci di sovvertire l’onnipresente realismo capitalista.
Il futuro sembra oscillare, nel campo delle possibilità, tra l'utopia e la distopia senza continuità, senza forme intermedie. Allo stesso tempo, sono evidenti le capacità della tecnologia nel poter migliorare sensibilmente le nostre vite, che restano comunque confinate in un limbo di precarietà, mentre attorno a noi tutto sembra cambiare e nulla cambia. Una ricerca scientifica e culturale, se vuole avere un senso, deve riconoscere il ruolo dell'immaginario nella produzione di discorso e di prassi, deve mettersi in gioco nell'invenzione di un futuro possibile che sia all'altezza delle aspettative umane e della ricerca della felicità all'interno di un mondo complesso, com-plexus, composto da tante parti.
[testo pubblicato in Datacrazia. Politica, cultura algoritmica e conflitti al tempo dei big data, a cura di Daniele Gambetta. Roma: D Editore, 2018]
