Si parla sempre di intelligenza artificiale: una definizione che potrebbe far pensare a macchine dotate di vera conoscenza, in grado di ragionare e consapevoli di ciò che stanno facendo. Le cose, invece, sono molto diverse: il fatto che un software impari a riconoscere se in una foto sono presenti dei gatti, non significa che sappia che cosa sia un gatto; allo stesso modo, il computer che ha battuto Lee Sedol, il maestro di Go, non aveva la più pallida idea di che cosa stesse facendo (e lo stesso vale per lo storico esempio riguardante le partite a scacchi tra Deep Blue di IBM e Gary Kasparov).
Questi software, insomma, non sono in grado di pensare; sono semplicemente capaci di processare una quantità tale di dati da riuscire a metterli in relazione tra loro, identificando collegamenti e differenze in un paniere di dati o calcolando statisticamente, per esempio, quale mossa di un determinato gioco ha la maggior probabilità di avere successo.
Ma allora, come impara un’intelligenza artificiale? I metodi utilizzati per ottenere questi risultati sono principalmente due: il machine learning (apprendimento automatico) e la sua più recente evoluzione, il deep learning (apprendimento approfondito), un sistema dalle enormi potenzialità che si basa sugli stessi princìpi ma che, a differenza del machine learning, lavora su un vastissimo numero di strati interni alle “reti neurali” che simulano il funzionamento del cervello, organizzando l'analisi dei dati su diversi livelli e raggiungendo così una maggiore capacità di astrazione.
Le origini di questa branca dell'intelligenza artificiale risalgono agli anni '50 e al lavoro di pionieri (spesso rivali tra loro) come Marvin Minsky, Warren McCulloch, Frank Rosenblatt e Arthur Samuel (quest'ultimo ha coniato un’importante definizione di machine learning: "una branca dell'intelligenza artificiale che fornisce ai computer l'abilità di apprendere senza essere stati esplicitamente programmati"). Per decenni, però, il fatto che questa tecnica – considerata “evoluzionista”, perché consente alle macchine di imparare come facciamo noi, attraverso tentativi ed errori – non consentisse di raggiungere una vera e propria intelligenza artificiale, ma solo una sorta di calcolo statistico estremamente evoluto, le ha impedito di ottenere grande popolarità nel mondo accademico.
La maggior parte degli scienziati concentrava infatti la ricerca sulla IA cosiddetta “simbolica”, che prevede che le macchine vengano indottrinate con tutte le regole necessarie per portare a termine un compito. Per tradurre dall'italiano all'inglese, per esempio, sarebbe stato necessario fornire al computer tutte le regole grammaticali e i vocaboli delle due lingue, per poi chiedergli di convertire una frase da una lingua all'altra.
Il modello simbolico è un sistema che ha portato a qualche successo, ma ha grossi limiti: prima di tutto, richiede agli esseri umani un lavoro enorme; inoltre, funziona solo in quei campi che hanno regole molto chiare: la matematica o gli scacchi. Nella traduzione – con tutte le sue sfumature, eccezioni e importanza del contesto – non raggiunge livelli nemmeno lontanamente accettabili. Ma proprio il fatto che questa tecnica eccellesse in settori nei quali è richiesta parecchia intelligenza, come la matematica e gli scacchi, veniva considerato un segnale molto promettente da parte dei sostenitori della IA simbolica.
L'atteggiamento generale ha iniziato a cambiare solo negli anni '90, quando è diventato evidente come il machine learning consentisse di risolvere parecchi problemi di natura pratica, che la IA simbolica non sarebbe mai stata in grado di affrontare. Il salto di qualità che l'ha infine imposto come strada maestra nel mondo della IA è avvenuto più recentemente, grazie alla crescente potenza di calcolo dei computer e a una mole senza precedenti di dati a disposizione, che ne hanno aumentato esponenzialmente le potenzialità .
Alla base del machine learning, c'è l'utilizzo di algoritmi che analizzano enormi quantità di dati, imparano da essi e poi traggono delle conclusioni o fanno delle previsioni. Per questo, nella definizione di Arthur Samuel, si parla di "abilità di apprendere senza essere stati esplicitamente programmati": a differenza dei software tradizionali, che si basano su un codice scritto che spiega loro passo dopo passo cosa devono fare, nel caso del machine learning la macchina scopre da sola come portare a termine l'obiettivo che le è stato dato.
Un software che deve imparare a riconoscere un numero scritto a mano, per esempio il 5, viene quindi sottoposto a centinaia di migliaia di immagini di numeri scritti a mano, in cui è segnalato solo se sono dei 5, oppure non lo sono. A furia di analizzare numeri che sono o non sono dei 5, la macchina impara a un certo punto a riconoscerli, fornendo una percentuale di risposte corrette estremamente elevata. Da qui a essere davvero intelligenti, ovviamente, ce ne passa: basti pensare che, per imparare a riconoscere un certo numero, un'intelligenza artificiale deve essere sottoposta a migliaia e migliaia di esempi; a un bambino di quattro anni basta vederne cinque o sei.
Lo stesso metodo probabilistico è alla base di una quantità di operazioni che quotidianamente ci semplificano la vita: il machine learning viene impiegato dai filtri anti-spam per eliminare la posta indesiderata prima ancora che arrivi nelle nostre caselle, per consentire a Siri di capire (più o meno) che cosa le stiamo dicendo e a Facebook per indovinare quali tra i nostri amici sono presenti nelle foto; permette ad Amazon e Netflix di suggerirci quali libri o film potrebbero piacerci, a Spotify di classificare correttamente le canzoni in base al loro genere musicale. Già oggi, insomma, utilizziamo quotidianamente l'intelligenza artificiale, spesso senza nemmeno rendercene conto.
Ma le applicazioni del machine learning diventano sempre più importanti e ambiziose: l'esempio che ha fatto più parlare è quello delle auto autonome, che promettono di ridurre drasticamente gli incidenti, ma anche il mondo del lavoro sarà investito da queste macchine intelligenti: il primo robot avvocato, in grado di fornire risposte scartabellando nei database legali di tutto il mondo, è già una realtà ; così come lo è Watson, l'intelligenza artificiale di IBM che, tra le altre cose, diagnostica i tumori con precisione maggiore dei medici umani.
Per le intelligenze artificiali, quindi, i fattori fondamentali sono due: il potere di calcolo e i dati. Ma sono i dati l'elemento imprescindibile, essendo la materia grezza dalla quale il network neurale trae le sue conclusioni o predizioni. Se questi dati non sono di buona qualità, il risultato non potrà che essere pessimo. Come dicono gli americani: "Se inserisci spazzatura, esce spazzatura".
Il problema è che spesso i dati forniti alle IA includono non pochi pregiudizi umani, che si rifletteranno inevitabilmente sui risultati ottenuti dalle macchine. Un esempio classico è quello del bot progettato da Microsoft: Tay. Messo all'opera su Twitter, ha iniziato a immagazzinare dati grazie alle interazioni con gli utenti del social network. Come prevedibile, si sono scatenati i troll, che hanno iniziato a comunicare con Tay dandole in pasto una miriade di opinioni razziste, omofobe e quant'altro. Risultato? Nel giro di 24 ore, Tay è diventata la prima intelligenza artificiale nazista della storia. Prima di venir chiusa da Microsoft, è riuscita a twittare "Hitler was right I hate the jews" .
Lasciando perdere i troll, gli scienziati informatici che si occupano di trovare i dati da dare in pasto alle macchine sono spesso alle prese con problemi più banali, che impediscono però di fornire materiale di qualità alle IA. Uno di questi problemi, per quanto possa sembrare strano, sono le leggi sul copyright: "Queste norme giocano un ruolo centrale nelle distorsioni delle IA, perché incoraggiano i loro programmatori a usare training set facilmente accessibili, a basso rischio dal punto di vista legale; anche quando questi set sono evidentemente distorti", ha spiegato a Motherboard Amanda Levendowski, docente di Legge e Tecnologia alla New York University .
Due esempi possono chiarire il quadro: una fonte spesso utilizzata per istruire i network neurali sono le migliaia di mail che si sono scambiati i dipendenti della Enron; divenute pubbliche quando il colosso petrolifero si è trovato al centro di un enorme scandalo, qualche anno fa. Queste email sono diventate una sorta di tesoro per gli scienziati informatici; anche per la facilità con cui le macchine possono leggerle. Sembrerebbe la soluzione perfetta, peccato che si tratti di centinaia di migliaia di mail scritte da dipendenti di una compagnia petrolifera texana indagata per truffa. Difficile immaginare che siano prive di distorsioni.
Ovviamente, si possono usare dati provenienti da opere che non sono più soggette alle leggi sul copyright. Per esempio, Il Grande Gatsby, o magari i drammi di Shakespeare. Ma anche in questo caso c'è un problema non da poco: "La maggior parte delle opere oggi di dominio pubblico sono state pubblicate negli anni '20, quando il canone letterario era decisamente più bianco, più ricco e più occidentale", spiega sempre Levendowski. "Un dataset che faccia affidamento solo su questi lavori non farebbe altro che riflettere i pregiudizi del tempo; e lo stesso farà il sistema di intelligenza artificiale allenato usando questi dataset".
Si tratta di un problema enorme, che dovrebbe farci porre parecchie domande quando si sente parlare di IA in grado di riconoscere i criminali . Se, per qualunque ragione, negli Stati Uniti c'è una percentuale superiore di crimini compiuti da afroamericani e messicani – o, in Italia, da parte di immigrati – i dati sui crimini forniti alla IA non faranno altro che creare in lei un pregiudizio sulle “caratteristiche” del criminale. Di conseguenza, tenderà inevitabilmente a considerare certe etnie come “naturalmente” più predisposte a diventare criminali.
Il problema diventa ancora più urgente se si pensa ai sempre più diffusi algoritmi che governano software come PredPol – utilizzati nelle principali città di tutto il mondo, da New York fino a Milano – e che sono alla base della “polizia predittiva “. Sistemi informatici in grado di prevedere dove un crimine sarà compiuto, a che ora e in quale situazione . La previsione, ovviamente, non è certa; si tratta di calcoli probabilistici – gli stessi utilizzati dalla sismologia e dall'epidemiologia – che danno i loro risultati in base a un enorme numero di dati immagazzinati all'interno del software: dove un crimine è stato commesso, quando, di che tipo e altre variabili ancora. Il tutto allo scopo di prevenire il ripetersi di furti o aggressioni, basandosi su un semplice assunto: se in una zona sono avvenuti numerosi crimini di un determinato tipo, è altamente probabile che avverranno di nuovo.
Detto questo, la polizia predittiva è efficace? Uno studio dell'Università della California sembrerebbe dare risposta positiva, segnalando come nelle città in cui PredPol viene utilizzato (Los Angeles, Atlanta, Seattle, per dirne alcune) i crimini si siano ridotti in media del 7,4%, con punte del 30%6. Il problema è che questo studio è stato condotto, tra gli altri, dai due fondatori di PredPol, e i risultati riportati sono stati seriamente messi in dubbio in uno studio condotto dall'Università di Grenoble.
Le perplessità, però, non riguardano solo i risultati effettivi, ma anche il modo in cui i dati vengono raccolti e utilizzati. Una prima problematica fondamentale viene efficacemente sintetizzata da Matt Stroud:
Se un gran numero di crimini viene denunciato in un luogo specifico, non significa necessariamente che lì stiano avvenendo più crimini che altrove. Potrebbe significare che la polizia tende a stazionare nelle vicinanze (rendendo più probabile la denuncia del crimine avvenuto, NdR), che la pattuglia ha deciso di concentrarsi per un certo lasso di tempo in quell'area, che gli abitanti di quel quartiere tendono a denunciare i crimini più facilmente di quanto avvenga altrove. Ma i software predittivi non hanno modo di conoscere tutto ciò, e quindi possono causare una profezia che si autoavvera .
Il meccanismo è evidente: se la polizia già tiene d'occhio una certa zona, avrà modo di intervenire più frequentemente che altrove. L'algoritmo apprenderà che in quella zona ci sono stati numerosi crimini, e continuerà a segnalarla come “zona pericolosa”, dando vita a un circolo vizioso in cui, paradossalmente, più la polizia interviene, più la zona viene segnalata come “a rischio”. Allo stesso tempo, una zona che la polizia controlla poco e in cui furti e scippi vengono di rado denunciati potrebbe rimanere ignota all'algoritmo.
Il rischio, quindi, è che la polizia prenda di mira determinati quartieri – spesso quelli abitati da minoranze etniche e immigrati – eccedendo nei controlli e nelle perquisizioni con il pericolo di alzare il livello di tensione. Gli algoritmi – difesi dall'aura di scientificità – potrebbero insomma diventare una giustificazione per la più classica profilazione razziale, o stimolare la polizia a fermare e controllare un soggetto per il solo fatto che cammina per una zona indicata come hotspot.
Ogni sistema di questo tipo, quindi, è efficace solo se i dati inseriti sono corretti e privi di bias. Il ché, come abbiamo visto, spesso non avviene. Per questa ragione si deve fare estrema attenzione ogni volta che si parla, per esempio, di IA che eliminano le fake news; esse potrebbero dare un credito sproporzionato a testate tradizionali (che spesso e volentieri le sparano grosse) e annientare invece pagine di controcultura che godono di minor credito e offrono magari opinioni atipiche.
Ma questi sono problemi da niente rispetto a quelli che potremmo dover affrontare in futuro; soprattutto considerando come le IA si trovino al centro della terza rivoluzione militare: quella che porterà le armi autonome a diventare la normalità. Uno degli esempi più lampanti di queste innovazioni è il drone autonomo, soprannominato Bender e sviluppato dalla statunitense DARPA (Defense Advanced Research Project Agency), capace di scovare e identificare i nemici armati anche quando si nascondono, di distinguerli da civili o fotografi (una situazione che, in passato, ha confuso gli operatori umani con tragiche conseguenze ), di pedinare i veicoli nemici e di trasmettere solo le informazioni rilevanti. Già nel 2018, invece, potremmo vedere all'opera il ben più inquietante Long Range Anti-Ship Missile della Lockheed Martin, in grado – secondo quanto scrive l'accademico Mark Gubrud su Spectrum, rivista specializzata dell'Institute of Electrical and Electronic Engineers – "di inseguire gli obiettivi, facendo affidamento solo sul suo software per distinguere le navi nemiche da quelle civili e di operare in maniera completamente autonoma, anche attaccando con forza letale". L'importante, ciò che ha permesso di classificare quest'arma come “semi-autonoma”, è che il bersaglio sia stato selezionato da un operatore umano.
Ma non sono certo solo gli Stati Uniti (che nel 2017 investiranno 18 miliardi di dollari nelle nuove tecnologie belliche) che stanno sviluppando armi di questo tipo: la Russia sta lavorando al suo sistema missilistico dotato di intelligenza artificiale; Israele ha messo a punto IAI Harpy, il drone armato in grado di riconoscere da solo i radar nemici e distruggerli; mentre il SGR-A1 di Samsung è un vero e proprio robot stazionario dotato di mitragliatrice, utilizzato dalla Corea del Sud nei 4 chilometri di zona demilitarizzata che la divide dalla Corea del Nord. Inizialmente pensato per fare fuoco autonomamente sui potenziali nemici, è stato modificato in seguito alle polemiche sorte in seno alla società coreana: oggi deve attendere un comando umano prima di sparare. Per quanto riguarda la Cina, è notizia recente il varo del Scientific Research Steering Committee, l'equivalente della DARPA, nel quale si riverserà una parte sempre più consistente dei circa 200 miliardi di dollari spesi dalla Cina nel settore bellico (seconda al mondo, dopo gli Stati Uniti). Si potrebbe andare avanti ancora a lungo, ma il concetto è chiaro: tutte le superpotenze militari stanno sviluppando robot, droni o missili autonomi in grado di operare senza la necessità del controllo umano.
Giunti a questo punto, quanto manca prima che siano i software di intelligenza artificiale a prendere da soli le decisioni, compresa quella di fare fuoco? Tutte le dottrine militari, per il momento, prevedono l'intervento umano nelle decisioni di offesa. Per cui non è davvero il caso di immaginare schiere di robot armati che combattono guerre in totale autonomia, mentre i generali osservano dai loro quartieri generali.
L'obbligo dell'intervento umano nelle decisioni di offesa è fortunatamente stabilito anche da chi, più di chiunque altro, sta esplorando questa nuova frontiera del warfare. Gli Stati Uniti, a maggio, hanno reso permanente la norma del 2012, che prevede che ci sia sempre un essere umano coinvolto nel processo decisionale che porti all'uso della forza letale; mentre l'opposizione del Regno Unito alla richiesta di mettere al bando le armi autonome è stata motivata spiegando che "le leggi umanitarie internazionali regolano a sufficienza la materia" e che "tutte le armi dell'esercito britannico saranno sempre sotto il controllo e la supervisione umana".
Ma come si fa ad avere la certezza che, prima o poi, qualcuno non decida di abbandonare gli scrupoli e affidi a una IA tutte le decisioni? La storia insegna che, di solito, il primo che trasgredisce scatena un effetto domino che trascina tutti gli altri. E se anche fosse vero che un software sia in grado di prendere decisioni in maniera più lucida e razionale di soldati sottoposti a difficilissime condizioni psico-fisiche, è anche vero che si aprirebbero questioni etiche alle quali è difficilissimo dare risposta: lasceremo che siano i computer a decidere quale sia uno scambio ragionevole tra progressi militari e vittime civili? E chi sarà il responsabile in caso di un malfunzionamento o di un errore che causi una strage?
Immaginate questo scenario: con l'obiettivo di risparmiare le vite dei soldati e di agire con la massima precisione e rapidità, una nazione decide per prima di dispiegare le sue armi autonome e lasciare che siano queste a valutare se e quando fare fuoco contro i nemici. Nel momento in cui droni, carrarmati e robot arrivano sul luogo, però, qualcosa va storto e uno di loro uccide per sbaglio un elevato numero di civili.
Quando “danni collaterali” di questa entità sono causati da umani, sono i soldati stessi a dover rispondere delle loro azioni; ma come si possono stabilire le colpe quando c'è di mezzo un'arma autonoma, alla quale non può venire attribuita intenzionalità o superficialità? Un software, per definizione, non può compiere azioni immorali: esegue solo ciò che l'algoritmo gli detta. E quindi: di chi è la responsabilità se un software va in tilt e causa la morte di innocenti?
Se, per quanto riguarda le armi autonome, si può sperare che questo problema non si ponga mai (se continueremo ad avere un umano a prendere le decisioni), c'è però un settore in cui già oggi bisogna essere in grado di dare risposte nette: le auto autonome, che sono già sul mercato, entro il 2022 dovrebbero essere in grado di guidare davvero da sole praticamente in ogni situazione.
Le vetture guidate da software intelligenti promettono di salvare un enorme numero di vite, riducendo drasticamente gli incidenti ed esentando l'uomo da un'incombenza – guidare l'auto – per la quale evidentemente è meno portato delle IA. Ciononostante, questa nuova tecnologia pone alcune delle questioni più urgenti, tra cui l'ormai celebre versione del “dilemma del carrello”. Sintetizzando al massimo: se l'auto autonoma si dovesse trovare di fronte a un imprevisto, come potrebbe decidere se investire la persona che gli si è parata davanti all'improvviso, oppure se sterzare di colpo, con il rischio di causare involontariamente un danno ancora più grave, magari travolgendo un gruppo di persone?
"Personalmente, penso che questa discussione sia una distrazione inutile", mi ha spiegato il filosofo della Tecnologia di Oxford Luciano Floridi, intervistato per Le Macchine Volanti.
“È un problema che è già stato risolto da Tommaso D'Aquino nel XIII secolo e che in epoca contemporanea è stato sollevato dalla filosofa Philippa Foot per ragioni molto serie. La questione è semplice: se la prima scelta è giusta (nel caso di un'auto autonoma, sterzare per non investire una persona), ma questa finisce per avere un esito negativo, significa che è avvenuto qualcosa di tragico che non si poteva prevedere o evitare. Accartocciarsi su mille discorsi, variabili e quant'altro può essere un divertente esercizio intellettuale, ma non ha ricadute pratiche; almeno se vogliamo affrontare questioni serie” .
E le questioni serie ci sono, eccome:
“Ciò che dobbiamo capire è come evitare di trovarci in una situazione in cui le alternative sono una peggio dell'altra e, nel caso in cui avvenga un guaio, come allocare la responsabilità”, spiega Floridi. Nel caso delle self driving cars, per esempio, potrebbe essere utile decidere di non sviluppare mai le auto autonome di livello 5 (ammesso che sia possibile): quelle senza freni, senza volante, in cui l'uomo è solo un ospite.
“Come detto, il controllo ultimo deve sempre restare nelle mani dell'uomo, che deve in qualunque momento poter schiacciare un bottone che spegne tutto e che, più in generale, deve decidere che cosa si vuole sviluppare e che cosa è invece meglio lasciar perdere. Quel che conta di più è che si salverebbero un sacco di vite, perché oggi ad ammazzare gli esseri umani siamo noi stessi quando ci mettiamo al volante. Quindi, dobbiamo decidere: vogliamo salvare mille vite o ne vogliamo salvare diecimila? Se vogliamo salvarne diecimila allora ci affideremo alle auto autonome, sapendo che qualcuno si dovrà assumere la responsabilità del fatto che mille persone moriranno lo stesso; perché quando si parla di scelte etiche non si vince mai 1 a 0, semmai si vince 2 a 1”.
Una visione realistica e abbastanza fuori dagli schemi – considerando quanto anche i colossi dell'automobilismo si stiano arrovellando su dilemmi e incognite – ma che sta facendo presa, vista la chiarezza dalle linee guida etiche per le auto autonome elaborate in Germania dal ministero dei Trasporti. Delle linee guida – le prime al mondo che regolano questo settore – affermano che la priorità vada sempre data alle vite umane, rispetto ad animali e oggetti, e che l'uomo debba sempre avere il potere di sottrarre il comando alla macchina. Tutto molto semplice; forse troppo semplice? Nel report è spiegato chiaramente perché si sia giunti a una visione così in bianco e nero: decidere ogni volta se salvare una vita piuttosto che un'altra – come richiesto dalla versione self driving del dilemma del carrello – non è possibile, perché è una valutazione che dipende da situazioni molto specifiche, che sono influenzate anche da comportamenti imprevedibili e che, di conseguenza, non possono essere chiaramente standardizzate o programmate. "Era la strada giusta da seguire: queste linee guida sono serie e ragionevoli" conferma Floridi.
È anche bello che questo documento arrivi dalla Germania, che è una delle grandi produttrici di auto, e quindi dall'Europa. Permettimi di dire che si tratta in effetti di un documento molto kantiano e poco utilitarista, che potrebbe dare la spinta giusta a molti altri settori dell'automazione e dell'intelligenza artificiale.
Risolto il problema del carrello, rimane però sul piatto un'altra enorme questione: quella della responsabilità in caso di incidenti, ma anche in caso di diagnosi sbagliate o di documenti legali analizzati erroneamente da software che sono messi al lavoro in ambiti sempre più delicati. Di chi è la colpa, insomma, se un algoritmo, sbagliando, diagnostica una cura errata o manda in galera un innocente? Del software, del proprietario o dell'azienda produttrice?
Bisogna partire dal concetto di responsabilità oggettiva, già oggi usato per prodotti di uso comune, che prevede che in caso di malfunzionamento serio sia il costruttore a dover dimostrare la sua innocenza. Penso che nel caso delle IA la direzione da prendere sia questa: non sta a me dimostrare che sia tu il responsabile, ma a te dimostrare la tua innocenza.
spiega Floridi.
Una seconda analogia risale addirittura al diritto romano e riguarda il rapporto tra padrone e schiavo nell'antica Roma: nonostante lo schiavo sia ovviamente più intelligente di qualsiasi robot noi potremo mai costruire, quando questi commetteva un crimine la responsabilità legale ed economica ricadeva sul proprietario. I romani sapevano benissimo che se avessero scaricato tutte le colpe sugli schiavi, questi sarebbero stati completamente deresponsabilizzati; in questo modo, invece, ci si assicurava che il padrone stesse attento e tenesse la situazione sotto controllo. Il che, ovviamente, non impediva che lo schiavo finisse crocifisso.
Quindi: le aziende produttrici avranno sempre il compito di dimostrare la loro estraneità da qualunque pasticcio causato da un robot; così come il proprietario non potrà essere sollevato dalle sue responsabilità. L'unica cosa certa è che la colpa non potrà mai venir cercata nel robot o nel software stesso: "Per questo la decisione del Parlamento Europeo di iniziare a parlare dei robot più sofisticati come di "persone elettroniche" rischia di essere un errore, perché potrebbe prefigurare anche una loro eventuale responsabilità", spiega sempre il docente di Oxford. "Quel che invece è certo, è che tutti gli altri attori in gioco tenderanno a scaricare le responsabilità sugli altri; da un punto di vista legale, ne vedremo delle belle".
Un ultimo ostacolo, quando si affidano compiti delicati alle macchine, è la difficoltà nel capire cosa sia successo quando qualcosa non va per il verso giusto: può essere il caso di una diagnosi robotica sbagliata o di un errore fatale nella guida automatica di una self driving car. Come si fa a capire che cosa ha causato l'errore di un'intelligenza artificiale, che prende le sue decisioni in base a calcoli complicatissimi e per noi quasi impossibili da decifrare? Un problema, noto come black box, che potrebbe suggerire di usare molta cautela nel delegare alcuni delicati compiti alle IA: "Ma pensare di ritornare sui nostri passi è impossibile, ormai quella sponda l'abbiamo abbandonata. Quel che possiamo fare è invece sfruttare la capacità delle tecnologie digitali di lavorare con sé stesse, di automigliorarsi e autoripararsi", prosegue Floridi. "Forse dovremmo iniziare a pensare a sistemi complessi che controllano altri sistemi complessi".
Messa così, sembra quasi che l'uomo debba abbandonare completamente la guida della nave, lasciando che siano le intelligenze artificiali a controllare altre intelligenze artificiali. Considerando i vari timori suscitati dagli scenari da “rivolta dei robot” che periodicamente riemergono, è facile immaginare che una visione di questo tipo possa incontrare numerosi oppositori. "Il problema, in verità, è che al momento siamo fermi a metà strada: non ci troviamo né dalla parte della responsabilità individuale, né in quella della co-responsabilità tecnologicizzata. Se abbracciassimo questa seconda via, scopriremmo che la supervisione delle macchine è la via migliore per costruire un sistema efficace", spiega sempre il filosofo di Oxford.
L'importante è che l'ultimo controllo rimanga sempre nelle mani dell'individuo, o meglio: della società. In questo modo, se le cose non stanno andando nella direzione giusta, si può sempre decidere di cambiarla. Il genio umano sta in questo, nella capacità di scegliere la direzione e la strategia. Possiamo invece tranquillamente lasciare che siano le nuove tecnologie a scegliere come e a quale velocità.
[testo pubblicato in Datacrazia. Politica, cultura algoritmica e conflitti al tempo dei big data, a cura di Daniele Gambetta. Roma: D Editore, 2018]
