Scegliere le scelte
Un robo-ratto è un topo comune con una marcia in più: nelle aree cerebrali che controllano i sensi e il sistema della ricompensa gli sono stati impiantati degli elettrodi. Questo consente ai ricercatori di pilotare l’animale a distanza tramite un telecomando. Dopo brevi sessioni di training, gli scienziati sono riusciti non soltanto a far girare i ratti a destra o a sinistra, ma anche a far salire loro le scale, annusare cumuli di spazzatura e fare cose che normalmente i ratti non amano, come saltare da altezze estreme. Eserciti e grandi aziende stanno manifestando un forte interesse per i robo-ratti, nella speranza che si dimostrino utili per molte situazioni e attività. I robo-ratti, per esempio, potrebbero facilitare il ritrovamento di superstiti sotto le macerie di un edificio crollato, aiutare a localizzare bombe e mine antiuomo, mappare tunnel e grotte sotterranee.
Gli animalisti hanno espresso preoccupazione per le sofferenze che questi esperimenti infliggerebbero ai ratti. Il professor Sanjiv Talwar della State University di New York, uno dei principali ricercatori sui robo-ratti, ha respinto le critiche, sostenendo che in realtà ai topi piacciono gli esperimenti. Dopotutto, spiega Talwar, essi “lavorano per piacere” e quando gli elettrodi stimolano i centri della ricompensa nel loro cervello “i ratti accedono al Nirvana”. [1]
Per quanto ne sappiamo, il ratto non percepisce di essere controllato da qualcun altro, né di essere costretto a fare qualcosa contro la sua volontà. Quando il professor Talwar preme il telecomando, il ratto vuole spostarsi a sinistra, ed è per questo che si sposta a sinistra. Quando il professore preme un altro pulsante, il ratto vuole salire la scala, ed è per questo che sale la scala. In fondo i desideri del ratto non sono altro che uno schema di trasmissione tra neuroni. Che cosa importa se i neuroni si sono attivati perché stimolati da altri neuroni o da elettrodi impiantati nel cervello del topo e collegati al telecomando del professor Talwar? Se chiedeste al ratto potrebbe benissimo rispondervi: “Certo che sono dotato di libero arbitrio! Guarda, voglio girare a sinistra e giro a sinistra. Voglio salire la scala e salgo la scala. Questo non dimostra forse che possiedo il libero arbitrio?
Esperimenti condotti su Homo sapiens indicano che, come i topi, anche gli uomini possono essere manipolati, e che stimolando le giuste aree del cervello è possibile generare o sopprimere anche emozioni complesse come l’amore, la rabbia, la paura e la depressione.” [2][3][4]
Più che spaventoso o impressionante, una buona parola per definire la mia reazione a questo esperimento potrebbe essere destabilizzante. Effettivamente mettere in discussione l’idea di libertà che abbiamo significa mettere in discussione in toto la società contemporanea, che in larga parte si fonda su individualismo, diritti umani, democrazia e libero mercato. Che senso avrebbe la democrazia se l’unico significato di libertà fosse quello dell’illusione di prendere decisioni? Su cosa si potrebbe fondare un’elezione se non su chi possiede il telecomando più efficace?
Sembrerebbe che siamo di fronte ad un punto di svolta nella storia del genere umano, dove si sgretolano i pilastri su cui si fonda la nostra società e se ne costruiscono di nuovi. Ma quali sono i nuovi?
Per cercare di comprendere meglio ciò che sta succedendo una buona idea potrebbe essere cercare indizi nelle svolte epocali avvenute in passato, leggendo la storia direttamente dal punto di vista del genere umano. È proprio ciò che fa lo storico Yuval Noah Harari, che nel saggio Homo deus. Breve storia del futuro offre una descrizione dettagliata e coerente di ciò che sta succedendo. Prendendo come soggetto l’umanità, Harari racconta innanzitutto ciò che è successo, a partire dalle tribù di cacciatori-raccoglitori fino al trionfo del liberalismo nel 1989; quindi riflette sul funzionamento della scienza e analizza alcuni esperimenti chiave degli ultimi anni per suggerire infine qualche scenario sui possibili nuovi pilastri e nuovi uomini di domani.
Potrebbe sembrare singolare che un saggio di 700 pagine si intitoli “Breve storia del futuro”; in realtà Harari è del tutto onesto con il lettore, al futuro non dedica che gli ultimissimi capitoli. Per la maggior parte del tempo si parla di passato e presente, di eventi storici ed esperimenti recenti. Harari non ha alcuna risposta su ciò che succederà domani. Piuttosto il suo intento è descrivere accuratamente a che punto siamo oggi nella storia dell’umanità, mettere insieme gli elementi per dipingere un paesaggio completo. E in effetti quando l’affresco è terminato sembrano estremamente chiari i soggetti in campo e la direzione verso cui stanno andando.
Nell’analisi che propone Harari è fondamentale il concetto di religione, che lui definisce come “qualsiasi narrazione globale che conferisce legittimità oltreumana a leggi, norme e valori umani”. E allora Cristianesimo, Induismo, Buddismo, Taoismo, Comunismo, Nazismo e Liberalismo sono tutte narrazioni composte dagli stessi tre ingredienti:
1. Giudizi etici, come “la vita umana è sacra”;
2. Asserzioni fattuali come “la vita umana comincia al momento del concepimento”;
3. Una combinazione di giudizi etici e asserzioni fattuali, che dà come risultato orientamenti pratici, come “non dovresti permettere mai l’aborto, anche soltanto dopo un giorno dal concepimento
Senza asserzioni fattuali una religione è inutile, poiché è incapace di generare orientamenti pratici. I pilastri su cui si fonda ogni società sono dunque proprio le asserzioni fattuali della religione in cui crede, che però a differenza dei giudizi etici sono falsificabili dalla scienza. Se ciò accade cambia l’intera narrazione, che legittimerà nuove leggi e valori.
La prima cosa che balza agli occhi a guardare il paesaggio di oggi è allora lo sgretolamento del libero arbitrio, il pilastro che regge tutte le asserzioni fattuali dell’attuale religione dominante, il Liberalismo. Già adesso molti trovano problematico, o quantomeno un po’ ingenuo, associare ad ogni uomo la proprietà “di scegliere da sé gli scopi del proprio agire e pensare, nel senso che la sua possibilità di scelta ha origine nella persona stessa e non in forze esterne.” (definizione di libero arbitrio di Wikipedia, l’enciclopedia… libera).
I colpi sono inferti dalle ultime scoperte nelle scienze biologiche, che potremmo sintetizzare in una nuova asserzione fattuale: “Gli organismi sono algoritmi.” E in quanto tali possono essere hackerati e ingegnerizzati, proprio come i robo-ratti.
Cosa serve per hackerare un essere umano? Tanta potenza computazionale e un mare di dati, specialmente biometrici.
I progressi nell’intelligenza artificiale e il machine learning sembra possano garantire la necessaria potenza di calcolo, a cominciare dal deep learning. L’avvento delle reti neurali deep ha permesso di venire a capo di problemi computazionali la cui soluzione sembrava lontana decenni [5]; in particolare si sono dimostrate estremamente efficaci a costruire modelli complessi a partire da grandi database.
Sul fronte dati già oggi si sente parlare sempre più spesso di big data, di profilazione, di cronologia delle posizioni, ma ancora nessuno possiede significative quantità di dati su ciò che accade nel corpo e nel cervello delle persone e che è in grado di metterli in relazione con ciò che quelle persone stanno guardando o facendo. La strada tuttavia sembra già imboccata, nell’ultimo anno sono fioccate le collaborazioni fra ospedali e colossi tecnologici per l’acquisizione di dati sanitari. Ad esempio il governo Renzi ha ottenuto in cambio dei dati sanitari degli italiani la costruzione del primo centro europeo di IBM Watson Health a Milano, a Human Technopole, per un investimento complessivo di 150 milioni di dollari. Un investimento che tutte le altre filiali europee di IBM avevano provato a portare a casa nei loro paesi e che invece finirà in Italia [6].
Altri concorrenti già in gara nella corsa all’acquisizione di dati biometrici sono i braccialetti fitness e gli smartwatch, che registrano i battiti di chi li indossa in ogni momento della giornata. Qualche tempo fa un ragazzo di liceo mi raccontava dei suoi professori e di come il più severo e temibile era senza dubbio quello di latino: “Durante la sua ora avevo costantemente 170 battiti!”, come se non bastasse la sua opinione a rendere credibile un suo stesso giudizio.
Ecco quindi che giungiamo al punto, con abbastanza dati biometrici ed una sufficiente potenza computazionale sarà possibile costruire algoritmi che ci conosceranno meglio di quanto noi conosciamo noi stessi.
In un intervento al World Economic Forum di gennaio 2018 [7] Harari fa un esempio piuttosto efficace in cui parla di se stesso: “Ho realizzato di essere gay a 21 anni dopo averlo negato per anni. Niente di eccezionale, diversi gay hanno la stessa esperienza e non conoscono una parte molto importante di loro stessi per molto tempo. Ora immaginate la situazione tra 10 o 20 anni quando un algoritmo tracciando i movimenti del tuo occhio, la pressione del sangue, l’attività del tuo cervello, potrà dire a qualsiasi adolescente dove si trova esattamente e quanto è malleabile la sua posizione sullo spettro gay-straight. […] E anche se vorrete nascondervi da voi stessi e non usare questo algoritmo, potreste non essere in grado di nascondere queste informazioni ad Amazon o Alibaba, che potrebbero dire alla Coca-Cola che con voi sarebbe meglio non usare l’annuncio con la ragazza senza camicia ma piuttosto quello con l’uomo a torso nudo, senza nemmeno sapere ciò che sta accadendo.”
Agli sgoccioli del Liberalismo ci raccontiamo che stiamo imparando a predire sempre più accuratamente le scelte del consumatore e dell’elettore, ma di fatto stiamo imparando a scegliere sempre più accuratamente le scelte del consumatore e dell’elettore. Con buona pace della democrazia e del libero mercato.
Se da un lato il progresso in informatica e nelle scienze biologiche sta sradicando l’attuale status quo, dall’altro sta mettendo nelle mani dell’uomo potenti strumenti per costruire le fondamenta della nuova società e dei nuovi uomini del futuro.
Non ho usato l’espressione “nuovi uomini” a caso, secondo Harari la nostra è una delle ultime generazioni di Homo Sapiens. Nel giro di uno o due secoli saremo più diversi da adesso di quanto non lo siamo ora con i Neanderthal o gli scimpanzé, sempre perché stiamo imparando ad ingegnerizzare i corpi e il cervello.
Modificheremo i nostri geni come oggi modifichiamo quelli di riso e patate, debelleremo le malattie congenite, saremo più forti e più resistenti, come un pomodoro OGM, e saremo anche più intelligenti. Innesteremo sul nostro corpo organico strumenti non organici come mani bioniche, occhi artificiali o milioni di nanorobot che navigheranno nel nostro sangue, per diagnosticare problemi e riparare danni. Diventeremo androidi, e potremo avvantaggiarci di abilità di gran lunga superiori a quelle di un qualsiasi corpo organico.
Non è fantascienza, molti risultati sono già realtà. Abbiamo cominciato ad utilizzare la terapia genica su malati di leucemia [8], alcune scimmie hanno imparato a controllare arti robotici non collegati ai loro corpi grazie a degli elettrodi impiantati nelle loro masse cerebrali [9], e lo stesso è già avvenuto anche in pazienti paralizzati o che hanno subito un’amputazione [10].
Questi strumenti per migliorare l’uomo diventeranno il prodotto principale dell’economia; i dati diventeranno l’asset più importante, come in passato lo furono la terra e le macchine. La struttura della società di domani dipenderà allora da chi sarà a controllare i dati: se in passato troppa terra o troppe macchine erano concentrate in poche mani la popolazione rimaneva divisa in aristocratici e contadini, capitalisti e proletari.
Se tuttavia i dati diventassero appannaggio di pochi la divisione potrebbe essere ben più netta, e scindere l’umanità in due specie diverse.
È naturale allora cominciare a guardarsi intorno e cercare di scoprire chi è già partito a costruire il mondo di domani, per dare un’occhiata alla strada che sta percorrendo. Come si vivrà in un mondo senza libertà? O meglio, dove il velo dell’illusione del libero arbitrio sarà squarciato? Cosa ci sarà oltre la democrazia?
Una buona idea è seguire gli investimenti e i principali progetti di ricerca dei cosiddetti giganti digitali, a cominciare da Google e Facebook, che oggi possiedono la stragrande maggioranza di dati nel mondo occidentale. [11]
Eppure le risposte più soddisfacenti non le ho trovate in queste ricerche, ma piuttosto nelle cene in compagnia di Zhe Lun, il mio coinquilino cinese. I racconti su come funzionano le cose in Cina sono estremamente stimolanti per un relativista occidentale che si pone questo genere di domande.
“Antonio come potrebbe funzionare la democrazia nella Cina di oggi con più di un miliardo di abitanti? Ma soprattutto ti sembra che qui in occidente stia funzionando così bene? Come si fa a governare un paese e fare passi avanti se siete sempre in campagna elettorale?”. Qualche anno fa un delegato cinese al World Economic Forum di Davos fu lapidario: “Voi avete il peggio della democrazia, noi abbiamo i social media” [7].
Loro hanno i social media. In Cina Google e Facebook non sono accessibili e sono sostituiti da controparti cinesi, Baidu e Tencent, colossi fortemente controllati dal governo centrale con cui sono obbligati a condividere tutti i dati che raccolgono. Il governo cinese usa i social media non solo per tenere d’occhio i propri cittadini, ma anche per raccogliere informazioni su ciò che sta accadendo in termini di sentimento pubblico ed essere sempre un passo avanti. [12]
La Cina corre come un treno e per ora sembra fornire le risposte migliori, anche se va segnalata la sostanziale mancanza di concorrenti, soprattutto qui nel vecchio continente.
Zhe Lun mi ha sempre detto che sarebbe rimasto in Italia, per lavorare qui. Questo gennaio è partito per un viaggio in Cina, ci siamo visti qualche giorno prima del suo volo per Shanghai. “Che giro fai?” gli ho chiesto, “Sicuramente a casa nel sud-est, poi la Grande muraglia e anche Pechino, andrò in qualche università.”
“Chissà se torno” ha aggiunto.
Bibliografia
[0] Yuval Noah Harari “ Homo Deus: Breve storia del futuro” Giunti, 2017, traduzione di Marco Piani
[1] Robo-ratti controllati da elettrodi cerebrali.
https://www.newscientist.com/article/dn2237-robo-rat-controlled-by-brain-electrodes/
[2] L’esercito degli Stati Uniti ha avviato alcuni esperimenti sull’impianto di microchip nel cervello umano, nella speranza di poter impiegare la tecnica per curare i soldati che soffrono di disturbo da stress post-traumatico.
[3] All’Hadassah Hospital di Gerusalemme, i medici hanno sperimentato una nuova cura per chi è affetto da depressione acuta: nel cervello del paziente vengono impiantati degli elettrodi collegati a un minuscolo computer inserito nel torace del paziente stesso.
Smadar Reisfeld, “Outside of the Cuckoo’s Nest”, Haaretz, 6 March 2015.
[4] Come la stimolazione elettrica nel cervello può cambiare il modo in cui pensiamo.
https://theweek.com/articles/476866/how-electrical-brain-stimulation-change-way-think
[5] Una panoramica delle applicazioni del deep learning.
https://en.wikipedia.org/wiki/Deep_learning#Applications
Un esempio: AlphaGo
AlphaGo è il primo programma per computer a sconfiggere un giocatore umano professionale di Go, il primo programma a sconfiggere un campione del mondo di Go, e probabilmente il giocatore più forte di tutti i tempi. A lungo il Go è stato considerato come il più impegnativo fra i giochi classici per un’intelligenza artificiale. Nonostante decenni di lavoro, i programmi di Go più potenti sono stati in grado di giocare solo a livello amatoriale. Per catturare l’aspetto intuitivo del gioco, è stato utilizzato un nuovo approccio: AlphaGo combina una classica tree search con reti neurali deep.
Segnalo l’ottimo documentario sull’evento uscito nel 2017.
AlphaGo di Greg Kohs, 2017 ‧ Documentario ‧ 1h 30m. Disponibile su Netflix
[6] Compare a sorpresa nella legge europea 2017, pubblicata il 28 novembre in Gazzetta Ufficiale, la possibilità di usare i dati personali degli italiani, senza consenso, a scopo di ricerca scientifica. In ballo ci sono grossi interessi delle multinazionali tecnologiche, come risulta dal recente accordo tra il Governo e Ibm.
Una interessante discussione sulla notizia e sul tema in generale.
http://hookii.org/dove-andranno-i-nostri-dati-sanitari/
[7] Intervento di Harari al World Economic Forum, gennaio 2018. “Will the future be human?”.
[8] Terapia genica: cellule “riprogrammate” contro il tumore. Primo paziente trattato al Bambino Gesù.
http://www.ospedalebambinogesu.it/terapia-genica-cellule-riprogrammate-contro-il-tumore#.WpQFq6jiY_4
[9] Scimmie che controllano bracci robotici.
Velliste, Meel, et al. “Cortical control of a prosthetic arm for self-feeding.” Nature 453.7198 (2008): 1098.
[10] Umani che controllano bracci robotici.
Hochberg, Leigh R., et al. “Reach and grasp by people with tetraplegia using a neurally controlled robotic arm.” Nature 485.7398 (2012): 372.
[11] Il principale business di Google e Facebook è sulla pubblicità, ma mantengono attivi servizi in perdita al solo scopo di acquisire più dati. Ad esempio Facebook nel 2014 ha acquisito per 19 miliardi di dollari WhatsApp, una delle più grandi applicazioni di messagistica istantanea, rendendola completamente gratuita e senza pubblicità. Google invece nel 2015 ha lanciato Google foto, un servizio che offre infinito spazio cloud gratuito dove immagazzinare foto e video personali. Mantenere un servizio di questo tipo ha dei costi immensi, ma grazie a questo enorme database Google è leader nei software di image recognition (riconoscimento di elementi in un’immagine) e nella computer vision in generale.
https://cloud.google.com/vision/
[12] In Cina il riconoscimento facciale di massa è realtà. Ospedali, banche, compagnie aeree, persino bagni pubblici. Una tecnologia resa possibile soprattutto con finalità commerciali dai colossi cinesi come Alibaba o Baidu.
Sulla Cina di oggi segnalo “Risciò”, l’ottimo podcast di Giada Messetti e Simone Pieranni, prodotto da Piano P. (2018)
