Autore Mark O'Connell
Titolo Essere una macchina
SottotitoloUn viaggio attraverso cyborg, utopisti, hacker e futurologi per risolvere il modesto problema della morte
EdizioneAdelphi, Milano, 2018, La collana dei casi 128 , pag. 260, cop.fle., dim. 14x22x2 cm , Isbn 978-88-459-3298-4
OriginaleTo Be a Machine. Adventures Among Cyborgs, Utopians, Hackers, and the Futurists Solving the Modest Prolem of Death
TraduttoreGianni Pannofino
LettoreGiorgio Crepe, 2018
Classe narrativa irlandese , scienze cognitive , scienze umane , scienze improbabili , fantascienza , informatica: fondamenti , mente-corpo , inizio-fine , religione












 

| << |  <  |  >  | >> |

Indice


Crash di sistema                                 13

Un incontro                                      23

Visitazione                                      35

Una volta fuori dalla natura                     55

Breve nota sulla Singolarità                     83

L'AI e il rischio esistenziale (Talkin' blues)   91

Breve nota sui primi robot                      119

Semplici meccanismi                             123

La biologia e i suoi oppositori                 149

Fede                                            177

Per favore, risolvete il problema morte         197

Il Wanderlodge della vita eterna                213

Breve nota sulle fini e sugli inizi             249


Ringraziamenti                                  255
Elenco parziale delle opere consultate          257


 

 

| << |  <  |  >  | >> |

Pagina 13

CRASH DI SISTEMA



Tutte le storie hanno inizio dalla nostra fine: le inventiamo perché siamo mortali. E da quando abbiamo preso a raccontarle, il loro tema è sempre stato il desiderio di emanciparci dal corpo, diventando qualcosa di diverso dagli animali che siamo. Nel più antico testo scritto a noi giunto, il re sumero Gilgamesh, disperato per la morte di un amico e incapace di rassegnarsi al destino che incombe anche su di lui, si spinge fino agli estremi confini del mondo in cerca di un rimedio contro la mortalità. Per non farla tanto lunga: col cavolo che lo trova. Poi c'è la madre di Achille che immerge il figlio nelle acque dello Stige sperando di renderlo invulnerabile. Anche qui, come sappiamo, ciccia.

Vedasi anche:

Dedalo, ali improvvisate di.

Prometeo, fuoco rubato agli dèi da.

In quanto umani, viviamo tra le rovine di uno splendore immaginato. Le cose non dovevano andare così: nel pacchetto originale non rientravano debolezza, vergogna, dolore, e neanche morte. Abbiamo sempre avuto un'idea ben più alta del nostro destino. Tutte le nostre disavventure - il giardino, il serpente, la mela, la cacciata - sono frutto di un errore fatale, di un crash di sistema. Solo a causa di una Caduta, di un castigo, siamo diventati quello che siamo. Questa, perlomeno, è una versione della storia - quella cristiana, occidentale. Che poi sarebbe, a un certo livello, un tentativo di farcene una ragione, di spiegarci come mai questa nostra natura innaturale sia una tale fregatura.

«Un uomo è un dio in rovina» scriveva Emerson.

La religione nasce, più o meno, da questo naufragio divino. E la scienza - sorellastra ripudiata della religione - ha per oggetto le stesse insoddisfazioni animali. Nel libro Vita Activa. La condizione umana, scritto dopo il lancio del primo satellite spaziale sovietico, Hannah Arendt rifletteva sul senso di euforia derivante dall'idea di poter compiere quella che in un pezzo giornalistico era stata definita «la liberazione degli uomini dalla prigione terrestre». Questa stessa smania di evasione, scriveva Arendt, si manifestava nel tentativo di creare esseri umani superiori manipolando in laboratorio il plasma germinale, per estendere la durata della vita naturale oltre i suoi attuali limiti: «Quest'uomo del futuro, che gli scienziati pensano di produrre nel giro di un secolo, sembra posseduto da una sorta di ribellione contro l'esistenza umana come gli è stata data, un dono gratuito proveniente da non so dove (parlando in termini profani), che desidera scambiare, se possibile, con qualcosa che lui stesso abbia fatto».

Una ribellione contro l'esistenza umana come ci è stata data: mi sembra una descrizione accettabile sia di quanto state per leggere, sia di ciò che accomuna le persone che ho conosciuto prima di scriverlo. Queste persone, in generale, si riconoscono in un movimento detto «transumanesimo», fondato sulla certezza che l'evoluzione futura della specie possa e debba essere guidata dalla tecnologia. Secondo loro, la morte per vecchiaia è una malattia debellabile, mentre la tecnologia può aiutarci a potenziare il corpo e la mente, a fonderci con le macchine, insomma a ridisegnarci a immagine e somiglianza dei nostri ideali più alti. Si tratta appunto di scambiare il dono con qualcosa di meglio, e soprattutto di origine umana. realistico? Vedremo.

Come forse si sarà capito sin da queste primissime righe, non sono un transumanista, ma il fascino che il movimento, le sue idee, i suoi obiettivi esercitano su di me nasce da una sintonia istintiva con il suo assunto fondamentale, e cioè che l'esistenza quale ci è stata data ha l'aspetto di un sistema - come vogliamo dire, perfettibile?

[...]

A forza di informarmi, mi sono reso conto che del movimento non esiste una versione ortodossa, autorizzata, ma che chiunque vi aderisca condivide una visione meccanicistica della vita umana, in cui gli uomini si considerano dispositivi tenuti e destinati a inventare versioni migliori - più efficienti, potenti, utili - di sé.

A questo punto, mi interessava capire cosa significasse pensare se stessi - e più in generale la specie - in termini così strumentali. E volevo approfondire anche questioni più specifiche, ad esempio come si possa diventare un cyborg, o caricare la propria mente su un computer o su qualche altro supporto, al fine di esistere in eterno sotto forma di codice. Volevo rendermi conto di cosa significasse pensarsi soltanto come un insieme complesso di informazioni, un mero codice; sapere se i robot sono in grado di svelarci qualcosa sull'idea che abbiamo di noi stessi e del nostro corpo; se l'intelligenza artificiale ha più probabilità di redimere la nostra specie o di annientarla. Mi incuriosiva il fenomeno per cui certe persone hanno abbastanza fiducia nella tecnologia da credere alla prospettiva dell'immortalità. Sì, volevo scoprire cosa significa essere una macchina, o considerarsi tale.

Posso assicurarvi che, strada facendo, qualche risposta l'ho trovata; devo anche ammettere, però, che chiedendomi cosa significhi essere una macchina ho finito per ritrovarmi ancora più confuso su cosa significhi essere umani. I lettori in cerca di una trattazione lineare tengano presente che il libro è anche un'indagine su questa confusione, oltre che un'analisi di quel che ho imparato.

Definizione generale: il transumanesimo è un movimento di liberazione che rivendica nientemeno che una totale emancipazione dalla biologia. Esiste una concezione alternativa - uguale e contraria - secondo cui questa apparente liberazione sarebbe, in realtà, soltanto il definitivo e totale asservimento alla tecnologia. Nel prosieguo del libro terremo a mente entrambi i poli di questa dicotomia.

A prescindere dalla radicalità dei fini che il transumanesimo si pone - il convergere di tecnologia e corpo umano, ad esempio, o l'uploading della mente su supporti digitali -, la suddetta dicotomia mi è parsa un tratto fondamentale di un tempo che ci costringe ogni giorno a riflettere sul modo in cui la tecnologia sta cambiando tutto in meglio, o a decidere in che misura una certa app o piattaforma o un dispositivo fa del mondo un posto più vivibile. Se speriamo nel futuro - se pensiamo di poter avere qualcosa di simile a un futuro - le nostre aspettative dipendono in larga parte da ciò che riusciremo a fare con le macchine. In questo senso, il transumanesimo è un'intensificazione di una tendenza già insita nella cultura dominante, ossia nel capitalismo.

Tuttavia, il dato ineludibile di questo momento storico è che noi e le macchine stiamo lavorando a un vasto programma di annientamento, a una distruzione senza precedenti di un mondo che consideriamo nostro. Secondo molti, il pianeta sta per vivere una sesta estinzione di massa: un'altra Caduta, un'altra cacciata. In un mondo così dilaniato, sembrerebbe tardi per parlare di futuro.

Uno degli aspetti che mi hanno attratto verso il movimento, perciò, è la forza paradossale del suo anacronismo. Pur proiettandosi con tutte le sue forze verso una visione del mondo a venire, il transumanesimo mi pareva evocare, con una certa nostalgia, un passato in cui un ottimismo radicale poteva ancora darsi come un approccio plausibile al futuro. In qualche modo, il movimento guardava avanti con un occhio sempre rivolto al passato.

| << |  <  |  >  | >> |

Pagina 25

Il succo della conferenza era che il potenziamento cognitivo biomedico avrebbe favorito una migliore acquisizione e un miglior mantenimento delle facoltà mentali - quello che lui chiamava «il capitale umano» -, consentendoci di ragionare e operare in modo più efficace. Sandberg ha affrontato anche le questioni di giustizia sociale - di «equa distribuzione dei cervelli», per usare le sue parole - implicite in questo scenario, e cioè il fatto che probabilmente gli unici a potersi permettere cervelli potenziati saranno coloro che già appartengono alle élite. E tuttavia, secondo Sandberg, siccome a giovarsi in misura maggiore dell'apporto tecnologico finirebbero per essere, fatalmente, gli individui meno intelligenti, l'effetto complessivo sarà un incremento dell'intelligenza generale molto vantaggioso per la società nel suo insieme: in pratica, il modello della trickle-down economics applicato all'intelligenza.

Insomma, quell'ambiente e quella situazione mi risultavano perfettamente familiari e, allo stesso tempo, del tutto alieni. Avevo da poco abbandonato il relitto della mia carriera accademica per il non meno precario naviglio della scrittura freelance. Avevo speso diversi anni della mia vita - non allungata, fra l'altro - per prendere un dottorato in letteratura inglese e trovare conferma a quel che sospettavo sin dall'inizio, cioè che un dottorato in letteratura inglese non mi avrebbe mai condotto alla terra promessa del lavoro fisso. Di conseguenza, per due decenni di vita mi ero sorbito oratori in azione da dietro una cattedra o da un podio. Quel che diceva Anders Sandberg, però, era molto diverso da ciò che ero abituato a sentire in quelle occasioni.

[...]

Alla mia sinistra c'era ragazzo dall'aria aristocratica, che a un certo punto si è voltato verso di me per chiedermi del libro che stavo scrivendo. Era elegantissimo, e pettinato con estrema cura. Mi ha detto di chiamarsi Alberto Rizzoli, e di venire dall'Italia. (Parlando del mio libro, ha anche accennato al fatto che la sua famiglia si era occupata di editoria. Solo più tardi, quella stessa sera, rileggendo i miei appunti, ho capito che Alberto doveva essere uno dei Rizzoli e più precisamente il nipote di Angelo, noto tra l'altro per aver prodotto La dolce vita e 8 di Federico Fellini). Studiava alla Cass Business School di Londra, ma stava anche lavorando a una startup tecnologica in versione beta che forniva materiale didattico stampato in 3D per le scuole elementari. Aveva ventun anni, e si considerava un transumanista da quando era adolescente.

«Non riesco a immaginarmi a trent'anni senza un qualche tipo di potenziamento» mi ha detto.

Io di anni ne avevo trentacinque, come Dante ai tempi della sua visione. Ero nel mezzo del cammin della mia vita, e, bene o male, senza alcun potenziamento.

[...]

A quanto pareva, Sandberg e la bella francese erano assorti in un'impenetrabile discussione tecnica sul progresso della ricerca nel campo dell'uploading. Stavano parlando di Ray Kurzweil , l'uomo che ha fondato e finanziato Google, di cui adesso dirige l'engineering. E che ha reso popolare l'idea di Singolarità Tecnologica, quella specie di profezia escatologica secondo cui l'avvento dell'AI si tradurrà in una nuova età dell'oro, dove la fusione di umani e macchine finirà per debellare la morte. Sandberg stava dicendo che, tra le altre cose, la visione di Kurzweil sull'emulazione del cervello era troppo grezza, e ignorava completamente «il gran casino subcorticale dei moventi» - parole sue.

«Le emozioni!» è saltata su la francese, tutta un fremito. «Evidentemente non ha bisogno delle emozioni, quindi le ignora».

«Non escludo che abbia ragione» è intervenuto Alberto. «Semplice, vuole diventare una macchina?» ha continuato la donna.

«Be'» ha detto Sandberg, rovistando concentrato nel piattino pieno di gusci vuoti, alla vana ricerca di un pistacchio superstite. «Anch'io voglio diventare una macchina, ma una macchina emotiva».

[...]

Moltissime delle sue equazioni preferite Sandberg le aveva trovate dentro Il principio antropico, di John D. Barrow e Frank J. Tipler. All'inizio lo aveva letto soprattutto per quei calcoli così affascinanti, «formule strambe su cose tipo elettroni che orbitano negli atomi di idrogeno in dimensioni superiori». Poi, come un ragazzino che sfogliando «Playboy» si appassiona a un racconto di Nabokov , aveva cominciato a interessarsi al testo che corredava le formule. La visione dell'universo proposta da Barrow e Tipler era un meccanismo essenzialmente deterministico in cui «deve necessariamente svilupparsi un'elaborazione intelligente delle informazioni», che aumenterà esponenzialmente con il tempo. Questa premessa teleologica avrebbe portato Tipler, nella sua opera successiva, al concetto di Punto Omega, un momento in cui la vita intelligente pervaderà tutta la materia dell'universo, sfociando in una singolarità cosmologica che consentirà alle società future di resuscitare i morti.

«Quest'idea è stata una rivelazione» mi ha detto Sandberg. «Per un adolescente maniaco dell'informatica come me la teoria secondo cui la vita finirà per controllare tutta la materia, tutta l'energia, e per elaborare un'infinità di informazioni era prodigiosa. Mi sono convinto della necessità di lavorarci su».

In quel momento era diventato un transumanista.

| << |  <  |  >  | >> |

Pagina 68

All'improvviso questa concezione dell'umano come insieme di informazioni contenute in un sostrato diverso da quello naturale, mero vettore della nostra intelligenza, mi è apparsa in tutta la sua stravaganza. Significherebbe che il nostro corpo funziona come quei vetrini: è un semplice involucro. In una visione positivistica estrema, noi non saremmo altro che intelligence; applichiamo abilità e conoscenze, ma siamo anche «informazione», che può essere a sua volta raccolta, estratta, archiviata.

«Gran parte della complessità di un neurone umano» scrive Kurzweil «è dedicata a mantenere le sue funzioni di sostegno della vita, non a elaborare le informazioni. Alla fine, riusciremo a portare i nostri processi mentali su un substrato computazionale più adatto. A quel punto le nostre menti non dovranno rimanere così piccole».

Alla radice del progetto dell'emulazione integrale del cervello e del transumanesimo stesso come movimento, o ideologia, o teoria c'è in realtà un'altra idea, secondo cui saremmo intrappolati nella materia sbagliata, limitati dal sostrato fisico con cui si manifesta la nostra presenza nel mondo. Parlare di un «substrato computazionale più adatto» ha senso solo se si parte dall'idea che siamo - be', computer.


Nella filosofia della mente, la teoria secondo cui il cervello sarebbe essenzialmente un sistema per elaborare informazione - e, in quanto tale, simile a un computer - è detta computazionalismo. L'idea fondamentale precede di molto l'era digitale. Nel 1655, ad esempio, Thomas Hobbes scriveva nel De corpore: «Per ragionamento, poi, intendo il calcolo. Calcolare è cogliere la somma di più cose una aggiunta all'altra, o conoscere il resto, sottratta una cosa all'altra. Ragionare, dunque, è la stessa cosa che sommare e sottrarre».

E poi c'è sempre stata una specie di corto circuito tra l'idea della mente come macchina e l'idea delle macchine dotate di mente. «Credo che entro la fine del secolo» scriveva Alan Turing nel 1950 «... sarà possibile parlare di macchine pensanti senza aspettarsi di essere contraddetti».

Con lo sviluppo di macchine sempre più sofisticate, mentre l'intelligenza artificiale stimolava l'immaginazione di un numero crescente di scienziati informatici, l'idea che le funzioni della mente umana potessero essere simulate da algoritmi informatici ha preso sempre più piede. Nel 2013 l'Unione Europea ha investito fondi pubblici per più di un miliardo di euro in un'iniziativa denominata Human Brain Project. Il progetto, che ha il suo centro operativo in Svizzera ed è diretto dal neuroscienziato Henry Markram, ambisce a creare un modello funzionante del cervello umano e, nel giro di dieci anni, a produrne una simulazione su un supercomputer, utilizzando reti neurali artificiali.

Poco dopo San Francisco, sono andato in Svizzera con l'intenzione di partecipare al cosiddetto Brain Forum, un bizzarro convegno su neuroscienze e tecnologia organizzato all'Università di Losanna, culla dello Human Brain Project. Tra le persone che ho conosciuto in quell'occasione c'è il brasiliano Miguel Nicolelis, professore della Duke University. Oltre a essere uno dei più eminenti neuroscienziati in circolazione, Nicolelis è un pioniere nel campo delle tecnologie dedicate all'interfaccia cervello-macchina, grazie alle quali l'attività neuronale riesce a controllare protesi robotiche (Randal me ne aveva accennato più volte, durante le nostre conversazioni).

Nicolelis esibisce una barba eccessiva e modi parecchio informali, ma le Nike abbinate al completo paiono non tanto un vezzo quanto un modo di anteporre la comodità alle convenzioni. a Losanna per tenere una conferenza sull'esoscheletro robotico controllato dal cervello, da lui sviluppato, che ha permesso a un tetraplegico di dare il calcio d'inizio durante la cerimonia d'apertura dei Mondiali di calcio del 2014 in Brasile.

Data la frequenza con cui la sua opera viene citata dai transumanisti, ero curioso di sapere cosa pensasse Nicolelis dell'uploading. Non un granché, ho scoperto. L'idea di simulare la mente umana su qualsivoglia piattaforma computazionale è fondamentalmente in contrasto, dice, con la natura dinamica dell'attività cerebrale, ossia di ciò che chiamiamo «mente». Proprio per questo, afferma, lo Human Brain Project ha un'impostazione radicalmente sbagliata.

«La mente è ben più di una somma di informazioni, o di una massa di dati» dice Nicolelis. « il motivo per cui non servono i computer per capire come funziona il cervello e quel che accade al suo interno. Il cervello, semplicemente, non è computabile. Non può essere simulato».

I cervelli - come molto altro esistente in natura - elaborano informazioni, ma secondo Nicolelis ciò non significa che questa elaborazione si possa tradurre in algoritmi e affidare a un computer. Più che a un portatile, il sistema nervoso centrale di un essere umano si può assimilare ad altri sistemi complessi esistenti in natura, come i banchi di pesci o gli stormi di uccelli - ma anche ai mercati finanziari -, i cui elementi interagiscono e si aggregano a formare una singola entità dai movimenti intrinsecamente imprevedibili. Come afferma nel libro The Relativistic Brain, che ha scritto insieme al matematico Ronald Cicurel, il cervello si riorganizza di continuo, sia sul piano fisico sia su quello funzionale, per effetto dell'esperienza concreta: «L'informazione elaborata dal cervello viene usata per riconfigurare la sua stessa struttura e funzione, creando una perpetua integrazione ricorsiva tra informazioni e materia cerebrale ... Sono proprio le caratteristiche che definiscono un sistema adattivo complesso quelle che minano la nostra capacità di predire o simulare il suo comportamento dinamico».

| << |  <  |  >  | >> |

Pagina 75

La questione filosofica più perturbante e persistente è anche la più elementare: in quella forma, continuerei a essere me stesso? Se anche si riuscisse in qualche modo a mappare ed emulare l'incalcolabile complessità dei miei percorsi e processi neurali, e a caricare poi il tutto su una piattaforma diversa dal chilo e mezzo di tessuto gelatinoso racchiuso nella mia scatola cranica, in che senso quella riproduzione o simulazione coinciderebbe con «me»? Pur attribuendo al materiale trasferito su supporto artificiale una coscienza, e anche ammettendo che fosse indistinguibile dal modo in cui la mia si manifesta, potrei veramente dire che quella cosa è me e io sono quella cosa? Sarebbe sufficiente che la coscienza caricata su supporto credesse di essere me? (Ma anche, è sufficiente che io creda di essere me stesso, ora? E, anzi, ha davvero senso domandarselo?).

Non so, ho la netta sensazione - dev'essere un'istintiva esplosione di segnali subcorticali - che non ci sia distinzione tra «me» e il mio corpo, e che non sia possibile per me esistere indipendentemente dal sostrato a partire dal quale agisco, perché l'io è il sostrato, e il sostrato è l'io.

Il concetto dell'emulazione integrale - che equivale, di fatto, alla liberazione dalla materia e dal mondo fisico - mi sembra un esempio estremo di come la scienza, o meglio la fede nel progresso scientifico, stia sostituendo la religione quale vettore di aspirazioni e illusioni culturali profonde.

Sotto questo discorso sulle tecnologie future sento il mormorio di idee antiche: si parla, in realtà, di trasmigrazione delle anime, di eterno ritorno, di reincarnazione. Nulla è mai veramente nuovo. Non c'è nulla che muoia davvero; tutto rinasce in una nuova forma, con un nuovo linguaggio o un nuovo sostrato.

Stiamo parlando di immortalità: di estrarre l'essenza dell'individuo dalla corruttibile forma corporea, la stessa conquista che l'umanità sogna di fare almeno dai tempi di Gilgamesh.

| << |  <  |  >  | >> |

Pagina 77

La definizione tecno-dualistica dell'essere umano - una specie di software che gira sull'hardware del corpo - nasce dalla nostra antichissima tendenza a identificarci con le tecnologie più avanzate che abbiamo elaborato, e a lasciarcene caratterizzare. Nel contributo Brain Metaphor and Brain Theory lo scienziato informatico John G. Daugman mette il fenomeno in una prospettiva storica. Se le concezioni greche e romane del pneuma e degli umori derivavano da tecnologie idrauliche come pompe, fontane e orologi ad acqua, se nel Rinascimento la metafora dominante della vita umana era il meccanismo a orologeria, e più avanti le macchine a vapore e le energie compresse della Rivoluzione industriale avevano ispirato a Freud le immagini su cui basare la teoria dell'inconscio, oggi predomina una visione della mente umana come dispositivo per lo stoccaggio e l'elaborazione di dati, come codice neurale che gira sul macchinario umido del sistema nervoso centrale.

Dunque, se siamo qualcosa, ora, siamo informazione. Solo che l'informazione è diventata un'astrazione, perciò il materiale con cui viene trasmessa ha un'importanza inferiore a quella del suo contenuto, che può essere indefinitamente trasferito, duplicato, conservato. («Quando l'informazione perde il suo corpo,» scrive la critica letteraria N. Katherine Hayles «quando la materialità in cui la mente si sostanzia appare irrilevante in confronto alla sua essenza, assimilare gli esseri umani ai computer diventa facilissimo»).

C'è uno strano paradosso alla base dell'idea di simulazione: nasce da una prospettiva assolutamente materialistica, dall'idea che la mente nasca dalle interazioni tra oggetti fisici, eppure genera la convinzione che mente e materia siano separate, o separabili. In altre parole, tutto sfocia in una nuova forma di dualismo, se non di misticismo.

| << |  <  |  >  | >> |

Pagina 94

Una delle personalità più imponenti nel ramo è il suo Capo Escatologo, Nick Bostrom, il filosofo svedese che, prima di salire alla ribalta mondiale come il principale profeta del disastro tecnologico, è stato uno degli esponenti di spicco del movimento transumanista, cofondatore della World Transhumanist Association. Verso la fine del 2014, Bostrom, direttore del Future of Humanity Institute, ha pubblicato Superintelligenza: Tendenze, pericoli, strategie, in cui spiega molto bene di cosa stiamo parlando. Pur essendo un testo accademico anche piuttosto arduo, il libro ha fatto numeri sorprendenti, e si è persino affacciato alla classifica del «New York Times». (L'impennata delle vendite ha coinciso con un tweet in cui Elon Musk ne consigliava vivamente la lettura).

Anche la forma più benigna di intelligenza artificiale - si legge nel libro - rischia di condurre alla distruzione dell'umanità. In uno degli scenari più estremi, a un'intelligenza artificiale viene chiesto di produrre graffette nel modo più efficiente ed economico possibile, solo che lo fa trasformando in graffette (e in impianti per la produzione di graffette) tutta la materia dell'universo. Questo è uno scenario caricaturale, ovvio, ma il suo significato - come esempio della logica spietata con cui potremmo trovarci alle prese - è assolutamente serio.

«Oggi non mi definirei un transumanista» mi dice Nick Bostrom una sera, mentre ceniamo in un ristorante indiano nei pressi del Future of Humanity Institute. Bostrom è sposato, ma moglie e figlio piccolo abitano in Canada, mentre lui vive da solo a Oxford. Questa sistemazione, che comporta frequenti voli transatlantici e appuntamenti regolari su Skype, per quanto problematica dal punto di vista dell'equilibrio tra vita e lavoro gli consente di concentrarsi sulle sue ricerche in un modo che non sarebbe altrimenti possibile., (Mangia così spesso al ristorante in cui ci troviamo, che il cameriere gli porta il pollo al curry senza che lui debba ordinarlo).

«Insomma,» spiega «continuo a credere che le potenzialità della specie vadano sviluppate, ma ormai non ho più tanti legami con il movimento. Nel transumanesimo c'è troppo entusiasmo acritico per la tecnologia, troppa fede in un esponenziale miglioramento delle cose: la mentalità prevalente è lasciare che il progresso segua il suo corso. E io, col passare degli anni, ne ho preso le distanze».

Negli ultimi tempi, Nick è diventato una sorta di antitransumanista: accusarlo di luddismo sarebbe improprio, ma la fama che si è conquistato, nel mondo accademico e non solo, deriva dalla forza dei suoi moniti sulla strada imboccata dalla tecnologia, e su dove potrebbe condurci.

«Continuo a pensare che nel giro di poche generazioni sarà possibile trasformare il sostrato dell'umanità. E penso che il motore di questa trasformazione sarà la superintelligenza artificiale».

Come molti transumanisti, Nick si sofferma volentieri sulla grande differenza fra la potenza di calcolo del tessuto umano e del computer. I neuroni, ad esempio, possono operare a una frequenza di scarica di 200 hertz (cioè duecento volte al secondo), mentre i transistor agiscono nell'ordine dei gigahertz. All'interno del nostro sistema nervoso, i segnali viaggiano a una velocità di circa cento metri al secondo, mentre in un computer toccano quella della luce. Le dimensioni del cervello sono limitate dalla capacità del cranio, mentre tecnicamente sarebbe possibile costruire processori elettronici alti come grattacieli.

Questi fattori secondo Nick hanno creato le condizioni per l'avvento della superintelligenza.

| << |  <  |  >  | >> |

Pagina 97

«L'intelligenza artificiale non ci odia» dice Yudkowsky «né ci ama, ma noi siamo fatti di atomi che potrebbero tornarle utili per qualche suo scopo».

Per capire meglio di cosa stiamo parlando, mentre ascoltiamo le Variazioni Goldberg eseguite da Glenn Gould e ne assaporiamo la bellezza, dovremmo pensare a quello che abbiamo distrutto per costruire il pianoforte sul quale suonarle: agli alberi abbattuti, agli elefanti uccisi, agli esseri umani schiavizzati e ammazzati dai mercanti d'avorio. Né il pianista, né chi ha costruito il pianoforte provavano sentimenti di ostilità nei confronti degli alberi, degli elefanti, delle donne e degli uomini schiavizzati: erano semplicemente aggregati di atomi utilizzabili per un determinato fine, per produrre profitti e musica. In altre parole, forse la macchina che tanto atterrisce un certo nucleo di razionalisti non è molto diversa da noi.

| << |  <  |  >  | >> |

Pagina 116

Tornato da Berkeley, avevo l'impressione che ogni settimana o giù di lì il progresso dell'intelligenza artificiale toccasse una nuova pietra miliare. Andavo su Twitter o su Facebook, e sui miei profili - flussi di informazione a loro volta controllati dalla forza di marea di algoritmi nascosti - trovavo una qualche storia strana e inquietante sulla cessione dell'ennesimo territorio umano all'intelligenza delle macchine. Nel West End londinese stava per debuttare un musical con libretto e musiche scritti da un programma di AI chiamato Android Lloyd Webber. Un'AI chiamata AlphaGo - anch'essa frutto del lavoro di DeepMind (Google) - aveva sconfitto un grande maestro umano del Go, un antico gioco di strategia da tavolo che in termini di mosse possibili è esponenzialmente più complesso degli scacchi. Un libro scritto da un software era riuscito a superare la prima selezione di un premio letterario giapponese aperto a opere scritte da umani e da intelligenze artificiali, e mi è subito tornato in mente il futurologo che avevo conosciuto nel pub di Bloomsbury dopo la conferenza di Anders e la sua profezia sul mio mestiere.

Non sapevo cosa pensare. Per un verso, l'esistenza di romanzi o musical generati da computer mi pareva meno preoccupante, per il futuro dell'umanità, della prospettiva di doverli leggere o andare a vedere. Né tenevo particolarmente alla supremazia della mia specie nei giochi di strategia da tavolo, ragion per cui i trionfi di AlphaGo mi lasciavano freddino, o meglio, mi sembravano l'ennesimo caso di un computer capace di fare molto meglio le cose che i computer avevano sempre fatto, ossia il calcolo rapido e accurato di risultati logici: nient'altro che un algoritmo di ricerca particolarmente sofisticato. Per un altro verso, tuttavia, mi pareva ragionevole presumere che queste intelligenze artificiali avrebbero continuato a migliorare le proprie competenze: che i musical del West End e i romanzi di fantascienza sarebbero diventati via via meno schifosi, e che compiti più complessi sarebbero stati eseguiti dalle macchine in modo sempre più efficiente.

A volte, tutta questa storia del rischio esistenziale mi sembrava la solita fantasia narcisistica di eroismo e controllo, la grandiosa illusione - comune a programmatori, imprenditori della tecnologia e altre cricche di geek egomaniaci - di avere nelle proprie mani il destino della specie: un'assurda escatologia binaria in cui verremo distrutti dai software cattivi o salvati da quelli buoni. In alcuni momenti tutta la questione mi appariva così infantile da meritare a malapena di essere considerata, se non come un'utile lezione sull'idiozia di un certo tipo di intelligenza.

Altre volte, però, pensavo che l'illuso ero io, mentre Nate Soares - ad esempio - aveva assolutamente e spaventosamente ragione: migliaia fra le migliori menti del pianeta passavano le giornate a usare le tecnologie più sofisticate per costruire qualcosa che ci avrebbe distrutti. Se non del tutto plausibile, sembrava intuitivamente, poeticamente e anche mitologicamente giusto. In fondo, come specie, lo facciamo da sempre: costruiamo dispositivi ingegnosi che servono a distruggere.

| << |  <  |  >  | >> |

Pagina 145

La retorica della classe dirigente geek della Silicon Valley è emulsionata in una specie di idealismo controculturale - cambiare il mondo, migliorare le cose, sovvertire il vecchio ordine e così via -, ma le sue radici affondano nel terreno della guerra, impregnato di sangue. Come ha scritto Rebecca Solnit , «nella storia che la Silicon Valley raramente racconta di sé ci sono i simboli del dollaro e i sistemi d'arma».

| << |  <  |  >  | >> |

Pagina 157

L'idea del cyborg è perlopiù associata alla fantascienza - a Philip K. Dick e William Gibson , a RoboCop e a L'uomo da sei milioni di dollari -, ma le sue radici affondano nella cibernetica postbellica, che il suo fondatore, Norbert Wiener , definiva come «l'ambito degli studi sul controllo e sulla comunicazione nella macchina e nell'animale». Secondo la visione postumanistica della cibernetica, gli esseri umani non sono individui che agiscono autonomamente per raggiungere i loro fini, liberi agenti alla ricerca del loro destino, bensì macchine che operano all'interno della logica deterministica di macchine più grandi, componenti biologici di sistemi vasti e complessi. E ciò che lega gli elementi di questi sistemi è l'informazione. L'idea chiave della cibernetica è il concetto di «ciclo di retroazione» (feedback loop): il componente di un sistema - ad esempio, un essere umano - riceve informazioni sul suo ambiente e reagisce a queste informazioni; così facendo, modifica l'ambiente e, di conseguenza, anche le successive informazioni che riceverà. (Il movimento del Quantified Self, in questo senso, è profondamente intriso di cibernetica). Mentre un tempo si riteneva che l'elemento fondamentale dell'universo fosse l'energia, con le sue trasformazioni e i suoi passaggi, oggi la base dello scambio universale è l'informazione. Per la cibernetica, tutto è tecnologia: animali, piante e computer sono essenzialmente oggetti analoghi, che eseguono procedure analoghe.

Il termine «cyborg», contrazione di cybernetic organism, è stato usato per la prima volta in uno studio scientifico del 1960 intitolato Cyborgs in Space, pubblicato sul periodico «Astronautics» e firmato dal neurofisiologo Manfred Clynes e dal medico Nathan Kline. L'articolo esordiva con l'affermazione abbastanza incontestabile secondo cui il corpo umano è per costituzione inadatto all'esplorazione spaziale; gli autori suggerivano quindi che sarebbe stato vantaggioso integrare nel corpo degli astronauti tecnologie che permettessero loro di funzionare come sistemi autosufficienti in ambienti extraterrestri ostili. «Per il complesso organizzato dotato di estensioni esogene e capace di funzionare inconsciamente come sistema omeostatico integrato» scrivono «proponiamo il termine "Cyborg". Il Cyborg incorpora deliberatamente componenti esogeni che estendono la funzione di controllo e autoregolazione dell'organismo al fine dell'adattamento a nuovi ambienti».

Il cyborg, dunque, emerge come un fantasma della Guerra fredda, un'intensificazione onirica degli ideali di efficienza, autonomia e dominio tecnologico del capitalismo americano. In Manifesto Cyborg Donna Haraway ne offre varie definizioni, al tempo stesso contraddittorie e collegate. Il cyborg, in Occidente, sarebbe un «orrido telos apocalittico del crescente dominio dell'individuazione astratta: un sé supremo finalmente libero da ogni forma di dipendenza, un uomo nello spazio». Qualcosa come una reductio ad absurdum della visione meccanicistica e militaristica del corpo e della mente umani: il cyborg è umano non semplicemente in quanto macchina, ma in quanto macchina da guerra - un corpo e una mente umani in un ciclo simbiotico di retroazione con i sistemi informatici della guerra moderna.

Non sorprenderà che il governo americano abbia sempre seguito piuttosto da vicino i tentativi di fondere gli umani con le macchine. Nel 1999, la DARPA ha cominciato a distribuire borse di studio per i programmi di ricerca sui «bioibridi», e nello stesso anno ha istituito il suo Defense Sciences Office (DSO), chiamando a dirigerlo Michael Goldblatt, un ex dirigente di McDonald's, nonché capitalista di ventura. Goldblatt, in un'intervista, si è detto convinto che «la prossima frontiera è dentro di noi», e che la specie umana potrebbe essere «la prima capace di controllare l'evoluzione». Come scrive Annie Jacobsen in The Pentagon's Brain, una specie di peana sulla DARPA, Goldblatt è «un pioniere del transumanesimo militare, cioè dell'idea secondo cui l'uomo può alterare e altererà radicalmente la condizione degli esseri umani potenziandoli attraverso macchine e altri dispositivi».

I programmi finanziati dalla DARPA hanno cominciato a sfornire chimere, o incubi: topi pilotabili da portatili collegati agli elettrodi impiantati nel loro prosencefalo mediale; falene con semiconduttori impiantati allo stadio larvale, in modo che la tecnologia ne accompagni lo sviluppo. Accedendo al livello base dello sviluppo del tessuto a metamorfico, scrive Jacobsen, gli scienziati «sono riusciti a creare un cyborg manovrabile, parte insetto, parte macchina». (Il neologismo «cibernetica», coniato da Wiener, deriva dal verbo greco kubernan, che significa «governare, pilotare una nave»).

| << |  <  |  >  | >> |

Pagina 174

[...]

Dopo di che ha espresso un sentimento che mi è parso essenzialmente religioso, nel contenuto come nella forma. «Sono intrappolato qui» dice, accennando con il capo al torace, alle gambe ripiegate in posizione yogica su quel divano. «Sono intrappolato in questo corpo».

Gli ho fatto notare che parlava come un eresiarca gnostico del II secolo.

Ha scosso la testa, paziente. «Ma non è soltanto un'idea religiosa. Chiedi ai transgender, ti diranno tutti che sono intrappolati nel corpo sbagliato. Io, invece, sono intrappolato in un corpo sbagliato perché sono intrappolato in un corpo. Tutti i corpi sono sbagliati».

Avevo l'impressione che ci stessimo avvicinando al paradosso centrale del transumanesimo, all'orizzonte degli eventi in cui il razionalismo illuminista, spinto alle sue estreme conseguenze, scompare nella materia oscura della fede. Per quanto ingiusta possa essere l'istituzione di questo doppio legame, devo dire che più Tim insisteva a negare qualsiasi punto di contatto tra la sua concezione e i misteri della religione, più mi appariva religioso.

Forse, però, il punto fondamentale del movimento transumanista non è la sua quasi religiosità, bensì il fatto che affronta le stesse contraddizioni e insoddisfazioni umane un tempo riservate alla fede. Sentirsi imprigionati all'interno del proprio corpo, con le sue fragilità e la sua inesorabile finitudine - legati a un animale morente, come diceva Yeats -, è un dato fondamentale della condizione umana. In un certo senso, è connaturato all'avere un corpo il desiderio di emanciparsene.

«Oggi» scrive D.H. Lawrence «l'uomo trae il senso del miracoloso dulla scienza e dalle macchine, dalla radio, dagli aerei, da enormi navi e dai dirigibili, dai gas velenosi e dalla seta artificiale: queste cose nutrono il senso del miracoloso dell'uomo odierno come la magia faceva in passato».

E così come il bisogno umano di mistero, di stupore cosmico, è oggi soddisfatto in misura crescente dalla scienza, la nostalgia per una qualche promessa di redenzione diventa sempre più prerogativa della tecnologia. Forse Tim lo avrebbe formulato in termini diversi, ma il suo messaggio, il messaggio del cyborg, mi sembra questo: la redenzione dalla nostra natura umana, dalla nostra identità animale, esiste, e per raggiungerla dobbiamo soltanto lasciarci fisicamente compenetrare dalla tecnologia, entrando in comunione con le macchine e sciogliendoci finalmente da noi stessi.

| << |  <  |