Il mondo nel 2050

Il mondo nel 2050

[ Trasmissione in Realta' Virtuale della BBC - 14 agosto 2050]

di Nick Bostrom

SOMMARIO

Questo articolo esamina alcune delle questioni sociali, politiche, economiche e tecnologiche che il mondo potrebbe affrontare verso la metà del ventunesimo secolo. Uno dei temi centrali, è la necessità di esercitare un'azione di controllo sulla nanotecnologia molecolare, dato l'enorme potenziale di abuso che essa porta con sè. La nanotecnologia avanzata può essere usata per costruire microscopici macchinari auto-replicanti che potrebbero alimentarsi di materia organica in maniera simile ai batteri, ma molto più versatili di questi e potenzialmente molto più distruttivi della bomba atomica. La necessità di impedire che gruppi o individui irresponsabili ottengano capacità produttive nanotecnologiche è il tema del giorno nel 2050. L'articolo mostra come questo tentativo di prevenire abusi nanotecnologici, influenzi profondamente molti aspetti della società, sopratutto attraverso l'istituzione di una rete globale di sorveglianza. L'articolo è presentato nella forma di un ipotetico dialogo, per due ragioni. In primo luogo, per poter discutere opinioni diverse e contrastanti e, secondariamente, per poter illustrare in che modo i dibattiti pubblici potrebbero essere condotti nel 2050.

[ P.S. Questo saggio è stato originariamente scritto con il mondo del 2050 in mente. La mia stima attuale riguardo quando questi sviluppi potrebbero verificarsi, è però intorno al 2030, con un margine di errore piuttosto elastico.]

Moderatore: Abbiamo assistito a molti cambiamenti in questi ultimi cinquanta anni, ma quali sono quelli realmente importanti? Sono stati cambiamenti per il meglio o per il peggio? Dove arriveremo nei prossimi cinquant'anni?

Con noi stasera per discutere questi temi, abbiamo tre distinti esperti multidisciplinari: Emily Brown, Chief Executive Officer della Cisco Systems; il Dott. Chun Ten, editore della sezione dedicata alla tecnologia dell'Economist; Neil Brigge, professore di filosofia all' università di New York e direttore del Foresight Institute. Neil, pensi che la condizione umana sia cambiata durante il mezzo secolo passato?

Neil: Viviamo certamente vite più lunghe, con meno malattie. Siamo molto più ricchi. La gamma di esperienze sensoriali a nostra disposizione, semplicemente non esisteva in nessun altro periodo storico. Per esempio, in questo preciso momento, state vedendo una versione ben curata di me, ma la mia versione reale si trova qui, nel mio modulo di realtá virtuale, ed è molto meno presentabile - potrei non essermi lavato o rasato per una settimana !

Emily: La gente si preoccupa ancora di come ci si presenta, sia nello spazio fisico che in cyberspace. La percetuale di reddito che spendiamo per la cura personale è aumentata costantemente nel corso del secolo. Mentre diventa più facile soddisfare i nostri bisogni materiali, ci concentriamo sempre di più su quella che è la nostra posizione in rapporto a chi ci sta attorno - c'è forte domanda di quelli che gli economisti chiamano "prodotti status-symbol".

Moderatore: Siamo diventati la generazione più vanagloriosa nella storia?

Emily: O se preferite, quella piú attenta ai desideri del pubblico.

Chun: Ho notato gli inizi di una contro-tendenza, in alcuni strati della società, che si oppone al consumo cospicuo. Certi individui, nelle classi più privilegiate, segnalano il proprio sentirsi superiori snobbando l'uso di filtri cosmetici e di altri prodotti che i meno abbienti non osano non usare. Ma questo "nudismo", come lo chiamano, è molto selettivo. Sono solo alcune delle opzioni a disposizione che vengono ignorate.

Moderatore: Alla fine del secolo, esistevano serie preoccupazioni per l'effetto serra e per gli altri modi in cui gli esseri umani stavano danneggiando l' ambiente. L'effetto serra si è poi rivelato un problema minore, ma che impatto ha avuto il movimento ambientalista di allora sugli sviluppi successivi?

Emily: Il pensiero ambientalista ha introdotto il concetto che viviamo su un pianeta con risorse limitate e che l'impatto di attività locali ha spesso effetti globali. La nascita di una "coscienza globale", è stata forse l'eredità più benefica del movimento ambientalista. Ricordiamoci che sono solo vent'anni che la malnutrizione diffusa è stata eliminata. Naturalmente, le biotecnologie e la nanotecnologia sono stati strumenti essenziali nella vittoria contro la fame e questo ha influenzato l'ideologia ambientalista. Alla fine del secolo, molti ambientalisti erano molto sospettosi della nuova tecnologia in generale. Ora è dato per scontato che è grazie al progresso tecnologico che possiamo sostenere una popolazione mondiale di undici miliardi e allo stesso tempo conservare intatte parti importanti dell' ambiente naturale.

Neil: Un altro elemento è stata la lenta metamorfosi degli obiettivi degli ambientalisti, che si sono gradualmente allargati fino ad includere ogni aspetto della vita umana. Oggi siamo testimoni al dibattito fra transumanisti, che sostengono entusiasticamente la trasformazione della condizione umana e conservatori-naturalisti, che non oppongono le nuove tecnologie, ma solo se queste non sono utilizzate per cambiamenti drastici della natura umana. Quindi, anche se la maggior parte dei naturalisti usa i supplementi per l'estensione della vita, continua però a non approvare l'uso dei medicinali per il controllo dell'umore o della psicofarmacologia cosmetica.

Chun: L'affermazione di legge e ordine a livello internazionale - "la coscienza globale" come la chiama Emily - è probabilmente la ragione per la quale siamo ancora qui. Infatti, non esiste ancora un "sistema immunitario" globale efficace che potrebbe difenderci contro dei nanomacchinari auto-replicanti impazziti. Senza la rete globale di sorveglianza, qualche gruppo terrorista o qualche squilibrato con adeguate conoscenze tecniche avrebbe da tempo creato un proprio assemblatore nanotech e prodotto un "virus" con il potenziale di distruggere la biosfera e sradicare ogni forma di vita intelligente da questo pianeta.

Neil: Verissimo, e tutto ciò potrebbe ancora succedere. Basterebbe un malintenzionato e un singolo momento di distrazione da parte della vigilanza in un qualche impianto, da qualche parte... Dobbiamo sperare che la rete di sorveglianza globale possa essere continuamente migliorata, in modo che ciò non accada.

Moderatore: Come fu possibile implementare tale rete di sorveglianza in tempi così brevi?

Chun: Beh, gran parte dell' infrastruttura era già in esistenza. Le aziende private hanno monitorato i propri clienti per anni, i luoghi pubblici erano già controllati dalla polizia e persino intere nazioni erano già sotto costante monitoraggio da parte delle forze armate. Una volta che le telecamere-insetto divennero poco costose e fu possibile collegarle alle banche dati e al software di riconoscimento somatico-facciale, le reti di sorveglianza cominciarono a coprire territori sempre più estesi e in modo sempre più dettagliato. Un altro fatto importante è che i politici si convinsero della necessità di controllare la nanotecnologia. E qui penso che un ruolo chiave sia stato quello delle istituzioni sovranazionali. I futures sulle idee [idea futures - NdT] ne sono un buon esempio. Com'è noto, il concetto di futures sulle idee consiste in una Borsa in cui gli investitori scommettono su ipotesi riguardanti futuri sviluppi tecnico-scientifici o eventi politici, etc. I prezzi delle azioni di questa Borsa - cioè le probabilità - vennero gradualmente accettati come autorevoli previsioni della probabilità che eventi futuri si verifichino. Nel ventesimo secolo i governi frequentemente affidavano studi su possibili sviluppi futuri a gruppi di esperti, ma è stato dimostrato che il mercato è molto più efficace nel fornire previsioni di quanto lo siano i comitati selezionati politicamente. Tali mercati erano vietati, agli inizi, nella maggior parte delle nazioni, a cause delle leggi sul gioco d'azzardo. Gradualmente, però, alcune eccezioni furono autorizzate, prima per il mercato azionario ed in seguito anche per vari prodotti, ma è solo in questo secolo che si sono sviluppati vasti mercati liberi con bassi costi di transazione, nei quali gli investitori possono vendere e comprare la maggior parte dei titoli. Non dobbiamo sottovalutare l'importanza di questo fattore nel rendere più razionale il processo decisionale.

Neil: Sono d'accordo sul fatto che questo sia stato importante. Le tragedie dei primi vent'anni del secolo, quando i virus ingegnerizzati sono stati utilizzati per uccidere milioni di persone, hanno anche contribuito a preparare il mondo alle sfide di oggi. La gente ha visto i danni che una persona malvagia può fare con organismi auto-replicanti e la nanotecnologia è molto, molto più potente. Penso che siamo stati incredibilmente fortunati fino ad ora. Forse stiamo vedendo il risultato di quello che i filosofi chiamano un effetto di selezione osservazionale. Forse la maggior parte delle civilizzazioni nell'universo si distruggono quando sviluppano la nanotecnologia e soltanto i più fortunati sopravvivono sufficientemente a lungo per potersi interrogare sulla propria fortuna. Quindi, il nostro successo, fino ad ora, non deve renderci compiacenti.

Emily: È incredile la rapidità con cui la gente si è abituata all' idea che tutto ciò che chiunque faccia possa essere scoperto da chiunque sia sufficientemente interessato a scoprirlo. Quando qualcuno ti invita a cena, puoi informanti sui suoi suoi rapporti sentimentali precedenti e così via. Se aveste spiegato come sarebbe stato il futuro a qualcuno, solo cinquanta anni fa, ne sarebbero rimasti sconvolti! Probabilmente avrebbero pensato immediatamente a "Il Mondo Nuovo" di Huxley, o a "1984" di Orwell, con il Grande Fratello che ti controlla costantemente. Invece, è come essere in una colonia di nudisti: se siamo tutti nudi, l'imbarazzo non dura molto. Abbiamo tutti avuto dei piccoli segreti che ci sembravano tremendamente importanti. Ma quando abbiamo visto che ognuno hai i propri piccoli vizi, i nostri standard si sono adattati e siamo diventati tutti più tolleranti. A meno che tu non faccia qualcosa di malvagio o che infranga la legge, non hai nulla di cui preoccuparti. E le città, ora, sono molto più sicure.

Chun: Il segreto per impedire che la sorveglianza globale si trasformi in soppressione globale, è di non cedere sulle libertà fondamentali e di tenere sotto costante sorveglianza le forze dell'ordine ed il governo. È cruciale fare in modo che il sistema sia trasparente in entrambe le direzioni, in modo di poter controllare coloro che ci controllano.

Emily: Eppure si sentono in giro teorie che sostengono come tutto ciò altro non sia che un complotto, da parte delle nazioni tecnologicamente avanzate, per mantenere il potere nell'era della rivoluzione nanotecnologica.

Chun: Quello che sta succedendo è evidente ad ogni osservatore imparziale. Dato che non esiste ancora nessuna forma di difesa contro un attacco nanotecnologico e dato che un attacco del genere potrebbe potenzialmente distruggere la biosfera, tali attacchi devono essere evitati a tutti i costi. L' unica strategia praticabile consiste nel limitare il numero di coloro che hanno accesso a mezzi nanotecnologici. Se un singolo folle suicida lo ottenesse, sarebbe la fine.

Emily: Sono d'accordo. Dobbiamo limitare l' accesso alla nanotecnologia fino a che non avremo sviluppato sistemi di difesa efficaci. Ma questo non vuol dire che le principali pontenze mondiali non godano di un ingiusto vantaggio in questa situazione di monopolio tecnologico. Coloro che sono prevenuti dal costruire nano-assemblatori hanno il diritto di essere compensati, ma gli attuali trasferimenti di fondi non sono per nulla sufficienti.

Chun: Esiste anche il problema delle leggi sulla proprietà intellettuale, che è un tema scottante ormai da anni…

>> Emily Brown scompare all'improvviso <<

Moderatore: Pare che abbiamo perso il contatto con Emily - era sul suo yacht. Spero che non si sia imbattuta in una bufera… Allora, continuiamo la trasmissione, occupandoci ora del futuro: cosa c'è all'orizzonte? Neil, so che hai espresso un certo pessimismo circa il futuro.

Neil: Non sono un pessimista, ma stiamo sottovalutando il rischio che si verifichi una proliferazione nanotecnologica prima che siano state sviluppate le difese necessarie. Si sono già verificati alcuni incidenti. Con la diffusione del "know-how" tecnologico, sarà sempre più difficile garantire che un gruppo terroristico non possa sviluppare un assemblatore. La creazione di un efficace sistema immunitario globale per il controllo di nanomacchinari auto-replicanti è una sfida molto, molto difficile. Deve essere presente letteralmente ovunque: mare, terra, atmosfera. Deve evitare di attacare le forme di vita biologiche e deve funzionare al 100%. Siamo molto lontani da tutto ciò, al momento.

Chun: Però, la tecnologia di sorveglianza continua a migliorare rapidamemente...

Neil: Sì, ma cosa succederebbe se qualcuno sviluppasse una tecnologia di contro-sorveglianza? Le forze dell'ordine stanno studiando metodi per il controllo e la prevenzione della ricerca in quel settore. Ma il problema è che si tratta di un settore così vago. Chi può dire quale progetto di ricerca potrebbe risultare in un qualche modo di evadere la rete di sorveglianza globale?

Moderatore: Non ci sono dei futures che ci diano un'idea della probabilità che ciò succeda?

Neil: Sì, ma in realtà non sono affidabili. Il problema è questo: chi vorrebbe scommettere sull' ipotesi che la civilizzazione sarà distrutta? Se tu avessi ragione, non ci sarebbe nessuno per pagarti! È sconfortante notare che quello che gli economisti chiamano il time discount factor sia in crescita (il time discount factor è una misura di quanto valore si dia ad un bene presente, paragonato al possesso dello stesso bene ad un certo momento nel futuro) [La differenza è il valore che si dà al fatto di rinunciare a quel bene per un certo periodo di tempo - NdT]. Ciò potrebbe essere interpretato come una manifestazione di una certa diffusa inquietudine: la gente si domanda se la civiltà continuerà sufficientemente a lungo da permettergli di godersi i propri risparmi.

>> Emily Brown riappare <<

Moderatore: Bentornata, Emily!

Emily: Scusatemi! Mi trovo su uno yacht e il mio figlio stava giocando con l' antenna…

Moderatore: Figurati! Il mio contatore indica che l'interruzione ha fatto crescere l'indice d'ascolto... è il bello della diretta! Ai nostri spettatori piace quando le cose non vanno come previsto! Dai un regalino a tuo figlio!

Emily: Non mi sembra il caso!

Moderatore: Stavamo parlando del futuro. Neil stava cercando di convincerci che non è un pessimista, ma poi ha illustrato una serie di ottimi motivi per cui è probabile che saremo tutti trasformati in "grey goo" da nano-replicatori impazziti. Giusto, Neil? [grey goo: letteralmente pappa, o poltiglia, grigia. Lo scenario in cui un nano-robot onnivoro e autoreplicante sfugge al controllo e trasforma l'intera biosfera in copie di se - NdT]

Neil: Più o meno. Ma d' altra parte, se riusciremo a evitare quella che sarebbe in pratica la fine del mondo, enteremmo in un'era estremamente positiva. Questa è la ragione per cui non mi considero un pessimista, perché, se faremo attenzione, potremo realizzare un mondo incredibile.

Chun: Mio nonno ha 102 anni ed è abbastanza attivo, grazie alle tecnologie di estensione della vita. Oggi come oggi non possiamo neanche immaginarci le incredibili possibilità che diverranno realtà quando potremo riprogettare ed espandere le nostre menti. La posta in gioco non è mai stata più alta. Giunti a questo punto, dobbiamo assicurarsi che non ci distruggeremo con una applicazione nanotecnologica impazzita, anche se vorrà dire rallentare il progresso in certe aree, se non altro temporaneamente.

Neil: Molta gente non vivrà fino a poter vedere questi sviluppi. Più di centomila persone si deanimano ogni giorno, molti a causa di complicazioni legate all'invecchiamento. Più di due terzi della popolazione ancora non ha ancora un contratto per la sospensione crionica! Una volta deanimati, anziché conservare le informazioni contenute nei loro cervelli con il congelamento o con la vitrificazione, sono cremati o sepolti. Queste sono buone notizie solo per i vermi… E tutto ciò proprio quando, nel mercato dei futures sulle idee, si stima a più del 50% la probabilità di rianimazione del primo cervello umano congelato nei prossimi tre anni! Queste inutili perdite di vite umane, giorno dopo giorno, anno dopo anno, rendono insignificanti, al confronto, le due guerre mondiali o la cosiddetta influenza di Bagdad.

Chun: La differenza è che queste morti sono in gran parte autoselettive. È il prezzo che si paga per la libertà di religione.

Neil: Per alcuni è vero. Ma ci sono milioni di persone che semplicemente non possono permettersi un contratto di sospensione crionica, o non hanno ricevuto sufficiente educazione per capire quali sono le alternative a loro disposizione. Ora, non voglio dire che dovremmo introdurre la biostasi forzata, ma è nostro dovere fornire sufficienti informazioni e aiuto finanziario a chi ne abbia bisogno, in modo che ogni individuo abbia la possibilità di prendere una decisione informata.

Moderatore: Non rischieremmo la sovrapopolazione se tutta la gente che è attualmente in sospensione crionica fosse improvvisamente rianimata?

Chun: In realtà non sono poi molti. Circa tre miliardi di persone hanno organizzato la propria sospensione, ma coloro gia' sospesi sono soltanto intorno ai 150 milioni.

Neil: I futures sulle idee indicano che se costoro saranno reanimati, sarà con tecniche di "mind uploading" [Il trasferimento di una mente da un substrato biologico ad uno artificiale, cioè un computer. Vedi qui - NdT]. Sarebbe infatti la soluzione più semplice: i cervelli vitrificati sarebbero sottoposti ad analisi distruttiva, cellula per cellula, molecola per molecola, scannerizzando così le reti neurali in un'emulazione su computer. I ripari in vitro sono più difficili di quelli in silicio [I ripari alle strutture di un cervello in biostasi sono più complicati di quelli in una simulazione - NdT]. In altre parole, una simulazione su elaboratore è la soluzione più semplice. Personalmente, preferirei essere uploadato, invece di avere il mio vecchio cervello biologico. Già passo la maggior parte del mio tempo in ambienti di realtà virtuale e mi piace l'idea di potere fare una copia di riserva della mia mente più volte al giorno. Se per qualche motivo desidero interagire con oggetti "reali", posso sempre affittere un robo-corpo adatto alla situazione.

Emily: Io posso capire la paura dell'uploading. Fa paura anche a me. Chi mi può garantire che l'emulazione di un cervello sarà cosciente? Inoltre, anche se la realtà virtuale in cui vivremmo fosse perfetta per quanto riguarda visione e suono, sono convinta che non sarà paragonabile al mondo "reale" per quanto riguarda gli altri sensi. Il sesso virtuale è grande, ma preferisco il contatto diretto con il corpo di mio marito.

Neil: Gli altri sensi in realtà virtuale funzioneranno molto meglio per gli uploadati. È molto più facile risolvere questi problemi per gli uploadati, perché è possibile attivare direttamente i neuroni delle loro cortecce sensoriali. Non ci sarà bisogno dei complicati marchingegni meccanici oggi comunemente usati per stimolare le superfici del corpo.

Emily: Continuo a vedere l'uploading come l'ultima spiaggia. Dovendo scegliere, preferirei l'upload alla morte, ma penso proprio che mi terrò il mio corpo biologico finchè funzionerà.

Neil: Ci potrebbero essere vantaggi enormi ad essere fra i primi uploadati. Ero ad un congresso di neuro-computazione, la settimana scorsa e ho incontrato parecchi gruppi dii ricerca che stanno studiando le ipotetiche modalità di aumento delle abilità intellettuali di un upload, aggiungendo nuovi neuroni, nuovi collegamenti, etc. Se gli uploadati diventassero più intelligenti degli esseri umani, preferirei essere un upload. Inoltre, non dobbiamo dimenticare che il potere computazionale a nostra disposizione continua ad aumentare. Secondo un titolo futures sulle idee, entro due anni dal primo upload umano, avremo un upload che pensa cento volte più velocemente di un cervello biologico! L'ultima volta che ho controllato, quel titolo aveva una probabilità del 50%.

Chun: Dato che gli upload sono software, possono facilmente creare copie di se stessi. Potremmo avere un' esplosione demografica a livelli mai visti e potremmo dover andare a ripescare Malthus. Malthus era un economista politico del tardo diciottesimo secolo che ha sostenuto che, senza controllo demografico, la crescita di una popolazione risulterà sempre più rapida dello sviluppo economico. Nemmeno la colonizzazione spaziale (che finora è costata più di quanto abbia reso, ma che secondo i futures sulle idee comincerà a dare dei risultati economici nei prossimi dieci anni) potrà tenere il passo con una popolazione di upload in crescita esponenziale.

Emily: L'uploading solleva enormi questioni etiche e politiche. Per non parlare dei problemi legali. Se sei un upload e fai una copia di te stesso, ci saranno due implementazioni quasi identiche di te: quale delle due è legalmente sposata a tuo marito? Stiamo solo cominciando ad intravvedere le consequenze di questi sviluppi. Vorrei vedere introdotta una moratoria sugli esperimenti di uploading e su certe aree di ricerca nel settore dell'intelligenza artificiale fino a quando non avremo capito bene dove stiamo andando. Stiamo giocando col fuoco.

Moderatore: Purtroppo siamo giunti alla fine della nostra trasmissione... È stato un dibattito affascinante. Immagino che, nel corso dei prossimi anni, potremo vedere che risultati daranno gli sviluppi di cui oggi abbiamo parlato. Grazie a tutti per avere partecipato. Neil, lascio a te la parola finale.

Neil: Siamo a metà del guado e il fiume è in piena… La peggior cosa che potremmo fare è fermarci dove siamo ora. Abbiamo bisogno dell' intelligenza più-che-umana dell'intelligenza artificiale per poter sviluppare le difese contro il potenziale pericolo di nano-entità sfuggite al nostro controllo. Non ridurremmo i pericoli rallentando il progresso, al contrario, i rischi sarebbero persino più gravi. La strategia migliore è di andare avanti il più rapidamente possibile, usando tutte le possibili precauzioni, nella speranza di poter raggiungere l'altra riva.