Intervista a David Orban, cofondatore del Singularity Institute Europe

Intervista a David Orban

David Orban è il co-fondatore del Singularity Institute Europe (sito italiano, lista di discussione).

Qual'è il tuo background e come ti sei imbattuto in singolarità , transumanesimo, etc?

La mia formazione è scientifica, ho studiato fisica all'università e come per molte persone di quel campo all'inizio degli anni '80 i computer rappresentavano una trazione praticamente irresistibile. Ho seguito quindi anche attraverso esperienze dirette personali l'aumento della potenza di calcolo dei computer che circondano il nostro quotidiano. Ho sempre cercato di confrontare quelle che erano le mie esperienze interiori con la realtà del mondo esterno, ed in questo senso era naturale per me chiedermi se i cambiamenti che vedevo davvero non rappresentassero novità fondamentali e radicali della condizione umana, oppure se, come a me sembrava, potevano essere invece un'indicazione di cambiamenti ancora più importanti a venire.

Cosa ti ha spinto a popolarizzare il concetto di singolarità tecnologica in Italia?

La singolarità tecnologica è un modo spettacolare per rappresentare i cambiamenti che il futuro ci potrà portare. Non è difficile per uno scettico decidere che gli scenari più radicali siano pura fantascienza, e che sono destinati a rimanere tali. Chi ragiona così trova poi naturale passando oltre non fare più niente. Dall'altra parte per le persone che ritengono che gli scenari descritti da coloro che si occupano ad anticipare i contorni del futuro possano realizzarsi diventa molto importante cercare di capire l'impatto che il cambiamento potrà avere sulla società. Non sono quindi solo coloro che si occupano di tecnologia a non capire il concetto della singolarità tecnologica, ma anche coloro che si occupano di politica, politiche sociali e del lavoro, sanità e previdenza, pensioni e in generale tutto quanto concerne l'organizzazione delle nostre società. La mia attività di divulgazione a livello europeo ed italiano è una diretta conseguenza di questo ragionamento.

Parlaci dei vostri incontri. Quanti ne sono stati organizzati e come sono andati? Pensi di organizzarne altri, magari anche in altre città oltre a Milano?

A partire dal mese di ottobre 2007 abbiamo organizzato un incontro mensile. Un'occasione di incontro tradizionale per un gruppo che comunica intensamente attraverso la rete. Cercheremo di mantenere questo ritmo di incontro mensile e personalmente sarò felice di vedere nascere l'interesse attorno all'argomento e poi possa sfociare in incontri anche in altre città. Il successo degli incontri naturalmente dipende dalla qualità della discussione: in questo senso riteniamo che sia molto importante riuscire a coniugare l'aspetto divulgativo che non deve risultare in una eccessiva semplificazione con quello analitico ed esplorativo che deve avanzare la capacità di approfondimento dei temi.

Qual'è il rapporto fra SingInst.it e il Singularity Institute for Artificial Intelligence?

I due istituti che ho fondato a livello europeo e italiano sono riconosciuti dalla organizzazione statunitense e sono ad essa affiliati. Quello che cerchiamo di realizzare è un complemento svolto dal lavoro degli americani, focalizzando in particolare la nostra attenzione alla diversità culturale e di esperienze che le varie nazioni europee introducono. Sarà necessario organizzare gruppi di studio e di incontro soprattutto per le attività di divulgazione per i diversi gruppi linguistici europei, affinché le conclusioni e le raccomandazioni dell'istituto possano essere diffuse adeguatamente.

Uno dei risultati preliminari che abbiamo raggiunto nelle discussioni del gruppo riguarda il desiderio di studiare e approfondire quello che chiamiamo il fenomeno dei "segnali deboli". Così come il rombo lontano del tuono anticipa una tempesta in avvicinamento, riteniamo che se si applica una sufficiente attenzione sia possibile cogliere i segni di cambiamenti radicali futuri già oggi.

Una domanda che non puo' mancare, parlando della singolarità tecnologica, è quella della data, per quanto approssimative siano, per forza di cose, le previsioni di questo genere. Vinge ha dichiarato che "sarebbe sopreso se tale evento [la singolarità tecnonologica] si avverasse prima del 2005 o dopo il 2030". Kurzweil ha citato il 2045. Guardando nella sfera di cristallo ;-) qual'è la tua previsione e su cosa di basa?

La singolarità tecnologica non è una necessità! Ci potrebbero essere al momento attuale dello sviluppo della civiltà umana catastrofi naturali che interromperebbero la linea di sviluppo esponenziale che abbiamo seguito finora. Che cosa succederà quindi nel momento in cui non avvenissero eventi di questo tipo? Una delle definizioni di singolarità tecnologica riguarda la incapacità degli esseri umani tradizionali di seguire la realtà che li circonda. Fintantoché ci sono altri che sono in grado di farlo, e finché questi ritengono che sia parte del contratto sociale prendersi cura di quella parte dell'umanità che non lo è più, allora siamo a posto. In base a questa definizione che chiamerei clarkeiana, dato che richiama il famoso detto sull'incomprensibilità di tecnologie avanzate espressa da Arthur C. Clarke, la singolarità tecnologica è già presente per alcuni gruppi di esseri umani. Siamo noi occidentali che riteniamo di doverlo ancora passare, e che solo quella che passeremo noi sia quella "vera". Quindi la domanda è: quando ci sarà una singolarità tecnologica che venga definita come tale da tutti i gruppi sociali sulla terra? Ritengo che l'ambiente urbano in cui vive oggi la maggioranza degli esseri umani subirà trasformazioni tali che un essere umano tradizionale troverà molte difficoltà a comprenderlo e a parteciparvi oltre il 2030-2035. Senza dilungarci troppo quindi non esiterei a definire questo il momento della singolarità tecnologica.

Molti lettori di Estropico sono affascinati dall'idea dell'immortalità fisica (o quantomeno di aspettative di vita illimitate). Pensi che tale obiettivo sia solo raggiungibile post-singolarità? Ampliando la domanda: è solo grazie a sistemi di intelligenza artificiale in grado di automodificarsi e autopotenziarsi (e quindi non direttamente in nostro controllo) che possiamo aspirare alla postumanità?

Le cause di morte prevalenti oggi nelle società occidentali sono quelle legate ai processi di invecchiamento. Sono d'accordo con i fondatori del programma SENS che ritengono che questi processi non siano desiderabili e lavorano affinché vengano uno ad uno eliminati. Il successo di questo programma porterà ad una vita media radicalmente più lunga di oggi (naturalmente ci vorrà parecchio tempo perché siamo in grado di verificare se un essere umano vivrà fino a 1000 anni per esempio: ci vorranno 1000 anni, appunto!). Per questo tipo di cambiamento biologico non è necessario raggiungere la singolarità tecnologica.

Quando penso però all'immortalità non intendo un periodo così breve come sono 1000 anni, ma penso piuttosto miliardi di anni, o meglio ancora miliardi di miliardi di anni. A questo punto penso che sia evidente, messo semplicemente a fuoco dall'enormità dei numeri citati, che questo tipo di immortalità radicale non sia funzione di quello che definiamo il limite del possibile funzionamento del corpo umano. Quello che dobbiamo chiederci è il significato di identità in quell'enorme insieme di ambienti possibili che le variabili dell'universo fisico nell'arco di un tempo così lungo possono produrre. Ritengo che da questo punto di vista non si possa parlare di immortalità: le entità che si guardassero dai due estremi di un arco temporale così lungo non potrebbero ritenersi rappresentativi di uno stesso singolo individuo.

Dal mio punto di vista è bene che cominciamo ragionare sull'opportunità di applicare un filtro inclusivo alla definizione di umanità. Sarà nostro interesse fare così! Nel momento in cui le entità postumane lo ritenessero avranno gradi di libertà sufficienti per realizzare anche in pratica modelli di comportamento paralleli ed alternativi ai nostri. Finché non lo vorranno e quindi condivideranno con gli umani tradizionali gli spazi fisici, ne andrà a beneficio di questi secondi.

Quello del rapporto fra singolarità e religione è un tema molto discusso (un articolo del SingInt.it al proposito). I paralleli sono innegabili: l'utopia tecnologica al posto del Paradiso, Ray Kurzweil, o Vernor Vinge, al posto di Gesù Cristo, una superintelligenza al posto di Dio, la promessa della vita eterna… Non manca neanche la necessità di condurre la propria vita in un certo modo (longevismo, crionica, etc) nella speranza di sfuggire all'oblio. Pensi che questi paralleli siano un'opportunità da sfruttare, un pericolo da evitare, o che altro?

Dal punto di vista etnografico si può osservare come la religione abbia fatto parte delle civiltà umane. Probabilmente sarà così per alcune civiltà anche in futuro. Nel momento in cui i credenti di varie religioni vedono un parallelo tra alcune profezie descritte nei loro libri sacri e possibili futuri singolaritariani, sono naturalmente attratti dall'approfondire questi paralleli cercando di dare loro un significato gnoseologico. Dal punto di vista dell'ingegneria dei sistemi tuttavia il percorso tecnico della singolarità è un programma scientifico, che non c'entra con la religione. Anche dal punto di vista dell'analisi dell'impatto sulle società future la religione non può con tutta probabilità essere un fattore abilitante di risultati positivi, non prevedo cioè che coloro che cercheranno di dare raccomandazioni di politiche sociali affinché le popolazioni in generale siano meglio in grado di affrontare l'impatto futuro della singolarità lo facciano tenendo conto di dogmi religiosi. Dall'altra parte prevedo che con il diffondersi della percezione del concetto di singolarità tecnologica, che attualmente non è ancora avvenuto, ci saranno molti gruppi religiosi che si opporranno ai suoi assunti e alle sue possibili conseguenze proprio sulla base dei propri dogmi: in questo senso sarà quindi importante studiare le conseguenze di questo possibile impatto.

Hai una strategia personale (terapie/diete/stili di vita longevisti, crionica/ibernazione, o altro) per arrivare alla singolarita'?

No, non ho messo in pratica una strategia esplicita, a parte uno stile di vita relativamente sano. Non fumo, bevo con moderazione, mi muovo un po' (non abbastanza!)... Sono poco sopra i 40 anni, per cui mi illudo di non essere ancora in un momento di declino dove devo preoccuparmi! E' anche una questione di ROI (ritorno sull'investimento): lo sforzo di autodisciplina necessario oggi per una dieta ipocalorica impone uno stile di vita che non potrei condividere o sostenere con coerenza. Penso che alla fine sarà così anche in futuro: moriranno i pigri! Certo, inizialmente anche le barriere economiche all'impiego delle terapie di frontiera saranno presenti, ma solo per un po' e per le tecniche più recenti. Magari i più ricchi e avventurosi saranno quelli esposti ai rischi anche maggiori delle terapie ancora non interamente testate. Ma presto il costo delle terapie anti-invecchiamento di ogni particolare fase del programma SENS scenderanno di costo. A quel punto la chiave di volta sulla loro applicabilità sarà la comodità e la semplicità.

Max More sembra predire una singolarita' "a onda", nella quale "il tasso di cambiamento non deve necessariamente raggiungere una crescita infinita (cioè una singolarità matematica). In questa versione, il progresso tecnologico continuerà ad accelerare, ma forse non con la velocità suggerita da alcune proiezioni." Francamente, mi sembra una versione più realistica di quella in cui la prima superintelligenza si trasforma rapidamente in un "sysop" onnipotente e trasforma tutto ciò che tocca in computronio, anche se questa è indubbiamente una visione spettacolare e affascinante, e nonostante i convincenti grafici di Kurzweil e le loro curve di crescita asintotiche. Eliezer Yudkowski, fondatore del SIAI, ha identificato tre scuole di pensiero al proposito e certamente esistono ancora altre versioni. Quale singolarità tecnologica ti sembra più probabile?

Il nostro mondo fisico non sembra contenere variabili il cui valore è matematicamente infinito. Questo non significa che i cambiamenti a cui un ambiente fisico può essere sottoposto non possano essere estremi. Soprattutto non possiamo sopravvalutare in senso puramente induttivo la capacità di adattamento degli esseri umani tradizionali al cambiamento dell'ambiente circostante. L'analisi proposta da Eliezer e' affascinante proprio perché mette in evidenza le contrapposizioni delle versioni forti delle tre scuole sulla singolarità. L'analogia che faccio frequentemente è con due esseri unicellulari che chiacchierano orgogliosissimi in una pozzanghera dichiarando di essere convinti di sapere che cosa porterà il futuro, visto che da un miliardo di anni circa rappresentano il culmine dell'ecologia sulla terra... e questo avviene il giorno prima della nascita degli esseri multicellulari! Similmente noi adesso ci troviamo ad essere l'unica intelligenza sulla terra e ne andiamo fieri. Ma per quanto siano accurati grafici che disegniamo sui cambiamenti futuri che verranno, il futuro ci sorprenderà comunque!

Recentemente, ho segnalato sul blog una presentazione di Ben Goertzel intitolata "Artificial General Intelligence in Virtual Worlds" e tu stesso sei molto attivo in Second Life etc. Che rapporto vedi fra metaverso e singolarità tecnologica?

Il metaverso potrà rappresentare a mio avviso un importantissimo punto di incontro tra esseri umani tradizionali e le entità postumane. Sarà in questo senso una palestra di allenamento di conflitti e collaborazioni e magari permetterà la definizione delle regole di una pacifica coesistenza nel mondo fisico stesso.

Chi pensi abbia dato l'impulso principale al meme della singolarita' tecnologica? In altre parole, chi e' il tuo "guru" ;-) singolaritario preferito? Vinge, Kurzweil, o forse de Chardin,Tipler o altri?

Direi sicuramente i primi due.

Cosa rispondi a coloro per i quali la singolarità non è un'oppurtunità, ma un pericolo?

La singolarità non è solo una di queste cose. Ci sono sicuramente degli elementi di pericolo contenuti all'interno di un mondo che cambia troppo rapidamente perché possiamo stargli dietro. Non che madre natura sia stata così calda ed amichevole con gli esseri umani nel passato: con una scusa di aiutarci lungo la strada dell'evoluzione ci massacrava alla prima opportunità! In ogni caso proprio perché il progresso futuro rappresenta anche elementi di pericolo, risulta evidente ancora di più la necessità di studiarlo. Da una originaria proposta irrealizzabile del 'relinquishment', il volontario abbandono di linee di studio ritenute pericolose, anche Bill Joy ha modificato le proprie posizioni verso quelle più orientate ad un controllo moderato. l'abbandono della ricerca tecnologica è improponibile, dall'altra parte bisogna stare molto attenti alle proposte di coloro che ritengono che solo una libertà totale possa essere accettabile dello studio delle conoscenze future e le loro possibili applicazioni. L'opposizione libertaria di costoro non è sbagliata nel momento in cui ci laviamo le mani dei possibili effetti collaterali: il mercato, così come l'evoluzione, non guarda in faccia nessuno. Dobbiamo trovare quindi quelli che sono i meccanismi giusti, le meta-regole di controllo da applicare al nostro futuro prossimo. Per questo diventa ancora più cruciale il compito della divulgazione di quelli che sono i risultati della ricerca scientifica e tecnologica avanzata: la società civile dovrà prendere delle decisioni importanti sempre di più frequentemente informando le scelte dei politici che a loro volta decideranno le leggi che implementano queste scelte. Se non capiremo le conseguenze delle nostre azioni o della nostra inazione, danneggeremo gravemente le nostre possibilità future.

Infine, due domande in parte collegate: quale percorso sarà necessario seguire perché la singolarità all'orizzonte sia benigna e non un rischio esistenziale? E cosa possono fare i nostri lettori che volessero contribuire all'emergere di tale roadmap?

Il prossimo incontro del nostro gruppo di Singularity Institute Italia a Milano avrà come uno dei primi temi proprio le lezioni che possiamo imparare dalla storia. La nostra capacità di risoluzione di conflitti è migliorata tantissimo nell'arco degli ultimi 5000 anni e dovrà migliorare ancora. Il percorso da seguire quindi non è di tipo tecnologico, ma sociale e politico.

Tutte le persone possono aiutare dall'analisi razionale dei concetti che stanno alla base della singolarità tecnologica, e della loro diffusione e divulgazione. Solo le menti aperte e preparate saranno in grado di prendere decisioni importanti dal punto di vista sociale e politico oltre che tecnologico che ci troveremo di fronte nei prossimi anni!