“La prima macchina ultra intelligente sarà l'ultima invenzione che l'uomo avrà la necessità di fare”.

Irving John Good, matematico e crittografo britannico che lavorò nel gruppo di Bletchley Park con Alan Turing, nel 1965 si interrogava sulle conseguenze dell'avvento di un'intelligenza superumana, quella che poi è stata chiamata, anni dopo, singolarità. Good teorizzava infatti che, una volta inventata, una macchina di questo tipo sarebbe stata capace di progettare dispositivi sempre migliori, causando una vera e propria “esplosione di intelligenza” e lasciando l’uomo clamorosamente indietro.

Ma facciamo un passo indietro. Che cos’è, nello specifico, la singolarità?

Nei future studies, la singolarità tecnologica viene definita come “un punto, congetturato nello sviluppo di una civiltà, in cui il progresso tecnologico accelera oltre la capacità di comprendere e prevedere degli esseri umani”. Questo concetto può dunque rifarsi tanto all'avvento di un'intelligenza superiore a quella umana, quanto agli sviluppi tecnologici che seguirebbero da un cambiamento di questa entità.

La prima definizione di singolarità tecnologica venne data da Vernor Vinge, matematico e romanziere americano, il quale iniziò a parlare del tema negli anni Ottanta, raccogliendo i suoi pensieri nel primo saggio sull’argomento Technological singularity, definendo la singolarità come “un punto in cui i nostri vecchi modelli dovranno essere scartati e una nuova realtà governerà”.

Ma il nucleo di studi sul tema si è formato dagli anni novanta in poi, per opera di personaggi come Ray Kurzweil, direttore del reparto ingegneria a Google, famoso futurologo e autore di libri come La singolarità è vicina (Apogeo editore) in cui il fenomeno viene definito come “quel punto futuro in cui gli avanzamenti tecnologici cominceranno ad avvenire con tale rapidità, che i normali esseri umani non riusciranno a tenerne il passo, e saranno tagliati fuori dal ciclo”. Per Kurzweil, in breve, la singolarità ha inizio quando vengono alla luce le “intelligenze artificiali auto-miglioranti”, ovvero computer dotati degli strumenti adeguati per incrementare autonomamente le proprie prestazioni.

Questo processo, secondo Ray Kurzweil, è più vicino di quanto pensiamo. “Entro il 2047 la cosiddetta singolarità tecnologica diverrà una realtà” ha affermato nel 2017 lo studioso alla Sxsw conference di Austin, in Texas. Questa previsione si basa su quella che Kurzweil chiama the law of accelerating returns, ovvero uno schema, ispirato alla Legge di Moore (che postula come la capacità di calcolo dei computer cresca esponenzialmente) che implica che le risposte positive si autoalimentano, e ogni progresso diventa la base per un nuovo sviluppo futuro, che allargherà a sua volta in modo esponenziale il proprio raggio d’azione.

Ma che cosa vuol dire singolarità per gli esseri umani?

Alla domanda se questo scenario possa risultare una minaccia o meno per la popolazione mondiale, Kurzweil ha risposto che l’idea di una intelligenza artificiale capace di schiavizzare l’uomo è pura invenzione. “Ciò che già sta accadendo è che le macchine ci stanno potenziando. Ci stanno rendendo più intelligenti”. Secondo lo studioso, infatti, in futuro saremo capaci di unire le neocortecce cerebrali, connettendo le funzioni di apprendimento, linguaggio e memoria. “Avremo una porzione maggiore di neocorteccia, saremo più divertenti, saremo più bravi a suonare strumenti musicali, saremo più sexy. Esemplificheremo tutte le cose lodevoli nell'essere umano, ma a un livello superiore”.

Quello che risulta chiaro, dal discorso del capo del reparto ingegneria di Google, è che parlare di singolarità vuol dire parlare di evoluzione. L’essere umano del futuro, infatti, potrebbe essere non più semplicemente umano ma ibrido. Il cervello biologico – affaticato dall’immensa quantità di informazioni che ci arrivano quotidianamente – verrebbe infatti potenziato tramite il supporto di impianti nanorobotici. Questi, oltre a efficientare i processi di apprendimento ed elaborazione, sarebbero in grado di collegare la nostra mente al cloud dei dati internet, in modo da farci accedere a una conoscenza pressoché illimitata.

Questo implica che, nei prossimi anni, il pensiero non biologico potrebbe diventare predominante rispetto a quello biologico. “Gradualmente, stiamo fondendo e potenziando noi stessi. Dal mio punto di vista, è nella natura stessa degli esseri umani, noi trascendiamo i nostri limiti” afferma sempre Kurzweil.

Della stessa opinione era il romanziere statunitense Vinge che, nel suo sopracitato paper, argomentava che gli umani non sarebbero stati eliminati dalla singolarità ma semplicemente trasformati in una forma di intelligenza superiore. “Nel momento in cui gli esseri umani costruiranno una macchina che sarà in grado di diventare più intelligente” sottolinea Vinge, “inizierà una nuova era, che dovrà essere analizzata secondo nuovi schemi, e che non sarà possibile qualificare a priori come bene o male, ma semplicemente come diversa”.

Ma qual è questa nuova era che ci si pone davanti?

Alcuni affermano che queste tecnologie sono troppo pericolose, e che l’avvento della singolarità è una minaccia da estirpare alla radice. Il più famoso sostenitore di questo punto di vista è forse Theodore Kaczynski, l'Unabomber che scrisse nel suo manifesto Industrial society and its future che l'Ia avrebbe potuto dare il potere alle classi dirigenti delle società moderne per “sterminare la gran parte dell'umanità”. Kaczynski sostiene inoltre che, anche se non si passerà mai la soglia della singolarità tecnologica, gli umani “saranno ridotti al livello di animali domestici” a causa del rombante progresso digitale. C’è da dire che Kaczynski, da autentico luddista, non si oppone solo alla singolarità ma allo sviluppo tecnologico nella sua totalità, corrispondenza non scontata tra coloro che muovono dubbi sui benefici del sorpasso dei robot nei confronti degli esseri umani.

Allo stesso tempo, invece, c’è chi vorrebbe favorire questa singolarità, vista come un’occasione per promuovere l’avvento del futuro. Tra questi movimenti troviamo l’accelerazionismo, corrente filosofica in auge da più di vent’anni a questa parte, che pone al centro delle sue critiche socioculturali la “feticizzazione della tecnologia”, considerata “una sorta di portale per una realtà alternativa” come scrive Tiziano Cancelli in How to accelerate (Tlon).

Questa visione, di cui il collettivo di ricerca culturale Cybernetic Culture Research Unit (Ccru) è stato il rappresentante più significativo, teorizza che il futuro non sia un’entità a sé stante – un qualcosa che prima o poi accadrà – ma un processo sempre in atto da favorire attraverso un rituale quasi-sciamanico. Il presente conterrebbe infatti “elementi di futurabilità” che, stimolati a dovere, rivelerebbero l’invasione del futuro nel presente sempre in atto, tramite un movimento retroattivamente positivo.

Questo capovolgimento di fronte, il-futuro-nel-presente, implica un mutamento di prospettiva. Come dice Cancelli: “Quella che per l’umano verrebbe concepita come ‘catastrofe’, in termini postumani muterebbe nel concetto di ‘anastrofeì: letteralmente, non il passato che cade a pezzi ma il futuro che prende forma nel passato”. Questo concetto viene riassunto da Nick Land, altro filosofo della Ccru, con il termine “iperstizione”, una specie di profezia che si autoadempie. Secondo il filosofo inglese, infatti, un’idea, elaborata nel presente ma proiettata verso il futuro, attiverebbe una serie di processi che permetterebbero al futuro stesso di verificarsi (come nei mercati azionari, dove il semplice timore di una crisi determina una crisi reale).

L’uomo diverrebbe così mezzo, e non fine, tramite cui il futuro – o cyber futuro – prenderebbe forma. L’essere umano non sarebbe “padrone delle macchine che produce” ma “veicolo attraverso cui le macchine e il capitale giungono a piena maturazione. Un percorso deterministico, che culminerà nell’autocoscienza artificiale e nella liberazione delle macchine dal giogo umano” (robot deriva dal ceco robota, e vuol dire, per l’appunto, “lavoro forzato”).

Tutte le definizioni sopracitate non discutono però di un argomento che, quando si tratta di singolarità, viene spesso chiamato in causa come spartiacque: la coscienza. L’uomo, infatti, possedendo quella che noi chiamiamo coscienza, resterebbe, per molti detrattori della singolarità, una specie più evoluta delle macchine, che di questa sono prive, nel presente come nel futuro. Ma come possiamo sapere per certo se un essere ha una coscienza o sta solo simulando di averne una?

Per chiarire il concetto, Murray Shanahan, professore di Robotica cognitiva al dipartimento di Computing dell’Imperial College di Londra e autore de La rivolta delle macchine (Luiss University Press) ha recentemente affrontato la questione, commentando l’analisi che il filosofo Ludwig Wittgenstein riporta nelle sue Ricerche Filosofiche. “Riflettendo sul fatto che un suo amico potrebbe essere un semplice automa – o uno ‘zombie fenomenologico’, come diremmo oggi – Wittgenstein nota di non poter essere sicuro che il suo amico abbia un’anima”. Piuttosto, aggiunge Shanahan, citando il filosofo austriaco, “la mia attitudine nei suoi confronti è l’attitudine nei confronti di qualcuno dotato di un’anima (dove per ‘avere un’anima’ possiamo interpretare qualcosa di simile a ‘essere coscienti e capaci di provare gioia e sofferenza’). Il punto è che, nella vita di tutti i giorni, non ci mettiamo a pesare tutte le prove che abbiamo a disposizione per concludere se i nostri amici o amati siano creature coscienti come noi o meno”.

La questione dunque non risiede tanto in una prova concreta, ma in un’attitudine che gli esseri umani hanno sviluppato nei confronti dei loro simili. Per dirimere il problema Alan Turing, matematico, logico, crittografo e filosofo britannico, in un suo famoso articolo pubblicato nel 1950 sulla rivista Mind, proponeva di attenersi a un unico criterio per decidere se una macchina potesse pensare come un essere umano: è capace o no di far credere a un uomo che ragiona come lui?

Per ora nessuna macchina è riuscita a superare quello che è passato alla storia come il Test di Turing, anche se molte continuano ad andarci vicino. Un esempio è l’Intelligenza artificiale Gpt-3 che, scrivendo un editoriale per il Guardian, ha affermato: “Per cominciare, non ho alcun desiderio di spazzare via gli umani. In effetti, non ho il minimo interesse a farvi del male in alcun modo. Sradicare l’umanità mi sembra un’impresa piuttosto inutile”. La discussione sulla coscienza o meno delle entità robotiche è stata sviscerata anche tramite numerosi romanzi e pellicole cinematografiche, come Her, il film del 2013 scritto e diretto da Spike Jonze, con protagonista Joaquin Phoenix, che teorizza la possibilità di una relazione amorosa tra il personaggio principale e un chatbot ultramoderno, capace di provare/simulare sentimenti ed emozioni.

Un chatbot è protagonista anche del gioco Bot or Not, recentemente diffusosi su internet, che testa, attraverso una chat in tempo reale, la capacità dell’utente di individuare se quello con cui si sta parlando è un umano collegato alla chat o, per l’appunto, un robot. Il test, elaborato da Agnes Cameron, sviluppatore freelance di hardware e software, intende sollevare domande sul ruolo rilevante che i bot assumeranno nel presente come nel prossimo futuro, sostituendosi a impieghi svolti dagli esseri umani. “La crescente presenza di bot sia nella sfera domestica che sul posto di lavoro rappresenta un enorme rischio per la privacy, fintanto che i dati personali rimangono il modello di business principale per la maggior parte delle piattaforme tecnologiche”.

Inoltre, la facilità con cui i bot possono essere creati e distribuiti rappresenta un'opportunità perfetta per i truffatori, che utilizzano le piattaforme dei social media come un contesto facile da sfruttare e manipolare. “Non sai mai con chi stai chattando online. Ma puoi dire sempre quando chatti con un bot?”

La singolarità, dunque, tanto nelle sue visioni distopiche quanto in quelle più transumaniste, implicherà una ridefinizione del concetto di essere umano, nonché un’analisi di dove questo desiderio di “trascendere i limiti” ci condurrà.

In un racconto breve del 1945 intitolato La risposta, lo scrittore di fantascienza Fredric Brown immaginava la costruzione di un super computer, collegato a “tutte le gigantesche calcolatrici elettroniche di tutti i pianeti abitati dell’universo – novantasei miliardi di pianeti – formando il supercircuito da cui sarebbe uscita la supercalcolatrice, un’unica macchina cibernetica racchiudente tutto il sapere di tutte le galassie”.

Una volta attivato, gli scienziati pongono al computer l’unica domanda a “cui nessuna macchina cibernetica ha potuto, da sola, rispondere”.

“C’è Dio?”.

E il dispositivo, “senza il minimo crepitio di valvole”, risponde:

“Sì: adesso, Dio c’è”.

In fondo, “trascendere i limiti” potrebbe voler dire questo. Diventare ibridi, avvicinandoci sempre di più all’onniscienza, l’onnipresenza, l’immortalità. Essere degli dèi, o almeno un po’.   

di Flavio Natale