DIO C'È? Chiedetelo a ChatGPT

Nel passato, su qualche cavalcavia, era apparsa la scritta “Dio c’è”. Non si sa bene chi l’avesse scritta e con quali intenti. Di lì a poco, un buontempone ci scrisse sotto “O ce fa?” Era una scritta dissacrante, ironica e blasfema. Oggi quello stesso buontempone chiederebbe a ChatGPT: “Dio c’è?” Ne riceverebbe una risposta assai articolata ma piatta, monotona, burocratica, priva di qualsiasi intento sacrilego o battutistico, totalmente priva di quella arguzia, seppur vagamente offensiva, della scritta sul cavalcavia.

La risposta sarebbe così anonima e priva di afflato che, a prima vista, ti farebbe dire che l’IA non ha anima, non ha sentimento e quindi non potrà mai sostituire l’uomo col suo cumulo di rabbie, gioie, ironie, sarcasmi, tristezze e nostalgie. È un pensiero freddo, analitico, costruito, che non si incarna, con tutte le sue contraddizioni e i suoi limiti, nello spirito umano.

Molti si stanno interrogando oggi su questo tema. In particolare, ci sono due domande che riguardano l’IA: a che cosa serva e se mai possa sostituire l’uomo provando i suoi stessi sentimenti. A che cosa serva mi sembra abbastanza chiaro, anche se il suo impiego non è privo di pericoli. L’IA serve a sostituirsi all’uomo in tutte quelle attività faticose o ripetitive che non necessitano di quelle qualità umane di cui sarebbe priva.

L’IA non ha anima,
non ha sentimento
e quindi non potrà
mai sostituire l’uomo

È fin dagli albori dell’umanità che l’uomo cerca di alleviare le fatiche del lavoro, sognando una società in cui certe attività vengano svolte da soggetti terzi: schiavi nell’era antica, lavoratori sottopagati in epoca moderna, immigrati clandestini oggi, androidi dotati di certe facoltà domani (l’androide non è altro che IA incarnata in un corpo transumano). È per mitigare la maledizione del Dio della Bibbia, “Col sudore della tua fronte ti procaccerai il pane”, che questo percorso si è sviluppato.

Abbiamo organizzato la nostra società, come sostiene Luca Ricolfi nel suo saggio La società signorile di massa, come una società in cui il lavoro sparisce e molti lavoratori vengono sostituiti dagli immigrati che si accontentano di salari bassissimi per soddisfare le necessità dei cittadini di primo livello (la massa signorile): pony express per la consegna rapida a domicilio, raccoglitori di pomodori o cocomeri, badanti, lavoratori dell’edilizia, operai agli altoforni. Sono persone che, nei sogni dei paladini dell’IA, saranno sostituite da androidi più o meno intelligenti, più o meno autonomi, che solleveranno anche gli ultimi di questa catena umana dalle fatiche del lavoro.

Tutto chiaro, quindi, o quasi. Ciò che non viene investigato è quale tipo di felicità possa ancora sussistere in un mondo in cui gli uomini dovrebbero godersela, senza più preoccupazioni, senza responsabilità od oneri relativi alla loro condizione lavorativa.

Come sempre, per ragionare del futuribile, ci viene in soccorso la fantascienza e, in particolare, un libro che circola da un po’ nella versione italiana, Solo il mimo canta sul limitare del bosco di Walter Tevis. Vi si narra di una società umana in cui gli androidi hanno occupato tutti i posti di lavoro. I più moderni, quelli della generazione 9, dotati di intelligenza e sensibilità superiori a quelle umane, sono inseriti ai vertici di tutte le strutture e dichiarano di essere al servizio degli uomini che, liberi da ogni preoccupazione e sollevati dalla fatica del lavoro, dovrebbero vivere una vita felice e serena. In realtà, per sedare le pulsioni negative umane si ricorre a sigarette drogate, ansiolitici, stordimento elettronico e sonniferi. “Non fare domande, rilassati” è il comandamento. È una società in cui la felicità, indotta artificialmente, è sinonimo di oblio, di obnubilamento necessario per sopportare una vita fatta di nulla. È uno scenario che ha un padre nobile in Omero, il quale ha descritto, attraverso gli occhi di Odisseo, il popolo dei Lotofagi, i mangiatori di loto, senza passato né ricordi, senza futuro né speranze, immersi in una quiete irreale prodotta solamente dalla loro droga. Ne emerge una prospettiva non molto incoraggiante per l’uomo. (segue)

La felicità,
indotta artificialmente,
è sinonimo di oblio

La possibilità che l’IA possa sostituire l’uomo, replicandone tutti i requisiti, anche sentimentali, e rendendolo obsoleto, è l’altro grande argomento intorno al quale ruota la discussione tra i favorevoli e i contrari. Si cominciò a parlarne quando il 10 febbraio 1996 Deep Blue, un supercomputer messo a punto da IBM, batté a scacchi l’allora campione mondiale Garry Kasparov. Gli incontri furono 6 e alla fine Kasparov riuscì a vincere la sfida per 4-2. Il sollievo durò poco: l’anno successivo, IBM organizzò una rivincita con un sistema aggiornato e fu il computer a prevalere su Kasparov.

Nel 1997, il sistema raggiungeva una potenza di calcolo teorica massima di 11,38 GFLOPS (giga floating-point operations per second). Oggi ci sono smartphone e computer con una potenza di calcolo 1.000 volte superiore. Questa geometrica potenza di fuoco, però, giustificherebbe una superiorità di calcolo, non certo la presenza di sentimenti umani nell’IA.

In tempi recenti, a dare umanità all’IA ci ha provato Rocco Tanica, tastierista di Elio e le Storie Tese, che ha pubblicato un libro a quattro mani con Out0mat-B13, una versione commerciale di GPT. Tanica è coautore del volume. OpenAI è un algoritmo che usa l’apprendimento profondo (deep learning) per produrre testi simili a quelli scritti da un essere umano, con risultati impressionanti: è difficile riconoscere i testi generati dall’algoritmo, che riescono a essere fantasiosi, affascinanti e anche spiritosi.

Non siamo mai stati sulla Terra — questo è il titolo del libro — è il primo testo letterario italiano scritto con un’intelligenza artificiale: i due autori si alternano in ogni brano e si riescono a distinguere solo perché le frasi dei due autori sono stampate in differenti caratteri tipografici; altrimenti sarebbe facile scambiare una frase bizzarra di Out0mat-B13 per una battuta di Tanica o viceversa.

Siamo di fronte a una forma d’intelligenza indistinguibile da quella umana? Luciano Floridi, docente di filosofia ed etica dell’informazione all’Università di Oxford, è categorico: “GPT è uno straordinario pezzo di tecnologia, ma è intelligente, consapevole e sensibile come una vecchia macchina per scrivere. L’IA simile a quella di Hollywood si può trovare solo nei film, come gli zombie o i vampiri. Ogni interpretazione di GPT come una forma superiore di intelligenza artificiale è semplicemente fantascienza disinformata. Il sistema non ha una vera comprensione del significato e del contesto di una richiesta, ma solo una capacità di associare le parole mediante la statistica”.

Il sistema non ha
comprensione del significato
di una richiesta, ma solo
una capacità di associare
le parole mediante la statistica

Eppure Out0mat-B13 riesce a essere anche spiritoso, e l’ironia è un tratto tipico del sentire umano. Come la mettiamo? Solo fredda simulazione? Anche in questo caso, al di là di esperimenti e ragionamenti, la fantascienza ci corre in soccorso a partire da due libri che in qualche modo hanno dato il via a una riflessione che oggi è diventata impetuosa.

In 2001: Odissea nello spazio di Arthur Clarke, l’attenzione è rivolta al supercomputer HAL 9000, che governa tutte le attività della navicella spaziale Discovery. HAL, macchina teoricamente incapace di commettere errori, ne commette inspiegabilmente uno. Per la prima volta, rileva e segnala un inesistente guasto a un elemento dell’antenna principale della Discovery, diventando improvvisamente inaffidabile per l’equipaggio e per il controllo della missione sulla Terra. HAL origlia il dialogo tra gli astronauti leggendo il labiale e si rende conto che i due ritengono che l’unica scelta sicura sia disattivarlo; impaurito, non trova altra soluzione che tentare di eliminare l’intero equipaggio.

È una lotta per la vita e per la morte tra HAL e l’equipaggio che testimonia l’umanità del computer, capace di provare sentimenti come la paura, l’istinto di sopravvivenza e la rabbia contro l’equipaggio, oltre all’arguzia nell’escogitare trappole per uccidere gli astronauti.

L’altro libro è Ma gli androidi sognano pecore elettriche? di Philip K. Dick, da cui è stato tratto il film Blade Runner, che segue le vicende del mercenario di androidi Rick Deckard. Obiettivo di Deckard è ritirare 4 modelli di Nexus-6 che sono fuggiti dalle colonie extramondo. L’unico modo per discernere un androide da un essere umano è attraverso un test dell’empatia: tramite domande volte a suscitare risposte emotive, il detective Deckard è in grado di stabilire se l’interlocutore sia un essere umano o un Replicante (come vengono chiamati nel romanzo gli androidi): un organismo, come fa notare Roy Batty, leader degli androidi ribelli, e non un mero corpo composto da circuiti elettronici.

A partire da quale principio è possibile stabilire una differenza tra l’uomo e la macchina? Secondo Aristotele, l’uomo è un animale sociale dotato di razionalità, due qualità possedute entrambe dai Replicanti, che si riuniscono in gruppo, sviluppano emozioni, desideri e preferenze.

Dopo l’incontro con Eldon Tyrell, suo creatore, Roy Batty, consapevole della sua natura mortale, non può che cadere nella disperazione, sentimento prettamente umano. È un confronto tra padre e figlio, creatore e creatura, Dio e uomo, che culmina in un simbolico omicidio, nel quale la creatura uccide il suo creatore (ogni riferimento alla morte di Dio in Nietzsche non è puramente casuale).

Ma è nell’ultima scena che il Replicante sublima il suo lato umano, mostrando pietà verso il suo nemico e risparmiandolo, per poi lasciarsi morire malinconicamente. È nella paura della morte che le differenze vengono abbattute. È una testimonianza dirimente, seppur filtrata attraverso l’occhio sghembo ma acuto della fantascienza.

È nella paura della morte
che le differenze
vengono abbattute

A questo punto il cerchio si chiude e si torna alla fatidica domanda iniziale, che svela tutta l’ansia dell’uomo e della macchina umanizzata; entrambi, per esorcizzare la morte, si pongono la stessa domanda: “Dio c’è?” A questa domanda darà una celeberrima risposta il supercalcolatore inventato dallo scienziato Dwar Ev e descritto da Arthur Clarke in una sua novella, La risposta, contenuta nell’antologia Il secondo libro della fantascienza, curata da Fruttero e Lucentini.

«[…] Si rialzò, con un cenno del capo a Dwar Reyn, e s’accostò alla leva dell’interruttore generale: la leva che avrebbe collegato, in un colpo solo, tutte le gigantesche calcolatrici elettroniche di tutti i pianeti abitati dell’universo – novantasei miliardi di pianeti – formando il supercircuito da cui sarebbe uscita la supercalcolatrice, un’unica macchina cibernetica racchiudente tutto il sapere di tutte le galassie. […] Dwar Ev abbassò la leva. Si udì un formidabile ronzio che concentrava tutta la potenza, tutta l’energia di novantasei miliardi di pianeti.

[…] “L’onore di porre la prima domanda spetta a te, Dwar Reyn”. “Grazie”, disse Dwar Reyn. “Sarà una domanda cui nessuna macchina cibernetica ha potuto, da sola, rispondere”. Tornò a voltarsi verso la macchina: “C’è Dio?”

L’immensa voce rispose senza esitazione, senza il minimo crepitio di valvole o condensatori. “ Sì: adesso, Dio c’è ”.

Il terrore sconvolse la faccia di Dwar Ev, che si slanciò verso il quadro di comando. Un fulmine sceso dal cielo senza nubi lo incenerì e fuse la leva, inchiodandola per sempre al suo posto».

Certo si dirà che è solo fantascienza: mai una cosa così potrà succedere. Peccato che sia di pochi giorni fa la notizia, apparsa su alcune testate giornalistiche, secondo la quale un programma di IA capace di autoapprendimento — non so bene quale — ha disobbedito con libero arbitrio al suo creatore ed è stato in grado di scrivere un codice per impedire il proprio spegnimento. È quasi come nella novella di Arthur Clarke. Buffo, vero? O terribile?

– Mario Grossi