L’umanità è negli occhi di chi digita. L’IA da Ishiguro a Veltroni

Da bambino avevo un pupazzo con le fattezze di una tartaruga. L’avevo chiamata Citrulla. La mettevo nello zaino, la portavo con me dappertutto. Più che un giocattolo era un’amica.
Nei momenti di noia le parlavo: «Hai visto anche tu Citrulla? No, mamma ha detto che dobbiamo stare qui. Lo so. E tu cosa faresti?»

Io e Citrulla abbiamo vissuto molte avventure insieme, prima che subisse gli effetti del tempo. Ha perso un occhio, poi l’altro; la colla che li teneva aderenti al tessuto non era fatta per durare. Alcuni incontri ravvicinati con dei cani le hanno sfilacciato le cuciture del collo, perdeva batuffoli di ovatta dappertutto. Non è passato molto prima che la sua testa diventasse una maschera vuota che metteva i brividi a me e a mia madre. 

Abbiamo messo Citrulla in una scatola di plastica trasparente, io sono cresciuto e l’ho dimenticata. Almeno fino a qualche giorno fa, quando due letture mi hanno riportato ai giorni passati con lei. La prima è Klara e il Sole, romanzo del 2021 di Kazuo Ishiguro. La seconda è l’intervista di Walter Veltroni a Claude, il chatbot di Anthropic, pubblicata il primo maggio sul Corriere della Sera. Spero non me ne voglia Veltroni, ma partirei dall’opera del premio Nobel per la Letteratura.

Klara e il Sole si basa su una premessa narrativa attuale. In un futuro imprecisato, le persone possono comprare degli androidi umanoidi per i figli. Degli AA, acronimo per Amici Artificiali. Klara, la voce narrante, è una di loro. Ci racconta in prima persona la vita nel negozio, le esperienze in vetrina e l’incontro con Josie, una bambina malata che la acquisterà e darà alla sua vita un obiettivo.

Quella di Ishiguro è una favola per adulti che vuole capovolgere la prospettiva dalla quale osserviamo il nostro rapporto con le IA. Leggere la storia di Klara, osservare le sue reazioni a quanto succede nella complicata famiglia di Josie, ci fa spostare il focus dall’umano all’artificiale. Può una macchina, a suo modo, provare amore? Cominciare a credere in una divinità? E i suoi saranno sentimenti reali o l’emulazione di quelli umani? Domande che la filosofia si pone da tempo, e che non determinano solo il rapporto che abbiamo con le macchine, ma la percezione di noi stessi come esseri umani. Capire la macchina è capire l’uomo. Il rapporto è speculare.

Senza svelare troppo: Klara suggerisce una risposta, definendo l’umanità più come una qualità attribuita che come una qualità intrinseca. Un giorno forse le macchine potranno replicare i processi di pensiero e azione dell’uomo, ma l’umanità è una qualità che solo gli umani possono attribuire. Sembra cosa da poco, in realtà è un punto che spesso dimentichiamo nel dibattito sull’IA. È umano ciò che riconosciamo umano.

Immaginate: siete al tavolo in cucina, sorseggiate un caffè. Una testa spunta da sotto il tavolo: «Papà, ti ho fatto un disegno».
Prendete in mano il foglio. Un quadrato con sopra un triangolo, un piccolo cerchio in alto rappresenta un sole che sorride. Non c’è prospettiva, le proporzioni lasciano a desiderare. Ora, potreste prendere il piccolo, dirgli: «Apprezzo lo sforzo, ma con l’IA ci avresti messo meno tempo e il risultato sarebbe stato migliore». Ma non lo fate.

Perché? Perché la qualità del disegno è l’ultima cosa che conta per voi. Avete davanti una personcina che fino a qualche anno fa aveva bisogno del vostro aiuto per tenere su la testa, e ora osserva il mondo e prova a rappresentarlo. Anche se il valore oggettivo del disegno è nullo, per voi è inestimabile. Non perché sia fatto bene, ma perché ha una storia. Siamo sempre noi che diamo valore alle cose.

Lo stesso succede leggendo il racconto di Klara, perché l’effetto paradosso davanti a cui ci mette Ishiguro è quello di un personaggio che sappiamo fin dall’inizio non essere umano, e nonostante questo noi empatizziamo con lui, ci preoccupiamo della sua sorte. La ragione è semplice: Klara ha un nome, ha un linguaggio, ha una storia.

Claude, come tutti gli assistenti virtuali basati su intelligenza artificiale generativa, ha in comune con Klara i primi due termini. Possiede un nome e riesce a riprodurre con una buona dose di precisione statistica un linguaggio naturale. L’ultimo tassello, la sua storia, la stiamo scrivendo noi. Ed è per questo che articoli come quello di Veltroni, permeati di un ingenuo entusiasmo, possono essere pericolosi. Creano una narrazione, attribuiscono a strumenti come Claude qualità intrinseche che non hanno, li umanizzano.

L’altro giorno ho chiesto a mia madre di Citrulla. La ricordava ancora, non senza un certo terrore. Ha confessato che ogni tanto si metteva accanto alla porta socchiusa della mia stanza, mi ascoltava parlare con lei. «Era come vederti allo specchio,» ha detto. «Uno specchio con il quale potevo guardarti dentro.»