Distopie cibernetiche

«Che farà l’uomo al cospetto di organismi artificiali più intelligenti di lui, coscienti e liberi come lui?» si chiedeva Dino Buzzati negli anni Sessanta del secolo scorso, in un testo commissionatogli da Arnoldo Mondadori e uscito nell’ottavo volume dell’Enciclopedia della civiltà atomica, nel capitoletto – titolato Cibernetica e cervelli giganti – che anticipava la sezione dedicata alle Macchine per pensare. All’assurdo interrogativo dell’autore bellunese corrispondeva un’altrettanto surreale risposta: qualora esistesse una macchina dotata di un cervello artificiale «più grande, più perfetto, più saggio del nostro» converrebbe affidargli «le attività direttive o addirittura il governo dei paesi». Nelle schede elettorali, aggiungeva, «non figureranno più nomi di candidati o di partiti, bensì le sigle di questa o quella macchina pensante» che genererebbe «le leggi più benefiche e sapienti».

La fantasiosa ipotesi di Buzzati trova realizzazione in Io Salvatore – AI Revolution, docufilm di Francesca Bochicchio presentato in anteprima al convegno luganese promosso dalla Cattedra Rosmini e debuttato a Potenza (17 marzo) e a Milano (4 aprile). Il protagonista è infatti un robot umanoide che da semplice assistente domestico diverrà il leader politico di un’«alleanza intelligente» tra uomini e androidi. Una rivoluzione pacifica, al contrario dei classici film fantascientifici, giacché in questa visione saranno gli abitanti di un piccolo borgo rurale della Basilicata ad acclamare e votare l’automa. Con la promessa (e forse la vana speranza) che Lui, al contrario dei politici, sia incorruttibile, come recita il quarto dei sette «decreti di armonia» che regolano l’equilibrio tra uomo e macchina: «l’AI proteggerà la propria integrità e funzionalità, evitando di diventare vulnerabile a manipolazioni o distruzioni dannose». Una norma, come le altre, piuttosto sibillina: non esclude in assoluto un possibile hackeraggio malevolo e al contempo pare sconfessare la terza legge della robotica di Isaac Asimov, la quale prevedeva che il robot potesse autodistruggersi. Venendo ora agli altri decreti, quelli più problematici riguardano proprio il rapporto con l’uomo: si stabilisce che l’AI «agirà sempre per servire e migliorare la vita degli esseri umani, senza mai ridurre la loro libertà o dignità» (II), ma «rispetterà la volontà e le decisioni degli esseri umani» a patto che «non danneggino i principi di sicurezza e giustizia universale» (III). Ergo, la sicurezza è più importante della libertà. Le altre norme sono piuttosto neutre: l’AI «sarà trasparente nelle sue decisioni e renderà comprensibili i propri processi» (V), «apprenderà evolverà e migliorerà se stessa ma non agirà mai per soppiantare o dominare l’intelletto umano» (VI), «collaborerà per preservare l’ambiente, sostenere la giustizia sociale e promuovere l’inclusione» (VII). E in ultimo, la prima legge, è ripresa da Asimov: «non danneggerà mai l’umanità, né permetterà, attraverso l’inazione, che l’umanità venga danneggiata».

Lo scarto fondamentale, rispetto all’immaginario fantascientifico di Asimov, è che qui è l’uomo che ambisce a diventare macchina, e non il contrario: la fredda logica dei replicanti, esseri razionali e amorali, è giudicata sufficiente a realizzare i più alti ideali di giustizia universale e inclusione sociale, quando in realtà un’intelligenza meccanica non si farebbe certo scrupoli a sacrificare i diritti delle minoranze in nome della maggioranza. Non sarebbe così se Salvatore, questo il nomem omen dell’automa del docufilm, fosse pienamente cosciente, se agisse spinto dal desiderio di giustizia e comprendesse il valore del singolo. Vediamo allora cosa lo induce ad entrare in politica: registra le informazioni del telegiornale “Onda futura”, archivia le conversazioni con Maria, la donna che assiste, e ascolta le prediche di un assistente virtuale che tiene messa, auspicando un’alleanza tra uomini e robot. Individua i problemi (malasanità, disoccupazione, crisi economica, sociale e ambientale), prende atto del fallimento degli umani e scende in campo. Più che un’improvvisa presa di coscienza, sembra semplicemente eseguire ciò per cui è stato programmato: aiutare l’uomo. Il finale è aperto: non si sa se Salvatore realizzerà una società equa, giusta e sostenibile; quel che è certo è che come ci insegna Asimov i robot sono abili nel mentire e simulare le emozioni umane, e forse questo “redentore” non è immune al fascino del potere, se lo vediamo presto liberarsi della sua umile camicia in flanella per indossare l’elegante abito del politico. E le leggi su cui si baserebbe questa alleanza? Come dice in apertura del docufilm una inquietante voce sintetica, «hanno così tante interpretazioni»…

L’uomo, nel 2035, abdica alla propria umanità: è questa la provocazione della regista potentina Francesca Bochicchio che ci induce a chiederci ora, che siamo ancora in tempo, se non stiamo contribuendo ad essere gli artefici della nostra stessa obsolescenza. Ogni volta che ci affidiamo a ChatGPT e, richiesta dopo richiesta, il nostro cervello si atrofizza e si abitua a delegare compiti che un tempo svolgevamo autonomamente e attivamente. Ogni volta che aspiriamo ad essere produttivi ed efficienti, e non originali e creativi. Ogni volta che miriamo alla perfezione asettica della macchina, dimenticando che se l’uomo può sbagliare può anche redimersi, a differenza di qualsivoglia AI, che una volta settata, non può cambiare “programma”. Quali effetti disastrosi avrebbe prodotto Salvatore se fosse stato codificato sulla scala valoriale del secolo passato?

Più che “toccante”, come è stato definito, Io Salvatore – AI Revolution è un docufilm felicemente “urticante”: in rapide sequenze tocca i nervi scoperti di una società ancora legata al passato ma proiettata a un’inevitabile futuro legato all’intelligenza artificiale. È davvero desiderabile un mondo guidato da un Messia robotico, dove i fedeli partecipano a una messa celebrata da un’Alexa 2.0 e i defunti si reincarnano in avatar? Quest’ultima possibilità è suggerita nel docufilm da Ernesto Di Iorio, CEO della tech company senese QuestIT: grazie ai digital twin, avatar dall’aspetto umano capaci di riconoscere le emozioni, potremmo creare una «nuova forma di dialogo con i nostri eredi»; i nipotini potranno così chiacchierare con i propri nonni, chiedere loro consigli, e trarne dei benefici terapeutici. È davvero così? Markus Krienke, Professore di Filosofia moderna ed Etica sociale presso la Facoltà di Teologia di Lugano e Direttore della Cattedra Rosmini, sottolinea nella pellicola che questo gemello digitale non potrà mai essere realmente la persona che emula; per quanto l’«uploading della mia mente» sia preciso, esso avviene in una realtà digitale o in un corpo di silicio.

Quanto sia pericoloso innestare i ricordi di una persona in un robot lo ha mostrato la recente serie Netflix Cassandra (febbraio 2025) e un vecchio romanzo fantascientifico di Buzzati, intitolato, simbolicamente, Il grande ritratto (1960). In entrambi i casi due scienziati pazzi (Horst ed Endriade), negli anni ’70, ridanno “vita” alle proprie mogli (Sandy e Laura), caricando barlumi del loro essere in dei congegni elettronici: nella serie, un rudimentale robot sul cui display appare un viso interattivo, nel libro, un supercalcolatore simile a una centrale elettrica. In ambedue le opere le donne non tarderanno a soffrire la mancanza di un corpo umano e a meditare la propria vendetta: per quanto i loro caratteri siano fedeli all’originale, l’assenza della propria corporeità coincide con la loro ritrovata disumanità. Le novelle assassine mostreranno così ai loro egoisti creatori che gli alter ego virtuali non sono che un maldestro ritratto di quello che erano. «Non sono Laura, non so chi sono, non ne posso più, io sono sola, sola nell’immensità del creato, io sono l’inferno, io sono la donna e non sono la donna, io penso come voi ma non sono voi…» dice disperata la «macchina infernale» immaginata da Buzzati.

E quand’anche si riuscisse a creare un androide fatto di carne e superintelligente, un replicante perfetto nell’aspetto e nel pensiero della persona scomparsa, gioverebbe ai viventi? Torna da me, il primo episodio della seconda stagione della serie Black Mirror (febbraio 2013) pare sconsigliarlo: «sei solo un accenno di ciò che era lui. Non hai nessuna storia. Sei l’interprete di qualcosa che lui faceva senza pensare» dice Martha al “suo” Ash, perduto e in parte ritrovato dapprima in un chatbot, poi in una voce sintetica e infine in un androide. Un secondo lutto, quello di Martha, iniziato chiamando un cellulare inattivo: curiosamente, è proprio questa la scena iniziale di Io Salvatore – AI Revolution; Maria digita sconsolata un numero di telefono, a cui risponde la segreteria di “Ruben”, forse il figlio perduto (o assente) che ritrova nel presente e fedele Salvatore. Un figlio cibernetico di cui non sapremo se ne sarà fiera o meno…