La corsa allo sviluppo dell'intelligenza artificiale "pone profondi rischi per la società e l'umanità" e va quindi fermata per sei mesi per permettere di meglio comprenderne i rischi ed elaborare sistemi e protocolli di sicurezza e tecniche che permettano di distinguere il reale dall'artificiale. È quanto chiede una petizione apparsa sul sito futureoflife.org e firmata da un migliaio di esperti mondiali e di imprenditori attivi nel settore, fra cui Elon Musk, il cofondatore di Apple Steve Wozniak, professori universitari, membri del laboratorio di Google DeepMind ed ingegneri di Microsoft. I sistemi più avanzati, chiedono i firmatari, andrebbero sviluppati solo una volta assicurati i loro effetti solo benefici.

Pericolo per la democrazia

Ma esiste un rischio reale? Fra i pericoli identificati ora ci sono per esempio quelli che siano usati per inondare i canali di informazione di propaganda o menzogne o che finiscano con l'automatizzare molti lavori intellettuali. "Non penso che la società sia pronta ad affrontare questo potenziale, per esempio di manipolazione delle popolazioni, che potrebbe mettere in pericolo le democrazie", ha affermato per esempio uno dei pionieri del ramo, il canadese Yoshua Bengio. "Bisogna quindi rallentare questa corsa commerciale" e discutere delle possibili conseguenze.

Sono ormai praticamente indistinguibili dalla realtà, per esempio, le immagini di un finto fermo di Donald Trump create quando il magnate aveva preannunciato il suo arresto alcuni giorni fa o la foto-non foto di Papa Francesco con un piumino "oversize", circolata di recente sui social.

"Mi preoccupano gli agenti autonomi in ambito militare"

Gabriele Ferretti, professore all'Università Chalmers di Göteborg, in Svezia, si spinge ancora oltre: "Ci sono molte possibili applicazioni che possono essere positive o negative per l'umanità. Io sono preoccupato dal possibile sviluppo in tempi brevi di agenti autonomi per usi militari", afferma lo specialista, "un potere enome di cui potremmo facilmente perdere il controllo".

 

E "più in là nel tempo c'è il rischio di creare un'intelligenza artificiale così potente da non considerarci più un interlocutore degno, che potrebbe decidere di intraprendere azioni nel mondo senza interpellarci prima", spiega ancora. Uno scenario fin qui esplorato solo dalla fantascienza, quello dello Skynet che scatena la guerra nucleare in "Terminator". In questo caso non si deve applicare solo una moratoria, "sono armi che devono assolutamente non essere costruite", afferma Ferretti.

L'esperto non concorda con la tesi di chi sostiene che la scienza non si possa fermare, anzi: "La scienza si può e si deve fermare quando crea tecnologie o metodi potenzialmente distruttivi", dice. E come Bengio citava l'esempio del nucleare, ricorda invece quello della conferenza che negli anni '70 introdusse protocolli basati sul "principio di precauzione" nell'ambito della genetica.

ChatGPT già supera gli esami

Non ha firmato Sam Altman, il patron di OpenAI, che ha concepito chatGPT. Questo nonostante avesse ammesso di essere "un po' spaventato" dalle capacità della sua creatura. Nel mirino degli autori della lettera non c'è tutta l'intelligenza artificiale, ma i suoi sviluppi più avanzati.

Già oggi esistono chatbot come quello citato in grado di raccontare barzellette, scrivere testi complessi rispondendo virtualmente a qualsiasi richiesta, superare esami come quello di fisica del Politecnico di Losanna, il tutto facendo capo a un'immensa molte di dati.

Per saperne di più:

Per testare ChatGPT: chat.openai.com.