Società

Stupidi ed efficienti: così ci vuole l’IA?

Le implicazioni dell’IA e della trasformazione digitale sull’evoluzione politica e cognitiva. I due rischi maggiori: la standardizzazione del pensiero e il deficit di democrazia

Un'ora fa

Di: Emanuela Burgazzoli/Red.

Sempre più il dibattito intorno all’intelligenza artificiale si polarizza tra entusiasti e pessimisti, adepti e catastrofisti; un dibattito in cui intervengono fisici, matematici, informatici, ma anche sociologi e filosofi. La rivoluzione innescata dalle nuove tecnologie ha un impatto sull’organizzazione del lavoro e sulla democrazia ma investe anche una facoltà propriamente umana: il pensiero. L’ideologia dei BigData sta riducendo la vita collettiva e individuale a un flusso continuo di numeri e dati che dovrebbero dare conto del reale. Ma affidarsi alle megamacchine che cosa implica per la nostra libertà cognitiva?

«Noi non abbiamo più un diritto alla libertà cognitiva. Grazie all’intelligenza artificiale noi replichiamo il già dato, il già detto, il già scritto, il già fatto. Non c’è più un pensiero umano che faccia una conoscenza nuova. La filosofia era questo.

L’intelligenza artificiale prende un’intelligenza conosciuta, la rielabora, ma non produce un pensiero nuovo. È la riproduzione, la standardizzazione del già dato. E questo è un impoverimento clamoroso della conoscenza umana perché le macchine non pensano, non possono pensare ancora... La standardizzazione, la ripetizione è nell’essenza del sistema tecnico.

Per quali fini, con quali obiettivi? Quello di renderci tutti stupidi. Chiedo scusa della semplificazione: renderci tutti stupidi ma efficienti». (Lelio Demichelis, docente di Sociologia economica all’Università degli Studi dell’Insubria)

Le piattaforme social, per loro stessa natura e struttura, non sono nate per informare, ma come mezzo di intrattenimento e si basano dunque su principi commerciali.

«L’obiettivo di questi algoritmi non è ovviamente quello di promuovere la democrazia, ma di tenerci online il più a lungo possibile e di fare in modo che interagiamo il più possibile sulla piattaforma, perché più a lungo rimaniamo sulla piattaforma, più pubblicità ci possono essere mostrate e più soldi guadagnano le aziende che ci stanno dietro. Questo rappresenta una notevole sfida, ovviamente, perché ci mostrano contenuti che sono forse molto polarizzanti o che semplicemente generano una grande interazione emotiva. E tutto questo può ovviamente influenzare la nostra formazione di un’opinione democratica». (Angela Müller, direttrice della ONG Algorithm Watch Switzerland)

Il dibattito in corso sul rapporto che intercorre tra nuove tecnologie e democrazia ci porta direttamente al problema della cosiddetta governance, ovvero della gestione delle nuove tecnologie.

«Anni fa un sociologo importante come Luciano Gallino diceva che questo meccanismo di innovazione tecnologica produce un poderoso deficit di democrazia. Sono passati 15 anni. Direi che il deficit di democrazia è diventato gigantesco. O riprendiamo in mano la gestione e il governo dei processi di innovazione tecnologica, togliendolo alle imprese private, oppure la democrazia è definitivamente morta». (Lelio Demichelis, docente di Sociologia economica all’Università degli Studi dell’Insubria)

Gli obiettivi commerciali che governano i social media vengono spesso dimenticati dagli utenti, che in questo modo avvantaggiano il totalitarismo digitale.

«Noi regaliamo dati senza pensarci due volte e questo è un paradosso del nostro comportamento nei confronti della tecnica. La tecnica ci affascina così tanto che non vediamo che si sta costruendo quello che è stato definito già da anni il totalitarismo della società tecnologica avanzata». (Lelio Demichelis, docente di Sociologia economica all’Università degli Studi dell’Insubria)

Il totalitarismo di piattaforma e della sorveglianza è una prospettiva inevitabile, o si può modificare il corso del progresso tecnologico? A che cosa stiamo rinunciando quando ci affidiamo all’efficienza dell’intelligenza artificiale?

«L’innovazione tecnologica si dice che non si può fermare. Io dico invece che l’innovazione tecnologica si può e si deve fermare grazie alla consapevolezza umana, se minaccia la libertà e la democrazia. L’intelligenza artificiale si sta imponendo a prescindere dalla democrazia, si sta imponendo a prescindere dalla capacità umana di decidere democraticamente se una cosa è utile oppure no, se è necessario oppure no e come realizzarla». (Lelio Demichelis, docente di Sociologia economica all’Università degli Studi dell’Insubria)

«Abbiamo davvero bisogno di una governance nel senso di condizioni quadro per gli algoritmi e per i vari sistemi di intelligenza artificiale. Sul piano giuridico, con nuove leggi e regolamenti. Riteniamo molto importante che vengano adottate misure legali e credo che siano necessarie a tutti i livelli, anche a livello internazionale, anche se il diritto internazionale deve anche essere ancorato e applicato nel quadro delle legislazioni nazionali. Ma abbiamo bisogno di guardare oltre il piano legislativo e di trovare altre misure per garantire che questi sistemi siano effettivamente utili e non ci arrechino danni. Abbiamo anche bisogno di promuovere la ricerca, anche la ricerca pubblica, la formazione e il giornalismo di qualità e via dicendo. In altre parole, è necessaria una governance politica, ma anche quella esercitata da altri attori, dai singoli individui, dalla società, dalle aziende». (Angela Müller, direttrice della ONG Algorithm Watch Switzerland)

26:59