IA in guerra, decisioni istantanee e logica inumana

L’intelligenza artificiale (IA) sul campo di battaglia può prendere decisioni in nanosecondi, arrivando a sacrificare un ospedale pur di colpire un deposito di armi. La denuncia arriva dal neuroscienziato Uri Maoz, secondo il quale il vero pericolo non è che le macchine diventino senzienti, ma che gli esseri umani non comprendano più la logica inumana delle macchine.

In una lunga intervista rilasciata alla Weltwoche il ricercatore che studia le intenzioni umane e il funzionamento del cervello alla Chapman University (California) traccia un quadro complesso, lontano sia dagli entusiasmi tecnologici che dalle catastrofi apocalittiche. Il punto critico, a suo dire, non è se le macchine pensino come noi, ma come noi stiamo cambiando a causa loro.

Una parte dell’intervista che potrebbe inquietare riguarda l’uso militare dell’IA. Maoz descrive uno scenario in cui un sistema autonomo, incaricato di infliggere il massimo danno al nemico, potrebbe decidere di sparare dal territorio nemico contro uno scuolabus nel proprio Paese, per scatenare caos e indignazione. “L’IA può produrre soluzioni a cui un essere umano non penserebbe mai”, avverte. “Ciò che per l’IA rappresenta un raggiungimento ottimale dell’obiettivo, dal punto di vista umano potrebbe equivalere a un crimine di guerra”.

Secondo l’accademico la maggiore insidia non è che le macchine agiscano senza controllo umano, ma che gli umani non capiscano cosa fanno le macchine. “Un operatore umano non è sufficiente nel circuito decisionale”, afferma. Se l’IA consiglia un attacco a un deposito di armi con il 92% di successo, l’uomo approva. Ma ciò che l’IA non dice esplicitamente è che l’esplosione danneggerà anche un vicino ospedale pediatrico, bloccando i soccorsi. “I moderni sistemi di IA sono scatole nere. Gli input e gli output sono visibili, ma i processi decisionali interni restano ampiamente opachi”.

Importanti sono anche i tempi di reazione. “Le decisioni umane avvengono in secondi o minuti: l’IA decide in millisecondi o nanosecondi”. Il risultato è una pressione inarrestabile all’escalation: “Se una parte usa sistemi autonomi e può agire più velocemente, l’altra parte è sotto pressione per adeguarsi”.

Quanto al lavoro, lo specialista non si sbilancia, ma riporta le due visioni contrapposte della Silicon Valley. “C’è chi sostiene che stiano nascendo nuove figure professionali, come ad esempio i prompt engineer”, gli ingegneri che sviluppano le istruzioni (i prompt) per i sistemi di IA, affinché forniscano risposte il più precise possibili. “Altri credono che alla fine pochi super ricchi controlleranno l’IA: il resto della popolazione vivrà allora di una sorta di reddito di base e consumerà ciò che i sistemi di IA producono”. Una previsione che, ammette, ricorda le paure già formulate da Karl Marx.