I video “fake” che invadono i social: come l’IA riscrive la guerra in Iran

Missili ipersonici che colpiscono Tel Aviv: colonne di fumo, rumori di esplosioni, sirene che suonano e gente che urla. Immagini drammatiche, immortalate in un filmato visto milioni di volte sui social media.

Ma c’è un problema: il video è falso. È stato generato con l’intelligenza artificiale.

Analizzandolo nel dettaglio si notano le incongruenze tipiche dell’IA: le auto in basso sono tutte uguali, come clonate, e in certi punti si fondono l’una con l’altra; le colonne di fumo appaiono spesso interrotte; i pannelli solari sui tetti dei palazzi sono deformati in modo innaturale. E poi, dettaglio di non poco conto: lo skyline che si vede nel video non è quello di Tel Aviv.

Internet pullula di video come questo: navi statunitensi distrutte, soldati americani arrestati dai pasdaran iraniani, città e infrastrutture israeliane e dei Paesi del Golfo fatte a pezzi. Tutti falsi, tutti generati con l’intelligenza artificiale nel contesto del conflitto lanciato da Washington e dallo Stato ebraico contro l’Iran. Secondo fact-checker e ricercatori di tutto il mondo, questa guerra potrebbe già aver battuto ogni record di contenuti fasulli prodotti e diffusi durante un conflitto.

Maria Flannery è una giornalista specializzata in fact-checking. Lavora per il network Spotlight di EBU - di cui fa parte anche la SSR - fondato con lo scopo di contrastare la diffusione di bufale nello spazio digitale. Ha analizzato e smascherato decine di questi video: “Sono tantissimi, è impossibile quantificarli. Ogni giorno ne spuntano di nuovi: video di esplosioni, danni causati da attacchi militari, ma anche contenuti con messaggi politici. Sono ovunque e di qualsiasi genere”.

La disinformazione non è un fenomeno nuovo, ma ora è alla portata di tutti, sottolinea la giornalista alla RSI: “Oggigiorno è facilissimo produrli. Prima bisognava avere ampie conoscenze tecniche, oggi basta un programma di intelligenza artificiale generativa”. Un programma e un cosiddetto prompt: semplici istruzioni testuali da dare in pasto alla macchina, che genererà il video in pochissimo tempo.

L’ondata sintetica a cui si assiste nel contesto della guerra in Medio Oriente è senza precedenti e ha scatenato e continua a scatenare il caos online. Per smascherare questi contenuti esistono però anche degli strumenti informatici che consentono di analizzare quelli sospetti in modo efficace e veloce. Non sono però infallibili: bisogna procedere anche con un’analisi visiva per trovare incongruenze.

In un video analizzato da RSI e da molti altri fact-cheker internazionali si vede, per esempio, il caos all’aeroporto di Dubai bombardato da Teheran. Ma a un certo punto ci si accorge che ci sono delle valigie che si muovono da sole, come spostate da fantasmi: segno che è stato creato con l’intelligenza artificiale.

Perché produrre video fasulli? “È una questione di domanda e offerta - sottolinea Flannery - Durante una guerra c’è sempre molta fame di informazioni ma spesso vengono diffuse poche notizie. C’è quindi un grande appetito sui social per vedere cosa succede”. E c’è chi sfrutta questo appetito per il proprio tornaconto.

Chi genera video sintetici lo fa per ragioni diverse. C’è chi tenta di monetizzare le visualizzazioni, chi vuole aumentare il numero di follower per poi ripulire e rivendere il profilo a caro prezzo. Ma c’è anche chi agisce con un piano più strutturato: è la cosiddetta guerra ibrida, in cui la disinformazione diventa uno strumento di destabilizzazione o per far crescere la propria influenza politica.

Secondo uno studio della società di analisi dei social media Cyabra - condotto su X, Facebook, Instagram e TikTok - la maggior parte dei contenuti IA diffusi nel contesto del conflitto promuoveva narrative filoiraniane, spesso per sottolineare la presunta superiorità militare della Repubblica islamica.

L’analisi ha individuato una vera e propria campagna attraverso reti di account falsi coordinati con schemi analoghi a operazioni già osservate in precedenza e riconducibili a Teheran. Una campagna che ha generato decine di migliaia di contenuti e centinaia di milioni di visualizzazioni, con TikTok come piattaforma dominante.

“Siamo nell’era della post-verità”, conclude Maria Flannery: video fasulli spacciati per veri, ma anche video veri messi in discussione: persino la realtà deve ormai sottoporsi a un processo di verifica per essere confermata come tale.

È il cortocircuito provocato dalla diffusione incontrollata di contenuti generati dall’IA: un brusio di sottofondo persistente che, nel contesto di una guerra, è ancora più insidioso.