L’AI slop e l’inquinamento dello spazio digitale

Le connessioni tra intelligenza artificiale generativa e mis- e disinformazione sono ormai numerose, così come i potenziali usi di questa tecnologia a fini di manipolazione informativa emersi finora. Se i timori più catastrofisti e gli allarmi più gravi, come quelli secondo cui l’AI generativa avrebbe potuto giocare un ruolo di primo piano nell’influenzare le numerose elezioni svoltesi nel 2024 in tutto il mondo, non si sono concretizzati, continuano tuttavia ad apparire esempi su scala più ridotta.

L’ultimo caso, in ordine di tempo, riguarda una rete di siti web connessi al Nord America e recentemente comparsi online, il cui obiettivo è apparire come vere e proprie testate giornalistiche, imitando l’aspetto, lo stile e i contenuti tipici dei media tradizionali, senza tuttavia esserlo davvero. Gli articoli pubblicati da questi siti sono infatti contenuti generati dall’intelligenza artificiale, privi di fondamento e del tutto falsi. A riportare la notizia è stato Ben Paviour sul Nieman Lab, la testata della Harvard University specializzata in analisi sul giornalismo e sui media. Secondo la sua indagine, questi siti sarebbero stati creati da content farm che sfrutterebbero domini web “dimenticati” per pubblicare centinaia di articoli di scarsissima o nulla qualità, spesso di pura misinformazione, generati quasi certamente con l’IA. L’obiettivo sarebbe quello di capitalizzare clic e traffico, sperando di essere ripresi dagli aggregatori o dai portali di accesso alle notizie come Google Discover e Google News.

Tra i casi analizzati emergono esempi emblematici: siti di testate studentesche o locali ormai inattive, che oggi pubblicano versioni clickbait e sensazionalistiche, quasi certamente create con l’IA, di articoli originariamente autentici; oppure il caso di Boston Organics, un ex servizio di consegna di prodotti alimentari, che oggi ospita articoli su argomenti disparati e bizzarri, dalle presunte invasioni di polpi nelle acque britanniche ai consigli sulla conservazione del cibo. Secondo il Nieman Lab, l’esistenza di questi siti si spiega con la volontà di sfruttare l’engagement del pubblico e ottenere visibilità algoritmica. I contenuti, pur essendo falsi o privi di riscontro nella realtà, risultano per lo più innocui: la loro unica funzione sembra essere quella di occupare spazio online e generare traffico e condivisioni, “ingannando” le infrastrutture della pubblicità online. In un caso, ad esempio, un sito locale di Long Island il cui dominio non era stato rinnovato dagli editori originali è stato acquistato da terzi e trasformato in un “cannone” per questo tipo di spam, fenomeno che viene spesso definito “AI slop”.

Il giornalista del Nieman Lab racconta inoltre di aver contattato uno di questi siti, ricevendo risposta da un’agenzia di marketing digitale con sede in Estonia. Invece di fornire chiarimenti, una rappresentante avrebbe inviato un’offerta commerciale per la pubblicazione di articoli sponsorizzati su vari siti, compreso quello contattato, con tariffe comprese tra 10 e 2.000 euro a seconda del traffico. L’agenzia offriva anche la produzione di contenuti a pagamento, probabilmente generati da intelligenza artificiale, con prezzi tra 35 e 75 euro, e applicava tariffe maggiorate per temi “sensibili”. Sul proprio sito, scrive il Nieman Lab, l’agenzia afferma di aver creato 1.500 siti web e di aver generato 2 milioni di euro di ricavi tramite strumenti di scrittura automatica, anche se non è chiaro quanti dei siti elencati siano effettivamente di sua gestione o basati su IA. Il Nieman Lab sottolinea inoltre come oggi esistano numerosi software in grado di automatizzare interamente la gestione editoriale di un sito web, dalla generazione dei contenuti alla loro diffusione, rendendo possibile che molti di questi portali siano gestiti in modo completamente automatico, senza alcuna mediazione umana.

I casi documentati dal Nieman Lab, tuttavia, non sono isolati. Già in primavera, un’analisi di NewsGuard, organizzazione impegnata nel contrasto alla mis- e disinformazione, aveva individuato 1.271 siti di notizie e informazione generati, in tutto o in parte, dall’intelligenza artificiale e considerati inaffidabili. Questi siti, diffusi in 16 lingue tra cui arabo, cinese, francese, inglese, italiano, portoghese, russo e spagnolo, presentano spesso nomi generici come iBusiness Day, Ireland Top News o Daily Time Update, che a un lettore possono sembrare testate giornalistiche legittime, ma che in realtà non sono altro che aggregatori di contenuti e diffusori di spam. Spesso, il modello di business di questi siti dipende dalla pubblicità programmatica, un meccanismo automatizzato che distribuisce inserzioni online senza necessariamente valutare l’affidabilità o la qualità dei domini coinvolti. In questo modo, anche marchi di primo piano finiscono involontariamente per finanziare piattaforme che diffondono contenuti generati artificialmente, contribuendo alla creazione di un ecosistema digitale che premia quantità e visibilità più che credibilità e trasparenza. La scorsa estate qualcosa di simile era emerso anche in Francia, dove un network di oltre 4000 siti generati con il pure intento di generare traffico e visualizzazioni pubblicitarie era stato scoperto. In altri casi, siti simili si sono specializzati nel negazionismo del mutamento climatico, a conferma di come le ripercussioni di questo genere di siti possano essere anche più serie del semplice spam a scopi di lucro.

Questo fenomeno solleva numerose questioni riguardo alla solidità dell’ecosistema dell’informazione digitale e alla sua economia, ancora in gran parte basata sulla pubblicità e sui meccanismi che questi siti cercano di sfruttare, diffondendo contenuti a scopo di spam. Si tratta, in sostanza, di una forma di inquinamento digitale, che riempie di informazioni fuorvianti un ambiente già complesso e saturo. Oltre al problema immediato della mis- e disinformazione, la cui portata non è ancora del tutto chiara, emerge un tema più sottile ma altrettanto preoccupante: la fiducia nei confronti dell’informazione digitale, già non altissima, che ne esce ulteriormente compromessa.

*Philip Di Salvo è senior researcher e docente presso l’Università di San Gallo. I suoi temi di ricerca principali sono i rapporti tra informazione e hacking, la sorveglianza di Internet e l’intelligenza artificiale. Come giornalista scrive per varie testate.