Intrappolati dall’algoritmo

Stéphanie Mistre mostra il sorriso di Marie, le cui fotografie tappezzano la cameretta della ragazza. Bellissima e solare come la sua terra, la Provenza. “Dicevano che fosse brutta, vi pare possibile?” La voce, inizialmente flebile e dolce della donna, si fa subito stentorea e dura. La stanzetta di un’adolescente sembra tramutarsi nell’aula di un tribunale. “Un mese dopo la sua morte, ho guardato dentro il telefono di Marie: TikTok le aveva inviato video di come uccidersi, di come fare un nodo per impiccarsi, di come buttarsi sotto un treno.” A quindici anni, Marie decide di farla finita, spinta - sostiene la madre - dai contenuti veicolati dalla piattaforma più in voga tra i giovani. “TikTok le ha suggerito che la miglior soluzione era quella di togliersi la vita.”  

L’algoritmo di TikTok ha spinto la profilazione dei suoi utenti all’estremo. Un test condotto da “Patti chiari” mostra come la piattaforma impieghi meno di due minuti per capire quali siano gli interessi di un utente, quali siano le sue preferenze e i suoi gusti e a inviargli così contenuti su misura. Questo sistema è vantaggioso sia per l’utente, a cui verranno serviti solo contenuti che lo interessano, che per TikTok, che può aumentare i tempi di permanenza degli utenti sulla piattaforma a dismisura, aumentando nel contempo i guadagni. Le conseguenze di un algoritmo così efficace non sono però solo positive, anzi. Marie per esempio, in piena crisi adolescenziale, sarebbe stata bombardata da contenuti ansiogeni e depressivi; proprio perché l’algoritmo si era convinto che fossero perfetti per un utente con il profilo come il suo. 

“Tiktok prende il sopravvento, tendo a dimenticarmi di fare cose nella quotidianità, come andare a dormire o alzarmi per andare a scuola o al lavoro.” dice Dario Gennari, esperto di dipendenze digitali, a cui il lavoro ultimamente di certo non manca. “Si parla di dipendenza quando trascuriamo l’aspetto relazionale: tendo ad essere solo davanti al video e non più a interagire con gli altri.” 

Un piccolo sondaggio effettuato in Ticino da “Patti chiari” mostra i tempi di utilizzo reali dei giovani ticinesi, registrati dai loro cellulari: si va da chi consulta l’app da mezz’ora a un’ora al giorno, a chi ha dovuto disinstallarla per non cadere più in tentazione. C’è anche chi si è autoimposto un limite massimo di due ore giornaliere. In alcuni casi si arriva addirittura a un tempo di consultazione pari a tre ore in media al giorno. Significa vedere quotidianamente quasi 500 video, oltre 170mila all’anno. 

In alcuni casi, molti di questi contenuti, proprio a causa dell’algoritmo particolarmente performante di TikTok, possono avere conseguenze decisamente nefaste per i suoi utenti. Alessio, l’esile corpo ricoperto da tatuaggi, ne sa qualcosa. “Mi rifugiavo molto nei social network e in particolare su TikTok. Io pensavo mi aiutasse come passatempo, ma in realtà non faceva altro che alimentare questo mio disturbo.” Mentre Alessio lottava contro i suoi disturbi alimentari, l’algoritmo gli proponeva contenuti che esaltavano la magrezza, che lo incitavano a mangiare sempre meno e che assecondavano la sua ossessione per il peso. Succede proprio così: l’algoritmo di TikTok cerca di soddisfare i tuoi desideri, indipendentemente da quali siano. 

“Se sei contento o triste” dice Stephanie Mistre “se hai appena perso il lavoro o hai appena divorziato, se sei in piena crisi adolescenziale, TikTok non ti molla più. TikTok non ha emozioni.”

Così l’algoritmo ha bombardato di contenuti depressivi la figlia Marie, che di depressione, appunto, soffriva. E Alessio di messaggi che contribuivano ad allontanarlo dalla guarigione. In altri casi può spingere verso altre strade, come la radicalizzazione ideologica o religiosa. Un test di “Patti chiari” dimostra di come nella miriade di contenuti di TikTok si annidino messaggi e immagini che incitano la violenza, che spingono all’estremizzazione politica o all’indottrinamento religioso. Armi fai da te, simboli nazifascisti, inviti all’azione, glorificazione della jihad, immagini di atrocità di ogni genere, dentro TikTok c’è di tutto. 

“Continuo a rivedere queste immagini nei miei sogni, se chiudo gli occhi ritornano, mi hanno devastato.” Il lavoro di Emre (nome di fantasia), giovane turco di Izmir, è quello di ripulire TikTok dai contenuti illegali. Lavoro fondamentale, ma, vista la massa di contenuti postati ogni giorno in ogni angolo del globo, quanto mai improbo. Come svuotare il mare con un cucchiaino. “Poronografia, immagini violente, gang di giovani, massacri e decapitazioni dell’ISIS, persone bruciate vive. Vedo di tutto.” Emre fatica a parlarne, vive dentro un incubo giornaliero, che dovrebbe rendere TikTok un posto migliore. 

Un luogo fatto di canzoncine e balletti spensierati, com’era stato immaginato quando nel 2017 dalla Cina partiva alla conquista del mondo. Ora sempre più paesi, l’Australia, la Francia, la Spagna, corrono ai ripari cercando di limitarne l’uso per i più giovani. Tra le tante accuse, TikTok sarebbe anche una macchina potentissima di propaganda e disinformazione, capace di influenzare dibattiti pubblici, votazioni ed elezioni. Questa macchina oggi ha un carburante potentissimo, che si chiama intelligenza artificiale. Distinguere i contenuti generati dall’AI, e cioè i contenuti falsi, da quelli veri è sempre più difficile, se non impossibile. Patti chiari ha eseguito un test in una classe di apprendisti ticinesi, mostrando agli studenti una serie di video trovati su TikTok, la metà dei quali veri - immagini storiche di eventi realmente accaduti - l’altra metà falsi. I ragazzi, seppur nativi digitali, hanno saputo individuare i contenuti veri solo nel 60 percento dei casi, nel 40 si sono invece fatti ingannare. Alcuni di loro erano addirittura convinti che le immagini delle Torri Gemelle che crollano, della Costa Concordia naufragata al largo dell’isola del Giglio o dell’incendio del tetto di Notre Dame, fossero opera dell’intelligenza artificiale.   

“Ci ha messo in difficoltà un po’ tutti questa cosa” osserva sorpreso un ragazzo. Un altro, spinto dai tanti errori commessi, rivaluta i media tradizionali: “In generale su queste piattaforme non non ci si può fidare tanto, è meglio informarsi con altre fonti.”

Disinformazione, propaganda, indottrinamento, contenuti inadatti. Le denunce di Stéphanie Mistre hanno scosso la Francia e hanno spinto la politica ad intervenire. L’Assemblée Nationale ha deciso di vietare i social ai minori di 15 anni. Per vedere introdotta la prima misura del genere in Europa, manca ora solo il parere del Senato.

“Non è una legge liberticida, non è privare i nostri figli della libertà, è dare loro la possibilità di istruirsi e diventare persone e adulti a tutti gli effetti, con un cervello che riflette e ragiona.” Stephanie Mistre guarda il sorriso di Marie appeso sul frigorifero di casa, lei che adulta non sarà mai. “Altrimenti li stiamo trasformando in idioti, senza coscienza di nulla”.

E la Svizzera? Una presa di posizione del Consiglio Federale è attesa nel corso di quest’anno.