Le tattiche della disinformazione Vol.2

Prosegue il nostro viaggio nel mondo dell’information disorder. Questa serie di articoli è stata realizzata con l’intento di fornire a chi ci legge materiali che possano servire per difendersi dalla massa di disinformazione che tutti subiamo ogni giorno. BUTAC è un servizio volontario di fact-checking al servizio di chi pensa di poterne trarre qualche utilità, e oggi riteniamo sia di fondamentale importanza aiutare i cittadini a comprendere e a gestire i rischi portati dalla disinformazione di massa, demolendo, per quanto possibile, le narrazioni sfruttate da chi sulla disinformazione campa da anni. Quelle che condividiamo con voi sono risorse scritte da esperti – in questo caso, ad esempio, la Cybersecurity and Infrastructure Security Agency (CISA) statunitense – che noi stessi studiamo per cercare di portare avanti al meglio questa attività, e che ci sembra utile portare all’attenzione di più persone possibile.

L’uso di canali alternativi

In questi ultimi anni l’abbiamo visto in maniera molto evidente: chi disinforma, quando può, spinge per spostare il pubblico che gli interessa su piattaforme esterne ai normali canali social. Il motivo è avere totale controllo sull’ambiente in cui i loro follower si muovono. Si cerca quindi di generare dissenso nei confronti delle piattaforme “mainstream”, invitando i propri follower a un trasloco di massa.

Se sposto tutti gli utenti su una piattaforma dove la maggior parte dei creatori di contenuti è in accordo con le mie narrazioni è molto più facile che i follower si convincano della bontà di quanto leggono. Nella pratica si creano specifiche casse di risonanza (echo chamber), isolate dagli altri social network, dove intensificare sempre di più la controinformazione, creando così una specifica narrativa disinformativa, senza il rischio che penetri un diverso punto di vista che potrebbe generare il dubbio nei lettori. Per questo si sfruttano piattaforme che abbiano meno protezioni per l’utente finale, come ad esempio la moderazione, e meno controlli sugli account e sulle automazioni a essi correlate.

Negli ultimi anni abbiamo visto un proliferare di inviti ad abbandonare piattaforme come Facebook e YouTube preferendo loro cloni stile VK o Rumble, se non addirittura social creati ad hoc come Sfero. Chi si trova su quelle piattaforme social viene sommerso da specifiche narrazioni che vanno in una sola direzione, convincendosi che la maggior parte della gente la pensi come lui. Attorno a sé difatti vede solo conferme di quelle che sono le sue idee, e viene convinto da chi lo sta manipolando a rifiutare a priori qualsiasi informazione che arrivi dall’esterno della piattaforma. Si cerca il più possibile di far leva sulla paura, convincendo i malcapitati che là fuori tutti vogliano solo fregarli.

Questo è uno dei motivi per cui abbiamo sempre criticato le iniziative dei social media per limitare la pubblicazione e la circolazione di contenuti disinformativi: censurandoli si fa solo il gioco di chi li crea e li diffonde, spingendo i follower in bolle ancora più chiuse, e prestando il fianco a una narrazione che viene sfruttata appieno dai disinformatori stessi. La narrazione, già piuttosto diffusa, che li vede come coraggiosi combattenti per la verità che fanno paura al potere, il quale, proprio per questo, cerca di metterli a tacere – e che deve essere contrastata con un impegno attivo dei follower nel diffondere tali contenuti con ogni mezzo possibile.

Il caso Sfero

Giusto per portarvi un esempio pratico vogliamo ripassare un caso di piattaforma alternativa di cui ci siamo occupati giusto l’anno scorso. Sfero, piattaforma nata qualche anno fa con scarso successo di pubblico, fondata tra gli altri da una vecchia conoscenza delle pagine di BUTAC, Daniele Di Luciano, anni addietro creatore e gestore di Lo Sai, sito web che negli anni abbiamo dovuto trattare una miriade di volte, al punto da creare a suo tempo un’intera categoria dedicata al loro modo di fare (dis)informazione. Sfero nasce nel 2020, parte in punta di piedi, invitando tanti volti noti del complottismo italiano ad aprire i loro profili sul sito, al punto che nel 2022 questi erano i dieci profili più attivi e popolari della piattaforma:

1. Stefano Montanari
2. Sara Cunial
3. Matteo Brandi
4. Loretta Bolgan
5. Ilaria Bifarini
6. Sandro Torella
7. Paolo Bellavite
8. Stefano Re
9. Giorgio Bianchi
10. Davide Barillari

Chi segue BUTAC da tempo credo sia in grado di riconoscere tutti i nomi di quest’elenco. Sempre su Sfero vengono pubblicizzati libri di case editrici completamente dedite a complottismo, pseudomedicina, astrologia e tutto quanto può contribuire ad allontanare il pubblico dallo spirito critico e dall’uso della razionalità. La home page del social network, aprendola ora, ci presenta gli articoli più letti di questi giorni, da Mazzucco a Gracis, da Fracassi a Sovranità Popolare, passando per una poesia di Loretta Bolgan. Non uno spaccato di quanto accade nella realtà, ma narrazioni su narrazioni che raccontano, ipotizzano, riprendono, sottintendono e confermano complotti vari, esattamente come succedeva con gli articoli di Lo Sai anni addietro.

Amplificare le teorie del complotto

Spostare i propri follower su piattaforme alternative serve non solo per avere più controllo su di loro, ma anche per potersi sentire più liberi nel diffondere nuove o aggiornate teorie del complotto, senza il rischio che arrivi chi gestisce la piattaforma a bollare quanto narrato come fasullo e ne blocchino la diffusione sul nascere. Le teoria del complotto strutturate bene possono modellare e influenzare il punto di vista di chi ci crede al punto da riuscire a manipolare tutta la visione del mondo che lo circonda.

Così facendo è possibile direzionare facilmente le paure di un folto gruppo di persone, spingendole ad abbracciare appunto teorie del complotto di vario genere (e magari a esporsi senza difese a pericoli reali, come nel caso dell’antivaccinismo e della pseudomedicina in generale). Una cosa che dovrebbe essere chiara a tanti è che raramente le persone cominciano a credere a una teoria del complotto in autonomia, solitamente le abbracciano completamente dopo che hanno perso fiducia nella realtà da cui erano circondati.

Spesso questo avviene per colpa di falle nella nostra società, falle che portano questo persone a sentirsi isolate. Le piattaforme di cui sopra le accolgono a braccia aperte, fornendo loro ascolto e comprensione, fornendogli un ambiente nel quale sentirsi a proprio agio in compagnia di altri. La teoria del complotto a quel punto serve a creare uno scenario che permetta di tenere questa massa di persone unita e compatta contro uno specifico nemico (un personaggio importante, le istituzioni, i poteri forti, ma anche cose materiali come ad esempio l’auto elettrica, il vaccino, la chemioterapia ecc). Tanto, senza rischi di contradditorio, all’interno di questi gruppi è possibile alimentare qualsiasi tipo di narrazione, senza il rischio che venga poi smentita.

I deepfake

Sempre nell’ottica del creare realtà alternative non si può non parlare dei deepfake. Sono passati i tempi in cui per realizzare un falso convincente si dovevano spendere milioni di dollari. Oggi realizzare un video dove fare dire qualcosa di sconveniente a qualche personalità è quanto di più facile: grazie a quella libreria digitale d’immagini che è la rete, infatti, mettere insieme scatti sufficienti di Biden o Putin per usarli in un deepfake è alla portata di quasi tutti. Basta vedere questo video di Chris Ume e del suo fantastico DeepTomCruise per rendersi conto della portata della cosa:

Purtroppo difendersi dai deepfake è molto difficile, il suggerimento è sempre quello di andare a cercare su testate note, autorevoli e solitamente verificate (CNN, Reuters, BBC, Associated Press ecc ecc) se il video che abbiamo incrociato viene ripreso anche da loro, magari cercare il profilo ufficiale della persona ritratta nello stesso, o comunque chiedere al suo staff una conferma della fonte. In caso contrario, se non si hanno certezze, il suggerimento è sempre quello di evitare di condividere.

L’uso dell’Intelligenza artificiale

Anche perché oggi le IA – se ben istruite con materiale che arriva dalla stessa fonte di cui stiamo facendo il deepfake – sono in grado di generare testi che usano lo stesso modo di esprimersi della persona che stiamo duplicando, rendendo difficile, anche per esperti conoscitori del soggetto, rendersi conto dell’inganno. Basta provare per rendersi conto di quanto possa essere convincente. Questo qui sotto ad esempio è il testo di un post per Facebook, creato da Chat GPT, a cui avevo chiesto di scrivere un post per Facebook per presentare Top Gun Maverick, ma facendo finta di essere Tom Cruise:

Hey everyone, Tom Cruise here! I just wanted to give a shout-out to all my fans out there and let you know how excited I am about the upcoming release of Top Gun: Maverick.

As you all know, Top Gun has a special place in my heart and I’m thrilled to be reprising my role as Pete “Maverick” Mitchell. I can’t wait for you all to see the incredible action sequences and stunning aerial footage that we’ve captured for this film.

But what really makes this movie special is the heart and soul that went into it. We’ve got an incredible cast and crew who have poured their blood, sweat, and tears into making this film the best it can be. I couldn’t be more proud to be a part of this team.

So mark your calendars and get ready to feel the need for speed, because Top Gun: Maverick is coming your way soon! Thank you all for your continued support and I can’t wait for you to see what we’ve got in store for you. #TopGunMaverick #FeelTheNeedForSpeed

Sia chiaro, oggi per la maggior parte di chi ci legge verificare se una cosa sia stata realmente pronunciata da qualcuno è relativamente facile. Ma immaginate di essere all’interno di una piattaforma che non ha rimandi verso l’esterno, magari tramite app sul vostro smartphone, sull’utilizzo e funzionamento del quale potreste non avere competenze approfondite, dove viene condiviso un video con un soggetto noto che dice qualcosa di sconvolgente – e che a voi sembra credibile, visto che sono mesi che su quella stessa piattaforma vi hanno convinto che quella persona sta per fare una rivelazione epocale… Quanti credete che chiuderebbero l’app per andare a fare verifiche? E quanti invece si fiderebbero di quel contenuto senza mettere in dubbio la narrazione che stanno seguendo da mesi?

Conoscere questi meccanismi è basilare per potersi difendere, se ne volete conoscere ancora noi ci vediamo la prossima settimana.

maicolengel at butac punto it

Sostieni il crowdfunding per il decennale di BUTAC e Minerva – Associazione di divulgazione scientifica. Abbiamo realizzato magliette, spille e quant’altro per ringraziare tutti quelli che vorranno aiutarci a organizzare una due giorni di eventi gratuiti in autunno a Bologna!

Oppure, come sempre, sostienici su Patreon o su PayPal! Può bastare anche il costo di un caffè!
Un altro modo per sostenerci è acquistare uno dei libri consigliati sulla nostra pagina Amazon, la trovi qui.