I tubi letto di cartone e le fatine dei denti…

Oggi parliamo di un’immagine che sta facendo il giro dei social italiani dopo esser stata diffusa in inglese e altre lingue. L’immagine è quella che vedete in apertura, ma circola anche con lievi variazioni. La “notizia” per come raccontato dall’immagine sarebbe questa:

Il Giappone crea tubi letto auto-riscaldanti per persone senza fissa dimora

O in inglese:

Japan developed a self-heating cardboard roll for homeless – when unwrapped, it inflates into a warm, insultaed sleep tube.

Si tratta di una classica notizia falsa generata partendo da immagini false. Non esiste alcun progetto del genere in Giappone, e l’oggetto nelle immagini non compare su alcuna fonte affidabile, né su qualcosa di simile. L’immagine (anzi le immagini) sono chiaramente generate dall’intelligenza artificiale.

Molti, quando segnaliamo questi contenuti come falsi, si lamentano dicendo che non capiscono dove sia il problema: che male c’è ad aver condiviso un’idea che potrebbe essere carina, che male c’è a condividere qualcosa di così innocuo come il messaggio di oggi? Innanzitutto il primo problema è ovviamente il fatto di condividere qualcosa di falso per qualcosa di vero; già questo, anche se direttamente non fa male a nessuno, dovrebbe essere sufficiente a farvi desistere. Pensateci: siete adulti che condividono storielle false sui social, che credibilità avrà il vostro profilo? Magari là fuori c’è il lavoro dei vostri sogni, che potreste perdere una volta che il reclutatore si accorgesse che non avete sufficiente spirito critico per distinguere un’immagine (e una notizia) diffusa solo per fare rumore da un fatto conclamato. Inoltre, condividere contenuti non verificati non fa altro che contribuire alla trasformazione del web in un cassonetto dell’indifferenziata, rendendo sempre più complesso far emergere i contenuti reali e, appunto, verificati. Infine, questa continua condivisione di contenuti falsi crea quel rumore di fondo che abitua lentamente le persone a non distinguere più tra realtà e finzione.

Oggi magari è solo un’immagine (e un’idea) che stuzzicano il nostro lato buono, domani può essere un falso studio medico, una falsa dichiarazione politica, o peggio ancora una falsa emergenza. Oggi, condividendo la falsa notizia sul Giappone, stiamo praticamente urlando sul web che non verifichiamo, e che quindi la nostra bacheca può potenzialmente venire usata per diffondere altri contenuti falsi – basta trovare il canale giusto per farceli arrivare. Un po’ come un decennio fa (ma in realtà anche molto meno) i diffusori di disinformazione sfruttavano i post del tipo “Non autorizzo Facebook a…”, “Se non condividete da domani le vostre immagini saranno…” per capire quali fossero i profili che con molta probabilità si sarebbero prestati come manodopera inconsapevole (e gratuita) alla diffusione della fuffa in grado di portare soldini nelle tasche dei truffatori.

Il problema pertanto è l’inquinamento digitale: perché è questo che succede se saturiamo il web di immagini generate da IA che raccontano storie false. Stiamo inquinando, stiamo contribuendo attivamente all’infodemia. Ogni post che facciamo genera prima di tutto attenzione, interazioni, visibilità. E più questi contenuti circolano, più diventano “normali”. Il risultato è un ambiente in cui diventa sempre più difficile distinguere ciò che è reale da ciò che è inventato. Stiamo condividendo una bugia in forma di notizia. E questo, nel lungo periodo, erode la fiducia in tutto: nelle immagini, nelle notizie, nella possibilità stessa di capire cosa sia vero.

Oltretutto non è nemmeno un caso isolato. Contenuti commoventi sui senzatetto generati con l’IA stanno invadendo i social: tutti finti, tutti costruiti a tavolino. Il motivo è semplice e deprimente: funzionano. Scaldano il cuore, richiedono zero sforzo critico (o di altro genere: se esiste una soluzione a basso costo ed è addirittura già in funzione, la mia coscienza si sentirà immacolata anche se non sto facendo attivamente niente), promettono un mondo migliore in una singola immagine. L’algoritmo li ama, perché fanno like facili. Chi li crea lo sa benissimo e li produce in serie. Il problema (enorme) è che, mentre ci consoliamo con queste cartoline artificiali, la realtà dei senzatetto resta lì dov’è: dura, complessa, senza tubi auto-riscaldanti e senza lieto fine.

Quell’idea del passato che “tanto male non fa” è una cavolata: fa male a tutti, lentamente, e come tutte le cose che fanno male lentamente sembra innocua, finché non ci accorgiamo che ormai non riusciamo più a distinguere la realtà da una cartolina generata da Gemini.

Non credo di poter aggiungere altro.

maicolengel at butac punto it

Se ti è piaciuto l’articolo, sostienici su Patreon o su PayPal! Può bastare anche il costo di un caffè!

Un altro modo per sostenerci è acquistare uno dei libri consigliati sulla nostra pagina Amazon, la trovi qui.

BUTAC vi aspetta anche su Telegram con il canale con tutti gli aggiornamenti.