I nuovi deepfake pro-Cina sono super weird!

Spamouflage disinformativo di propaganda cinese che usa illegalmente avatar per fare video aziendali creati in UK...

anDREAM 20 Feb 2023
article-post
Aggiungi Butac tra le tue fonti preferite su Google

La tecnologia deepfake si è evoluta nell’ultimo decennio e presumibilmente un po’ tutti abbiamo un’idea abbastanza precisa di cosa si tratti. Detto in due parole, si tratta di software di intelligenza artificiale in grado di creare avatar, una sorta di pupazzi digitali, ormai perfettamente credibili, a cui potete fare dire quello che volete.

Un uomo di mezza età pettinatissimo, in uno studio broadcast, legge delle notizie; ma potrebbe anche leggervi il testo di una canzone di Malgioglio con lo stesso identico tono, e la stessa faccia serissima, perché sta semplicemente leggendo un testo qualunque, al vostro servizio. Quell’uomo, inutile dirlo, non è umano.

Lui si chiama Jason, ma potete chiamarlo come volete…

Era solo una questione di tempo, evidentemente, prima di vedere all’opera questa tecnologia al servizio della disinformazione, con occhi un po’ stupiti, un po’ inquietati. Siamo infatti in una dimensione in cui l’inquietante va di pari passo con il realismo di questi artefatti digitali, entità non-umane che sembrano umane, e ormai, va detto, “essi vivono” e cominciano a sembrare piuttosto convincenti.

Lei si chiama Anna, ma solo per gli amici che la conoscono.

Jack Stubbs, vice presidente dell’intelligence di Graphika, ha raccontato qualche giorno fa al NYT (dal cui articolo sono prese le immagini di Synthesia riportate in questa pagina) di un caso studio seguito dal suo team: quello di Wolf News, un finto broadcast apparso a fine 2022 – nei primissimi esperimenti di un’operazione di spamouflage (spam + camouflage) di propaganda pro-Cina – che usa appunto intelligenze artificiali per fare disinformazione travestita da broadcast.

Queste IO (che sta per Input/Output) sono in grado di replicare personaggi reali (come un video circolato l’anno scorso in cui il presidente dell’Ucraina Zelensky annunciava la resa) o di crearli dal nulla; quelle usate da Wolf News sono realizzate da una società nel Regno Unito che offre questo servizio per clienti che abbiano bisogno di produrre innocui video di marketing e di training. La società, che si chiama Synthesia, proibisce espressamente di usare la sua tecnologia per contenuti politici, sessuali, personali, criminali o discriminatori, e ha un team di quattro persone dedicato alla prevenzione di usi illeciti, ma il problema è che – dice il suo chief executive Victor Ripabelli – la disinformazione è ben più difficile da “definire”, visto che non usa un linguaggio esplicito facilmente identificabile.

Il deepfake è qui per restare, come potevamo intuire, e se Jason e Anna, una volta che li abbiamo visti, sono già piuttosto riconoscibili nella loro parlata monotona e in quelle espressioni un pochino di plastica (nel dubbio può essere utile fare una ricerca per immagini, perché anche nella realtà esiste gente così inespressiva!), i loro fratellini che vedremo comparire nei prossimi tempi potrebbero essere molto, molto più convincenti.

AnDREAM


Sul tema dei deepfake la redazione consiglia “Fake people. Storie di social bot e bugiardi” di Viola Bachini e Maurizio Tesconi.

Se ti è piaciuto l’articolo, sostienici su Patreon o su PayPal! Può bastare anche il costo di un caffè!
Un altro modo per sostenerci è acquistare uno dei libri consigliati sulla nostra pagina Amazon, la trovi qui.

Qualche giorno fa ho espresso la mia personale opinione su un tema che mi è caro, opinione che si concludeva con un messaggio abbastanza semplice: Una testata che disinforma non la si condivide nemmeno la volta che ne dice una giusta. Io mi riferivo a una testata specifica, ma non era importante quale, anche perché […]

maicolengel butac | 18 nov 2026

Era il 2015, BUTAC era nato da soli due anni (quattro, se consideriamo la rubrica su LegaNerd) e io non sapevo che pesci pigliare. Il sito finiva offline almeno una volta alla settimana, e io ero convinto che fosse colpa della mia inesperienza con la gestione su WordPress o direttamente sulla mia incapacità di gestire […]

maicolengel butac | 05 nov 2026

Febbraio 2017, l’allora Presidente della Camera Laura Boldrini lancia #BastaBufale, non solo un hashtag ma un appello rivolto a scuole, media, aziende e piattaforme social. Un appello a fermare la diffusione di contenuiti falsi in rete. Un appello che vedeva tra i suoi primi firmatari anche tre fact checker: Paolo Attivissimo, David Puente e io, […]

maicolengel butac | 03 nov 2026

Ci è stato segnalato un post che circola sulle più svariate bacheche social: la classica condivisione fatta più con la pancia che con la testa. Ho scelto di usarlo per un articolo che mostri i rischi delle condivisioni fatte così, anche se vorrei che non servisse più. Il post che ha condiviso riporta l’immagine che […]

maicolengel butac | 13 ott 2026