I nuovi deepfake pro-Cina sono super weird!
Spamouflage disinformativo di propaganda cinese che usa illegalmente avatar per fare video aziendali creati in UK...
La tecnologia deepfake si è evoluta nell’ultimo decennio e presumibilmente un po’ tutti abbiamo un’idea abbastanza precisa di cosa si tratti. Detto in due parole, si tratta di software di intelligenza artificiale in grado di creare avatar, una sorta di pupazzi digitali, ormai perfettamente credibili, a cui potete fare dire quello che volete.
Un uomo di mezza età pettinatissimo, in uno studio broadcast, legge delle notizie; ma potrebbe anche leggervi il testo di una canzone di Malgioglio con lo stesso identico tono, e la stessa faccia serissima, perché sta semplicemente leggendo un testo qualunque, al vostro servizio. Quell’uomo, inutile dirlo, non è umano.
Lui si chiama Jason, ma potete chiamarlo come volete…
Era solo una questione di tempo, evidentemente, prima di vedere all’opera questa tecnologia al servizio della disinformazione, con occhi un po’ stupiti, un po’ inquietati. Siamo infatti in una dimensione in cui l’inquietante va di pari passo con il realismo di questi artefatti digitali, entità non-umane che sembrano umane, e ormai, va detto, “essi vivono” e cominciano a sembrare piuttosto convincenti.
Lei si chiama Anna, ma solo per gli amici che la conoscono.
Jack Stubbs, vice presidente dell’intelligence di Graphika, ha raccontato qualche giorno fa al NYT (dal cui articolo sono prese le immagini di Synthesia riportate in questa pagina) di un caso studio seguito dal suo team: quello di Wolf News, un finto broadcast apparso a fine 2022 – nei primissimi esperimenti di un’operazione di spamouflage (spam + camouflage) di propaganda pro-Cina – che usa appunto intelligenze artificiali per fare disinformazione travestita da broadcast.
Queste IO (che sta per Input/Output) sono in grado di replicare personaggi reali (come un video circolato l’anno scorso in cui il presidente dell’Ucraina Zelensky annunciava la resa) o di crearli dal nulla; quelle usate da Wolf News sono realizzate da una società nel Regno Unito che offre questo servizio per clienti che abbiano bisogno di produrre innocui video di marketing e di training. La società, che si chiama Synthesia, proibisce espressamente di usare la sua tecnologia per contenuti politici, sessuali, personali, criminali o discriminatori, e ha un team di quattro persone dedicato alla prevenzione di usi illeciti, ma il problema è che – dice il suo chief executive Victor Ripabelli – la disinformazione è ben più difficile da “definire”, visto che non usa un linguaggio esplicito facilmente identificabile.
Il deepfake è qui per restare, come potevamo intuire, e se Jason e Anna, una volta che li abbiamo visti, sono già piuttosto riconoscibili nella loro parlata monotona e in quelle espressioni un pochino di plastica (nel dubbio può essere utile fare una ricerca per immagini, perché anche nella realtà esiste gente così inespressiva!), i loro fratellini che vedremo comparire nei prossimi tempi potrebbero essere molto, molto più convincenti.
AnDREAM
Sul tema dei deepfake la redazione consiglia “Fake people. Storie di social bot e bugiardi” di Viola Bachini e Maurizio Tesconi.
Se ti è piaciuto l’articolo, sostienici su Patreon o su PayPal! Può bastare anche il costo di un caffè!
Un altro modo per sostenerci è acquistare uno dei libri consigliati sulla nostra pagina Amazon, la trovi qui.
Ci scrive un amico di BUTAC che da anni segue con passione il tema della preparazione civile per le emergenze. La segue con passione anche perché, vivendo all’estero, si accorge della grossa differenza che c’è tra molti Paesi europei e quello in cui viviamo noi. Pertanto ci ha segnalato un articolo de Il Giornale uscito […]
La prima volta che mi sono occupato di una notizia che aveva a che fare con la Russia e che sembrava essere disinformazione era il 2014, BUTAC aveva aperto i battenti da poco e io ancora non mi ero fatto le ossa a sufficienza da capire che forse le cose non erano come sembravano. La propaganda […]
In una discussione online ho letto alcune affermazioni che mi hanno fatto riflettere su quanto poco evidentemente si comprenda cosa sia BUTAC e come funzioni in generale un sito di debunking – o di fact-checking, che poi è il termine corretto. Capita con regolarità che qualcuno riassuma il nostro lavoro con frasi che suonano più […]
Cominciamo oggi una serie di brevi articoli che possano aiutarci a difenderci dalla mole di propaganda e disinformazione in cui ci stiamo immergendo sempre di più in vista della prossima tornata elettorale. Abbiamo pensato di fare cosa utile a tutti in quanto, oltre alla solita disinformazione che circola nel nostro Paese da decenni, ora più […]