I nuovi deepfake pro-Cina sono super weird!

La tecnologia deepfake si è evoluta nell’ultimo decennio e presumibilmente un po’ tutti abbiamo un’idea abbastanza precisa di cosa si tratti. Detto in due parole, si tratta di software di intelligenza artificiale in grado di creare avatar, una sorta di pupazzi digitali, ormai perfettamente credibili, a cui potete fare dire quello che volete.

Un uomo di mezza età pettinatissimo, in uno studio broadcast, legge delle notizie; ma potrebbe anche leggervi il testo di una canzone di Malgioglio con lo stesso identico tono, e la stessa faccia serissima, perché sta semplicemente leggendo un testo qualunque, al vostro servizio. Quell’uomo, inutile dirlo, non è umano.

Lui si chiama Jason, ma potete chiamarlo come volete…

Era solo una questione di tempo, evidentemente, prima di vedere all’opera questa tecnologia al servizio della disinformazione, con occhi un po’ stupiti, un po’ inquietati. Siamo infatti in una dimensione in cui l’inquietante va di pari passo con il realismo di questi artefatti digitali, entità non-umane che sembrano umane, e ormai, va detto, “essi vivono” e cominciano a sembrare piuttosto convincenti.

Lei si chiama Anna, ma solo per gli amici che la conoscono.

Jack Stubbs, vice presidente dell’intelligence di Graphika, ha raccontato qualche giorno fa al NYT (dal cui articolo sono prese le immagini di Synthesia riportate in questa pagina) di un caso studio seguito dal suo team: quello di Wolf News, un finto broadcast apparso a fine 2022 – nei primissimi esperimenti di un’operazione di spamouflage (spam + camouflage) di propaganda pro-Cina – che usa appunto intelligenze artificiali per fare disinformazione travestita da broadcast.

Queste IO (che sta per Input/Output) sono in grado di replicare personaggi reali (come un video circolato l’anno scorso in cui il presidente dell’Ucraina Zelensky annunciava la resa) o di crearli dal nulla; quelle usate da Wolf News sono realizzate da una società nel Regno Unito che offre questo servizio per clienti che abbiano bisogno di produrre innocui video di marketing e di training. La società, che si chiama Synthesia, proibisce espressamente di usare la sua tecnologia per contenuti politici, sessuali, personali, criminali o discriminatori, e ha un team di quattro persone dedicato alla prevenzione di usi illeciti, ma il problema è che – dice il suo chief executive Victor Ripabelli – la disinformazione è ben più difficile da “definire”, visto che non usa un linguaggio esplicito facilmente identificabile.

Il deepfake è qui per restare, come potevamo intuire, e se Jason e Anna, una volta che li abbiamo visti, sono già piuttosto riconoscibili nella loro parlata monotona e in quelle espressioni un pochino di plastica (nel dubbio può essere utile fare una ricerca per immagini, perché anche nella realtà esiste gente così inespressiva!), i loro fratellini che vedremo comparire nei prossimi tempi potrebbero essere molto, molto più convincenti.

AnDREAM

Sul tema dei deepfake la redazione consiglia “Fake people. Storie di social bot e bugiardi” di Viola Bachini e Maurizio Tesconi.

Se ti è piaciuto l’articolo, sostienici su Patreon o su PayPal! Può bastare anche il costo di un caffè!
Un altro modo per sostenerci è acquistare uno dei libri consigliati sulla nostra pagina Amazon, la trovi qui.