I nuovi deepfake pro-Cina sono super weird!
Spamouflage disinformativo di propaganda cinese che usa illegalmente avatar per fare video aziendali creati in UK...
La tecnologia deepfake si è evoluta nell’ultimo decennio e presumibilmente un po’ tutti abbiamo un’idea abbastanza precisa di cosa si tratti. Detto in due parole, si tratta di software di intelligenza artificiale in grado di creare avatar, una sorta di pupazzi digitali, ormai perfettamente credibili, a cui potete fare dire quello che volete.
Un uomo di mezza età pettinatissimo, in uno studio broadcast, legge delle notizie; ma potrebbe anche leggervi il testo di una canzone di Malgioglio con lo stesso identico tono, e la stessa faccia serissima, perché sta semplicemente leggendo un testo qualunque, al vostro servizio. Quell’uomo, inutile dirlo, non è umano.
Lui si chiama Jason, ma potete chiamarlo come volete…
Era solo una questione di tempo, evidentemente, prima di vedere all’opera questa tecnologia al servizio della disinformazione, con occhi un po’ stupiti, un po’ inquietati. Siamo infatti in una dimensione in cui l’inquietante va di pari passo con il realismo di questi artefatti digitali, entità non-umane che sembrano umane, e ormai, va detto, “essi vivono” e cominciano a sembrare piuttosto convincenti.
Lei si chiama Anna, ma solo per gli amici che la conoscono.
Jack Stubbs, vice presidente dell’intelligence di Graphika, ha raccontato qualche giorno fa al NYT (dal cui articolo sono prese le immagini di Synthesia riportate in questa pagina) di un caso studio seguito dal suo team: quello di Wolf News, un finto broadcast apparso a fine 2022 – nei primissimi esperimenti di un’operazione di spamouflage (spam + camouflage) di propaganda pro-Cina – che usa appunto intelligenze artificiali per fare disinformazione travestita da broadcast.
Queste IO (che sta per Input/Output) sono in grado di replicare personaggi reali (come un video circolato l’anno scorso in cui il presidente dell’Ucraina Zelensky annunciava la resa) o di crearli dal nulla; quelle usate da Wolf News sono realizzate da una società nel Regno Unito che offre questo servizio per clienti che abbiano bisogno di produrre innocui video di marketing e di training. La società, che si chiama Synthesia, proibisce espressamente di usare la sua tecnologia per contenuti politici, sessuali, personali, criminali o discriminatori, e ha un team di quattro persone dedicato alla prevenzione di usi illeciti, ma il problema è che – dice il suo chief executive Victor Ripabelli – la disinformazione è ben più difficile da “definire”, visto che non usa un linguaggio esplicito facilmente identificabile.
Il deepfake è qui per restare, come potevamo intuire, e se Jason e Anna, una volta che li abbiamo visti, sono già piuttosto riconoscibili nella loro parlata monotona e in quelle espressioni un pochino di plastica (nel dubbio può essere utile fare una ricerca per immagini, perché anche nella realtà esiste gente così inespressiva!), i loro fratellini che vedremo comparire nei prossimi tempi potrebbero essere molto, molto più convincenti.
AnDREAM
Sul tema dei deepfake la redazione consiglia “Fake people. Storie di social bot e bugiardi” di Viola Bachini e Maurizio Tesconi.
Se ti è piaciuto l’articolo, sostienici su Patreon o su PayPal! Può bastare anche il costo di un caffè!
Un altro modo per sostenerci è acquistare uno dei libri consigliati sulla nostra pagina Amazon, la trovi qui.
Il Natale è il momento in cui l’emozione si impenna e il portafoglio si apre, spesso con la stessa leggerezza. In tanti di noi questo periodo porta con sé un desiderio quasi viscerale di fare del bene, di restituire qualcosa o di dare un senso più profondo a quel turbinio di luci e shopping che ci […]
Qualche giorno fa un amico mi ha mandato un messaggio: era curioso di sapere se io fossi a conoscenza che un soggetto di cui mi ero occupato più volte su BUTAC avesse un suo “documentario” su Prime Video. Non lo sapevo, e ammetto che la notizia mi ha lasciato un discreto amaro in bocca. Su […]
Già da qualche anno evito il compianto Twitter come la peste. I nostri articoli vengono pubblicati in automatico sulla piattaforma di Musk senza però che noi personalmente interagiamo più di tanto con gli oltre 30mila follower che ci seguono da quelle parti. Venerdì però mi sono ritrovato citato – mai taggato, ovvio: chi diffama in […]
Una chiamata inaspettata dal “dirigente” della vostra banca. Un SMS che vi intima di cliccare subito per sbloccare un pacco. Un messaggio su un gruppo che vi avvisa di una catastrofe imminente. Non è un software malevolo o un attacco hacker in stile hollywoodiano a farci cadere in una truffa online. La verità è che, oggi come ieri, […]
