La propaganda nell’era del deepfake

Nel mondo, due i modelli di informazione: Cina e Paesi autocratici dove la censura argina la digital influence, Europa e Usa dove avanza la rule of law

In un video dello scorso giugno Mark Zuckerberg rivolgendo lo sguardo alla videocamera con tono ambiguo lasciava intuire il potere nelle mani di un uomo con “il controllo completo dei dati rubati a miliardi di persone, tutti i loro segreti, le loro vite”. Il CEO di Facebook spiegava come “chiunque controlla i dati, controlla il futuro.”

Per quanto risultasse realistico si trattava di un falso, qualunque opinione abbiate di Zuckerberg le allusioni seminate lungo il monologo risultavano in effetti controproducenti all’attività del social network. Realizzato dagli artisti Bill Posters e Daniel Howe con le tecniche del deepfake, il video intendeva provocare una reazione dell’opinione pubblica americana sulla facilità d’uso degli strumenti di digital influence. Per alcuni era inoltre da considerarsi una risposta alla decisione di Facebook di non oscurare un altro fake diffuso nelle settimane precedenti: il discorso in cui la speaker della Camera dei rappresentanti Nancy Pelosi appariva ubriaca – un video falsato credibile al punto da essere rilanciato su Twitter dall’ex sindaco di New York Rudolph W. Giuliani.

I due episodi danno il senso di come in vista delle primarie e delle successive elezioni presidenziali del 2020, gli Stati Uniti si stiano interrogando su come scongiurare la nuova ondata di fake news che si appresta a inquinare il dibattito pubblico. L’attenzione è rivolta in particolare agli algoritmi di intelligenza artificiale che stanno rivoluzionando l’industria del falso. Il deepfake è l’ultima e più potente tra queste tecniche di machine learning. Si basa su architetture di Generative Adversarial Network (GAN) in cui due reti neurali sono messe in competizione per generare contenuti originali. Grazie ad esse è possibile alterare in modo realistico video esistenti cambiandone il contesto, sostituendo il volto di una persona (anche solo il movimento delle labbra), prendendo l’immagine di un soggetto e animandola – come accade nel video divenuto virale in cui la Monna Lisa prende vita.

Si tratta di manipolazioni che l’industria del cinema ci ha abituato da tempo a vedere sul grande schermo, ma che ora grazie alla disponibilità degli algoritmi e alla potenza di calcolo dei computer sono appannaggio di tutti. La loro pericolosità risiede proprio in questa estesa diffusione. “Il numero di persone che lavorano alla sintesi di [questi, n.d.r.] video è 100 a 1 rispetto a chi si occupa di verificarne l’autenticità”, spiegava al Washington Post Hany Farid, professore di scienze informatiche ed esperto forense dell’Università di Berkeley.

In Europa e Stati Uniti la distorsione delle notizie e l’onda lunga del falso ha minato negli anni la credibilità dei media e a cascata delle istituzioni nazionali e internazionali. Una ricerca del Pew Research condotta su un campione di americani lo scorso giugno evidenziava come il 43% degli intervistati avesse ridotto la quantità di fonti di informazione a cui attingeva a causa delle notizie inventate. Ora, con il deepfake, c’è il doppio timore che vengano seminati falsi-credibili difficilmente smascherabili e che diventi facile screditare video legittimi additandoli come falsi: un meccanismo destinato ad alimentare il fenomeno delle echo chamber e a polarizzare il dibattito pubblico. L’effetto è di creare spaccature sociali difficilmente sanabili – il Regno Unito con il dibattito sull’uscita dall’Ue ne è un chiaro esempio.

Se allarghiamo lo sguardo, l’ultimo decennio ha reso evidente come le società moderne siano risultate permeabili a forme di propaganda diffuse sul fertile terreno delle reti sociali. Le primavere arabe, la già citata Brexit o il fiorire dei movimenti No-Vax sono alcuni degli effetti duraturi più evidenti di un uso spregiudicato degli strumenti di digital influence. L’incontrollata propagazione dei contenuti multimediali ha chiare responsabilità nella caduta dei regimi in Tunisia ed Egitto, così come ha contribuito a far precipitare in tormentate guerre civili Siria, Yemen e Libia.

L’Iran lo scorso anno e la Cina durante la cosiddetta Rivoluzione dei Gelsomini del 2011 hanno stretto i cordoni della censura preventiva con l’intenzione di arginare proteste che rischiavano di avere esiti catastrofici. E proprio da Pechino oggi arriva il primo tentativo di frenare legislativamente l’uso dei deepfake: il China Daily riferiva in aprile di un progetto di legge volto a rendere illegale la distorsione delle immagini di una persona o l’imitazione della voce per mezzo della tecnologia. “Abbiamo introdotto il divieto perché alcune autorità hanno segnalato come l’uso improprio dell’intelligenza artificiale non solo lede i diritti nei ritratti delle persone, ma danneggia la sicurezza nazionale e l’interesse pubblico”, spiegava un alto funzionario dell’Assemblea Nazionale del Popolo.

“Sicurezza nazionale” e “interesse pubblico” sono parole chiave: l’intervento normativo è volto a potenziare le due infrastrutture che regolano il passaggio di informazioni su internet e più in generale le telecomunicazioni cinesi, il Great Firewall e il Golden Schield Project. Sono entrambi un combinato di azioni legislative e strumenti tecnologici che consentono al Governo cinese di monitorare capillarmente i cittadini e attuare vaste azioni di censura – come quelle che dal 2009 hanno oscurato nel paese Facebook, Twitter e YouTube.

Oggi con il crescere della sua influenza, la Cina è imitata da altri Governi autoritari o semi-democratici che usano come pretesto proprio la circolazione di notizie false per limitare la libera informazione. Esempi sono la Turchia che oscura Wikipedia, i già citati Egitto ed Iran o anche il Vietnam che applicano forti restrizione nell’uso dei social media, o ancora la Russia di Putin che impone alle multinazionali di mantenere i server entro i confini nazionali con il malcelato fine di permettere alle agenzie di sicurezza l’accesso ai dati dei cittadini. Nell’ultimo rapporto sulla libertà della rete, Freedom House segnala la capacità di penetrazione nel mondo della tecnologia cinese per analisi dei dati, riconoscimento facciale e apparati di telecomunicazione. “Nell’era digitale le democrazie stentano” – sottolinea il Presidente della ONG Michael J. Abramowitz – “mentre la Cina esporta il suo modello di censura e sorveglianza per controllare le informazioni sia all’interno che all’esterno dei suoi confini.”

Per questioni storiche il modello liberale espresso dall’Occidente è antitetico e anche se episodi come le interferenze degli hacker russi nelle presidenziali americane possono inquietare, non si può pensare di contrastare i fenomeni distorsivi dell’informazione inseguendo la Cina sulla strada della censura. D’altra parte, seppure lentamente, anche Europa e Stati Uniti avanzano passi importanti: grazie all’entrata in vigore in Ue del Regolamento generale sulla protezione dei dati (GDPR), alla multa miliardaria comminata a Facebook per la vicenda Cambridge Analytica dalla statunitense Federal Trade Commission e all’introduzione di leggi e regolamenti contro la diffusione dei messaggi che incitano all’odio e alla violenza, si fa strada sul web il principio di accountability delle fonti di informazione.

Più precisamente, come segnalava lo scorso luglio sul Corriere della Sera l’accademico italiano Giuseppe Pitruzzella, c’è una tendenza in atto: “l’espansione della rule of law su internet e il consequenziale riconoscimento della responsabilità delle piattaforme.” Da Far West che era, la rete assorbe lentamente le strutture che regolano la società reale. Senza voler limitare la libertà di espressione, prende così piede l’idea che ognuno individualmente – ma ancor più le grandi piattaforme nel ruolo di snodi e propagatori – è responsabile dei messaggi che diffonde sul web, siano essi scritti, vocali o mostrino un personaggio pubblico affermare cose che siamo noi a volergli far dire.

@MarcoFosci

Questo articolo è pubblicato anche sul numero di settembre/ottobre di eastwest.

Puoi acquistare la rivista in edicola o abbonarti.