Il Washington Post ha appena pubblicato un’analisi relativa ai contenuti razzisti e politici e il modo tiepido con cui vengono affrontati dagli strumenti di controllo del social network
Una nuova settimana e una nuova puntata della saga Facebook. Sapevamo che le migliaia di documenti raccolti e poi diffusi da Frances Haugen avrebbero rappresentato forse il peggior colpo di immagine subito dal social network fino a oggi, e così è stato.
Stavolta l’analisi dei giornalisti del Washington Post appena pubblicata riguarda la diffusione del discorso razzista e politico e i modi tiepidi in cui viene affrontato dagli strumenti di controllo di Facebook.
La storia è presto raccontata. L’anno scorso un team interno segnalò una serie di post di una violenza e volgarità inaudite contro le esponenti di quella che si è autodefinita “the Squad”, le giovani donne progressiste elette alla Camera nelle fila dei democratici: Ocasio-Cortez, Pressley, Omar, Tlaib. Il team interno definiva in un suo memo alla dirigenza quei post “il peggio del peggio” e invitava ad individuare strumenti per fare in modo che quel tipo di contenuti razzisti sparisse prima che chiunque potesse vederli. Si trattava in sostanza di aggiornare gli algoritmi di controllo.
La risposta del management non fu delle migliori. Come leggiamo sul Washington Post, che ha sentito una serie di testimonianze anonime a conoscenza dei fatti: “La leadership di Facebook si oppose all’idea. Secondo due persone che hanno familiarità con le discussioni interne, la dirigenza, tra cui il vicepresidente per la Global Public Policy Joel Kaplan, temevano che il nuovo sistema avrebbe fatto pendere la bilancia proteggendo alcuni gruppi vulnerabili rispetto ad altri. Un documento preparato per Kaplan sollevava il potenziale contraccolpo da parte dei “partner conservatori” che ad esempio pensano che “l’odio rivolto alle persone trans sia un’espressione di opinione”. Kaplan è repubblicano.
Questa vicenda, l’ennesima, segnala un modus operandi di Facebook: il gruppo ha una certa capacità di individuare le falle del proprio sistema, conosce quali sono i problemi perché conduce continuamente studi e analisi sui contenuti veicolati attraverso le pagine e le bacheche dei suoi miliardi di utenti, ma non agisce. O meglio, ogni volta che individua un problema, che si tratti del razzismo, delle fake news o degli effetti di Instagram sul rapporto degli adolescenti con il proprio corpo, individua mezze soluzioni o si gira dall’altra parte. Come mai? Perché le valutazioni non vengono fatte sulla appropriatezza dei contenuti ma su quanto i cambiamenti necessari danneggerebbero economicamente il social network che nel trimestre conclusosi a settembre scorso ha avuto 29 miliardi di dollari di entrate e 9,2 di profitti (+17% rispetto allo stesso periodo del 2020).
Dalle rivelazioni di questi giorni scopriamo che i contenuti raccolti nel dossier “il peggio del peggio” sono stati raccolti anche in vista di un lavoro fatto assieme alle organizzazioni per i diritti civili ma che al momento di discutere la quantità e qualità dei contenuti di discorso d’odio, le conclusioni di quel dossier non sono state condivise. Il rapporto 2020 figlio di quella istruttoria, e giunto dopo due anni di ricerca da parte di revisori indipendenti, condannava l’impresa per aver anteposto la libertà di parola ad altri valori, una scelta che secondo gli estensori del rapporto mina gli sforzi per ridimensionare la presenza del discorso d’odio.
Controllo e censura
Da quando è emerso il tema del discorso d’odio sui social network, Facebook ha fatto passi nella direzione di controllarlo e censurarlo. Il problema sembra però essere un pregiudizio dell’algoritmo, che sembra avere la capacità di individuare tutte le battute razziste nei confronti dell’uomo bianco e molto meno gli insulti diretti alle minoranze. Si tratta di una scelta, di una policy.
Una delle giustificazioni di queste scelte sta nella non applicabilità ovunque di certe regole che si vogliono globali. Ma è più probabile che si tratti di scelte di mercato. Fatto sta che il numero di afroamericani che abbandona Facebook cresce, così come crescono le segnalazioni di utenti neri che si vedono censurati post anti-razzisti.
Facebook si presenta come un network neutrale che, come spesso ripetuto, difende la libertà di espressione come protetta dal 1° emendamento. Si tratta di un giochino: non solo il primo emendamento è una legge degli Stati Uniti mentre Facebook è un gruppo globale, ma, come evidenzia la vicenda del “peggio del peggio”, la difesa della libertà di espressione qualsiasi cosa si abbia da dire, colpisce in maniera sproporzionata le donne, i neri, gli ispanici e le persone LGBTQ.
In queste settimane il gruppo ha assunto un noto avvocato per i diritti civili e lo ha messo alla guida di un “team per i diritti civili”. Alcune organizzazioni che si occupano di razzismo e diritti, ad esempio la ADL, hanno però segnalato come dei 60mila dipendenti del gruppo, solo 10 facciano parte di questo gruppo.
