Facebook permetteva pubblicità antisemita

L’algoritmo che gestisce la pubblicità di Facebook ha, probabilmente, ancora bisogno di essere migliorato. ProPublica ha scoperto, infatti, che l’algoritmo ha permesso agli inserzionisti di creare categorie “antisemite“. Quando si acquistano annunci su Facebook, il sistema richiede di aggiungere categorie mirate che l’algoritmo segue sulla piattaforma attraverso parole chiave o frasi che le persone utilizzano nei loro profili.

ProPublica ha dimostrato che la rete pubblicitaria di Facebook riconosce i sentimenti antisemiti dai profili degli utenti come categorie di annunci validi. Categorie come “Ebrei”, “Come bruciare gli ebrei”, “Partito nazista”, “Hitler non ha fatto nulla di sbagliato” e tanto altro. Poiché l’algoritmo che gestisce gli acquisti degli annunci è tutto automatico e senza alcun input umano, ProPublica è riuscita a farsi approvare gli annunci antisemiti che ha acquistato in 15 minuti. Le categorie identificate da ProPubblica erano piccole, poche migliaia di persone totali, ma il fatto che esistevano per il targeting ufficiale (e, a sua volta, per le entrate per Facebook) solleva domande sull’efficacia o addirittura sull’esistenza dei controlli che la piattaforma dovrebbe effettuare per bloccare i contenuti d’odio.

ProPublica ha, poi, segnalato quanto scoperto a Facebook che ha prontamente rimosso le categorie antisemite. Successivamente, Rob Leathern, product management di Facebook, ha dichiarato che il social network vieta l’hate speech all’interno della piattaforma. Il regolamento vieta rigorosamente di attaccare le persone in base alla religione, e vieta agli inserzionisti di discriminare le persone sempre in base alla religione ed ad altre caratteristiche.

Facebook evidenza che è capitato di trovare, comunque, abusi che sono sempre stati prontamente rimossi. Il social network, comunque, ammette che c’è ancora molto da lavorare e che, proprio per questo, sta mettendo in essere nuove strategie per evitare che questi incresciosi fatti possano accadere nuovamente in futuro.

Un lavoro che sicuramente dovrà essere accelerato perché altre indagini hanno evidenziato che l’algoritmo pubblicitario riconosce come categorie valide anche il “Ku-Klux-Klan”.

Per aiutare a garantire che il targeting non venga utilizzato per scopi discriminatori, il social network ha deciso di rimuovere i campi di targeting personalizzati finché non disporrà dei processi giusti per prevenire questo problema. La società vuole che Facebook sia un luogo sicuro per le persone e le imprese, e continuerà a fare tutto il possibile per impedire l’hate speech sulla piattaforma.

Gli inserzionisti, comunque, possono segnalare tutti i campi di targeting inappropriati direttamente nell’interfaccia degli annunci o tramite il Centro assistenza.