Facebook, chi e come controlla i contenuti offensivi?

Che fino fanno tutte le nostre segnalazioni a Facebook? Quando un contenuto che riteniamo offensivo perché pornografico o perché incita all’odio, ad esempio, viene segnalato al sito, chi si occupa materialmente di visionarlo e decidere se censurarlo? Lo ha scoperto Gawker in un’inchiesta destinata a far discutere.

Il blog americano ha scoperto che Facebook subappalta questo compito, molto gravoso perché si tratta di milioni di informazioni, a una società chiamata oDesk, che impiega circa 50 persone in paesi dove la manodopera è a basso costo tra cui Turchia, Filippine, Messico, India e Marocco. Questo team controlla manualmente ogni contenuto segnalato dagli utenti per circa un dollaro l’ora, anche se si può salire a quattro dollari per lavori su commissione.

Il titolo dell’inchiesta non lascia spazio all’interpretazione in quanto al parere dei giornalisti rispetto a questa pratica: “Dentro la brigata anti porno e anti gore di Facebook“. Un sistema che sembra rispettare quella strana logica, un po’ moralistica e un po’ grammaticale, per cui la violenza è più accettata del sesso, anche quando il sesso viene riprodotto senza offendere nessuno. Ma è anche il pagamento di questo lavoro che stona con la recente quotazione da cento miliardi di dollari:

“Amine Derkaoui, marocchino 21enne, è ******ato con Facebook. L’anno scorso ha trascorso poche settimane per esaminare i contenuti illeciti attraverso una società di outsourcing, per la quale è stato pagato un misero dollaro l’ora. Frigge ancora al pensiero: è umiliante. Stanno solo sfruttando il terzo mondo.”

Il reportage approfondisce il tema, citando gli standard della community Facebook. In questa pagina del sito sono elencati, in termini generici, tutti i limiti che Facebook impone agli utenti, e i contenuti che non possono essere accettati: nel social network non sono ammesse le minacce, comportamenti auto-distruttivi, bullismo, pornografia (ma anche nudità, e qui sta uno degli inghippi, come quando furono eliminati i baci gay di una manifestazione per i diritti, oppure l’immagine di un allattamento al seno), e naturalmente il phishing e lo spam.

A questo piccolo esercito di censori il compito di tenere pulito il sito, per una paga non entusiasmante, soprattutto se si considera lo stress mentale a cui si è sottoposti. Non sono pochi, infatti, coloro che dopo poche settimane sono fuggiti, per due ragioni: la quantità impressionante di immagini, video e testi brutali, violenti, pornografici e pedopornografici che si devono continuamente vedere; ma anche l’ambiguità delle linee guida dell’azienda, che non sono quelle degli standard, che leggono tutti, ma quelle prodotte appunto per la società esterna che deve fare il lavoro (sporco).

Da queste linee guida si intuisce una congerie di censure e permessi da arrovellarsi il cervello. A quanto sembra, secondo Facebook non sono ammessi:

Madri che allattano, senza vestiti addosso;
Sex toys o altri oggetti, ma solo nel contesto di attività sessuale;
Feticci sessuali in qualsiasi forma;
Tutte le immagini Photoshoppate di persone;
Immagini di gente ubriaca e in stato incosciente;
Discorsi violenti

Nel genere sessuale, i capezzoli femminili sono censurabili, quelli maschili ammessi, i baci sempre (compreso quelli omosessuali), e immagini forti, come ferite e teste schiacciate a patto che non si veda troppo sangue. In generale, verso i contenuti violenti Facebook sembra più indulgente rispetto al sesso. Un esempio soltanto: la violenza sugli animali è ammessa, ma soltanto se è chiaro che l’utente non la approva. Anche per le droghe c’è una linea: marijuana sì, altre droghe no, tranne che in casi medici. E l’elenco continua in una serie molto lunga e di complicata interpretazione.

Facebook, sollecitato dal pezzo, ha spiegato come questa società si occupi soltanto di una piccola parte delle segnalazioni, in una strategia di salvaguardia dell’utente e della sua tranquillità di navigazione. Forse però ci sarebbero due cose che a molti utenti farebbe piacere sapere: il trattamento economico dei censori, e conoscere meglio le direttive date ai censori e la loro logica.