Facebook shock: suggeriti video di minori abusati

La funzione di completamento automatico nella barra di ricerca di Facebook ha suggerito risultati davvero inquietanti, shock, nelle scorse ore: digitando “video di” gli utenti hanno ottenuto suggerimenti offensivi, violenti e a sfondo sessuale, tra cui contenuti di abusi su minori. Facebook ha riconosciuto il problema fornendo una spiegazione e una scusa ufficiale per quanto accaduto.

Quando si inizia a digitare qualcosa nella barra di ricerca di Facebook, il social network inizia a suggerire termini popolari che gli altri utenti stanno cercando. Ma intorno alle 4 del mattino della giornata di ieri, nel Regno Unito sono apparsi suggerimenti orrendi a chi ha digitato, appunto, “video di”: si trattava di parole sessualmente esplicite e violente, tra cui quelle a sfondo pedopornografico, come notato da numerosi utenti su Twitter, che hanno diffuso gli screenshot prima che la piattaforma guidata da Mark Zuckerberg se ne accorgesse.

Il problema è stato risolto in poche ore, ma Facebook è stato pesantemente criticato innanzitutto perché nessuno dei suggerimenti automatici sarebbe adatto a un pubblico più giovane, minorenne, e soprattutto perché il social network consente di ricercare contenuti inerenti agli abusi sessuali sui minori. Un utente furioso ha ad esempio scritto di essere «così vicino a cancellare definitivamente il mio account. Permettere ai pedofili di usare Facebook come strumento per distribuire pornografia infantile» è inaccettabile, un commento condiviso da migliaia di altre persone che hanno notato la problematica, derivante dall’algoritmo che regola la piattaforma.

Facebook è stata costretta a scusarsi, spiegando in una dichiarazione fornita al The Guardian che:

Non appena siamo venuti a conoscenza di queste previsioni offensive, le abbiamo rimosse. Le previsioni di ricerca di Facebook sono rappresentative di ciò che le persone potrebbero cercare su Facebook e non riflettono necessariamente i contenuti effettivi sulla piattaforma.

Non autorizziamo immagini sessualmente esplicite e ci impegniamo a mantenere tali contenuti fuori dal nostro sito.

Stiamo esaminando il motivo per cui queste previsioni di ricerca sono apparse e, in futuro, lavoreremo per migliorare la qualità di questi suggerimenti.

Sebbene la funzione di completamento automatico sia spesso e volentieri utile per risparmiare tempo quando si sta cercando un contenuto su un motore di ricerca, è una fonte costante di preoccupazione per la Silicon Valley. Google ha ripetutamente affrontato critiche sulle domande che propone agli utenti nel proprio servizio, utilizzando appunto i suggerimenti automatici, ma anche Facebook ha affrontato la scorsa settimana grosse critiche a livello internazionale dopo che è stato scoperto che stava conducendo un sondaggio sulla pedofilia, in cui chiedeva agli utenti se i pedofili dovessero essere autorizzati a proporre immagini sessuali di bambini sul sito. Facebook ha ammesso che il sondaggio è stato un errore, aggiungendo che non ha “nessuna intenzione” di consentire un comportamento del genere.

Google ha dovuto regolare il suo algoritmo per bandire risultati di autocompletamento violenti, pieni di odio, sessualmente espliciti o pericolosi, in violazione delle regole aziendali, mentre quanto sta facendo Facebook per contrastare la problematica sembra non essere ancora sufficiente.