Facebook rileva immagini intime rubate con l'IA

Facebook prende di petto l’ormai diffuso fenomeno che prende il nome di “revenge porn”, la pratica di diffusione di immagini intime senza il consenso di quella che si può definire vittima. Il social network già proteggeva le vittime con la rimozione delle immagini intime non consensuali, una volta segnalate. Ma ora annuncia una nuova tecnologia di rilevamento e un centro di risorse online per aiutare le persone a rispondere quando subiscono questo tipo di abusi.

Facebook ora grazie all’apprendimento automatico e all’intelligenza artificiale è in grado di rilevare in modo proattivo immagini o video che vengono condivisi senza autorizzazione, anche su Instagram. Questo significa per l’azienda scovare questi contenuti anche prima delle segnalazioni. Un passo tecnologico importante perché alcune vittime hanno paura di ritorsioni e quindi restie alle segnalazioni, oppure perché non sono a conoscenza che i propri contenuti intimi siano stati condivisi.

Ci saranno inoltre delle persone del Community Operations che esamineranno i contenuti individuati da questa tecnologia. Se si arriva alla conclusione che determinati contenuti violano gli Standard della Comunità di Facebook ovviamente saranno rimossi, ma saranno disabilitati anche gli account che condivideranno contenuti intimi senza autorizzazione. Ci sarà chiaramente la possibilità di fare appello.

Per impedire che la foto venga condivisa sulla piattaforma, viene creata un’impronta digitale di un’immagine specifica. Avendo ricevuto un riscontro positivo dalle vittime e dalle organizzazioni di supporto, nei prossimi mesi Facebook amplierà questo progetto pilota in modo che un maggior numero di persone possa beneficiare di questa opzione in caso di emergenza.

Infine Facebook ha lanciato “Non senza il mio consenso“, un centro di supporto alle vittime all’interno del Safety Center. Qui viene fornito supporto alle vittime, compresi gli strumenti che da utilizzare per rimuovere il contenuto dalla piattaforma e impedirne l’ulteriore condivisione. In questo modo sarà resa più facile e intuitiva per le vittime la procedura di segnalazione delle loro immagini intime condivise su Facebook senza consenso.