Instagram, un filtro per fermare il bullismo

A partire da adesso, Instagram impiega un filtro avanzato che utilizza l’intelligenza artificiale per affrontare il problema del bullismo sulla sua piattaforma. Mediante i nuovi strumenti di apprendimento automatico, rileverà e filtrerà automaticamente i commenti offensivi, razzisti e tossici, così da impedirne la visualizzazione sul post.

I troll e i bulli online sono un problema che riguarda tutte le piattaforme Internet, ma in particolare quelle grandi come Twitter, Facebook e YouTube; e mentre Instagram può essere molto divertente, può rendere i propri utenti un facilissimo bersaglio per questo genere di violenza, come accaduto e segnalato numerose volte anche dai big con milioni di follower (per citare un esempio, Selena Gomez). Molte persone si sentono in grado di scrivere ciò che vogliono, senza moderazione alcuna, perché si possono nascondere dietro lo schermo del loro computer o del loro cellulare, e questo ha portato anche a commenti davvero molto duri, maleducati e pieni di rabbia, che riescono a turbare anche chi non è il bersaglio delle molestie. Bullismo che Instagram non tollera, come sottolineato in un post sul blog.

Per tale motivo, ecco il nuovo filtro anti-bulli di Instagram che mira a nascondere i commenti offensivi che contengono attacchi all’aspetto o al carattere di una persona, nonché minacce al benessere o alla salute. È attivo da adesso per gli utenti di tutto il mondo e può essere disabilitato nelle Impostazioni dell’app; al momento, però, riconosce solo i commenti offensivi in lingua inglese ma prossimamente supporterà anche altre lingue. È anche possibile inserire parole chiave specifiche che ogni utente vuole che non vengano visualizzate nei commenti ai suoi post.

Attivato dal machine learning, il nuovo filtro si basa su un sistema di elaborazione dei test sviluppato da Facebook: denominato DeepText, utilizza reti neurali profonde e altri strumenti di apprendimento automatico all’avanguardia per cercare di analizzare la lingua nel contesto. Ciò dovrebbe ridurre la possibilità che il filtro blocchi commenti con contenuti innocui – che potrebbe portare gli utenti a disabilitare l’opzione sul proprio profilo – o rendere troppo facile a bulli e troll di eludere il filtro stesso, ad esempio modificando l’ortografia degli insulti.

Instagram sta anche espandendo le proprie policy per proteggere i personaggi pubblici più giovani dal bullismo sulla sua piattaforma. Spiega Kevin Systrom, co-fondatore e CEO del social network che «dal momento che Mike e io abbiamo fondato Instagram, il nostro obiettivo è stato renderlo un luogo sicuro per esprimere se stessi e promuovere la gentilezza all’interno della comunità. Questo aggiornamento è solo il prossimo passo nella nostra missione per mantenere questa promessa».