Instagram, nuovi strumenti contro il cyberbullismo

Il nuovo capo di Instagram Adam Mosseri, nominato per sostituire i co-fondatori Kevin Systrom e Mike Krieger che hanno lasciato recentemente la società, deve dimostrare ancora molto. La sua prima mossa è stata l’introduzione di un set di strumenti per contrastare il cyberbullismo, come annunciato sul blog ufficiale. Gli sviluppatori infatti hanno lavorato ad un algoritmo per filtrare i contenuti offensivi in foto e didascalie.L’obiettivo finale? Rendere Instagram “il posto più bello del web”. In realtà il social network della foto è già dotato di un algoritmo di apprendimento automatico in grado di individuare e nascondere i commenti che violano il suo regolamento.

Con quest’ultima l’iniziativa voluta da Mosseri è stato invece introdotto un nuovo strumento in grado di individuare i casi di “bullismo” nelle foto pubblicate sulla piattaforma. In pratica l’algoritmo seleziona le foto incriminate da inviare ad un team specializzato nella revisione per stabilire l’eventuale rimozione. Si tratta di strumenti pensati anche per proteggere i più giovani, che notoriamente amano la piattaforma.

Il nuovo algoritmo è stato studiato per contrassegnare foto e didascalie che includono “attacchi all’aspetto o al personaggio di una persona, nonché minacce al benessere o alla salute di una persona“. Già diversi mesi fa era stato introdotto un sistema per filtrare i commenti offensivi procedendo con la rimozione automatica di quelli contenenti attacchi o minacce ai singoli utenti. La stessa funzione è stata estesa anche per i commenti delle dirette.

La crescita di Instagram non si arresta, ma è importante garantire anche la sicurezza ai suoi utenti. Alcune di queste iniziative sono state intraprese prima ancora che Adam Mosseri diventasse il nuovo capo del social network. In ogni caso è stato proprio lui ad annunciare le nuove funzionalità spiegando il motivo per il quale si è concentrato soprattutto sul contrasto al bullismo: “Anche se fermare i bulli è importante, dobbiamo anche fare di più per celebrare e ispirare la gentilezza su Instagram”.