YouTube: machine learning contro il terrorismo

Dell’impegno profuso da Google e più in particolare da YouTube nella lotta al terrorismo online si è già parlato: un approccio basato su intelligenza artificiale e machine learning, per far sì che cercando un contenuto di matrice estremista i visitatori siano reindirizzati verso pagine e filmati informativi, utili per far capir loro la profondità dell’abisso in cui si stanno per avventurare.

Oggi il gruppo di Mountain View interviene con un nuovo post per sottolineare i risultati ottenuti finora. L’IA si è dimostrata in grado di segnalare un elemento come potenzialmente pericoloso prima di un operatore in carne ed ossa nel 75% dei casi. Inoltre, il sistema può analizzare il doppio dei contenuti rispetto all’essere umano, con la quota destinata inesorabilmente a salire con nuovi sviluppi del software. Nell’occasione Google annuncia inoltre che verranno stilate linee guida più severe, andando a interessare non solo i filmati con immagini o messaggi violenti, ma anche quelli individuati come “sensibili” dall’intelligenza artificiale. In altre parole, bigG adotterà una linea più dura.

Entro le prossime settimana il sistema si metterà al lavoro per cercare e individuare video relativi a hate speech, violenti e più in generale offensivi. Questi, anche se non in palese violazione delle policy di YouTube, potrebbero essere sospesi o ridotti a un accesso limitato. Altre penalizzazioni potrebbero riguardare l’esclusione dal circuito di inserzioni pubblicitarie per la monetizzazione, il blocco dei commenti, dei like e l’indicizzazione nella ricerca. Ecco quanto si legge sul blog della piattaforma.

Insieme abbiamo compiuto significativi passi in avanti nel corso dell’ultimo mese, nella lotta al terrorismo online. Non è però finita. Sappiamo che c’è sempre altro lavoro da fare. Con l’aiuto di una nuova tecnologia di machine learning, attraverso partnership e collaborazioni con altre realtà attraverso il Global Internet Forum e la nostra attenta community, siamo fiduciosi di poter continuare ad effettuare progressi in relazione a questo pericolo in costante cambiamento.