Facebook, l'IA contro i video violenti

Facebook vuole utilizzare l’intelligenza artificiale per riconoscere e bloccare automaticamente i contenuti offensivi come i video contenenti immagini violente. La notizia arriva da Joaquin Candela, responsabile della divisione machine learning di Facebook. L’obiettivo, dunque, è quello di utilizzare gli algoritmi di intelligenza artificiale per estirpare il fenomeno dei contenuti inappropriati, comprese le false notizie, fenomeni per i quali il social network è finito, negli ultimi mesi, sotto accusa da più parti.

Sino ad oggi, infatti, Facebook si è sempre affidato sui suoi utenti e sulle loro segnalazioni per combattere la piaga dei contenuti inappropriati che vengono, poi, verificati da un team di dipendenti del social network. Ma adesso, Facebook si affiderà sempre di più all’intelligenza artificiale per rilevare contenuti inappropriati come foto di nudo, violenza e tutto quanto va contro le policy del social network. Come riporta Reuters che ha diffuso la notizia, Facebook aveva già adoperato un sistema simile nello scorso giugno per bloccare i video degli estremisti ma adesso starebbe sperimentando l’applicazione degli algoritmi all’interno dei Live Video che gli utenti utilizzano per trasmettere veneti in diretta.

Joaquin Candela evidenzia che l’utilizzo dell’intelligenza artificiale per questi scopi prevede due sfide principali. La prima che l’intervento automatico del social network per bloccare i contenuti inappropriati deve essere rapido ed immediato. L’algoritmo dovrà, dunque, riconoscere velocemente quello che va bene e quello che non va bene. La seconda sfida e forse la più importante è che l’algoritmo individui con precisione i contenuti da bloccare, quelli cioè sarebbero bloccati anche dall’intervento umano.

Il rischio, infatti, è che l’algoritmo blocchi anche contenuti, invece, adeguati. Il dato oggettivo, comunque, è che per fermare i fenomeni in forte crescendo legati alle false notizie ed alla violenza, il social network si affiderà sempre di più all’intelligenza artificiale per rispondere ai problemi in tempi relativamente brevi. Questi algoritmi, però, dovranno essere tarati correttamente per non andare a bloccare, invece, anche contenuti in realtà corretti. Una sfida ambiziosa ma che se condotta sui giusti binari potrebbe risolvere molti dei problemi degli ultimi tempi del social network.