Twitter vuole combattere il deepfake

I social network sono utilizzati da molti utenti come fonte primaria di informazioni, ma sempre più spesso vengono condivise fake news. Negli ultimi mesi sono aumentati i cosiddetti deepfake, grazie alla diffusione di tool basati sull’intelligenza artificiale. Twitter ha deciso di combattere questo genere di contenuto multimediale con una nuova policy che verrà discussa insieme agli utenti.

Twitter usa il termine “media sintetici e manipolati” per indicare foto, audio e video che sono stati alterati o realizzati ad arte per ingannare le persone o modificare il loro significato originale. La tecnologia può diventare molto pericolosa perché le persone credono che il deepfake sia reale e ciò può avere gravi conseguenze (ad esempio una rivolta popolare). In politica possono essere utilizzati per minare la reputazione di un candidato alle elezioni, facendogli dire o fare cose che non ha mai detto o fatto. In un video manipolato, condiviso su Twitter (anche dal Presidente Trump) a fine maggio, si vedeva una Presidente della Camera Nancy Pelosi balbettante durante un discorso.

La nuova policy, preannunciata ad ottobre, prevede tre modifiche al social network:

• visualizzazione di un avviso accanto al tweet con media manipolati o sintetici
• avvertimento prima della condivisione sul tipo di contenuto
• aggiunta di un link a fonti che ritengono il contenuto un deepfake

Il tweet potrebbe essere rimosso se include media sintetici o manipolati che potrebbero minacciare la sicurezza fisica di qualcuno o causare altri gravi danni. Twitter usa il condizionale, quindi verrà valutato di volta in volta se il contenuto deve essere cancellato.

Gli utenti possono esprimere le loro opinioni attraverso un sondaggio che terminerà il 27 novembre. I feedback ricevuti verranno utilizzati per effettuare eventuali correzioni alla policy che verrà successivamente integrata nella regole di Twitter. L’azienda californiana pubblicherà un altro comunicato 30 giorni prima dell’entrata in vigore.