Gal Gadot vittima del primo Fake Porn: allarme IA

L’intelligenza artificiale, oggi impiegata per utili funzioni quotidiane in smartphone e altri dispositivi, inizia a mostrare il suo lato più inquietante. È infatti ufficialmente cominciata l’era del Fake Porn, ovvero di filmati a sfondo erotico con protagoniste inconsapevoli attrici. Inconsapevoli poiché mai hanno prestato nel reale la loro immagine per la registrazione di contenuti per adulti, ma il loro volto viene impiegato in scene hard grazie allo sfruttamento di un algoritmo. E c’è già la prima vittima, seppur solo a scopo dimostrativo: Gal Gadot, la “Wonder Woman” del cinema.

Così come reso noto da Motherboard, i primi esperimenti sul fake porn sono apparsi sulla piattaforma Reddit, tramite l’account “deepfakes”. Un utente ha voluto dimostrare come, sfruttando sapientemente dei software gratuiti e applicando alcuni algoritmi di intelligenza artificiale e di machine learning, si possa creare del finto materiale porno senza troppo sforzo.

I risultati sono sorprendenti, nonché del tutto spaventosi: a scopo dimostrativo, il volto di Gal Gadot è stato applicato sul viso di una pornostar che, ancora vestita, mostra in camera un sex toy. L’effetto non è ancora perfetto, ma comunque del tutto realistico: a un occhio poco attento, può infatti facilmente sfuggire il montaggio video. E il creatore, il quale è voluto rimanere anonimo, spiega come già oggi esistano le potenzialità per risultati di alto profilo, del tutto indistinguibili da una performance erotica reale.

Ho solamente trovato un modo intelligente per creare dei face-swap. Ogni tecnologia può essere utilizzata con cattive motivazioni ed è impossibile impedirlo.

Sebbene da punto di vista puramente tecnologico l’estensione dell’intelligenza artificiale e del machine learning al face-swap possa garantire prospettive interessanti, basti pensare a piattaforme dedicate all’intrattenimento come Snapchat, la nascita ufficiale del fake porn genera apprensione fra gli esperti. Lo strumento potrebbe infatti essere usato non solo per modificare la percezione del pubblico in merito a celebrità inconsapevoli, ma anche per vendette personali e bullismo: si pensi, ad esempio, alla triste diffusione del revenge porn per denigrare gli ex partner.

Un’inquietudine simile a quella provata, qualche mese fa, quando alcuni ricercatori hanno svelato l’esistenza di una tecnologia relativamente economica che, grazie al mapping e all’editing real-time di un volto in video, permette di far pronunciare a politici e star frasi effettivamente mai proferite in pubblico.

Al momento, gli algoritmi alla base degli esperimenti di fake porn non sono stati resi disponibili al grande bacino di utenti online e, a quanto sembra, il creatore non è interessato a una loro diffusione. Non è da escludersi, tuttavia, che la curiosità porti altri appassionati, o veri e propri malintenzionati, a svilupparne di analoghi.