Fake It Till You Make It

I video deepfake e i pericoli di una realtà modificata

I deepfakes, ovvero i video nei quali ai volti dei personaggi originali vengono sovrapposti digitalmente quelli di altre persone, sono sempre più noti e hanno sempre più diffusione.

Il termine deepfake fa riferimento al Deep Learning, ovvero alla tecnica che fa parte dell’insieme dei metodi di Machine Learning e che consente di generare e animare le varie immagini da sovrapporre.

Questa tecnica l’abbiamo vista in video virali o per piazzare dappertutto Nicholas Cage, ma il maggior utilizzo è quello nei video porno dove al posto del volti dei protagonisti venivano messi quelli di altri attori famosi o di celebrità. Secondo il report di DeepTrace, infatti, il 96% del materiale presente in rete rientra in quest’ultima categoria.

La domanda intuitiva e inquietante che ci si pone davanti ai video di questo tipo e al loro estremo realismo è: come distinguere un video originale da un video deepfake?Le conseguenze dell’utilizzo di uno strumento come questo per scopi malevoli come deviare l’opinione pubblica, diffondere notizie false, diffamazione o revenge porn, sono potenzialmente devastanti.

Esiste un metodo affidabile per distinguere se un video possa essere reale o deepfake? Assisteremo mai a una “singolarità” nella quale non sarà possibile più questa distinzione? Potrebbe essere un momento in cui il limite del ragionevole dubbio può essere portato incredibilimente in alto.

Facebook ha creato un contest per trovare una tecnica adatta allo scopo, e anche Google sta facendo la sua parte rilasciando un database di deepfake per aiutare a sviluppare algoritmi di riconoscimento.

Ma anche se esistesse un metodo infallibile per riconoscere i deepfake e si avessero a disposizione canali di moderazione molto efficienti, il vero timore riguarda le vittime più probabili dell’utilizzo non corretto di questa tecnologia: le persone comuni.

I link di questa settimana

NRS è la newsletter di cultura e tecnologia di INUTILE » associazione culturale. A cura di Francesca Balestrieri, Carmine Bussone e Matteo Scandolin. Per conoscere meglio INUTILE e i suoi progetti, visita il nostro sito; se ti piace quello che facciamo, sostienici. Puoi contattare la redazione di NRS via Twitter o via mail.