I deepfakes, ovvero i video nei quali ai volti dei personaggi originali vengono sovrapposti digitalmente quelli di altre persone, sono sempre più noti e hanno sempre più diffusione.
Il termine deepfake fa riferimento al Deep Learning, ovvero alla tecnica che fa parte dell’insieme dei metodi di Machine Learning e che consente di generare e animare le varie immagini da sovrapporre.
Questa tecnica l’abbiamo vista in video virali o per piazzare dappertutto Nicholas Cage, ma il maggior utilizzo è quello nei video porno dove al posto del volti dei protagonisti venivano messi quelli di altri attori famosi o di celebrità. Secondo il report di DeepTrace, infatti, il 96% del materiale presente in rete rientra in quest’ultima categoria.
La domanda intuitiva e inquietante che ci si pone davanti ai video di questo tipo e al loro estremo realismo è: come distinguere un video originale da un video deepfake?Le conseguenze dell’utilizzo di uno strumento come questo per scopi malevoli come deviare l’opinione pubblica, diffondere notizie false, diffamazione o revenge porn, sono potenzialmente devastanti.
Esiste un metodo affidabile per distinguere se un video possa essere reale o deepfake? Assisteremo mai a una “singolarità” nella quale non sarà possibile più questa distinzione? Potrebbe essere un momento in cui il limite del ragionevole dubbio può essere portato incredibilimente in alto.
Facebook ha creato un contest per trovare una tecnica adatta allo scopo, e anche Google sta facendo la sua parte rilasciando un database di deepfake per aiutare a sviluppare algoritmi di riconoscimento.
Ma anche se esistesse un metodo infallibile per riconoscere i deepfake e si avessero a disposizione canali di moderazione molto efficienti, il vero timore riguarda le vittime più probabili dell’utilizzo non corretto di questa tecnologia: le persone comuni.
—
I link di questa settimana
Il Premio Nobel per la Chimica di quest'anno è andato agli inventori delle batterie agli ioni di litio. Per certi versi è anche merito loro se sto scrivendo questa newsletter seduto sul divano.
Nessuna alternativa, nessuna altra azienda con la stessa diffusione e nessun segnale di rallentamento. Secondo il New Yorker nessuno può fermare Amazon.
Un algoritmo di crittografia basato su calcolo quantistico potrebbe portare ad un altro livello la sicurezza degli algoritmi utilizzati oggi. O potrebbe renderli inutili in un solo colpo.
Nei videogiochi si può morire e poi ritornare in vita. Se così non fosse, giocare non sarebbe lo stesso e sicuramente da piccolo avrei risparmiato milioni di lire in monetine. Ma come si potrebbe rendere più significativa la morte in un videogioco?
—
NRS è la newsletter di cultura e tecnologia di INUTILE » associazione culturale. A cura di Francesca Balestrieri, Carmine Bussone e Matteo Scandolin. Per conoscere meglio INUTILE e i suoi progetti, visita il nostro sito; se ti piace quello che facciamo, sostienici. Puoi contattare la redazione di NRS via Twitter o via mail.