Con una manciata di foto e il deep learning è oggi possibile creare video verosimili e credibili di personaggi pubblici (politici, star dello spettacolo, etc.) che pronunciano discorsi mai fatti o compiono azioni in realtà compiute da altri. Il deepfake, neologismo che nasce dalla crasi tra “deep learning” e “fake” promette di essere la nuova frontiera nella falsificazione della realtà. Se il cinema, da Forrest Gump ad Avatar, ci ha abituati a fotomontaggi e a personaggi di fantasia realizzati in computer grafica, il deepfake è una tecnologia che potremmo definire disruptive in quanto automatizza e semplifica l’intero processo di rielaborazione delle immagini.
Non sono più necessari grafici esperti, server farm e ore di ritocco digitale e post produzione ma bastano un notebook, un programmatore di buon livello e una decina di primi piani della persona target ed ecco che pressoché chiunque ha la possibilità di alterare la realtà immettendo in Rete video nei quali si vedono leader di governo pianificare un colpo di stato, magistrati e giornalisti che ricevono bustarelle, CEO di aziende rivali fare cartello. Il deepfake è una tecnologia in grado di minare definitivamente la fiducia che abbiamo nei mezzi d’informazione alterando per sempre il confine tra realtà e finzione.
Negli Stati Uniti hanno iniziato a preoccuparsi del problema e sono numerosi gli interventi di esponenti del governo che mettono in guardia sulle ricadute sociali, economiche e politiche del deepfake. Il Pentagono, attraverso la Defense Advanced Research Projects Agency (DARPA), sta lavorando con molte delle più grandi istituzioni di ricerca del paese per individuare tecnologie in grado di smascherare in tempo reale i deepfake al fine di ostacolarne la diffusione in Rete prima che questi abbiano raggiunto il picco di viralità.
Ma per imparare come individuare i deepfakes, è necessario prima costruirli. Per questo all’Università del Colorado a Denver, i ricercatori che lavorano al programma DARPA, stanno lavorando alla creazione di video deepfake che saranno in seguito utilizzati da altri studiosi per sviluppare la tecnologia per discriminare ciò che è reale da ciò che è falso.
Youtube inizia a popolarsi di video dimostrativi delle potenzialità di questa nuova tecnologia. In un video Elon Musk presenta l’Expo al posto di Tony Stark, in un altro video Jennifer Lawrence con il volto di Steve Buscemi risponde ai giornalisti ai Golden Globe ma forse il più famoso di tutti è il video nel quale si vede Obama pronunciare parole mai dette nella realtà.
Su Github sono già disponibili librerie ed esempi in Python che offrono a chiunque abbia delle conoscenze di programmazione, la possibilità di creare dei deepfake video.
Su deepfakesweb.com è possibile creare un deepfake online pagando una piccola cifra (a partire da 10$). È richiesto l’upload del video da manipolare, un video o delle immagini del personaggio A presente nel video originale e un video o delle immagini del personaggio B da inserire nel video target.
deepfake.me offre invece la possibilità di diventare deepminer ovvero guadagnare mettendo a servizio degli altri utenti la potenza di calcolo della propria GPU in modo analogo a quanto avviene per i minatori di bitcoin.
Derpfakes, uno dei programmatori più attivi ed esperti – evidentemente ossessionato dall’attore Nicolas Cage al punto da dedicargli un video di due minuti su YouTube nel quale l’attore interpreta le scene chiave di decine di film ai quali non ha mai partecipato – ha creato un tutorial per insegnare a creare dei deepfake perfetti.
Qualità, velocità e durata della clip sono le caratteristiche che dobbiamo tenere presenti quando intendiamo creare un deepfake. Per un risultato ottimale è necessario andare oltre le spiegazioni fornite dal tutorial ma la facilità nell’utilizzo delle librerie e la disponibilità di migliaia di foto di primi piani di personaggi pubblici sorprende e preoccupa al tempo stesso.
Non passerà molto tempo prima che software di animazione grafica e montaggio video come After Effects o Premiere integrino funzionalità in grado di manipolare i video rielaborandoli con foto di altre persone e facendoli sembrare parte integrante della clip originale.
Siamo rapidamente passati dalla democratizzazione dell’informazione alla democratizzazione della disinformazione.
Leggi l’analisi sulla pagina Linkedin di Stefano.
