A ormai più di un anno dalla loro diffusione, i video “deepfake” continuano a destare preoccupazioni. La novità è che a essere allarmate non sono più solo le celebrità, vittime preferite dai creatori di deepfake, ma il governo americano. Tre legislatori hanno infatti mandato una lettera al direttore dell’Intelligence Nazionale, chiedendogli di valutare la potenziale minaccia che questa tecnologia costituisce per la sicurezza nazionale e le sue implicazioni.
Nella lettera si parla di «falsificazioni iper realistiche», che mostrano «rappresentazioni convincenti di individui che dicono o fanno cose che in realtà non hanno mai fatto». Secondo i legislatori, questa IA potrebbe essere sfruttata dai governi stranieri per minacciare la sicurezza del paese e diffondere disinformazione. Gli USA chiedono quindi di trovare delle contromisure tecnologiche per rilevarne l’uso, e di iniziare a denunciarne la pericolosità.
Che cosa sono i deepfake
La parola nasce dall’unione di “deep learning”, ovvero la tecnologia utilizzata per crearli, e “fake”. Sono video ritoccati, in cui il volto della persona presente nella ripresa viene sostituito con quello di un’altra, spesso una celebrità o un personaggio pubblico. Hanno iniziato a diffondersi nel 2016 quando alcuni utenti di Reddit, sfruttando le intelligenze artificiali, hanno “incollato” i volti di alcune celebrità su dei video pornografici. Questo avviene ricreando una “maschera” di un volto del tutto fedele, dando in pasto a un algoritmo un archivio di foto (ne bastano 300). Una volta creata, l’IA applica la maschera sul volto della persona nel video, mantenendone però le espressioni e i movimenti. I risultati sono incredibilmente realistici, tanto che alcuni utenti hanno ricreato con i deepfake scene di film realizzate con la CGI.
Sopra: i risultati della CGI, mentre sotto quelli dell’IA deepfake
Perché sono una minaccia
Se però la CGI richiede una certa conoscenza per essere usata, i deepfake possono essere creati praticamente da tutti. Il lavoro grosso è infatti svolto da un algoritmo, ed è stata creata anche un’app. La facilità con cui è possibile accedere a questa tecnologia preoccupa quindi il governo americano, anche se le implicazioni non si limitano solo agli Stati Uniti. E non è più un problema solo per le celebrità, che si ritrovano inconsapevolmente protagoniste di video (talvolta osceni) che non hanno mai girato. C’è anche la questione della fiducia nell’informazione.
Come dimostrato dal fenomeno delle fake news, su internet è spesso difficile distinguere ciò che è reale da ciò che è falso (e anche quando avviene, non tutti ci credono). Con la diffusione dei deepfake, un mezzo ancora più potente del fotoritocco e di Photohop, si inizierà ad avere poca fiducia anche nei video, rendendo sempre più difficile creare un’informazione autentica.
Episodi come questo ci fanno riflettere sulla potenza delle IA, non solo per le cose straordinarie che sono in grado di fare, ma anche per come abbiano effetto sulla popolazione. Nonostante nascano per cercare di migliorare la nostra vita, non sempre l’uomo decide di sfruttarle per fare del bene: è uno degli aspetti da sempre legati al progresso scientifico. La presenza delle fake news ha avuto pesanti impatti su molti aspetti della nostra vita: manipolano facilmente l’opinione pubblica, influiscono sulla politica. Con i deepfake, la falsificazione dell’informazione raggiungerebbe un nuovo livello, forse più difficile da smentire. Come reagiremo?
Per rimanere informati sul mondo nerd, continuate a seguirci sul nostro sito DrCommodore.it e su Facebook, Instagram, Telegram, YouTube, Discord e Twitch.
