Cosa sono i deepfake e perché stanno invadendo il web

I deepfake stanno spopolando sul web, ma cosa sono esattamente? Deepfake è una parola coniata recentemente, nel 2017, e serve ad indicare una sofisticata tecnica video che utilizza l’intelligenza artificiale. In particolare serve per combinare e sovrapporre immagini video o foto sopra un altro video o immagine, per creare quindi una nuova immagine contraffatta sebbene molto realistica. Oggi viene sopratutto utilizzata per creare falsi video pornografici con volti dei personaggi famosi oppure per creare notizie false e truffe.

Sempre più spesso questa tecnica viene utilizzata per una vera e propria guerra cyber tra aziende. Infatti, dato che il livello del risultato finale, che è sempre più realistico, questi video vengono impiegati per danneggiare l’immagine di persone o aziende. I video deepfake rispetto al dicembre scorso sono raddoppiati arrivando a 14.678 unità, il 96% di questo materiale è a sfondo pornografico.

Cosa si vede in un video deepfake

La peculiarità del supporto video è che c’è anche la possibilità di sentire l’audio, quindi non è solo un’immagine statica che rappresenta una situazione. In un video deepfake è possibile far dire ad una persona qualsiasi cosa, combinando mimica facciale, movimento dei corpo e voce della persona scelta. In pratica è come avere dei burattini che si muovono e dicono quello che vogliamo, ovviamente per screditare un’azienda o una persona.

Per realizzare questi video si usa un sofisticato algoritmo di intelligenza artificiale. Questo, analizzando migliaia di immagini di una stessa persona, è in grado di ricreare la mimica facciale di quest’ultima sulla base dei suoi movimenti ricorrenti. Proprio perché serve davvero moltissimo materiale di una stessa persona in rete si trovano fake esclusivamente di personaggi famosi o pubblici.

Su youtube è presente un video che da un’idea di come l’algoritmo si addestri per realizzare un risultato verosimile. Così lo youtuber Ctrl Shift Face fa vedere come più immagini si hanno più il risultato diventa credibile.

Il sito Deeptrace, invece, ha stilato un rapporto riguardo i deepfake. Le comunità in cui circolano questi video sono: Reddit, 4chan, 8chan, Voate e Brandalism (noto sopratutto per contenuti satirici) per un totale di 95 mila membri registrati.

Secondo il professore di informatica, nonché uno dei più importanti creatori di deepfake, Hao Li entro il 2020 questi video saranno realizzabili da un utente con capacità medie di informatica, con risultati estremamente realisti. Dopo DeepNude sono infatti nati anche portali di servizi, che richiedono pagamenti anche minimi, per realizzare un vero e proprio deepkfake. Bastano solo 30 dollari per ordinare un video contraffatto personalizzato, con 50 dollari in più è possibile anche avere la contraffazione della voce per far dire al nostro burattino una decina di parole.

I possibili problemi di sicurezza

Questi artefatti non sono solo un gioco. Oltre a creare un danno (seppur minimo) ai personaggi famosi vittime di questi fake, possono essere un problema anche per persone di rilievo come rappresentati politici o leader d’azienda. In una compagnia francese è successo proprio che per mano di un criminale informatico un audio deepfake fosse utilizzato per realizzare un bonifico di 243 mila euro a favore fornitore ungherese.

Il problema principale è l’integrità dell’informazione, sopratutto quella online, si deve quindi correre ai ripari su più fronti. A livello legislativo devono essere realizzate leggi apposite. Su quello tecnologico devono aumentare siti come Deeptrace che permettono di stabilire se un contenuto sia vero o realizzato per mezzo di un’intelligenza artificiale. Ma anche noi dobbiamo fare la nostra parte. Culturalmente dobbiamo rieducarci a non dare per scontato che ciò che vediamo e sentiamo sia per forza reale, mettendo in dubbio quello che ci viene proposto dal grande mare di internet.

This post is also available in: English