Un volto sostituito in un video, una voce clonata quasi perfettamente, una fotografia che sembra reale ma non è mai stata scattata. I deepfake sono contenuti audio, video o immagini creati o manipolati attraverso tecniche di intelligenza artificiale per far apparire autentica una situazione che non lo è. Una tecnologia che può avere utilizzi creativi e legittimi, ma che pone problemi sempre più rilevanti per informazione, privacy, sicurezza e truffe online.
Che cosa significa “deepfake”
La parola deepfake nasce dall’unione di “deep learning”, una tecnica di apprendimento automatico, e “fake”, cioè falso.
Il termine viene utilizzato per indicare contenuti sintetici o manipolati realizzati con sistemi di intelligenza artificiale capaci di analizzare grandi quantità di dati e riprodurre caratteristiche di una persona: il volto, la voce, i movimenti o il modo di parlare.
Un esempio è il cosiddetto face swap, con cui il volto di una persona viene sostituito digitalmente con quello di un’altra all’interno di una fotografia o di un video. Un’altra tecnica permette invece di generare una voce artificiale molto simile a quella di una persona reale.
La tecnologia non è quindi limitata ai video: esistono deepfake visivi, audio e multimodali, nei quali immagini, voce e movimento vengono combinati.
Come vengono creati
I primi deepfake si basavano soprattutto su tecniche di deep learning particolarmente complesse, mentre oggi la generazione di contenuti falsi è diventata più accessibile grazie ai moderni sistemi di intelligenza artificiale generativa.
I modelli possono essere addestrati o guidati utilizzando immagini, registrazioni audio e video disponibili della persona da imitare. Più materiale di buona qualità è disponibile, più il sistema può riuscire a riprodurre caratteristiche realistiche.
Nel caso della clonazione vocale, per esempio, un sistema può analizzare una registrazione della voce e generare nuove frasi con caratteristiche vocali simili. Nel caso delle immagini, invece, l’AI può creare o modificare volti e ambientazioni con un livello di dettaglio che rende difficile distinguere immediatamente il risultato da una fotografia reale.
Perché sono un problema
La possibilità di creare contenuti artificiali realistici non è necessariamente negativa. I sistemi possono essere utilizzati nel cinema, nella produzione audiovisiva, nella pubblicità, nell’intrattenimento e in altri contesti nei quali la manipolazione digitale è dichiarata.
Il problema nasce quando un contenuto artificiale viene presentato come autentico con l’obiettivo di ingannare.
Un deepfake può essere utilizzato, per esempio, per attribuire a una persona dichiarazioni mai pronunciate, costruire immagini compromettenti, simulare una telefonata o un video e creare false testimonianze.
Il rischio riguarda anche le truffe. La clonazione della voce può essere utilizzata per imitare un familiare, un dirigente aziendale o un’altra persona conosciuta e chiedere denaro o informazioni riservate.
Deepfake e disinformazione
Uno dei rischi più discussi riguarda l’informazione.
Un video falso che mostra un politico mentre pronuncia una frase mai detta può essere condiviso migliaia di volte prima che qualcuno riesca a verificarne l’autenticità. In questo caso il problema non è soltanto che il contenuto sia falso: è anche la velocità con cui può circolare.
La stessa tecnologia può essere utilizzata per costruire immagini di eventi mai avvenuti, falsificare dichiarazioni di personaggi pubblici o alimentare campagne di manipolazione.
Per questo la capacità di verificare una fotografia o un video diventa sempre più importante, soprattutto quando il contenuto riguarda eventi di grande rilevanza pubblica.
Come riconoscere un deepfake
Non esiste un singolo dettaglio che permetta sempre di identificare un contenuto falso. I sistemi di generazione sono diventati abbastanza sofisticati da rendere poco affidabili alcuni dei vecchi “trucchi” per riconoscerli.
In alcuni casi possono comunque emergere incongruenze: movimenti innaturali del volto, problemi nella sincronizzazione tra labbra e voce, illuminazione incoerente, dettagli strani nelle mani o negli oggetti, cambiamenti anomali nell’espressione o nella qualità dell’immagine.
Ma controllare soltanto l’aspetto visivo non basta.
Un metodo più affidabile è verificare la provenienza del contenuto. Da dove arriva? Chi lo ha pubblicato per primo? Esistono altre immagini o video dello stesso evento? Testate affidabili o fonti ufficiali hanno confermato quanto mostrato?
Anche una ricerca inversa delle immagini può aiutare a capire se una fotografia circolava già online in un contesto completamente diverso.
L’AI Act europeo e la trasparenza
Il problema dei deepfake è arrivato anche al centro della legislazione europea.
L’AI Act, il regolamento europeo sull’intelligenza artificiale, prevede specifici obblighi di trasparenza per determinati contenuti generati o manipolati con sistemi di AI.
In particolare, l’articolo 50 stabilisce che i fornitori di sistemi di AI generativa debbano adottare soluzioni tecniche che consentano di rendere i contenuti generati artificialmente rilevabili in formato leggibile dalle macchine. Per chi crea o diffonde determinati deepfake è inoltre previsto un obbligo di informare che il contenuto è stato artificialmente generato o manipolato, con alcune eccezioni legate, tra gli altri aspetti, alla libertà di espressione e alla creatività.
Le regole europee non significano però che ogni immagine realizzata con l’intelligenza artificiale debba essere considerata un deepfake. Il punto centrale è l’utilizzo di contenuti artificiali in grado di sembrare autentici e, in particolare, il rischio che possano ingannare le persone.
Non tutto ciò che è falso è un deepfake
È una distinzione importante.
Un’immagine modificata con un normale programma di fotoritocco può essere falsa o manipolata senza essere necessariamente un deepfake. Il termine viene utilizzato soprattutto quando la manipolazione o la generazione coinvolge tecniche di intelligenza artificiale capaci di produrre contenuti sintetici altamente realistici.
Allo stesso modo, un’immagine evidentemente artificiale e dichiaratamente realizzata con l’AI non rappresenta necessariamente un problema di disinformazione.
La tecnologia, quindi, non determina da sola il rischio: conta anche come viene utilizzata e presentata al pubblico.
La nuova sfida: imparare a dubitare senza smettere di credere
I deepfake stanno modificando il rapporto con le immagini e i video. Per decenni una fotografia o una registrazione audiovisiva sono state considerate una prova particolarmente forte del fatto che qualcosa fosse accaduto. Oggi questa certezza non può più essere data per scontata.
Questo non significa che fotografie e video non siano più attendibili. Significa che, soprattutto davanti a contenuti sorprendenti o potenzialmente virali, diventa necessario affiancare alla visione una seconda domanda: qual è la fonte?
La vera difesa dai deepfake non è quindi soltanto un software capace di riconoscerli. È una combinazione di tecnologia, verifica delle fonti, alfabetizzazione digitale e trasparenza.
In un ambiente online nel quale è sempre più facile creare immagini, voci e video realistici, la capacità di distinguere ciò che è accaduto da ciò che è stato generato artificialmente diventa una competenza fondamentale.
