Come individuare le minacce deepfake più pericolose

La fine della fiducia nell’udito

I deepfake sono passati dai laboratori alle prime linee della sicurezza aziendale e personale. Per anni, la discussione si è concentrata su goffi scambi di volto o parodie di celebrità facili da smascherare. Quell’epoca è finita. Oggi, le minacce più pericolose non sono video cinematografici, ma cloni vocali altamente mirati e sottili manipolazioni di immagini usate per frodi finanziarie. La barriera all’ingresso è svanita. Chiunque abbia un laptop di base e pochi euro può ora imitare una voce con una precisione sorprendente usando solo pochi secondi di materiale originale. Questo cambiamento rende il problema più personale e urgente rispetto a soli dodici mesi fa. Non cerchiamo più difetti in una produzione di Hollywood, ma bugie nelle nostre comunicazioni quotidiane. La velocità con cui questi strumenti sono migliorati ha superato la nostra capacità collettiva di verificare ciò che sentiamo e vediamo. Non è solo una sfida tecnica, ma un cambiamento fondamentale nel modo in cui dobbiamo approcciarci a ogni informazione che ci raggiunge attraverso uno schermo o un altoparlante.

La meccanica dell’inganno sintetico

La tecnologia dietro queste minacce si basa su modelli generativi addestrati su vasti dataset di espressione umana. Al centro ci sono reti neurali in grado di analizzare la cadenza, il tono e le sfumature emotive uniche di una voce umana specifica. A differenza dei vecchi sistemi text-to-speech che suonavano robotici, questi sistemi moderni catturano il “respiro” e le pause che rendono una persona reale. Ecco perché il voice cloning è attualmente lo strumento più efficace per i truffatori. Richiede molti meno dati rispetto a un video di alta qualità ed è molto più convincente durante una telefonata ad alta pressione. Un malintenzionato può estrarre l’audio da un video sui social media e creare un clone funzionale in pochi minuti. Questo clone può poi essere usato per pronunciare qualsiasi testo l’attaccante digiti in una console.

Anche il lato visivo del problema si è spostato verso l’utilità pratica. Invece di creare una persona da zero, gli attaccanti usano spesso il “face reenactment” per mappare i propri movimenti sul volto di un vero dirigente o funzionario pubblico. Ciò consente l’interazione in tempo reale durante le videochiamate. Le piattaforme hanno faticato a tenere il passo perché i difetti di questi falsi stanno diventando sempre più piccoli e difficili da rilevare a occhio nudo. Mentre i primi falsi avevano problemi con l’ammiccamento o il modo in cui la luce colpiva i denti, i modelli attuali hanno ampiamente risolto questi problemi. L’attenzione si è spostata dal rendere l’immagine perfetta al rendere l’interazione autentica. Questa mossa verso un risultato “abbastanza buono” per una chiamata Zoom a bassa risoluzione è esattamente ciò che rende la minaccia così pervasiva nel mondo professionale. Non deve essere perfetta per avere successo, deve solo essere migliore del livello di sospetto della vittima.

Una crisi globale di autenticità

L’impatto di questa tecnologia si avverte in modo più acuto nei settori politico e finanziario. Su scala globale, i deepfake vengono usati per manipolare l’opinione pubblica e destabilizzare i mercati. Nell’attuale ciclo elettorale, abbiamo già visto casi in cui audio falsi di candidati sono stati rilasciati poche ore prima dell’inizio delle votazioni. Questo crea un “dividendo del bugiardo”, dove i politici reali possono sostenere che registrazioni autentiche e dannose siano in realtà dei falsi. Si crea uno stato di incertezza permanente in cui il pubblico smette di credere a qualsiasi cosa. Il costo di questo scetticismo è alto. Quando le persone non riescono a concordare sui fatti di base, il contratto sociale inizia a sgretolarsi. Questa è una preoccupazione primaria per i governi che stanno correndo ai ripari per implementare requisiti di etichettatura per i contenuti generati dall’IA.

Oltre alla politica, la posta in gioco finanziaria è enorme. Un singolo deepfake di un CEO che annuncia una fusione falsa o il fallimento di un prodotto può innescare algoritmi di trading automatico e spazzare via miliardi di capitalizzazione di mercato in pochi secondi. È successo di recente quando l’immagine falsa di un’esplosione vicino a un edificio governativo è circolata sui social media, causando un breve ma significativo calo del mercato azionario. La velocità di internet significa che, quando viene emesso un fact-check, il danno è già fatto. Importanti organizzazioni giornalistiche come Reuters hanno documentato come queste tattiche vengano usate per aggirare i gatekeeper tradizionali. Le piattaforme stanno cercando di rispondere con strumenti di rilevamento automatico, ma questi sono spesso un passo indietro rispetto ai creatori dei falsi. La risposta globale è attualmente un mix frammentato di politiche aziendali e legislazione emergente che fatica a definire dove finisce la satira e dove inizia la frode.

L’anatomia di una rapina ad alto rischio

Per capire come funziona nella pratica, consideriamo una giornata tipo per un responsabile finanziario in un’azienda di medie dimensioni. La mattina inizia con una raffica di email e una videochiamata programmata. Nel pomeriggio, il responsabile riceve un messaggio vocale su un’app di messaggistica che sembra provenire dal CEO. La voce è inconfondibile. Ha lo stesso leggero accento e la stessa abitudine di schiarirsi la voce prima di parlare. Il messaggio è urgente. Spiega che un’acquisizione riservata è nelle fasi finali e che un deposito di “buona fede” deve essere inviato immediatamente a uno studio legale. Il CEO menziona di trovarsi in un aeroporto rumoroso e di non poter rispondere alle chiamate, il che spiega qualsiasi leggera distorsione audio. Questo è lo scenario “giornata tipo” che ora è realtà per migliaia di dipendenti in tutto il mondo.

Il responsabile, volendo essere d’aiuto e temendo le conseguenze di un ritardo in un affare importante, segue le istruzioni. Non si rende conto che lo “studio legale” è un conto fittizio e che il messaggio vocale è stato generato da uno strumento di IA usando l’audio di un recente discorso tenuto dal CEO. Questo tipo di frode ha successo perché sfrutta la psicologia umana anziché le vulnerabilità tecniche. Si basa sull’autorità della voce e sul senso di urgenza fabbricato. È molto più efficace di una tradizionale email di phishing perché una voce porta con sé un peso emotivo che il testo non può eguagliare. Siamo programmati per fidarci delle voci delle persone che conosciamo. I truffatori stanno ora usando quella fiducia biologica contro di noi.

Le risposte delle piattaforme sono state incoerenti. Mentre alcune aziende di social media hanno vietato i deepfake destinati a ingannare, altre sostengono di non poter essere gli arbitri della verità. Questo lascia l’onere del rilevamento all’individuo. Il problema è che la revisione umana è sempre più fallibile. Gli studi dimostrano che le persone sono solo leggermente migliori di un lancio di moneta nell’identificare deepfake di alta qualità. Ecco perché molte aziende stanno ora implementando una politica di **out-of-band verification** per qualsiasi richiesta sensibile. Ciò significa che se ricevi un messaggio vocale che chiede denaro, devi richiamare quella persona su un numero noto e affidabile o usare un canale di comunicazione diverso per confermare la richiesta. Questo semplice passaggio è attualmente l’unica difesa affidabile contro la sofisticata frode sintetica.

Le domande difficili che nessuno sta ponendo

Man mano che diventiamo più dipendenti dai software di rilevamento, dobbiamo chiederci: chi possiede la verità? Se l’algoritmo di una piattaforma segnala un video come falso, ma è effettivamente reale, quale ricorso ha il creatore? Il costo nascosto dell’era dei deepfake è la “tassa” sulla comunicazione autentica. Stiamo raggiungendo un punto in cui ogni video di un abuso dei diritti umani o di un’interazione con la polizia verrà liquidato come “falso” da chi non vuole crederci. Questo crea un ostacolo enorme per attivisti e giornalisti. Inoltre, c’è la questione della privacy. Per addestrare modelli di rilevamento migliori, le aziende hanno bisogno di accedere a enormi quantità di dati umani reali. Siamo disposti a scambiare più della nostra privacy biometrica per un filtro deepfake leggermente migliore?

Un’altra domanda difficile riguarda la responsabilità dei creatori di software. Le aziende che costruiscono strumenti di clonazione vocale dovrebbero essere ritenute responsabili quando i loro strumenti vengono usati per una rapina multimilionaria? Attualmente, la maggior parte degli sviluppatori si nasconde dietro “termini di servizio” che vietano l’uso illegale, ma fanno poco per prevenirlo effettivamente. C’è anche il problema del “divario di verifica”. Le grandi aziende possono permettersi costose suite di rilevamento deepfake, ma che dire della persona media o del piccolo imprenditore? Se la capacità di verificare la realtà diventa un servizio a pagamento, stiamo creando un mondo in cui solo i ricchi possono permettersi di essere al sicuro dall’inganno. Dobbiamo decidere se la comodità dell’IA generativa valga l’erosione totale delle prove visive e uditive come concetto.

La barriera tecnica al rilevamento

Per l’utente esperto, la sfida dei deepfake è un gioco del gatto e del topo giocato nel codice. La maggior parte dei sistemi di rilevamento cerca incongruenze nel “dominio della frequenza” che l’orecchio umano non può sentire. Tuttavia, questi sistemi sono limitati dalla qualità dell’input. Se un video viene compresso da una piattaforma come WhatsApp o X, molte delle firme tecniche di un deepfake vanno perse nella compressione. Questo rende il rilevamento lato server incredibilmente difficile. C’è anche il problema della **latenza** nel rilevamento in tempo reale. Per analizzare un flusso video live alla ricerca di artefatti deepfake, un sistema ha bisogno di una notevole potenza di calcolo locale o di una connessione a banda molto larga verso un cluster di GPU basato su cloud. La maggior parte dei dispositivi consumer non può gestire questo in tempo reale senza un ritardo significativo.

Anche i limiti delle API giocano un ruolo. Molti dei migliori strumenti di rilevamento sono bloccati dietro costose API aziendali che limitano il numero di controlli che un utente può eseguire al minuto. Questo rende impossibile scansionare ogni fotogramma di ogni video su un sito ad alto traffico. Dal lato della creazione, la rivoluzione dello “storage locale” significa che gli attaccanti non devono più fare affidamento su servizi cloud come ElevenLabs o HeyGen. Possono eseguire modelli open-source come RVC (Retrieval-based Voice Conversion) sul proprio hardware. Questo rimuove ogni possibilità di “watermarking” alla fonte. Se il modello è in esecuzione su un server privato in una giurisdizione senza leggi sull’IA, non c’è modo di tracciarne l’output. Ecco perché la comunità tecnica si sta muovendo verso gli standard “Content Credentials” o C2PA. Questi standard mirano a firmare crittograficamente i contenuti “reali” al momento dell’acquisizione, invece di cercare di rilevare i contenuti “falsi” in seguito. È un passaggio dal “trovare la bugia” al “provare la verità”.

Le nuove regole di ingaggio

La minaccia dei deepfake non è un problema statico. È un metodo di social engineering in rapida evoluzione che è diventato più pericoloso man mano che è diventato più accessibile. Il punto fondamentale è che la tecnologia da sola non ci salverà. Dobbiamo adottare una mentalità di “zero trust” nelle nostre interazioni digitali. Ciò significa verificare l’identità attraverso molteplici canali ed essere particolarmente cauti verso qualsiasi comunicazione che crei un senso di urgenza o disagio emotivo. Che si tratti di un video politico o di un messaggio vocale da un familiare, la regola rimane la stessa: se la posta in gioco è alta, la verifica deve essere ancora più alta. Stiamo entrando in un periodo in cui la nostra intuizione umana non è più sufficiente. Abbiamo bisogno di una combinazione di abitudini migliori, politiche aziendali più forti e una sana dose di scetticismo per rimanere al sicuro in un mondo in cui la voce dall’altra parte della linea potrebbe non essere umana.

Nota dell'editore: Abbiamo creato questo sito come un hub multilingue di notizie e guide sull'IA per le persone che non sono esperti di computer, ma che desiderano comunque comprendere l'intelligenza artificiale, usarla con maggiore fiducia e seguire il futuro che sta già arrivando.