Cosa sono i deepfake e perché sono pericolosi

I deepfake sono contenuti digitali (video, audio o immagini) creati con tecniche avanzate di deep learning che simulano in modo estremamente realistico il volto o la voce di una persona, inserendoli in contesti fittizi. In pratica, un software di intelligenza artificiale può “rubare” il volto o la voce di un individuo da materiale reale e sovrapporli ad altri video o registrazioni, generando clip false ma convincenti. Ciò significa, ad esempio, poter far apparire una persona mentre dice o fa qualcosa che in realtà non ha mai detto o fatto.

Questo fenomeno va oltre il semplice fotoritocco ed è diventato una minaccia concreta per la cybersecurity. Ecco alcuni dei principali rischi legati ai deepfake:

• Frodi aziendali – Un malintenzionato può impersonare dirigenti d’azienda (in video o audio) per richiedere bonifici o ottenere dati sensibili, inducendo i dipendenti a fidarsi di comunicazioni false.
• Disinformazione – Video manipolati di politici o personaggi pubblici possono diffondere notizie false, manipolare l’opinione pubblica o alimentare campagne di propaganda.
• Diffamazione e ricatto – Deepfake possono mettere in scena falsi scandali o contenuti compromettenti (es. fake porn non consensuali) per rovinare la reputazione di individui o estorcere denaro.
• Propaganda e insicurezza sociale – Alterando messaggi ufficiali o eventi documentati, si può generare sfiducia nelle fonti d’informazione e creare caos sociale.

Non solo i singoli individui sono esposti a questi rischi: aziende, istituzioni e governi possono essere colpiti, minando la fiducia collettiva nel mondo digitale. In sintesi, i deepfake rappresentano oggi una minaccia crescente alla sicurezza informatica, all’integrità delle informazioni e perfino alla stabilità sociale.

La sfida del rilevamento dei deepfake

Identificare un video o audio falso non è semplice quanto riconoscere un fotomontaggio grossolano. I deepfake più avanzati sono deliberatamente progettati per ingannare anche l’occhio (e orecchio) più attento. Fortunatamente, negli ultimi anni la ricerca ha sviluppato vari metodi di deepfake detection (rilevamento dei deepfake), sfruttando spesso l’AI stessa per smascherare i falsi. Alcune tecniche di rilevamento includono:

• Analisi dei movimenti e delle espressioni: I volti umani autentici seguono regole fisiche e schemi naturali – ad esempio, il battito di ciglia, i movimenti oculari coordinati, la sincronizzazione labiale con l’audio. Un deepfake può presentare micro-movimenti innaturali (occhi che non battono regolarmente, espressioni facciali rigide) o sfasamenti tra voce e labiale, rivelando l’artificio.
• Esame dei dettagli visivi: Anche quando l’aspetto generale è realistico, spesso rimangono artefatti digitali. Inconsistenze nelle texture della pelle, nei capelli, nei riflessi di luce o nelle ombre possono tradire un video manipolato. I rilevatori basati su reti neurali convolutive possono essere addestrati a cogliere queste piccole imperfezioni nei pixel.
• Coerenza temporale: Un video genuino ha una continuità naturale nel tempo. I sistemi di rilevamento più evoluti analizzano le sequenze video fotogramma per fotogramma con modelli di intelligenza artificiale specializzati (come reti ricorrenti o Transformer). Questi modelli cercano anomalie che emergono solo osservando molti frame consecutivi – ad esempio un movimento troppo fluido o, al contrario, scatti innaturali tra pose. Spesso i deepfake, per quanto curati, faticano a riprodurre perfettamente tutte le micro-dinamiche del volto umano lungo l’intero video.
• Verifica semantica e contestuale: In alcuni casi, al di là dell’analisi tecnica, si confronta ciò che mostra o dice il video con la realtà dei fatti. Se un video ritrae una persona in un luogo o momento impossibile, o le sue dichiarazioni contraddicono dati verificabili, c’è motivo di dubitare dell’autenticità (approccio utile soprattutto per smascherare fake news).

Quanto sono efficaci questi metodi? In laboratorio, i risultati sono promettenti: algoritmi di ultima generazione dichiarano accuratezza anche superiore al 90% nel distinguere i deepfake su dataset di prova standard. Tuttavia, questa efficacia crolla drasticamente quando i sistemi vengono messi alla prova nel mondo reale. Un ampio studio del 2024 (Deepfake-Eval-2024) ha evidenziato come i migliori modelli open-source di detection perdano circa 50% di accuratezza sui video reali, e analogamente quasi il 50% nell’audio e 45% sulle immagini, rispetto ai risultati ottenuti su contenuti di test più semplici. In pratica, un detector che in condizioni controllate sfiora la perfezione può scendere intorno al 75-80% di accuratezza quando analizza i video autentici che circolano online. Alcuni sistemi all’avanguardia, se esposti a video “in the wild” presi dai social network (pieni di compressioni e variabilità di qualità), finiscono per fare poco meglio del lancio di una moneta.

Il “gap” di performance tra laboratorio e realtà operativa

Questa differenza tra prestazioni in laboratorio e risultati sul campo costituisce il grande gap prestazionale operativo che oggi preoccupa gli esperti. I motivi sono molteplici. Innanzitutto, i dataset usati per addestrare e testare i detector spesso non rappresentano la complessità del mondo reale: ad esempio contengono video relativamente puliti, con volti centrati e condizioni di luce buone, mentre online i deepfake possono riguardare soggetti e contesti diversissimi, con qualità video scadente o frame compressi. Proprio la compressione video (es. algoritmi H.264/H.265 usati da tutte le piattaforme) è un nemico del rilevamento: per ridurre le dimensioni dei file, la compressione elimina molti dettagli fini su cui gli algoritmi contano per riconoscere le manipolazioni. Un’analogia efficace: è come cercare di riconoscere un volto su una fotocopia di quinta generazione – i tratti sono sempre più sfumati.

Inoltre c’è da considerare l’evoluzione dei deepfake stessi. I creatori di contenuti falsi non restano a guardare: man mano che nuove tecniche di rilevamento vengono introdotte, emergono deepfake di nuova generazione progettati per sfuggire a quei controlli. Si sta assistendo a una vera corsa agli armamenti digitale: modelli generativi sempre più sofisticati producono falsi di qualità tale da eludere sistematicamente i detector attuali. Ad esempio, esistono servizi commerciali di clonazione vocale o video (basti citare ElevenLabs per le voci o strumenti video AI come Sora) alla portata di chiunque, in grado di creare contenuti falsi molto convincenti. In parallelo, sono comparsi gli attacchi adversariali: tecniche che introducono intenzionalmente piccoli elementi perturbatori (es. pattern di pixel impercettibili) nei video falsi per confondere le reti neurali di rilevamento. Il risultato è che i difensori devono correre dietro a infinite possibili varianti di falsificazioni. Come riconosciuto ormai da tutti, attualmente chi crea deepfake ha un vantaggio strutturale: basta loro trovare un modo per rendere convincente un contenuto falso, mentre chi difende deve provare a scovare qualsiasi manipolazione possibile.

Di fronte a questa sfida, gli esperti suggeriscono un approccio più realistico e multifattoriale. Dal punto di vista tecnico, un’idea promettente è combinare l’efficienza delle macchine con l’intuito umano: ad oggi, gli analisti forensi in carne e ossa, con occhio allenato ed esperienza, riescono spesso a individuare i falsi meglio di molti algoritmi, mantenendo accuratezze vicine al 90% su contenuti reali. Sistemi ibridi in cui l’AI segnala i sospetti e l’uomo li valuta potrebbero colmare parte del divario. Allo stesso tempo, serve valutare i detector in condizioni più aderenti alla realtà (metrics operative invece che solo accademiche), ad esempio testandoli su video completamente nuovi e in cross-domain (cioè molto diversi dal materiale usato per addestrarli). Solo così si possono scoprire e migliorare i punti deboli attuali, abbandonando un eccessivo ottimismo accademico in favore di un realismo ingegneristico.

Blockchain e watermark: autenticità alla fonte

Vista la difficoltà di rilevare i deepfake a posteriori, un filone alternativo di difesa punta sulla prevenzione: assicurare l’autenticità dei contenuti multimediali fin dal momento della loro creazione. In quest’ottica, la tecnologia blockchain viene proposta come una sorta di notaio digitale in grado di certificare ogni video o immagine genuina. Il concetto è relativamente semplice: quando si registra un video reale, si calcola una “impronta digitale” (hash crittografico) unica di quel file e la si registra su una blockchain pubblica. Essendo la blockchain immutabile e distribuita, qualsiasi futura modifica al video (tipica di un deepfake) sarebbe immediatamente evidente poiché l’hash non corrisponderebbe più. In altre parole, chi visualizza il video potrebbe interrogare la blockchain per verificare se quel contenuto ha un certificato di origine autentico e intatto. Un sistema del genere renderebbe molto difficile spacciare come vero un video contraffatto, perché basterebbe l’assenza (o la discrepanza) di un certificato blockchain per far scattare l’allarme.

In parallelo, si stanno sviluppando tecniche di watermarking digitale: inserire nei video autentici delle informazioni nascoste (ad esempio leggeri pattern nei pixel o nell’audio), impercettibili all’occhio e all’orecchio umani ma robuste contro le manipolazioni. Queste “firme” digitali funzionano come filigrane invisibili: rimangono nel contenuto attraverso ritagli, ricompressioni o altre trasformazioni, attestando sempre l’origine legittima. Alcuni watermark avanzati riescono a mantenere elevata qualità visiva (indicata da metriche come PSNR > 44 dB) pur resistendo ai tentativi di rimozione.

Queste soluzioni suonano ideali, ma quanto sono praticabili su larga scala? Ci sono ostacoli tecnici e organizzativi notevoli. Registrare ogni video su una blockchain pubblica può essere lento e costoso: ad esempio sulla rete Ethereum una transazione impiega almeno ~12 secondi per essere confermata e nei momenti di congestione può costare decine di dollari in gas fee per singolo video. Alcune blockchain alternative offrono prestazioni migliori (es. Polygon ~2s, Solana ~0,4s per transazione), ma il panorama è frammentato e manca uno standard universale riconosciuto. Inoltre, pensiamo al volume: sulle piattaforme globali vengono caricati milioni di video ogni giorno – attualmente sarebbe proibitivo certificare tutto sulla blockchain in tempo reale. Il rischio è di avere una buona tecnologia sulla carta che però “non scala” nella pratica.

Il watermarking, dal canto suo, richiede che tutti i produttori di contenuti leciti adottino queste firme e che le piattaforme le controllino costantemente. Una sfida sia tecnica (integrare strumenti di verifica in ogni sistema di upload) che di coordinamento internazionale per stabilire chi emette i certificati, come gestire le chiavi, etc. Insomma, la blockchain e le filigrane digitali rappresentano piste promettenti per il futuro, ma non sono la bacchetta magica immediata: al momento conviviamo in un mondo dove molti video non sono certificati e dunque il problema dei deepfake richiede anche altre difese nel frattempo.

Casi reali: deepfake all’attacco

Se tutto questo sembra ancora teorico, basta guardare ad alcuni casi concreti di cronaca per capire l’impatto dei deepfake sulla sicurezza. Un esempio eclatante è la truffa ai danni della società di ingegneria Arup. Nel 2024, un dipendente dell’ufficio di Hong Kong di questa multinazionale ha partecipato a quella che appariva come una normale videochiamata con alcuni alti dirigenti dell’azienda. I volti e le voci sullo schermo sembravano autentici, e dai boss è arrivata la richiesta urgente di effettuare dei trasferimenti di denaro su certi conti. In buona fede, l’impiegato ha eseguito una serie di bonifici per un totale di 200 milioni di dollari hongkonghesi (circa 25 milioni di dollari USA), salvo scoprire poi che i dirigenti in video non erano reali, ma deepfake generati dall’AI. I truffatori avevano fabbricato il volto del CFO e di altri manager, riuscendo a ingannare completamente la vittima e i sistemi di sicurezza aziendali. Questo caso Arup è emblematico: non si è trattato di un attacco informatico “classico” (nessun sistema violato, nessun malware), bensì di social engineering potenziato dalla tecnologia deepfake. Un inganno psicologico-tecnologico che è costato decine di milioni e che ha messo in luce la necessità di protocolli di verifica più rigorosi per le comunicazioni sensibili.

Altri episodi confermano che queste frodi non sono fantascienza. Già nel 2019 si è registrato uno dei primi casi noti: il CEO di una società energetica britannica ricevette una telefonata dal presunto direttore della casa madre tedesca che gli chiedeva con urgenza un trasferimento di fondi; in realtà quella voce era un’imitazione ottenuta con AI, e l’azienda perse circa 220.000 euro in pochi minuti. Più di recente, nel 2023, il CEO di WPP (il più grande gruppo pubblicitario al mondo) ha svelato di essere stato bersaglio di un tentativo di truffa tramite voice deepfake: qualcuno aveva clonato la sua voce per chiamare dei colleghi e autorizzare movimenti finanziari, ma per fortuna in quel caso l’inganno è stato sventato in tempo. Sul fronte geopolitico, ricordiamo anche il caso di un deepfake del presidente ucraino Zelensky diffuso online nel 2022, in cui lo si mostrava mentre “dichiarava la resa” durante il conflitto – video falso rapidamente smascherato, ma che ha sollevato timori sull’uso bellico della disinformazione.

Questi casi di studio evidenziano due aspetti fondamentali: da un lato la facilità con cui i criminali possono utilizzare i deepfake per colpire aziende e individui (ormai servono competenze tecniche minime e strumenti facilmente reperibili, spesso open source, per creare un falso convincente). Dall’altro, sottolineano quanto sia cruciale aumentare la consapevolezza: molte vittime inizialmente non concepivano nemmeno che una videochiamata potesse essere falsificata così bene. Ora sappiamo che succede, e “più spesso di quanto si creda”, come ha dichiarato il CIO di Arup dopo l’incidente.

Difendersi dai deepfake: approcci tecnologici e umani

Cosa possono fare le organizzazioni e gli utenti per proteggersi in questo scenario in rapida evoluzione? Non esiste una singola soluzione miracolosa, ma un insieme di buone pratiche tecnologiche e strategiche può aiutare a mitigare i rischi:

• Formazione e procedure di verifica: Le aziende dovrebbero aggiornare le proprie procedure di sicurezza per tenere conto dei deepfake. Ad esempio, prevedere verifiche aggiuntive (una chiamata di conferma, un controllo incrociato via altro canale) per richieste finanziarie anomale ricevute via email, telefono o video, anche se apparentemente provenienti da dirigenti. Il personale va formato per sospettare dell’insolito: una voce familiare fuori contesto, un dirigente che comunica solo via messaggistica vocale, un video “strano” andrebbe sempre verificato due volte.
• Tecnologie di rilevazione e filtri: È opportuno dotarsi di strumenti di deepfake detection man mano che maturano. Alcune soluzioni commerciali e open-source iniziano a comparire (ad esempio, plugin per videoconferenze che analizzano in tempo reale eventuali manipolazioni video/audio). Anche se non infallibili, possono fare da primo filtro. Allo stesso tempo, le piattaforme online stanno investendo in algoritmi per individuare e segnalare i contenuti falsi prima che diventino virali.
• Policy e normative: Sul piano macro, si intravedono i primi interventi legislativi. Negli Stati Uniti è in discussione il DEEPFAKES Accountability Act e altri provvedimenti (come il Defence Against Deepfakes Act) che mirano a punire penalmente l’uso malevolo dei deepfake e a responsabilizzare le piattaforme nella rimozione di contenuti falsi e dannosi. In Europa, il Regolamento AI Act prevede l’obbligo di dichiarare i contenuti “sintetici” non contrassegnati da intenti artistici o satirici. Queste misure, insieme a standard industriali in via di definizione per l’autenticazione dei media (ad esempio la Coalition for Content Provenance and Authenticity), puntano a creare un ecosistema digitale più sicuro in cui i deepfake malevoli siano più difficili da diffondere impunemente.
• Collaborazione e condivisione: Affrontare i deepfake richiede uno sforzo congiunto globale. Le aziende dovrebbero condividere informazioni sugli attacchi subiti (come ha fatto Arup rendendo pubblico l’evento) per allertare altre organizzazioni. Il settore tech, il mondo accademico e gli enti governativi devono cooperare: da una parte sviluppando migliori difese tecniche (modelli di AI più robusti, sistemi di certificazione scalabili), dall’altra educando il pubblico a un sano scetticismo digitale. Campagne di sensibilizzazione possono insegnare agli utenti comuni a riconoscere i segnali di un possibile deepfake e a non diffondere contenuti dubbi senza verifica.

Conclusioni

I deepfake rappresentano una sfida senza precedenti per la sicurezza informatica: mai prima d’ora abbiamo avuto la tecnologia per falsificare la realtà in modo così credibile su larga scala. La linea tra vero e falso nel mondo digitale diventa sempre più sottile, e con essa aumenta il rischio di frodi, manipolazioni e danni reputazionali. Allo stesso tempo, l’umanità ha già affrontato minacce simili – dall’avvento della fotografia ritoccabile, ai video montaggi, alle fake news – adattando di volta in volta gli strumenti di difesa. In questa corsa tra “falsari” digitali e “detective” algoritmici, è importante mantenere uno sguardo lucido: riconoscere che le soluzioni puramente tecnologiche da sole non bastano (almeno per ora), ma che non siamo nemmeno impotenti.

La strada da percorrere è duplice. Da un lato, innovare con realismo, continuando a sviluppare tecniche di rilevamento sempre migliori e metodi di autenticazione preventiva (blockchain, watermark) ma valutandoli sul campo e combinandoli con l’intuizione umana. Dall’altro, accrescere la resilienza delle persone e delle organizzazioni: promuovere una cultura della sicurezza dove vedere è non sempre sinonimo di credere, in cui ogni contenuto digitale importante viene verificato con spirito critico. In ultima analisi, difendersi dai deepfake significa difendere la fiducia sulle cui basi si regge la nostra società digitale. È una sfida complessa, ma affrontabile attraverso un mix di tecnologia, consapevolezza e cooperazione globale. Solo unendo queste forze potremo continuare a godere dei benefici dell’AI generativa minimizzandone gli effetti più pericolosi.

Come CyberQuake può aiutarti, subito

Preveniamo e mitighiamo i rischi da deepfake e impersonation unendo cybersecurity, monitoraggio e compliance legale. Con un approccio “people–process–tech” disegniamo controlli pratici che funzionano nel mondo reale.

Cosa attiviamo per la tua azienda:

• Deepfake Readiness Assessment: mappa dei rischi, processi critici, gap tecnologici e procedure di verifica.
• Protocollo anti-impersonation per CEO/CFO: verifiche fuori banda, “safe-word” operative, approvazioni a due canali, policy per video/audio sospetti.
• Tecnologie di detection & provenance: integrazione di strumenti di rilevamento, C2PA/watermarking e registri di evidenza (anche blockchain dove ha senso).
• Formazione e simulazioni guidate da AI: phishing/vishing “voice & video” mirati ai ruoli, playbook di risposta rapida.
• Brand & dark web monitoring (CQ-Sentry): allerta su uso abusivo di immagine, voce e marchio.
• Incident Response & Crisis Comms: triage tecnico-forense, supporto legale e comunicazione verso stakeholder.
• Compliance by-design: allineamento a NIS2, GDPR, AI Act e Linee Guida ACN.

Mettiamo in sicurezza la tua identità digitale e i tuoi processi decisionali.
👉 Prenota una consulenza iniziale con CyberQuake e crea oggi un piano anti-deepfake su misura per la tua organizzazione.

PROTEGGITI - METTITI IN CONTATTO

Fonti

• ictsecuritymagazine.comictsecuritymagazine.comICT Security Magazine – “Sicurezza nelle applicazioni di analisi video: Deepfake Detection, Blockchain Authentication e Performance Gap Operativi”, Redazione (Ottobre 2025).
• theguardian.comtheguardian.comThe Guardian – “UK engineering firm Arup falls victim to £20m deepfake scam”, Dan Milmo (Maggio 2024).
• italgas.itItalgas News – “Deepfake: la nuova frontiera delle truffe online” (Ottobre 2025).
• ictsecuritymagazine.comICT Security Magazine – “Deepfake, una reale minaccia alla cybersecurity”, Francesco Arruzzoli (2024).
• agendadigitale.euagendadigitale.euAgenda Digitale – “Deepfake: nuove norme USA per tutelare le vittime”, Federica Giaquinta (Novembre 2024).