Cosa sono i deepfake?

 

A chi non è capitato recentemente di imbattersi in surreali video di celebrità o figure note chedicono o fanno cose piuttosto fuori contesto? È il caso di alcuni video manipolati di politici americani come Kamala Harris, Joe Biden e Donald Trump, o delle bizzarre foto di Papa Francesco vestito all’ultima moda. Quello che accomuna tutti questi contenuti, che a primo impatto potrebbero suscitare una semplice risata, è l’utilizzo di una tecnologia nuova, chiamata deepfake, di cui tratteremo in questo breve articolo e di cui analizzeremo i potenziali rischi.

 

I deepfake dunque sono foto, video o audio creati grazie all’utilizzo dell’intelligenza artificiale che, partendo da contenuti reali, riescono a modificare o ricreare tramite algoritmi di apprendimento automatico le caratteristiche e i movimenti di un corpo, di un volto o di una voce. Il termine deriva dalle due parole inglesi “Fake”, in Italiano “Falso”, e “Deep”, forma abbreviata per “Deep learning”, una particolare tecnologia AI che, sebbene sia ancora relativamente precoce, negli ultimi anni si è sviluppata molto, creando immagini sempre più realistiche e verosimili a un costo sempre più ridotto rispetto al passato.

 

Rischi

 

Come tutte le nuove tecnologie e, in particolare, come tutte le tecnologie legate all’intelligenza artificiale, il deepfake, pur con le sue enormi potenzialità, non è privo di rischi. Al contrario,osservando alcuni dei suoi più recenti utilizzi sono, forse, proprio i rischi a destare lapreoccupazione maggiore. Analizziamo dunque alcuni tra i principali pericoli, da cui le conseguenti implicazioni legali, che tecnologie come i deepfake possono provocare se non opportunamente utilizzate.

 

La capacità dei deepfake di emulare immagini realistiche di persone senza il loro consensogenera, innanzitutto, un evidente conflitto con alcuni diritti essenziali, come il diritto di immagine (disciplinato in Italia dall’art. 10 del codice civile) o il diritto alla privacy (regolato a livello europeo dal GDPR 2016/679, la “General Data Protection Regulation”). Ciò può portare, se tale tecnologia viene appositamente utilizzata a fini malevoli, ma spesso anche in modo piùdisinteressato, a manipolazioni di immagini o materiali audiovisivi, spesso tutt’altro che riconoscibili, e con potenzialità di creare disinformazionedecisamente maggiori rispetto a quelle di un testo scritto o comunque di un fatto trasmesso in forma indiretta. Quella che sembra un’ovvietà viene confermata da uno studio pubblicato sul giornale nature.com nel settembre 2024, per cui “le persone sono più propense a credere a materiali audiovisivi (rispetto a testi scritti) in quanto questi presentano maggiore somiglianza con il mondo reale”, il che è più che mai attuale se consideriamo che, sempre secondo lo stesso studio, i più recenti sviluppi dei deepfake permettono la creazione di materiali molto difficili da riconoscere, in particolar modo se accompagnati da un audio coordinato. Tale disinformazione,dunque, unita ad una elevata capacità di diffusione, presenta una grande credibilità, oltre che un impatto psicologico ben diverso rispetto a notizie scritte o riportate, rendendo il problema particolarmente delicato soprattutto per questioni politiche o economiche. Vi sono stati, ad esempio, casi di manipolazioni di immagini che hanno coinvolto politici come Donald Trump o Kamala Harris durante le ultime campagne presidenziali americane, con il rischio di indurreparte dell’elettorato a credere a situazioni mai accadute o discorsi mai pronunciati. Peraltro, come evidenzia un recente articolo pubblicato su agendadigitale.eu, “L’aspetto più pericoloso è che, anche una volta smascherata la falsità, il danno è spesso irreversibile”, in quanto l’impatto psicologico di tali immagini, seppur false o modificate, finisce in ogni caso per influenzare, più o meno consapevolmente, le idee che il pubblico ha delle persone o dei fatti interessati.

 

Ma la manipolazione e la disinformazione non sono gli unici pericoli insiti in utilizzi impropri del deepfake. Tra gli altri diritti essenziali che vengono toccati dalla diffusione di questa tecnologia vi è anche il cosiddetto diritto d’autore o di copyright (tutelato, in Italia, dalla legge n. 633 del22 Aprile 1941, modificata più volte fino ad oggi, mentre, a livello internazionale, da regolamentazioni come la convenzione di Berna, rivista e aggiornata nel corso degli anni), nonché il diritto di pubblicità, dato che i modelli di intelligenza artificiale vengono addestrati (e producono materiali) utilizzando, il più delle volte senza consenso, immagini o dati tutelati e protetti. Significative a riguardo sono le azioni legali indette contro Stability AI e Midjourney, dueaziende del settore, da artisti e detentori di diritti.

 

Questi, in realtà, sono solo alcuni dei tanti possibili rischi. Tra i pericoli più comuni ed evidenti, legati o derivanti dall’infrazione dei sopra menzionati diritti, vi sono anche: furto di identità, formedi ricatto, frodi di diverso tipo o phishing. Si tratta di rischi presenti genericamente in rete enelle nuove forme di AI, ma che i deepfake potrebbero facilmente ingrandire e amplificare.

 

Normative

 

Alla rapida diffusione dei deepfake segue, come è naturale per tutte le novità, un certo vuoto legale, e la necessità di regolamentare l’uso di strumenti nuovi e potenzialmente nocivi rende il problema particolarmente urgente.

 

Europa

 

Tralasciando per ora le normative presenti nello specifico sul territorio italiano, sappiamo che l’Unione Europea si è adoperata per colmare tale vuoto giuridico attraverso due provvedimenti: il Digital Services Act (o DSA; EU 2022/2065), che si rivolge, in generale, alla regolamentazionedei contenuti e delle piattaforme online, con l’obiettivo di proteggere i diritti dei cittadini europei, oltre che garantire regole chiare e universali a tutti i provider di servizi digitali, e l’AIAct (EU 2024/1689), che mira a definire un più appropriato quadro legale per quanto riguardal’intelligenza artificiale e i suoi derivati, tra cui le tecnologie deepfake. Tra i due, quello piùrecente e vicino all’argomento trattato, naturalmente, è il secondo, che prevede un sistema di normative suddivise in base al potenziale rischio di ciascuna tecnologia AI. Il provvedimento prevede quattro livelli di rischio: Unacceptable risk, High risk, Limited risk (o Transparency risk)e Minimal risk. Mentre le prime due categorie includono pratiche dannose come sfruttamento, manipolazione o truffa, nonché rischi per la salute, la sicurezza o il rispetto dei dirittifondamentali, le AI generative di immagini, video o audio come i deepfake vengono attualmenteinserite nella sezione Transparency risk, che, pur con provvedimenti molto più leggeri rispetto ai livelli Unacceptable e High risk, mira ad assicurarne la completa riconoscibilità e trasparenza. Il provvedimento europeo, pertanto, risulta abbastanza permissivo in materia e non prevede unvero e proprio divieto, riducendo il problema ad una necessità di trasparenza da parte dei sistemi AI nella generazione dei propri contenuti, garantendo sempre la massima riconoscibilità. Acausa, tuttavia, dei frequenti utilizzi impropri di tali sistemi, e, in particolare, in relazione a unapotenziale minaccia per la politica, non è escluso che il deepfake possa, in futuro, essere inserito nella più rigida sezione High risk. In ogni caso, tenendo conto dell’attuale stato del provvedimento, è ancora evidente una parziale insufficienza e inadeguatezza delle normativeeuropee: senz’altro precoci e uniche nel loro genere rispetto al resto del mondo, tali normative non garantiscono tuttavia una protezione adeguata e completa, ma si limitano a dettare alcuni criteri, in realtà abbastanza generali, ditrasparenza.

 

IĒalia

 

Per analizzare, invece, la situazione italiana riprenderemo alcune parti gim accennate nel paragrafo relativo ai rischi. Un articolo pubblicato su legal500.com suggerisce che, sebbene manchi ancora una normativa ad hoc riguardante l’AI, l’attuale legge italiana garantisce di per séun elevato livello di protezione, e “il vecchio ordinamento legale [italiano] risulta perfettamente capace di affrontare i rischi presentati dai deepfake”. Innanzitutto, il diritto alla propria immaginerientra a pieno titolo tra i “diritti personali inviolabili” garantiti dall’Articolo 2 della Costituzione.Oltre a ciò, i diritti di immagine sono regolati dal gim citato Articolo 10 c.c. e dagli Articoli 96 e 97 della gim citata Legge sul Diritto d’Autore. In particolare, l’Articolo 96 proibisce l’esposizione,la riproduzione o l’uso a fine di lucro di immagini di un individuo senza consenso, mentre l’Articolo 97 definisce alcune importanti eccezioni al suddetto consenso. Tra queste ultime rientrano: personalitm pubbliche o note, eventi pubblici, necessitm da parte della giustizia o scopi educativi e culturali, ma solo se “la diffusione delle immagini incontra le necessità dell’informazione pubblica” (per persone famose o pubbliche) o se “l’immagine risulta necessaria per una maggiore comprensione di un articolo o di una notizia” (per persone comuni). In ognicaso, tecnologie come i deepfake non rappresentano un’eccezione: un creatore di immagini ovideo privi di consenso, contenenti realtm distorte e generanti disinformazione o danni nei confronti delle persone coinvolte, non sarebbe in alcun modo esente, su territorio italiano, dapene per danni economici o morali.

 

Resto del mondo

 

Anche nel resto del mondo, come in Italia, mancano il più delle volte normative specifiche euniche riguardo l’intelligenza artificiale e i deepfake: il livello di sicurezza e di regolamentazione finisce così per dipendere, in gran parte, dalla rigidità di leggi preesistenti. Negli Stati Uniti, adesempio, questo dipende dalle leggi dei singoli stati: con l’avvento di Internet e dei social media,all’incirca 17 stati americani (tra cui la California, la Florida e il Massachusetts) emanarono leggi riguardo l’impersonificazione senza consenso attraverso l’uso di internet, mentre oggi sono oltre40 gli stati sul punto di discutere e varare proposte sempre più specifiche sull’argomento.

 

Anche il principale avversario degli USA in tema AI, ovvero la Cina, non ha tardato a implementare, nel 2022, una nuova legislazione chiamata Provisions on the Administration of Deep Synthesis Internet Information Services, per assicurarsi che i provider di servizi di Deep Fake non infrangano leggi e “preservino la sicurezza nazionale e l’interesse pubblico” (Art. 1).

 

Difendersi legalmente da un deepfake

 

Come possiamo difenderci da utilizzi malevoli dei deepfake attraverso mezzi puramente giuridici e legali? Per fare ciò può essere utile fare riferimento al vademecum sui rischi provocati dalla diffusione di deepfake, pubblicato in Italia dal Garante della Protezione dei Dati Personali. Oltre ad accortezze di carattere generale, come responsabilizzare gli utenti, evitare di “diffondere in modo incontrollato immagini personali o dei propri cari” o condividere contenuti sospetti, il documento suggerisce di rivolgersi ad autorità come la Polizia postale o lo stesso Garante della Protezione dei Dati Personali, se si ritiene che un contenuto violi i confini della legalità. Anche se, come abbiamo detto in precedenza, le normative specifiche sull’AI sono ancora poche, la legge italiana risulta particolarmente rigida in materia e chiunque venga danneggiato da un utilizzo di tale tecnologia che violi il codice civile (Articolo 10) o altre leggi, come quella sul Diritto d’Autore, è generalmente protetto. In ogni caso, i consigli ancora vaghi e generici delGarante della privacy sono il riflesso di un quadro normativo ancora piuttosto incerto a livello europeo, che fornisce garanzie molto limitate e rappresenta, per utilizzare un termine utilizzato in un recente articolo pubblicato su altalex.com, una “tutela «fai da te»”.

 

Come riconoscere un Deep Fake

 

Come possiamo noi, nel nostro piccolo, comportarci per difenderci da utilizzi non propri deideepfake? Negli ultimi anni i deepfake sono diventati sempre più sofisticati, rendendo sempre più difficile distinguere tra contenuti autentici e manipolati. Tuttavia, esistono alcuni indizi che possono aiutarci a smascherare queste falsificazioni.

 

Indizi visivi e tecnici

Uno dei primi aspetti da osservare riguarda le anomalie facciali. I volti generati da intelligenza artificiale presentano spesso imperfezioni nei movimenti e nei dettagli. Gli occhi possono nonbattere o battere in modo eccessivo, mentre le espressioni facciali risultano rigide o esagerate.Anche l’aspetto della pelle può apparire innaturale, con colori anomali e assenza di dettagli come nei o rughe. Un altro elemento da valutare è l’illuminazione e le ombre. Le tecnologiedeepfake possono avere difficoltà a riprodurre correttamente la luce, generando ombre non coerenti con la direzione della fonte luminosa o riflessi che sembrano artificiali.

I movimenti e le distorsioni dell’immagine possono rappresentare ulteriori segnali di falsificazione. Il corpo può assumere posture innaturali, con movimenti a scatti o, al contrario,eccessivamente fluidi. Inoltre, ai bordi del viso o degli oggetti in movimento possono comparire sfocature o sdoppiamenti che evidenziano la manipolazione digitale. Anche la compressione video può rivelare tracce sospette, come la presenza di bande verticali o orizzontali e una qualitàvideo visibilmente alterata.

Analisi dell’audio

Oltre agli elementi visivi, anche l’audio può fornire indizi utili per smascherare un deepfake. Ladesincronizzazione tra il movimento della bocca e il parlato rappresenta una delle anomalie piùevidenti. Inoltre, l’audio potrebbe risultare caratterizzato da riverberi innaturali o distorsioni che lo rendono meno realistico rispetto a una registrazione autentica.

Analisi dei metadati e del contesto

Per verificare l’autenticità di un video è fondamentale analizzare anche i metadati e il contesto di pubblicazione. I file manipolati possono presentare discrepanze nei metadati, come date e orari di creazione incongruenti, o informazioni errate riguardanti il dispositivo di registrazione. Può inoltre essere utile controllare la fonte del video, confrontarlo con altre versioni disponibili e cercare testimonianze che possano confermare o smentire il contenuto.

Software per riconoscere i Deepfake

Le grandi imprese del digitale stanno già studiando e applicando delle metodologie percontrastare il fenomeno, come algoritmi di intelligenza artificiale capaci di individuare i deepfake o sistemi per le segnalazioni da parte degli utenti, e stanno formando team specializzati in materia.

Tra i software creati da aziende e istituti di ricerca che offrono analisi approfondite a riguardo, anche se il loro utilizzo richiede spesso competenze tecniche avanzate, ritroviamo Sensity AI e Microsoft Video Authenticator. In alternativa, esistono estensioni per browser che consentono di verificare rapidamente l’autenticità di un contenuto direttamente dalla navigazione web, offrendo un’opzione più accessibile agli utenti meno esperti.

 

Conclusione

 

I Deepfake rappresentano dunque una delle innovazioni più affascinanti ma al tempo stesso pericolose dell’era digitale, mettendo a rischio la privacy e la sicurezza di qualsiasi individuo e aumentando esponenzialmente la disinformazione già molto presente negli ultimi anni. Solo attraverso regolamentazioni adeguate, educazione digitale e strumenti di rilevazione avanzati possiamo affrontare questa nuova frontiera dell’intelligenza artificiale senza comprometterne i benefici.

 

 

 

 

 

 

 

 

 

 

Fonti

 

AI     Act.     (2025).   European     Commission;     European     Commission. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework

–ai

 

 

 

AI Act. (2025). European Commission; European Commission.

 

AI and Deepfakes: EU and Italian Regulations. (2024, September 23). Jacobacci       Law;  Legal500. https://www.jacobacci-law.com/news-and-publications/ai-and-deepf akes-eu-and-italian-regulations

 

Codice     Civile.    (2024,    December     24).    Altalex;    Wolters    Kluwer. https://www.altalex.com/documents/codici-altalex/2015/01/02/codice- civile. La datariportata si riferisce alle ultime modifiche legislative apportate dal D.Lgs. 31 ottobre 2024,n. 164 e dal D.M. 10 dicembre 2024 del Ministero dell’economia e delle finanze.

 

De Pasquale, D., & Pappalardo, M. (2023, May 5). Deepfake, come potenziare gli anticorpi legali. Agenda Digitale EU; Agenda Digitale EU.

https://www.agendadigitale.eu/sicurezza/privacy/difendersi-dai-deepf ake-gli-anticorpi-gia-nel-nostro-ordinamento-ma-si-puo-migliorare/

 

Deceptive Audio or Visual Media (“Deepfakes”) 2024 Legislation. (2024, November        22).   NCSL;        NCSL. https://www.ncsl.org/technology-and-communication/deceptive-aud io-or-visual-media-deepfakes-2024-legislation

 

Legge 22 Aprile 1941, n. 633. Protezione del diritto d’autore e di altri diritti connessi  al  suo  esercizio.  (2024,  November  14).  Normattiva;

 

Presidenza              del              Consiglio              dei              Ministri. https://www.normattiva.it/uri-res/N2Ls?urn:nir:stato:legge:1941-04-22; 633!vig=. Ladata riportata si riferisce all’ultima modifica del testo.

 

Marchetti, S. (2022, February). Rolling in the Deep(Fakes). Banca D’Italia; Banca  d’Italia.

https://www.bancaditalia.it/pubblicazioni/qef/2022-0668/QEF_668_22. pdf

 

Niola, F. (2024, October 16). Tutti i danni dei deepfake: perché le norme Ue sono armi spuntate. Agenda Digitale EU; Agenda Digitale EU. https://www.agendadigitale.eu/cultura-digitale/tutti-i-danni-dei-deep fake-perche-le-norme-ue-sono-armi-spuntate/

 

Provisions on the Management of Deep Synthesis of Internet Information Services. (2022,December 11). Cac Gov; China Internet Information Office. https://www.cac.gov.cn/2022-12/11/c_1672221949354811.htm

 

Quirk, C. (2023). The High Stakes of Deepfakes: The Growing Necessity of Federal Legislationto Regulate This Rapidly Evolving Technology. Legal      Journal         Princeton;   The    Princeton    Legal Journal. https://legaljournal.princeton.edu/the-high-stakes-of-deepfakes-the- growing-necessity-of-federal-legislation-to-regulate-this-rapidly-evol ving-technology/_ftn1

 

Regolamento generale sulla protezione dei dati. (2018, May 23). Garante Privacy;         Garante      per    la                Protezione dei     Dati Personali. https://www.garanteprivacy.it/documents/10160/0/Regolamento+UE+2016+679.+Arricchito+con+riferimenti+ai+Considerando+Aggiornato+alle+rettifiche+pubblicate+sulla+Gazzetta+Ufficiale++dell%27Unione+europea+127+del+23+maggio+2018.pdf/1bd9bde0-d074-4ca8-b37d-8 2a3478fd5d3?version=1.9

 

Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and(EU)

2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act) (Text with EEA relevance). (2024,  June  12).  EUR  Lex;  European  Parliament. https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32024 R1689

 

Saetta, B. (2023, October 11). Regolamento generale per la protezione dei dati.    Protezione  Dati   Personali;           Protezione     Dati    Personali. https://protezionedatipersonali.it/regolamento-generale-protezione- dati

 

Sankaranarayanan, A., Groh, M., Epstein, Z., Kim, D. Y., Picard, R. W., Lippman, A., & Singh, N. (2024). Detect DeepFakes: How to counteract misinformation created by AI. Media MIT;MIT Media Lab. https://www.media.mit.edu/projects/detect-fakes/overview/

 

Sankaranarayanan, A., Groh, M., Songh, N., Kim, D. Y., Lippman, A., & Picard,

 

1. (2024, September 2). Human detection of political speech deepfakes across transcripts, audio, and video. Nature; Nature Communications.

https://www.nature.com/articles/s41467-024-51998-z

 

 

 

The Digital Services Act (DSA). (2022). European Commission; European Commission.

https://commission.europa.eu/strategy-and-policy/priorities-2019-202 4/europe-fit-digital-age/digital-services-act_en

 

Tutela    del    diritto    d’autore.    (n.d.).  Normattiva;    Dipartimento     per l’Informazione el’Editoria – Presidenza del Consiglio dei Ministri.https://informazioneeditoria.gov.it/it/attivita/diritto-dautore/la-tutela- del-diritto-dautore/

 

Vecchione, G. (2025). Il diritto all’immagine. Studio Legale Vecchione; Studio      Legale        Vecchione. https://www.studiolegalevecchione.it/il-diritto-allimmagine/  :~:text=Il

 

%20diritto%20all%27immagine%20rientra%20nella%20categoria%20dei%20diritti%20della,ad%20altri%20un%20danno%20ingiusto

 

White, H., Su, S., Vu, Y., Nguyen, L., Mak, T., Chan, G., Chow, K. W., Doan, U., Lindberg, M., Helou,N., & Chulajata, N. (2024, September 4). AI-generated deepfakes: what does the law say? Rouse; Rouse Editor.

https://rouse.com/insights/news/2024/ai-generated-deepfakes-what- does-the-law-say

 

Martorana M., Zakaria S. (2023, may 25). Lotta al deepfake: lo stato dell’arte nell’UE.        Altalex;      Wolters                               Kluwer. https://www.altalex.com/documents/news/2023/05/25/lotta-deepfake

-stato-arte-ue

 

Calabrò, V. (2024, November 8). I deepfake: come rilevarli per difendersi dalla    disinformazione.  Cyber Security                         360.

https://www.cybersecurity360.it/nuove-minacce/i-deepfake-come-rile varli-per-difendersi-dalla-disinformazione/

 

Che cos’è il deepfake: L’IA mette in pericolo la tua sicurezza informatica? | Fortinet.       (2019).       Fortinet. https://www.fortinet.com/it/resources/cyberglossary/deepfake

 

Cosa è un deepfake? Deepfake Il falso che ti “ruba” la faccia (e la privacy). (n.d.). Retrieved    February     12,                  2025,                from https://www.garanteprivacy.it/documents/10160/0/Deepfake+-+Vade mecum.pdf/478612c7-475b-2719-417f-869e5e66604e?version=2.0

 

Deepfake           Detection           Challenge.           (n.d.).        Kaggle.com. https://www.kaggle.com/c/deepfake-detection-challenge/overview

 

Groh, M. (2023). Detect DeepFakes: How to Counteract Misinformation Created   by     AI.     MIT    Media Lab. https://www.media.mit.edu/projects/detect-fakes/overview/

 

Schwartz, O. (2018, November 12). You thought fake news was bad? Deep fakes are where truth goes to die. The Guardian; The Guardian. https://www.theguardian.com/technology/2018/nov/12/deep-fakes-fak e-news-truth