Con l'intelligenza artificiale è possibile generare immagini, video e voci estremamente plausibili. Quando queste tecnologie vengono utilizzate per impersonare, umiliare o ingannare, il danno può essere reale anche se il contenuto è falso.
Quando vedere e sentire non basta più
Per molto tempo fotografia, video e voce hanno avuto un forte valore intuitivo di autenticità. L'intelligenza artificiale generativa ha modificato questo rapporto. Oggi è possibile creare immagini di persone in situazioni mai avvenute, sintetizzare una voce a partire da pochi campioni e produrre video nei quali un soggetto appare pronunciare parole mai dette.
Queste tecnologie hanno applicazioni legittime e creative, ma possono essere utilizzate anche per frode, ricatto, molestie, diffamazione, impersonificazione e violazione dell'intimità.
Che cos'è un deepfake
Il termine deepfake viene generalmente utilizzato per indicare contenuti audio, video o immagini manipolati o generati con tecniche di intelligenza artificiale in modo da apparire autentici. La qualità può variare molto, ma il punto cruciale non è la perfezione tecnica: è la capacità del contenuto di essere creduto nel contesto in cui viene diffuso.
Il danno può essere autentico anche se il contenuto è falso
Una falsa immagine intima può produrre vergogna, isolamento, conseguenze lavorative e perdita di reputazione pur rappresentando un evento mai accaduto. Una voce sintetica può essere utilizzata per convincere un familiare a trasferire denaro. Un video falso può essere diffuso per screditare una persona.
Questa è una delle peculiarità vittimologiche del fenomeno: la falsità della rappresentazione non rende false le conseguenze.
Deepfake sessuali e consenso
La Direttiva (UE) 2024/1385 sulla lotta alla violenza contro le donne e alla violenza domestica prende espressamente in considerazione la produzione, manipolazione o alterazione non consensuale di materiale che faccia apparire una persona coinvolta in attività sessuali, compresi i deepfake, quando il materiale viene successivamente reso accessibile al pubblico attraverso tecnologie dell'informazione e della comunicazione senza consenso.
Il tema evidenzia come il consenso non riguardi soltanto la produzione di un'immagine reale, ma anche l'uso dell'identità e dell'apparenza di una persona per creare una rappresentazione sintetica.
Clonazione vocale e truffe
La sintesi vocale può essere utilizzata per riprodurre in modo plausibile la voce di un familiare, un dirigente o un professionista. Inserita in una storia urgente e credibile, può aumentare l'efficacia di un attacco di social engineering.
La prevenzione deve quindi evolvere: riconoscere una voce non può più essere considerato un metodo di autenticazione sufficiente per richieste anomale o operazioni economiche.
Il problema della persistenza
Una volta pubblicato, un contenuto sintetico può essere scaricato, modificato e redistribuito. La rimozione dalla piattaforma originaria non garantisce la scomparsa delle copie. La vittima può trovarsi a fronteggiare una diffusione intermittente e difficile da controllare.
La tempestività della segnalazione e della raccolta delle prove diventa quindi essenziale, insieme alla disponibilità di procedure chiare da parte delle piattaforme.
Il “dividendo del bugiardo”
L'esistenza dei deepfake crea anche il problema opposto: se sappiamo che un video può essere falso, una persona può negare un contenuto autentico sostenendo che sia stato generato artificialmente. La possibilità tecnica della falsificazione riduce così la fiducia generale nelle prove audiovisive.
La verifica forense e la provenienza dei contenuti assumono un'importanza crescente, soprattutto nei contesti giudiziari, giornalistici e istituzionali.
Minori e vulnerabilità reputazionale
Per adolescenti e giovani l'impatto può essere particolarmente grave perché reputazione, appartenenza al gruppo e identità sono fortemente connesse alle relazioni digitali. Un'immagine sintetica diffusa tra compagni può produrre effetti analoghi a quelli di una fotografia reale non consensuale.
La prevenzione deve quindi comprendere educazione al consenso digitale, capacità di verifica e conoscenza delle procedure di segnalazione.
Una nuova area per la vittimologia
Le tecnologie generative obbligano la vittimologia a confrontarsi con forme di danno nelle quali identità, reputazione e rappresentazione possono essere manipolate su larga scala. La tutela richiede collaborazione tra diritto, informatica, psicologia, educazione, piattaforme digitali e forze investigative.
La tecnologia cambia, ma la domanda rimane la stessa: come proteggere la persona dalle conseguenze di un uso abusivo degli strumenti disponibili?
Riferimenti essenziali
- Direttiva (UE) 2024/1385 sulla lotta alla violenza contro le donne e alla violenza domestica.
- Regolamento (UE) 2024/1689 sull'intelligenza artificiale (AI Act), disposizioni sulla trasparenza dei contenuti artificiali o manipolati.
- Europol, analisi sull'uso criminale dell'intelligenza artificiale e sulle frodi digitali.
