Che cos’è e a cosa serve il deepfake?

Sono sempre più diffusi sui social network contenuti nei quali l’immagine di personaggi famosi (attori, cantanti, sportivi, politici) viene manipolata per realizzare meme, foto e video nei quali i protagonisti tengono comportamenti surreali o rilasciano dichiarazioni apparentemente compromettenti.

Questi contenuti sono realizzati attraverso una tecnica di sintesi dell’immagine umana, attraverso la quale è possibile animare una fotografia del personaggio che si intende imitare sovrapponendola e adattandola all’immagine o al video realizzata da un modello. Un po’ come se, a partire dalla foto di un personaggio famoso, fosse realizzata una maschera in grado di imitarne perfettamente i movimenti facciali e la si usasse per girare un video che imiti le azioni del “modello”.

Questa tecnologia si basa su algoritmi altamente sofisticati, in grado di elaborare migliaia di foto e di generare, grazie all’esperienza maturata dall’algoritmo (il cd. machine-learning), “maschere” sempre più precise e dettagliate. Le sue applicazioni sono molte e interessanti, ad esempio nel campo della cinematografia o della didattica, dove attori celebri scomparsi e personaggi storici potrebbero essere “resuscitati” per recitare in nuovi film o raccontare in prima persona le loro gesta.

Il termine deepfake descrive il lato oscuro di questa tecnologia, ovvero il suo uso per creare filmati imbarazzanti, realizzare fake news o per commettere reati informatici. Nel 2017 fece il giro del mondo il filmato del finto discorso alla nazione dell’ex-presidente USA Barack Obama, realizzato da una rete di attivisti che voleva sensibilizzare il pubblico sulla pericolosità di questa tecnica.

Il deepfake porn: dalle celebrità alle persone comuni

Come si può intuire dal nome, il deepfake porn è una forma di deepfake, nella quale il volto di una persona viene “incollato”, molto spesso senza il suo consenso, su filmati a contenuto pornografico, per dare l’impressione che sia la vittima ad averli girati.

Il deepfake porn si è diffuso inizialmente a danno di alcune attrici e cantanti famose, come Daisy Ridley, Gal Gadot, Emma Watson, Ariana Grande, Katy Perry, Taylor Swift o Scarlett Johansson.

Tuttavia, a causa del diffondersi si applicazioni e siti che consentono, anche agli utenti meno esperti, di realizzare in pochi passi dei video deepfake, il fenomeno del deepfake porn si è diffuso anche in danno di persone comuni, per lo più donne. Le immagini così realizzate sono state spesso diffuse in rete, per mettere in imbarazzo la vittima specialmente tra la cerchia dei suoi contatti più frequenti (colleghi, amici, conoscenti).

Il danno all’immagine ed alla dignità delle vittime può essere in questo caso elevatissimo e potenzialmente irreparabile.

Per questo motivo, le autorità pubbliche di tutti i Paesi stanno adottando provvedimenti repressivi contro i servizi che consentono di realizzare questo genere di contenuti senza il consenso delle persone interessate.

Ad esempio, il Garante della Privacy italiano ha avviato nell’ottobre 2020 un’indagine nei confronti di Telegram (fonte), accusata di favorire, attraverso la sua piattaforma, la diffusione di servizi, come “DeepNude”, in grado creare immagini deepfake senza indumenti delle donne ritratte in una foto.

Cosa si rischia a creare e diffondere contenuti deepfake porn?

La creazione e la diffusione di deepfake porn è un fatto particolarmente odioso che, se commesso, può essere ricondotto a reati particolarmente gravi.

  • Se le immagini sono realizzate con lo scopo di ledere la reputazione della persona offesa, può configurarsi il reato di diffamazione aggravata (art. 586, co. 3 c.p.): si rischia la reclusione da sei mesi a tre anni.
  • Se i contenuti sono realizzati a partire da immagini o video a contenuto sessualmente esplicito trasmessi o sottratti alla vittima e destinati a rimanere privati, può trovare applicazione il reato di “revenge porn” (art. 612-bis c.p.), punito con la reclusione da uno a sei anni.
  • Se i contenuti sono realizzati usando, in tutto o in parte, immagini di minori, allora può configurarsi il reato di pornografia virtuale (art. 600 quater.1 c.p.), punito con la reclusione da quattro a otto anni.
  • Qualora la creazione di questi contenuti non sia a scopo strettamente personale (ma sia destinata, ad esempio, alla diffusione su internet), possono inoltre trovare applicazione le sanzioni previste dall’art. 83 del GDPR (Regolamento UE n. 2016/679 sulla protezione dei dati personali), che possono arrivare, nei casi più gravi, fino a 20 milioni di euro.

Infine, la creazione e la diffusione di contenuti di deepfake porn costituisce una lesione dell’immagine della vittima e della sua dignità personale. La persona danneggiata può citare in giudizio il responsabile e chiedere il risarcimento dei danni patrimoniali e morali subiti (vedi anche questo nostro articolo sul furto del profilo social).

Insomma, anche se a volte può sembrare un gioco, la creazione di contenuti deepfake può portare a conseguenze particolarmente gravi, nel mondo reale, sia per la vittima, che per la persona che le realizza.