Anem per parts. Què és el deepfake?

Mitjançant l’ús d’eines d’intel·ligència artificial, manipula imatges i àudios per crear muntatges extremadament realistes i pràcticament indistingibles dels reals. Amb l’objectiu d’enganyar, desinformar, difamar i escarnir a les seues víctimes. Coneguda també com a hipertrucatge o permutació intel·ligent de rostres.

I el porno deepfake?

Consisteix en la creació de vídeos pornogràfics falsos a partir de fotos i vídeos normals de persones reals. 

Ha esdevingut una nova forma de violència sexual digital amb repercussions greus sobre l’impacte emocional, la reputació i la privacitat de les seues víctimes.

Actualment, més del 90% dels hipertrucatges publicats a la xarxa, són clips pornogràfics enganyosos i no consentits. 

Precisament, aquesta setmana, hem conegut el cas de la cantant Taylor Swift que posat manifest la gravetat d’aquesta amenaça, que afecta de manera particular les dones amb projecció pública.

Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We’re closely…

— Safety (@Safety) January 26, 2024

Altres situacions similars, com la dels adolescents de l’institut d’Almendralejo de Badajoz, junt amb l’accés fàcil a eines que possibiliten la creació de deepfakes de manera senzilla i ràpida, han contribuït a una major sensibilització davant aquest tipus d’abús, en què qualsevol pot arribar a esdevenir una víctima.

Com protegir-se?

Sigues prudent i gestiona amb cura la teua presència a les xarxes. Considerant la conveniència i l’impacte de cada publicació al prestigi digital de les persones involucrades. 

Revisa les opcions de privacitat de les aplicacions i mesura l’abast d’allò que comparteixes. 

Si reps aquest tipus de contingut, informa les autoritats. En cap cas, no el comparteixis i esborra’l del teu dispositiu. 

En cas de ser-ne una víctima, denuncia-ho als Mossos d’Esquadra i als administradors de la plataforma on està allotjat el vídeo. Això ajudarà a perseguir als responsables, minimitzar els danys i eliminar-ho tan aviat com sigui possible.

En conclusió 

Mentrestant, seguim a l’espera que governs i administradors de les plataformes i serveis digitals abordin aquest problema, establint polítiques i lleis que limitin l’ús inadequat, invasiu i perjudicial de la intel·ligència artificial.

Que protegeixin la dignitat, la privadesa i els drets de les persones a l’espai digital. Això sí, sense escapçar les llibertats d’expressió i creació. En equilibri i adaptació a l’evolució de les tecnologies digitals. Et recomano el documental Another Body, disponible a Filmin, que narra la història d’una universitària, que busca justícia quan descobreix pornografia falsa d’ella mateixa circulant per la xarxa.

Més recursos

TakeItDown. Servei gratuït per evitar la propagació d’hipertrucatges amb nuesa d’imatges de menors. takeitdown.ncmec.org

Stop NCII. Suport per evitar la propagació d’imatges o hipertrucatges de nuesa no consentits de majors d’edat. stopncii.org