Esta tecnología deepfake que permite alterar rasgos de una persona supone una vulneración contra algunos derechos fundamentales.
El deepfake o manipulación digital es una tecnología que hace uso de la Inteligencia Artificial (AI) alterando aspectos como el rostro, la voz u otros rasgos propios de una persona.
Su término proviene del inglés deep learning (aprendizaje profundo) y fake (falso). Desde su creación ha causado cierta polémica desde el punto de vista jurídico debido a su alteración de la realidad y a la digitalización de seres humanos.
Y es que esta tecnología se hizo conocida por la edición de vídeos existentes usando la imagen de personas célebres. Modificaba su cara, voz o gestos con el propósito de que parezca que dice o hace algo diferente al vídeo original.
Esto resulta controvertido desde la legalidad ya que vulnera derechos como la imagen, la honra, el buen nombre o el habeas data (derecho que tiene cada persona de conocer, corregir y actualizar aquella información que tenga que ver con ella).
Vulneración de derechos
Cabe destacar que esta tecnología la puede utilizar cualquier persona, debido a que existen varias aplicaciones gratuitas con las que se puede hacer deepfake. No es necesario tener conocimientos informáticos para hacer uso de ella. Sin embargo, es necesario saber que con esto se están vulnerando ciertos derechos como al honor y a la propia imagen.
Estos derechos se consideran fundamentales y están recogidos en el artículo 18 de la Constitución Española. También están regulados en la “Ley Orgánica 1/1982 (LO), de 5 de mayo, sobre protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen”. De hecho, el artículo 7 de la LO 1/1982 es aplicable a este tema.
Los peligros del deepfake
A pesar de que los deepfakes se han presentado en los últimos meses como vídeos que pretenden ser graciosos, también han sido utilizados por cibercriminales con propósitos poco lícitos. Algunos ejemplos son el intento de transferencia de fondos o pérdidas de miles de dólares, lo cual pone en riesgo la imagen de las instituciones. Para ello, la técnica utilizada es la suplantación de la identidad de la persona a la que quieren atacar.
Además, expertos aseguran que este tipo de ciberataques serán cada vez más frecuentes debido al bajo coste -o en ocasiones, inexistente- de las aplicaciones utilizadas. Destacan que solo son necesarios tres segundos de audio para empezar una suplantación básica con deepfake. Este aspecto es relevante debido a la cantidad de imágenes y audios que se comparten a día de hoy a través de las redes.
A pesar de que no hay una tecnología que pueda combatir al deepfake, cada vez se es más consciente del peligro que esto supone. Por eso, la UNICRI (Instituto Interregional de Investigación sobre Justicia y Crimen de las Naciones Unidas) ha pedido a las naciones europeas que actúen para evitar los peligros de esta tecnología.
Las mujeres son las más afectadas
A pesar de que los personajes públicos son los más afectados por esta tecnología, las mujeres son las que más consecuencias están viviendo. En sus orígenes, el hacker que inventó y popularizó este tipo de aplicaciones subía vídeos porno editados donde sustituía las caras de las actrices por las de famosas
Pero esta tecnología no afecta solo a las famosas. Un estudio de Deeptrace expone que en 2019 se publicaron más de 15.000 vídeos deepfake, de los cuales el 96% eran pornográficos (es decir, 14.400 vídeos).
El caso de Facebook
Grandes empresas como Facebook tratan de combatir contra esta nueva tecnología a través de estrategias como «The Deepfake Detection Challenge». Esta organización unió a distintos organismos con el fin de identificar estas manipulaciones digitales y acabar con ellas.
Para ello, creó una base de datos que recopila información de todos los participantes y se ofreció una compensación monetaria para las personas que fuesen capaces de detectar deepfakes. Fue una competición donde más de dos mil participantes trataron de combatir esta nueva tecnología entre octubre de 2019 y mayo de 2020.
Entre las organizaciones que participan destacan WITNESS, Microsoft y algunas organizaciones civiles, académicas y tecnológicas.
