China se ha convertido en el primer país en poner en marcha una regulación legal para los deepfakes.
El 10 de enero de 2023 la Administración del Ciberespacio de China (CAC) puso en marcha una nueva normativa sobre los deepfakes.
Esta nueva normativa ha causado gran interés a nivel internacional por la necesidad ya evidente de que existiera una regulación legal para este fenómeno potencialmente peligroso.
¿Qué son los deepfakes?
Si aún no estás familiarizado con el significado de este término, no te preocupes. Te explicaremos de forma breve qué son los deepfakes y por qué China ha decidido establecer una regulación legal con respecto al tema.
Se conoce como deepfake a un audio, video o imagen que se genera para simular ser algo o alguien que no es.
De hecho, su imitación es tan convincente que incluso son capaces de engañar a los algoritmos y a los usuarios humanos.
El término proviene del acrónimo en inglés formado por deep learning y fake. Su traducción al español sería “falso aprendizaje profundo”, aunque suele abreviarse como “ultrafalso”.
Son generados por una Inteligencia Artificial (IA) en tiempo real. Suelen usarse de forma lúdica como filtros divertidos de realidad aumentada. Sin embargo, pueden tener un trasfondo oscuro que han conducido a su regulación legal.
Para que entiendas un poco mejor la capacidad de esta tecnología, te contamos que funcionan con el aprendizaje profundo y las redes adversariales generales (GAN).
Estas redes neuronales tienen una relación de crecimiento y competencia mutua. Una genera una imagen y la otra debe evitar ser engañada. En el proceso ambas redes aprenden y se perfeccionan creando un resultado increíble.
La idea es que esta tecnología “entrena” arduamente para engañar a la perfección.
Si bien al principio se requería de un volumen considerable de información para crear una “copia” de una persona, actualmente la tecnología ha sido mejorada para realizar su trabajo a partir de un breve audio o video de la persona a imitar.
¿Por qué China decide regular legalmente a los deepfakes?
Como comprenderás, esta herramienta inteligente y divertida puede ser usada para suplantar la identidad de alguna persona de forma convincente.
De hecho, ya ha sucedido. En abril de 2018 Buzzfeed publicó un video en el que se pueden ver a “Barack Obama” y “Jordan Peele”. Se trataba de un deepfake, pero causó gran confusión en buena parte de los receptores.
Este es el ejemplo más conocido, pero es solo uno de los peligros que entrañan los deepfakes. Estamos hablando del fraude en línea, la suplantación o la porno venganza.
Es precisamente la capacidad que tiene para suplantar a una persona de forma audiovisual lo que es capaz de engañar a los receptores humanos o robóticos.
De hecho, un grupo de investigadores de la Universidad de Sungkyunkwan demostró en 2021 que la mayoría de las aplicaciones de reconocimiento facial pueden ser burladas por los deepfakes.
Aún más preocupante resulta el dato revelado por el equipo de investigación de Ámsterdam Deeptrace en su Reporte de Deepfake. Ellos descubrieron que el 96% de los deepfakes en video analizados correspondían a videos pornográficos.
Datos preocupantes que dan paso libre a la extorsión y el chantaje de la víctima. Todo esto sin hablar de su posible uso en fraudes financieros o suplantación de personajes públicos.
El 21 de abril de 2021 el EU Observer informó de una conversación telefónica entre la Comisión de Asuntos Exteriores del Parlamento de Holanda y un político ruso de la oposición.
Sin embargo, el político ruso no era más que un deepfake en formato de voz. Sin dudas, de no haber sido detectado, pudo haber generado desinformación política.
Si la información es poder entonces los deepfakes son un arma potente en la era digital y China ya ha comenzado a tomar medidas legales.
¿Cómo China se convierte en pionera en la normativa de los deepfakes?
La agencia de prensa Reuters informó que hace unos meses varias empresas tecnológicas como Twitter y Google recibieron un aviso para combatir la publicación de los deepfakes.
Por otra parte, la Unión Europea ha informado que establecerá multas de hasta un 6% de la facturación total para quienes no cumplan con esta norma. Pero la Administración del Ciberespacio de China ha tomado la delantera.
El gigante asiático ha implementado una nueva regulación legal para los deepfakes y las noticias falsas. La nueva normativa entró en vigor el martes, 10 de enero de 2023.
¿Qué puntos clave tiene la nueva regulación de los deepfake en China?
Estos son los puntos más importantes de la nueva normativa que ha establecido la CAC para los deepfakes:
- Se le pedirá conformación de consentimiento a los usuarios para que su imagen pueda ser utilizada en cualquier tecnología de síntesis y aprendizaje profundo.
- Las herramientas que prestan servicios de síntesis profunda no deben, bajo ningún concepto, usar esta tecnología para propagar noticias falsas o “fake news”
- Se le requerirá a las herramientas que presten servicios de deepfake deberán autenticar la identidad del usuario que las use.
- Todo contenido resultante de la síntesis profunda debe contar con una notificación para que los receptores sepan que el resultado ha sido alterado mediante la tecnología.
- Está prohibido que los contenidos contraríen las leyes que prevalecen o pongan en peligro la integridad e intereses de la nación. Ningún contenido puede dañar la imagen de China o su economía.
Algunos analistas apuntan que la implementación de esta ley busca proteger la imagen de algunos líderes políticos.
Aunque el tema está causando polémica, expertos en política tecnológica aseguran que esta medida “ilustra que las autoridades chinas están tratando de abordar difíciles problemas de contenido en línea de una manera que pocos países están empleando”.