Qué son los 'deepfake' y cómo puedes identificarlos

La Inteligencia Artificial avanza a pasos agigantados. Cada vez vemos mejores creaciones y que parecen ser más reales a pesar de haber sido generadas a través de ordenador. El problema está cuando la IA se utiliza con fines no tan benéficos, como podría ser la suplantación de la identidad de otra persona.

El proceso de simular rostros, vídeos o imágenes de otras personas, ya sean ficticias o falsificaciones de las identidades de otros usuarios es conocido como deepfake o ultrafalso. Se trata de un arma cada vez más peligrosa en un mundo en el que las llamadas fake news se encuentran cada vez más presentes, pues este tipo de prácticas pueden ayudar a dar credibilidad a algo que realmente no es cierto.

Todo lo que debes saber sobre deepfake: qué es, cómo se crea y cómo puedes identificarlo

Tal y como comentábamos, el deepfake proviene de dos términos ingleses: deep learning o aprendizaje profundo, y fake o falsificación. Como resultado de esta unión, hablamos de una peligrosa técnica por medio de la cual una Inteligencia Artificial analiza multitud de parámetros con el fin de permitir crear vídeos falsos de personas que aparentemente son reales pero que, en realidad, no lo son.

Con el paso del tiempo y la mejora en las habilidades dentro del campo de la Inteligencia Artificial, ha ido siendo posible mejorar considerablemente la calidad de dichos vídeos falsos, hasta el punto de que es prácticamente imposible distinguir entre el vídeo real y el deepfake en cuestión.

En función del tipo de uso que se le quiera dar, podría decirse que existen dos tipos de deepfake. Por una parte, puede utilizarse con el fin de crear una nueva persona desde cero. Por ejemplo, si entras en la página web thispersondoesnotexist.com te encontrarás la imagen de una persona creada mediante Inteligencia Artificial, haciendo uso de la tecnología StyleGAN y una serie de algoritmos de perfeccionamiento.

Por sorprendente que pueda llegar a parecer, la persona que se muestra en la foto al acceder al sitio web jamás ha existido. En algunos casos, se adaptan rostros de otras personas cuyas imágenes aparecen en Internet, y en otros la IA ha ido poco a poco perfeccionando tanto hasta el punto de poder crear imágenes lo más fieles a la realidad posible.

Este es tan solo un ejemplo simple de lo que puede hacer el deepfake. Lo llamamos simple no por el hecho de que sea sencillo, pues la cantidad de trabajo que hay detrás de esta especie de “generador de personas” es espectacular, sino porque existe la posibilidad de animar dichas personas. Es decir, se puede crear un vídeo de una persona hablando que no exista, y con mucho trabajo perfeccionarse hasta el punto de que parezca alguien completamente real.

Por sorprendente que pueda parecer, la persona de la imagen no existe. Ha sido generada por This Person Does Not Exist y podría pasar por una persona real perfectamente

Este uso podría ser muy interesante, pero el problema llega cuando en lugar de generarse personas desde cero, se utilizan rostros ya existentes. Imagina poder juntar varias fotos de cualquier persona famosa y, juntándolas, crear una nueva imagen que realmente jamás ha existido. Se pueden cambiar poses, expresiones faciales y, en general, lo que haga falta.

A partir de aquí, resulta sencillo jugar con las voces e ir creando lo que sea necesario. Es decir, se puede generar un discurso, un baile o lo que sea necesario partiendo de imágenes de otra persona y hacer que parezca algo real. Hablamos de montajes que cada vez son más profesionales gracias al uso de la Inteligencia Artificial, y que pueden causar el pánico entre las personas famosas.

Con la perfección de los deepfakes, existe la posibilidad de crear vídeos falsos a gusto del atacante. Y, si posteriormente medios sin alta reputación que no contrastan del todo las fuentes comienzan a realizar una difusión del contenido a través de fake news, se habrá logrado influenciar a gran parte de la población. He aquí uno de los usos fraudulentos del deepfake que cada vez se está extendiendo más.

Por ejemplo, uno de los deepfake que más se difundió en España a raíz de los rumores de que la Princesa Leonor podía tener una cuenta de TikTok secreta es un pequeño clip subido a TikTok en el que supuestamente se puede ver a la Princesa bailando. Como era de esperar, el vídeo se hizo viral en la plataforma, algo lógico cuando se afirmaba que había borrado dicho vídeo ante la opinión pública.

@by.nuuria

Respuesta a @despertacion Hay que cumplir siempre #fyp #leonor #princesaleonor #royalsalseo #casareal

♬ sonido original - by.nuria

Tal y como puede apreciarse, el vídeo simula ser real. De hecho, no es fácil distinguir a la Princesa Leonor auténtica de la que aparece en el vídeo, pero según las informaciones hablamos de un deepfake en toda regla. Para poder lucir tan auténtico, lo más probable es que haya sido creado a partir de una actriz que se haya encargado de la realización del vídeo y sobre la que hayan colocado el rostro de la Princesa. Sin embargo, es tan solo una pequeña prueba de lo avanzada que puede llegar a estar la IA.

Este tipo de vídeos en si ya resultan de lo más peligrosos, pero lo cierto es que en ocasiones los atacantes pueden llegar a optar por dar un paso más, entrando en el terreno de la pornografía. Resulta posible complacer las fantasías sexuales más avanzadas de la gente realizando procedimientos muy similares a los del vídeo falso de la Princesa Leonor.

Pueden realizarse con la ayuda de actores vídeos íntimos de famosos o de cualquier persona que se desee siguiendo estas técnicas. De nuevo, si este tipo de contenidos deepfake salen a la luz y se les da una mayor repercusión por medio de fake news, puede resultar fácil arruinar la reputación de alguna persona. Es por ello que normalmente los famosos son los que más tratan de detener este tipo de prácticas.

¿Puede detectarse un deepfake? Claves para diferenciarlos de vídeos reales

En vista de este tipo de ejemplos, probablemente seas consciente de que esta técnica puede resultar peligrosa. Sabemos de sobra que no todo lo que puede encontrarse en Internet es real y que debemos desconfiar, pero dada la alta calidad de este tipo de montajes no siempre resulta fácil diferenciar. Por ejemplo, en YouTube puede encontrarse todo un discurso de Jennifer Lawrence-Buscemi que no es real, pero que diferenciarlo puede resultar prácticamente imposible:

En general, las posibilidades de detectar un deepfake varían en función de los conocimientos y los esfuerzos de su creador. A continuación te mostramos algunos aspectos en los que puedes fijarte para tratar de descubrir un vídeo falso creado a través de un deepfake, pero no es una “fórmula mágica”. Los creadores más avanzados han ido perfeccionando sus técnicas y complicando mucho más su detección por parte de los usuarios finales.

• Interior de la boca: a pesar de los avances, definir las formas de la lengua y los dientes no siempre es sencillo para la IA. A menudo, si se hace zoom es posible apreciar cierto desenfoque en el interior de la boca, especialmente en la zona de la lengua.
• Parpadeo de los ojos: habitualmente las personas parpadean al menos una vez cada 8 segundos, pudiéndose aumentar esto siempre pero normalmente no disminuir. Puedes fijarte bien en los ojos de cualquier vídeo y, si es un deepfake, es probable que no parpadee o que lo haga cada más tiempo.
• Audio y vídeo que no acaban de encajar: por norma general, en los deepfake se genera por una parte la imagen y por otra el audio que la acompaña. Por este mismo motivo, la sincronización entre el audio y el vídeo es mucho más propensa a fallar.
• Cara y cuerpo que no encajan: normalmente, para crear un deepfake lo más profesional posible, se escoge un actor para el cuerpo y se le añade una cara generada por ordenador. Esto puede hacer que, en función del momento, la cara no acabe de encajar con el cuerpo.
• La importancia de los detalles: para poder detectar un deepfake, conviene reproducir el vídeo a una velocidad más lenta de la real. De este modo, podrás apreciar mucho mejor los detalles. La gran mayoría de las veces suele haber problemas como saltos bruscos entre fotogramas, cambios de posición inesperados o fallos con los fondos, algo que puede apreciarse mejor al reducir la velocidad de reproducción.

De esta forma, si bien es cierto que identificar un deepfake no es una tarea sencilla, por medio de los detalles anteriores será posible tener algunas pistas más, que siempre pueden venir bien en caso de dudar. En vista de los vídeos anteriores y de la abundancia de las noticias falsas, conviene que revises estos tipos de fraude antes de reproducir contenidos.