Seguro que has oído hablar de los deepfakes, la pregunta es: ¿sabes qué son realmente? Porque es algo cada vez más común... y más peligroso. Porque la tecnología para crearlos es cada vez más sofisticada, pero también más accesible, lo que facilita que cualquiera pueda usarla y que cualquiera seamos víctimas de ellos.
Si quieres saber qué es un deepfake y cómo averiguar si el contenido que te han enviado es verdadero o falso, no tienes más que seguir leyendo...
Qué es
▣ El término deepfake tiene su origen en el concepto deep learning (aprendizaje profundo) + fake (falso), que utiliza para la creación de contenido audiovisual engañoso generado con inteligencia artificial. La traducción en español sería algo así como ultrafalsificación, ultrafalso o ultrafalseado.
Para qué se usa
▣ Se usa para suplantar la identidad de alguien a partir de la recopilación de datos como su fisionomía, sus movimientos y su voz. Esos datos se procesan con un algoritmo de codificación de inteligencia artificial o una Red Generativa Antagónica (GAN) y con ellos se genera un contenido audiovisual falso, pero que parece (muy) real.
▣ Un contenido ultrafalsificado puede tener la inocente finalidad del entretenimiento, pero lo habitual que es que se use para estafar, engañar o desinformar. Robo de identidad, saltarse identificación biométrica, fraude, dañar la reputación de individuos o compañías (vídeos porno o comprometidos), extorsión, difusión de noticias falsas o manipulación social...
Cómo detectar un deepfake
▣ Hay herramientas para detectar archivos ultrafalsos, por supuesto, pero el ser humano es probablemente la más certera... y económica. Al fin y al cabo, las personas contamos con nuestros sentidos y nuestra intuición, algo de lo que la tecnología carece. Aunque lo que sería realmente eficiente es utilizar las herramientas pero dejando el análisis para el humano.
▣ El primer método para defenderte de este tipo de engaños es ser saludablemente paranoico y dudar de cualquier imagen o vídeo que te llegue y que no hayas solicitado, independientemente de que la fuente te parezca fiable.
▣ Verificar la fuente a través de la que te llega el archivo es recomendable, aunque no es infalible, porque puede que esa fuente haya caído en el engaño y haya distribuido el contenido sin mala intención.
▣ Ten en cuenta la duración. Elaborar un archivo falsos lleva tiempo y esfuerzo, por lo que suelen ser cortos.
▣ Analiza si ese archivo multimedia te resulta extraño, aunque no identifiques conscientemente el motivo. Piensa que la inteligencia artificial no es capaz (todavía) de emular de forma completa y consistente a un ser humano. Por eso cuando vemos una imagen de una persona generada por una IA nos genera emociones negativas (el valle inquietante).
▣ Comprueba si el tamaño de la cara y del resto de cuerpo concuerdan, porque en muchos casos se limitan a superponer el rostro en otro cuerpo, y la incongruencia entre ambos es perceptible.
▣ Hablando de rostros, presta atención a la línea entre cara y cuello, porque si la imagen es falsas, es probable que veas una transición extraña.
▣ Fíjate en la piel. No debería ni demasiado lisa ni demasiado arrugada, sino la que correspondería con el aspecto general, el pelo, los ojos...
▣ Si la persona tiene lunares, analiza si parecen naturales, en lugar de pintados.
▣ Valora si el pelo o el vello facial son realistas o parecen falsos.
▣ El parpadeo de los ojos es otro de los detalles en los que deberías fijarte. Si el parpadeo es inexistente, es excesivo o inconsistente, es probable que el vídeo sea falso.
▣ Si la persona está lo suficientemente cerca de la cámara, analiza si la dilatación de las pupilas es normal. Ya sabes cómo funciona esto. Se dilatan cuando hay poca luz, cuando hay alguien que nos atrae, si estamos interesados en algo, si estamos concentrados, cuando tenemos miedo, ... Y se contraen cuando la iluminación es intensa, si algo no nos gusta, cuando estamos contrariados o tristes...
▣ Analiza también si los reflejos en los ojos, porque los algoritmos no siempre son capaces de crearlos de forma convincente.
▣ Fíjate en las sombras y los reflejos de las superficies que haya en la imagen para comprobar si son naturales y consistentes.
▣ El detalle del interior de la boca también es algo en lo que poner atención. La lengua o los dientes no son fáciles de replicar, así que pueden ser señal de que el vídeo o la imagen son falsos.
▣ Los pendientes también pueden darte alguna pista. Si no parecen salir de los agujeros de las orejas, si son diferentes o si cuelgan de forma extraña, malo...
▣ Otro punto a tener en cuenta son las gafas. Si los reflejos no son coherentes o si las formas de los cristales son diferentes, evidentemente hay truco.
▣ En caso de que se trate de un vídeo con audio, tanto si se ha alterado uno de ellos o ambos, es probable que no estén bien sincronizados, por lo que habrá un desfase entre el movimiento de la boca y lo que supuestamente está diciendo.
▣ Los audios falsos son fácilmente identificables, porque el discurso es más plano que el humano, puesto que carecerá de emociones. Por otra parte, no habrá las pausas normales que hace un humano para respirar, ni se oirán los sonidos de inspiración y espiración que emite cualquier persona. Y también es importante que prestes atención al ruido de fondo, porque puede que no haya ninguno, cuando debería haberlo; o que haya demasiado, cuando no es lo esperable. Cualquier detalle que sea antinatural, puede ser un signo evidente de engaño.
▣ Presta atención a todas las personas que haya en la imagen. ¿Todas ellas tienen un brillo, textura, tamaño y color coherentes entre sí? Si no es así, es posible que alguna de esas personas se hayan añadido a imágenes ya existentes.
▣ Mira el fondo, si no es natural, está distorsionado o lo que hay en él está deformado, es muy posible que se trate de un deepfake.
Estos son consejos básicos para detectar contenido ultrafalsificado, aunque los dos más efectivos son observar con escepticismo cualquier contenido que te llegue y usar (y abusar) del sentido común.
Post relacionados:
Qué Es el Vishing y cómo Protegerte
Cómo Detectar una Noticia Falsa... O al Menos Intentarlo
Para qué Usan los Perfiles Falsos y cómo Detectarlos
Mucho Ojo con las Estafas en Internet
Qué Son las Estafas del Amor y cómo Protegerte
La primera vez que apareció el post Así Puedes Detectar un Deepfake fue en el blog de Todos Somos Clientes.
Así puedes detectar un deepfake by 1 de N Tecnologías de la Información - Arancha Moreno is licensed under CC BY-NC-ND 4.0
Entradas
