Así Puedes Detectar un Deepfake

Seguro que has oído hablar de los deepfakes, la pregunta es: ¿sabes qué son realmente? Porque es algo cada vez más común... y más peligroso. Porque la tecnología para crearlos es cada vez más sofisticada, pero también más accesible, lo que facilita que cualquiera pueda usarla y que cualquiera seamos víctimas de ellos.

 

Si quieres saber qué es un deepfake y cómo averiguar si el contenido que te han enviado es verdadero o falso, no tienes más que seguir leyendo...

 

Qué es 

 

▣ El término deepfake tiene su origen en el concepto deep learning (aprendizaje profundo) + fake (falso), que utiliza para la creación de contenido audiovisual engañoso generado con inteligencia artificial. La traducción en español sería algo así como ultrafalsificación, ultrafalso o ultrafalseado.

 

Para qué se usa

 

▣ Se usa para suplantar la identidad de alguien a partir de la recopilación de datos como su fisionomía, sus movimientos y su voz. Esos datos se procesan con un algoritmo de codificación de inteligencia artificial o una Red Generativa Antagónica (GAN) y con ellos se genera un contenido audiovisual falso, pero que parece (muy) real.

 

▣ Un contenido ultrafalsificado puede tener la inocente finalidad del entretenimiento, pero lo habitual que es que se use para estafar, engañar o desinformar. Robo de identidad, saltarse identificación biométrica, fraude, dañar la reputación de individuos o compañías (vídeos porno o comprometidos), extorsión, difusión de noticias falsas o manipulación social... 

 

Cómo detectar un deepfake

 

▣ Hay herramientas para detectar archivos ultrafalsos, por supuesto, pero el ser humano es probablemente la más certera... y económica. Al fin y al cabo, las personas contamos con nuestros sentidos y nuestra intuición, algo de lo que la tecnología carece. Aunque lo que sería realmente eficiente es utilizar las herramientas pero dejando el análisis para el humano.

▣ El primer método para defenderte de este tipo de engaños es ser saludablemente paranoico y dudar de cualquier imagen o vídeo que te llegue y que no hayas solicitado, independientemente de que la fuente te parezca fiable.

 

▣ Verificar la fuente a través de la que te llega el archivo es recomendable, aunque no es infalible, porque puede que esa fuente haya caído en el engaño y haya distribuido el contenido sin mala intención. 

 

▣ Ten en cuenta la duración. Elaborar un archivo falsos lleva tiempo y esfuerzo, por lo que suelen ser cortos. 

 

▣ Analiza si ese archivo multimedia te resulta extraño, aunque no identifiques conscientemente el motivo. Piensa que la inteligencia artificial no es capaz (todavía) de emular de forma completa y consistente a un ser humano. Por eso cuando vemos una imagen de una persona generada por una IA nos genera emociones negativas (el valle inquietante). 

 

▣ Comprueba si el tamaño de la cara y del resto de cuerpo concuerdan, porque en muchos casos se limitan a superponer el rostro en otro cuerpo, y la incongruencia entre ambos es perceptible.  

 

▣ Hablando de rostros, presta atención a la línea entre cara y cuello, porque si la imagen es falsas, es probable que veas una transición extraña. 

▣ Fíjate en la piel. No debería ni demasiado lisa ni demasiado arrugada, sino la que correspondería con el aspecto general, el pelo, los ojos...

▣ Si la persona tiene lunares, analiza si parecen naturales, en lugar de pintados. 

▣ Valora si el pelo o el vello facial son realistas o parecen falsos.

 

▣ El parpadeo de los ojos es otro de los detalles en los que deberías fijarte. Si el parpadeo es inexistente, es excesivo o inconsistente, es probable que el vídeo sea falso.  

▣ Si la persona está lo suficientemente cerca de la cámara, analiza si la dilatación de las pupilas es normal. Ya sabes cómo funciona esto. Se dilatan cuando hay poca luz, cuando hay alguien que nos atrae, si estamos interesados en algo, si estamos concentrados, cuando tenemos miedo, ... Y se contraen cuando la iluminación es intensa, si algo no nos gusta, cuando estamos contrariados o tristes... 

 

▣ Analiza también si los reflejos en los ojos, porque los algoritmos no siempre son capaces de crearlos de forma convincente.  

▣ Fíjate en las sombras y los reflejos de las superficies que haya en la imagen para comprobar si son naturales y consistentes. 

 

▣ El detalle del interior de la boca también es algo en lo que poner atención. La lengua o los dientes no son fáciles de replicar, así que pueden ser señal de que el vídeo o la imagen son falsos. 

▣ Los pendientes también pueden darte alguna pista. Si no parecen salir de los agujeros de las orejas, si son diferentes o si cuelgan de forma extraña, malo...

▣ Otro punto a tener en cuenta son las gafas. Si los reflejos no son coherentes o si las formas de los cristales son diferentes, evidentemente hay truco.

 

▣ En caso de que se trate de un vídeo con audio, tanto si se ha alterado uno de ellos o ambos, es probable que no estén bien sincronizados, por lo que habrá un desfase entre el movimiento de la boca y lo que supuestamente está diciendo.  

 

▣ Los audios falsos son fácilmente identificables, porque el discurso es más plano que el humano, puesto que carecerá de emociones. Por otra parte, no habrá las pausas normales que hace un humano para respirar, ni se oirán los sonidos de inspiración y espiración que emite cualquier persona. Y también es importante que prestes atención al ruido de fondo, porque puede que no haya ninguno, cuando debería haberlo; o que haya demasiado, cuando no es lo esperable. Cualquier detalle que sea antinatural, puede ser un signo evidente de engaño. 

▣ Presta atención a todas las personas que haya en la imagen. ¿Todas ellas tienen un brillo, textura, tamaño y color coherentes entre sí? Si no es así, es posible que alguna de esas personas se hayan añadido a imágenes ya existentes. 

 

▣ Mira el fondo, si no es natural, está distorsionado o lo que hay en él está deformado, es muy posible que se trate de un deepfake.  

Estos son consejos básicos para detectar contenido ultrafalsificado, aunque los dos más efectivos son observar con escepticismo cualquier contenido que te llegue y usar (y abusar) del sentido común.

Post relacionados: 

Qué Es el Vishing y cómo Protegerte

Cómo Detectar una Noticia Falsa... O al Menos Intentarlo

Para qué Usan los Perfiles Falsos y cómo Detectarlos

Mucho Ojo con las Estafas en Internet

Qué Son las Estafas del Amor y cómo Protegerte

 

La primera vez que apareció el post Así Puedes Detectar un Deepfake fue en el blog de Todos Somos Clientes.

Así puedes detectar un deepfake by 1 de N Tecnologías de la Información - Arancha Moreno is licensed under CC BY-NC-ND 4.0

Atención a las Estafas de Suplantación de Voz

¿Has oído hablar de las estafas de suplantación de voz o deepfakes de audio? Pues aunque parezca algo salido de una novela ciberpunk, lo cierto es que es algo cada vez más frecuente y que puede afectarnos a cualquiera de nosotros.

 

Si quieres saber qué son las estafas de suplantación de voz y cómo defenderte de ellas, o al menos intentarlo, no tienes más que seguir leyendo. 

Qué es una estafa de suplantación de voz

▣ Para llevar a cabo esta práctica los ciberdelincuentes utilizan la inteligencia artificial para generar voces que suenan muy parecidas o incluso iguales a las de personas que conoces bien, como familiares, amigos o incluso a la de la persona que te suele atender habitualmente en tu banco. 

 

▣ Una vez que son capaces de replicar la voz de alguien conocido, se ponen en contacto con la persona a la que quieren estafar para conseguir lo que desean, desde que haga un pago más o menos sustancioso hasta que facilite claves de acceso o envíe algún tipo de información confidencial o especialmente sensible. 

▣ También se puede utilizar esta técnica para generar desinformación, publicando audios falsos, que supuestamente parten de una persona de prestigio o que genere confianza. Incluso se puede emplear para difamar a ciertas personas, haciendo creer que han dicho determinadas cosas inapropiadas o delictivas.

▣ Esta técnica se está utilizando para estafar a profesionales y empresas, pero también a particulares, por lo que ninguno estamos a salvo de sufrirla. 

 

 

Cómo lo hacen 

▣ Únicamente necesitan un pequeño fragmento de audio con tu voz para proceder a replicarla. Con apenas 9 segundos ya serían capaces de generar una voz bastante similar, y son 30 segundos ya puedes conseguir una réplica de buena calidad. 

▣ Se utiliza inteligencia artificial para analizar el original, encontrando sus características propias como la edad, el género, el acento, el tono... Partiendo de esto buscan en las bases de datos de audios aquellas voces parecidas, y con ellas consiguen replicar el original. De hecho, cada vez estas suplantaciones de voz son más sofisticadas y realistas, llegando incluso a engañar a los bancos que utilizan biometría de voz cuando atienden a sus clientes.

▣ Ten presente que generar voces de forma artificial no es tan difícil ni tan caro como parece. De hecho, hay empresas y herramientas dedicadas a ello de forma legítima, puesto que hay clientes que las adquieren para trabajos en los que necesitan una voz (anuncios, presentaciones, vídeos, etc.) y prefieren que sea generada por IA antes que por un humano. Y con algo de conocimientos y alguna que otra herramienta, podría hacerlo uno mismo.

Cómo detectar una estafa de este tipo

 

▣ Desconfía saludablemente de todas las llamadas inesperadas o extrañas.

 

▣ Fíjate siempre el número del que procede la llamada. Si no es el habitual, estate alerta.

 

▣ Presta atención a la forma de expresarse de la persona que llama, su entonación, los giros o las muletillas. Todos tenemos nuestra particular forma de hablar, por lo que cualquier conversación que no encaje con ella debería hacerte sospechar.  

▣ Fíjate en la continuidad del discurso. Si hay silencios cuando no debería o son más numerosos de los que la persona suele hacer cuando habla, deberías sospechar. Igual que si cuando haces preguntas tarda más de la cuenta en responder. 

▣ Analiza cualquier petición que te haga un supuesto conocido. Si no tiene lógica, puede ser una mala señal.

 

▣ Desconfía por defecto de cualquier llamada, aunque parezca proceder de alguien conocido, en la que te pidan dinero. 

 

▣ En algunos casos utilizan estas técnicas para simular un secuestro. Ante una llamada en la que te digan que alguien cercano ha sido secuestrado y te pongan su voz como prueba, lo primero que debes hacer es tranquilizarte, no entrando en pánico. Lo siguiente es intentar localizar a tu familiar, porque en su inmensa mayoría no le ha ocurrido nada. Y después llama a la policía, tanto si tienes la sospecha de que realmente ha sido secuestrado como si es una mera estafa.  

 

Cómo defenderte

 

▣ Lo primero que debes hacer es prevenir, y ello pasa por no dejar ningún audio con tu voz disponible en Internet. Vídeos o comentarios con audio pueden ser utilizados para clonar tu voz. Evidentemente si generas contenidos en los que tu voz sea imprescindible, no podrás evitarlo. 

 

▣ En algunos casos te harán una llamada telefónica con cualquier excusa para grabar tu voz. Mi consejo es que estés atento a cualquier llamada y que, si no conoces a tu interlocutor, procures hablar lo menos posible y que contestes preferiblemente con monosílabos o frases muy cortas. 

 

▣ No facilites información innecesaria en Internet (nombre completo, documento de identificación, dirección, email, teléfono y otros datos personales), puesto que pueden utilizarla para crear un perfil más creíble cuando la utilicen con otras personas haciéndose pasar por ti. 

 

▣ Si hay algo que te hace sospechar, corta la comunicación con cualquier excusa, y telefonea tú a la persona que supuestamente se ha puesto en contacto contigo, pero hazlo al contacto de tu agenda, no devuelvas la llamada al número desde el que se han puesto en contacto contigo la primera vez .Si tienes otro teléfono a mano, puedes incluso llamar a tu contacto mientras estás manteniendo la conversación con el posible estafador o enviarle un mensaje instantáneo. 

 

▣ También puedes hacer preguntas personales que únicamente conozcáis vosotros para comprobar que el interlocutor es quien afirma ser.  

Procura prestar atención a todo lo que te rodea, analiza lo que ves y lo que oyes, sé crítico, escucha a tu intuición, fórmate e infórmate. Estos son los secretos para intentar luchar contra las estafas, y digo intentar, porque ninguno estamos completamente a salvo de caer en ellas. 

 

Post relacionados:

Estafas Comunes en WhatsApp y Cómo Evitarlas 

Qué es el Smishing y Cómo Protegerte de Esta Amenaza 

Qué Es el Vishing y Cómo Protegerte 

Códigos QR: Consejos para Evitar que Te Estafen

Consejos Básicos para Protegerte del Ransomware

 

La primera vez que apareció el post Atención a las Estafas de Suplantación de Voz fue en el blog de Todos Somos Clientes.

Atención a las estafas de suplantación de voz by 1 de N Tecnologías de la Información - Arancha Moreno is licensed under a Creative Commons Reconocimiento-NoComercial-SinObraDerivada 4.0 Internacional License.