Deepfake: 3 peligros que acechan a jóvenes

El deepfake, una tecnología de inteligencia artificial que permite manipular videos e imágenes para crear contenido falso, ha emergido como una herramienta de doble filo.

Originalmente diseñada para fines creativos y de entretenimiento, el mal uso del deepfake ha desencadenado una serie de consecuencias preocupantes, especialmente entre los jóvenes.

Estudiantes en países como Perú y Ecuador han sido víctimas de manipulaciones de imágenes realizadas por sus propios compañeros, planteando serias preguntas sobre la ética y el impacto psicológico del deepfake.

Extorsión y Abuso: el precio del engaño del deepfake

Además de la manipulación, la extorsión se ha convertido en un uso común del deepfake, de acuerdo a la información proporcionada por la empresa de seguridad ESET.

En casos reportados en América Latina y España, imágenes manipuladas de jóvenes han sido utilizadas para extorsionar y abusar sexualmente de las víctimas.

Este fenómeno no solo viola la privacidad y la integridad de los individuos, sino que también representa un grave riesgo para su seguridad personal.

Más aún, el nivel de la tecnología del deepfake está avanzando a pasos agigantados, alcanzando niveles insospechados cada mes. ¿Podrías decir si la siguiente imagen del actor Morgan Freeman es real o un deepfake?

Aunque no lo parezca, es una imagen creada con la tecnología del deepfake.

Contenido sexual inapropiado: otra realidad preocupante del deepfake

La creación de contenido sexual inapropiado mediante el uso de deepfakes constituye un problema alarmante. Organizaciones como Internet Watch Foundation (IWF) han señalado cómo los pedófilos han utilizado esta tecnología para crear y compartir imágenes sexualizadas de menores.

Esta práctica no solo es ilegal, sino que también tiene un profundo impacto en el bienestar emocional y mental de las víctimas jóvenes.

En Latinoamérica se conocen públicamente al menos 36 víctimas menores de edad en este tipo de casos. Sin embargo, a nivel mundial ya hay denuncias de ventas de imágenes sexuales creadas con IA a través de la Internet oscura.

“Es importante aclarar que la tecnología no es el problema. La verdadera raíz está en la falta de educación digital que existe en los jóvenes. Si bien, los adolescente hoy están creciendo a la par del mundo tecnológico, es prioritaria la implementación de charlas, cursos y demás herramientas en las zonas educativas para entregar a estos niños y adolescentes buenas prácticas para el uso correcto de la IA”, dice Mario Micucci, Investigador de Seguridad informática de ESET Latinoamérica.

Deepfake: 5 recomendaciones para enfrentar posibles suplantaciones de identidad

Desde la empresa ESET, recomiendan las siguientes recomendaciones para evitar ser víctimas del deepfake:

• Cuidar lo que publicas en las redes sociales. Es importante considerar que lo que existe en la web sin protección es de uso público.
• Proteger tus cuentas. Hoy más que nunca la información está a un clic de distancia, por esto es esencial contar con perfiles privados en redes sociales para velar por la seguridad de tus datos y actividades cotidianas.
• Educación digital continua. Sin importar la edad del usuario, es imperativo el buen uso de la tecnología y evitar escenarios que puedan generar contenidos inapropiados que violenten la integridad de otra persona.
• Prestar atención al detalle es fundamental. Las imágenes creadas por la IA suelen tener pistas que las dejan al descubierto. Muchas personas no se dan cuenta de que circulan las imágenes hasta que les dice y, en algunos casos, son extorsionadas con la excusa de no difundirlas, por esto es importante mirar la fotografía para determinar si es real. En caso de no serlo, se debe denunciar a los organismos competentes.

Dicho esto, también existen algunas herramientas como Google Reverse Image Search en línea que pueden ayudar a verificar la autenticidad de imágenes y videos.

• El video no coincide con la voz. Para los creadores de deepfake es un reto que la grabación de audio coincida con los movimientos y gestos de las personas. Es importante mirar atentamente los movimientos de la boca y rostro de la supuesta persona con la que se está conversando y verificar que coincidan con lo que se está escuchando.

El peligro de los Deepfake en voz de TEC en YouTube