En un mundo cada vez más digitalizado, la capacidad para diferenciar entre lo real y lo falso se está volviendo más difícil, especialmente con los avances de la inteligencia artificial y el surgimiento de peligrosas técnicas de falsificación como los ‘deepfakes’.
Según un reciente estudio de la firma de seguridad informática Kaspersky, el 63 % de los colombianos no sabe qué es un deepfake, lo que los deja más expuestos a ser víctimas de fraudes y desinformación. Este preocupante hallazgo revela un alto nivel de desconocimiento sobre una tecnología que está ganando terreno en la manipulación digital y que podría tener serias implicaciones para la seguridad digital en la región.
¿Qué es un deepfake?
Los deepfakes son contenidos multimedia creados mediante inteligencia artificial, capaces de generar imágenes, videos, audios y textos falsos con un grado de realismo tan alto que resulta difícil distinguirlos de los originales.
Esta tecnología, que utiliza técnicas avanzadas de aprendizaje profundo como redes neuronales y redes generativas adversarias (GAN), puede hacer que una persona parezca decir o hacer algo que nunca hizo en realidad. De hecho, importantes figuras internacionales como Vladimir Putin, Elon Musk y Donald Trump han sido víctimas de los deepfakes, en videos donde se les ve asaltando establecimientos y siendo arrestados con la imagen de su rostro sobrepuesto sobre otras personas.
Esta técnica ha sido utilizada en películas de Hollywood, pero también ha servido a personas inescrupulosas para hacer montajes con otras finalidades. Por causa del deepfake, famosos de la talla de Gal Gadot, Daisy Ridley, Scarlett Johansson y Jacob Elordi, entre muchos otros, han aparecido falsamente en videos sexuales y explícitos.
Desafíos y riegos del deepfake
Esto plantea serios desafíos en términos de seguridad digital y desinformación, especialmente en América Latina, donde el 70% de los usuarios de internet desconoce la existencia de los deepfakes, según la encuesta “La infodemia y su impacto en la vida digital” realizada por Kaspersky en colaboración con CORPA.
La falta de conocimiento sobre los deepfakes no solo es alarmante en Colombia, sino en toda la región. El estudio reveló que países como Perú (75 %), México y Chile (72 %), y Argentina (67 %) también muestran altos niveles de desconocimiento sobre esta tecnología. Este panorama es preocupante, ya que la falta de conciencia sobre los deepfakes podría facilitar el éxito de tácticas de ingeniería social y fraude que utilizan esta tecnología para engañar a las personas y extraer información personal valiosa.
Pero el desconocimiento no es el único problema. Incluso entre aquellos que están al tanto de la existencia de los deepfakes, la capacidad para reconocerlos es baja. El estudio muestra que el 67 % de los latinoamericanos no puede identificar cuándo un video ha sido manipulado digitalmente. En Colombia, esta cifra asciende al 72 %, lo que sitúa al país como el más vulnerable en la región en términos de detección de deepfakes, seguido por Brasil (71 %) y Chile (70 %).
Los riesgos asociados con el uso indebido de los deepfakes son numerosos y variados. Desde la creación de perfiles falsos en plataformas profesionales para realizar estafas y robar información personal, hasta la manipulación de videos para desacreditar a figuras públicas o empresarios, el potencial de daño es considerable.
Además, los deepfakes pueden ser utilizados para burlar sistemas de seguridad que utilizan contraseñas biométricas, como el reconocimiento facial o de voz, lo que añade una capa adicional de amenaza a la integridad de los usuarios.
Dmitry Bestuzhev, director del Equipo de Investigación y Análisis para América Latina en Kaspersky, advierte que el abuso de la tecnología deepfake tiende a volverse cada vez más imperceptible. Aunque la inteligencia artificial aplicada a expresiones faciales no es intrínsecamente maliciosa y tiene usos legítimos en la industria del entretenimiento, su proliferación sin control podría llevar a consecuencias graves.
Así las cosas, la falta de conocimiento y la dificultad para detectar deepfakes son problemas serios que requieren atención urgente en Colombia y el resto de América Latina. A medida que la tecnología avanza, es crucial que los usuarios se eduquen sobre las nuevas formas de manipulación digital para protegerse de posibles fraudes y desinformación. Sin una comprensión adecuada de los riesgos, el país y la región podrían estar en riesgo de convertirse en un campo de cultivo para el engaño digital.
¿Cómo reconocer los deepfakes?
De acuerdo con la empresa de tecnología, Telefónica, detectar deepfakes se vuelve cada vez más difícil, ya que los rostros generados digitalmente son casi indistinguibles de los reales y, a menudo, más confiables. Sin embargo, aún hay algunas formas de identificarlos como: prestar atención al parpadeo anormalmente bajo, inconsistencias entre rostro y cuerpo, videos cortos, audio que no coincide, y desenfoques en la boca. Además, detalles como sombras, vello facial poco realista o piel anormal pueden delatar un deepfake.
Para verificaciones más precisas, se recomienda utilizar software especializado, aunque la mejor defensa sigue siendo el criterio y la desconfianza ante contenido sospechoso, como ver personajes muy famosos solicitando o recaudando dinero por motivos o para causas poco claras o creíbles.