Tecnología

Aparece la inteligencia artificial ‘GAN’, el nuevo peligro que amenaza a usuarios de redes sociales y otras apps

Esta IA podría convertirse en un grave problema para millones de cibernautas.

11 de abril de 2023
Imagen de un mundo hipotético en donde las máquinas controlan la Tierra.
Las IA pueden ser un arma para atacar a las personas desde los espacios digitales. | Foto: Ilustración generada por IA Bing Image Creator

El auge de las tecnologías de inteligencias artificiales (IA) ha permitido el acceso a un nuevo tipo de servicios online que están diseñados para ayudar a los cibernautas a ejecutar diferentes tareas o resolver necesidades específicas.

Ejemplo de ello son los servicios como MidJourney o Bing image creator, los cuales permiten producir ilustraciones altamente realistas con solo una descripción textual que el usuario haga a la IA, o potentes chatbots como ChatGPT cuya inteligencia artificial es capaz de resolver casi cualquier pregunta e incluso brindar consejos sobre temas financieros o tips de conquista en Tinder.

Pero mientras las IA mejoran continuamente para optimizar la calidad de los servicios que brindan a la humanidad, este acelerado proceso de evolución también ha desatado preocupaciones ante los peligros que representa el uso de esas tecnologías por cibercriminales.

En el marco de esta situación, expertos en ciberseguridad han alertado sobre un nuevo tipo de ciberamenaza que usa una inteligencia artificial, específicamente un sistema de Machine Learning, para crear rostros ficticios y luego emplearlos en todo tipo de estafas o delitos.

Cada vez se hace más estrecha la interacción entre humanos e inteligencias artificiales.
Cada vez se hace más estrecha la interacción entre humanos e inteligencias artificiales. | Foto: Ilustración generada por IA Bing Image Creator

¿Qué es la Inteligencia Artificial ‘GAN’?

Según precisaron investigadores de Eset, compañía especializada en ciberseguridad, la tecnología GAN es un tipo de IA que permite generar rostros ficticios que son altamente realistas. Las redes GAN, (del inglés Generative Adversarial Network), son una serie de algoritmos basados en el Deep Learning, que hacen posible producir los rostros e incorporarlos a imágenes, audios o videos superrealistas.

El peligro con esta tecnología radica que en los criminales pueden aprovechar las capacidades de esa inteligencia artificial para producir identidades falsas de personas que no existen y utilizarlas con todo tipo de videos o fotografías en diferentes modalidades de estafas que circulan en redes sociales o WhatsApp.

De manera que esta tecnología se convierte en un recurso de gran utilidad para darle mayor credibilidad a cualquier tipo de timo, pues una gran cantidad de usuarios creerán que están viendo una imagen o video real.

De acuerdo con Camilo Gutiérrez Amaya, jefe del laboratorio de investigación de Eset Latam, la tecnología de los rostros generados con la IA GAN es de gran utilidad para la industria de los videojuegos y el cine animado, debido a que ese sistema facilita la creación de personajes con una apariencia más realista.

Sin embargo, Gutiérrez advierte que esa IA puede ser empleada fácilmente por un cibercriminal, pues solo se requiere indicarle a la IA algunos detalles sobre cómo podría ser el rostro que debe generar y el sistema se ocupará de producir diferentes opciones que poseen una apariencia altamente real.

Esta IA ha sido entrenado con 604 tareas diferentes y con distintas modalidades. Foto: Getty Images
La IA GAN puede generar rostros falsos que podrían ser usados en ciberestafas. | Foto: Getty Images

¿Cómo pueden usas la inteligencia artificial para cometer estafas?

Generar perfiles falsos

La IA GAN pueden producir imágenes o videos de personas conocidas, se pueden crear rostros falsos para armar perfiles de supuestos asesores al cliente de una empresa. De esta manera, las víctimas pueden ser engañadas con más facilidad para que entreguen datos confidenciales, usuarios y contraseñas de redes sociales, correo electrónico, cuentas de banco, tarjetas de crédito y servicios como Netflix, Paypal, entre otros.

Producir informaciones falsas

Sería posible producir videos con imágenes que pueden presentar a personas que supuestamente son reales en cualquier tipo de situación. Cabe recordar que ya se han reportado casos de deepfakes donde aparecen figuras públicas importantes en situaciones que son falsas.

Suplantación de identidad

Esta tecnología podría llegar a burlar los sistemas de reconocimiento facial, de manera que los criminales podrían robar el rostro de una persona y así contarían con una llave para acceder a ciertos servicios que utiliza la víctima.

Una inteligencia artificial ya puede imitar la voz de las personas.
Una inteligencia artificial ya puede imitar el rostro de las personas e incorporarlo a imágenes o videos. | Foto: Getty Images/iStockphoto

Fraudes en ‘apps’ de citas

Cibercriminales pueden producir rostros falsos y emplear todo tipo de videos ficticios para hacerle creer a una persona que está teniendo un contacto romántico con alguien real. Gracias a ello, el delincuente puede ganar la confianza de esa persona y luego robarle su dinero mediante las estafas que suelen usarse en las plataformas de citas online.

Consejos para evitar las estafas con imágenes y videos producidos por la IA GAN

  • Hacer búsquedas en Google Reverse Image Search de una imagen para verificar su autenticidad
  • Desconfiar de las fotos que parecen demasiado perfectas
  • Mantener los dispositivos actualizados y emplear un antivirus que pueda detectar código malicioso junto a sitios web maliciosos
  • No compartir información confidencial con otras personas