El FBI alertó sobre el aumento de ‘deepfakes’ y compartió consejos sobre cómo identificar estos engaños

Las redes sociales han venido creciendo en el mundo y son millones de seguidores los que a diario acceden a ellas tanto para buscar información como para compartir contenidos del día a día y de temas de interés.

Pero a la par de la evolución de las redes sociales y de su propagación, muchas son usadas por los delincuentes, que se aprovechan de los usuarios para robarles información personal, engañarlos y, en muchos casos, cometer ilícitos.

Por esa razón el FBI lanzó una alerta sobre el incremento de la circulación de contenido digital manipulado, o deepfake, en los próximos 12 a 18 meses.

De acuerdo con el organismo de investigación de los Estados Unidos, este tipo de material engañoso podría ser utilizado para llevar adelante diferentes ciberdelitos, tales como campañas de phishing, es decir suplantación de identidad: esto es hacerse pasar por alguien más para obtener información confidencial o robar datos.

El FBI describe al contenido manipulado como sintético y hace foco especialmente en el uso de técnicas de aprendizaje automático para el desarrollo de los conocidos deepfakes. Según el comunicado, usuarios extranjeros, como rusos y chinos, están generando perfiles falsos, realizados a partir de redes generativas antagónicas (GAN). De esta manera buscan difundir su narrativa y llevar adelante campañas de influencia.

“Desde 2017, actores desconocidos han creado `periodistas´ ficticios que generaron artículos que fueron publicados y amplificados sin saberlo por una variedad de medios impresos y en línea”, advierte el comunicado.

Según el documento, estos deepfakes podrían ser utilizados para crear contenido creíble con el objetivo de lanzar mensajes de phishing dirigidos a una persona o público en particular (spearphishing) así como para realizar ataques de ingeniería social cada vez más sofisticados.

El contenido sintético también se puede utilizar en un ataque conocido como Compromiso de identidad empresarial (BIC), que hace alusión principalmente el compromiso de las cuentas de correo electrónico corporativas para realizar operaciones financieras fraudulentas.

“El BIC implicará el uso de herramientas de generación y manipulación de contenido para desarrollar personas corporativas sintéticas o para crear una emulación sofisticada de un empleado existente”, enfatizó el FBI.

¿Cómo se indentifican los deepfakes?

Las autoridades señalaron que para poder identificar los deepfakes se debe prestar atención a ciertos indicadores visuales como distorsiones, deformaciones o inconsistencias en las imágenes y el video que pueden dar cuenta de que se trata de contenido manipulado.

Teniendo en cuenta esto, se puede identificar demasiada distancia entre los ojos, problemas de sincronización entre los movimientos de la cara y los labios, o entre los del torso y la cabeza.

También podría haber otras distorsiones en el fondo de la imagen o en la zona de los lóbulos de la oreja, que se pueden tener en cuenta.

El FBI hizo varias recomendaciones para evitar consumir contenido falso:

1. Estar alerta cuando se consuma información en línea, particularmente cuando se trata de temas sensibles.

2. Buscar fuentes de información múltiples e independientes.

3. No asumir que una persona o un individuo en línea es legítimo basándose en videos, fotografías o audios en su perfil.

4. Buscar recursos de alfabetización o resiliencia como SIFT (que son las siglas en inglés para detenerse, investigar la fuente, encontrar cobertura confiable y rastrear el contenido original) al consumir información online.

5. Utilizar la autenticación multifactorial en todos los sistemas, especialmente en redes sociales corporativas compartidas y cuentas.

6. Capacitar a los usuarios para identificar y reportar intentos de ingeniería social y phishing que pueden comprometer cuentas personales y corporativas.

7. Establecer y ejercitar planes de continuidad de las comunicaciones en las redes sociales en caso de que se comprometan las cuentas.

8. No abrir archivos adjuntos ni hacer clic en enlaces dentro de los correos electrónicos recibidos de remitentes que no se conocen.

9. No proporcionar información personal, incluidos nombres de usuario, contraseñas, fechas de nacimiento, números de seguro social, datos financieros u otra información en respuesta a consultas.

10. Tener cuidado al proporcionar información personal o corporativa confidencial de forma electrónica o por teléfono. Confirmar, si es posible, las solicitudes para información sensible a través de canales secundarios.

11. Verificar siempre la dirección de los sitios web legítimos y escribirlos manualmente en el navegador.

Recientemente, investigadores de la Universidad de Buffalo, en Estados Unidos, desarrollaron una herramienta que permite identificar automáticamente las fotos deepfake, analizando los reflejos de luz en los ojos de los usuarios.

La herramienta, según los investigadores, demostró una efectividad del 94% con imágenes similares a retratos en experimentos descritos en un documento aceptado en la Conferencia Internacional IEEE sobre Procesamiento de Acústica, Habla y Señal que se celebrará en junio en Toronto, Canadá.