¿Qué son los deep fakes y cómo detectarlos?

Las cadenas de whatsapp que contienen información falsas ya son conocidas. Esas que apelan a transmitir información que sesgue la percepción de la realidad en las personas. Sin embargo los deep fakes son más difíciles de detectar, dado que manipulan audios, imágenes o videos con el objetivo de crear una sensación de veracidad aún mayor.

De acuerdo con Juan José López,  AI Tech Director & Lead Data Scientist de Globant, estos fakes son creados por medio de algoritmos muy poderosos que usan el “deep learning” para fusionar un video original con un montaje, por ejemplo un audio. 

Un caso que ilustra cómo funciona esta tecnología es el del candidato indio Manoj Tiwari a las elecciones legislativas en el que aparece hablando en hindi, en inglés y en haryanvi. El video original es este:

El video alterado es este, en el que habla en inglés:

Estos algoritmos funcionan por medio del “aprendizaje”. Lo que hacen es encontrar patrones repetitivos en, por ejemplo, videos y después replicarlos. López explica que van encontrando patrones desde lo más general hasta lo más abstracto de forma que la complejidad con la que cada vez son hecho hacen más difícil su correcta detección.

¿Cómo detectarlos?

Algunos de estos videos están tan bien hechos, que cerca del 50% de las personas los consideran reales. El poder de manipulación que tienen es muy grande. López asegura que en estos videos suelen aparecer “artefactos”, que son restos de las modificaciones que se hicieron, estos se detectan en los bordes que a veces se ven pixelados o borrosos. Al detectar algún artefacto, es probable que la información haya sido manipulada y por tanto se debe comprobar y alertar para que otros no caigan en este fraude. 

Sin embargo, algunos de estos son tan sofisticados que lo mejor que se puede hacer es buscar directamente en fuentes de información confiables para comprobar la veracidad del material.

Para López es importante mantener una desconfianza prudente y confirmar en la medida de lo posible toda la información y no compartirla en caso de tener dudas. “El escepticismo moderado es sano, siempre vale la pena ir a la fuente a confirmar”, afirma.

Algunas redes sociales como Twitter y Facebook ya han tomado medidas al respecto para contrarrestar estos bulos. 

Las medidas que ya se han tomado 

Facebook trabaja hace un tiempo con algunos proyectos de fact checking que miden la veracidad de una información. En Colombia trabajan con el medio alternativo Colombia Check que comprueba la información y la categoriza en verdadero, verdadero pero, cuestionable, inchequeable y falso. 

Una vez una información es chequeada esta aparece en facebook con una etiqueta y cuando es falsa advierte al usuario para que revise el chequeo antes de compartir.

Con esto se le da a los usuarios algunas herramientas para que no caigan en información falsa compartida en redes.

Una medida que se ha tomado más recientemente es la detección por medio de algoritmos de deep fakes y eliminarlos. Esto se da en medio de las campañas para las elecciones presidenciales en Estados Unidos. Tras la identificación de un video manipulado, la plataforma eliminará dicho contenido.

Por su parte, Twitter, incursiona en políticas para detectar y exponer contenido alterado. Al detectar estos fakes, la aplicación pondrá una etiqueta de “manipulated media” o “Contenido manipulado” o lo retirará. Esta fue usada por primera el domingo 8 de marzo cuando el actual presidente de Estados Unidos, Donald Trump Jr. retuiteó un video en el que supuestamente Joe Biden apelaba por la reelección de Trump en este país. 

De acuerdo con esta política, los usuarios ahora pueden denunciar contenido por ser sintético o manipulado y así se evalúa su autenticidad. Tras esto, se decide si etiquetar el contenido o removerlo de la plataforma.

Con esto se espera que el impacto y la difusión de este tipo de noticias sea menor.