Donald Trump, Elon Musk y Taylor Swift son las personalidades públicas que más deepfakes han protagonizado en 2024, una práctica que manipula la imagen y la voz con herramientas de inteligencia artificial (IA) y que han proliferado en internet y redes sociales, pese a los riesgos que conllevan para la democracia.
Los deepfake son un tipo de contenido audiovisual manipulado que muestra imágenes falsas, habitualmente simulando la voz y la apariencia de otras personas. Sin embargo, tienen la peculiaridad de que dichas imágenes parecen ser reales, ya que se generan utilizando técnicas avanzadas de aprendizaje profundo e IA.
Aunque inicialmente eran un formato solo apto para desarrolladores, ahora son un tipo de video que está al alcance de cualquier persona gracias a los avances en tecnologías de clonación de voz y sincronización de labios de código abierto.
Según han explicado desde Kapwing, plataforma de creación de vídeos, la clonación de voz toma de ejemplo la voz de una persona a partir de una muestra de audio breve, de entre 10 y 15 segundos. Con ello, analiza y aplica las características vocales a un modelo subyacente capaz de generar voz a partir de texto.
Por su parte, la IA para la sincronización de datos hace coincidir los labios de las imágenes de la persona que se esté imitando con los sonidos que se producen en el archivo audio. En este sentido, según ha detallado la plataforma, con tecnologías como las mencionadas anteriormente, se puede crear un gemelo de IA solo con diez segundos de metraje inicial.
Estos son los personajes famosos más suplantados
Debido a la proliferación de estas tecnologías, los vIdeos deepfake son actualmente un contenido que se encuentra de manera frecuente en Internet y en las redes sociales, llegando incluso a viralizarse.
Las personalidades públicas suelen protagonizar estos deepfakes cuando el objetivo es “influir en la opinión pública, permitir la estafa o actividades fraudulentas, o para generar ganancias”. Pero no vale cualquier persona.
En este sentido, según los datos recabados desde la fuente en mención, tras analizar los mensajes de texto a video en un popular canal de Discord para generar vídeos con IA, el expresidente de Estados Unidos Donald Trump, el propietario de X Elon Musk y la cantante y compositora Taylor Swift son las figuras públicas estadounidenses más ‘deepfakeadas’ en lo que va de 2024.
Concretamente, la plataforma ha contabilizado 12.384 solicitudes de vIdeos deepfake relacionadas con Trump en 2024, otras 9.544 solicitudes estaban vinculadas con Musk y 8.202 con Taylor Swift. Como apuntan los expertos, estas tres personalidades han sido suplantadas con más frecuencia que cualquier otro famoso, en relación con el uso de deepfake.
De cerca les sigue el actual presidente de Estados Unidos, Joe Biden, quien también ha sido una de las personalidades más ‘deepfakeadas’, con 7.956 solicitudes. En esta lista también se encuentran actores, como Tom Cruise, Dwayne Johnson y Will Smith.
Igualmente, se han solicitado videos deepfake relacionados con deportistas, como los futbolistas Cristiano Ronaldo y Leo Messi, y el jugador de baloncesto Michael Jordan. Lo mismo ha ocurrido con cantantes de la talla de Beyoncé y personalidades del mundo de la tecnología como el CEO de Meta, Mark Zuckerberg.
El peligro de la suplantación de identidad con inteligencia artificial
Aunque gran parte de este contenido se crea y se publica en internet para entretenimiento, como una forma de hacer comedia, por ejemplo, suplantando a personalidades famosas para hacer que cuenten un chiste, también puede suponer un riesgo o crear confusión entre los usuarios ante el realismo de algunos deepfakes.
Además de fomentar el consumo de fake news, o noticias falsas, estos deepfakes también son una herramienta para los ciberdelincuentes, que pueden utilizarlos como método para estafar a los usuarios, aprovechándose de la confianza que se deposita en las personalidades públicas.
Con todo ello, profesionales en ciberseguridad han señalado algunas pautas a tener en cuenta para detectar los videos deepfake efectuados con tecnologías modernas. Para ello, indicaron que la clave es prestar atención tanto al audio como al vídeo, poniendo énfasis en la voz y los labios.
Los deepfakes presentan características que revelan su naturaleza artificial, como la inconsistencia en el movimiento de labios y dientes. A pesar de los avances en la tecnología de sincronización de labios, a menudo se observan fallos, como una boca borrosa o labios de color poco natural. Además, los dientes tienden a aparecer excesivamente blancos y sus movimientos son poco realistas.
Asimismo, los gestos corporales suelen ser antinaturales, ya que, aunque se ajustan los movimientos de la boca, los gestos no se modifican. Esto puede llevar a incongruencias, como un encogimiento de hombros que no coincide con lo que se dice, o la falta de parpadeo.
*Con información de Europa Press