Así TikTok regula contenido ‘deepfake’ impulsado por inteligencia artificial

En la tarde de este martes 21 de marzo TikTok anunció una actualización de sus políticas de moderación de contenido para incluir nuevas restricciones en la regulación de los ‘deepfake’, que tendrán que notificar que es contenido “falso”, y en los contenidos relativos a asuntos políticos, ya que los partidos no podrán pagar por publicar material promocional.

En ese sentido, TikTok recoge los ‘deepfake’ en su apartado de ‘medios sintéticos y manipulados’, un tipo de contenido que basa en videos generados por Inteligencia Artificial (IA) que imitan de forma muy precisa la apariencia y la voz de una persona.

Este tipo de videos están teniendo una gran acogida en la plataforma de ByteDance, pero suponen una dificultad añadida para los usuarios a la hora de reconocer qué es real y qué es ficción.

En este sentido, TikTok anunció novedades en sus políticas de contenidos con una actualización, que entrará en vigor el próximo 23 de abril, y que contempla que los creadores de contenido señalen qué publicaciones son ‘deepfake’, para hacer saber al usuario que lo que está viendo no es real, tal y como ha explicado en su página de normas de la comunidad.

Para ello, la plataforma indicó que los creadores de contenido podrán utilizar ‘stickers’ o leyendas en las publicaciones de este estilo que adviertan de que se trata de contenido generados por IA y, por tanto, se avise de que es “falsa”, “no real o “alterada”.

Ahora bien, la compañía introdujo un nuevo módulo de sus políticas titulado ‘Medios sintéticos y manipulados’. Así, según señala la plataforma, TikTok continúa abierto al “potencial de creatividad que pueden traer consigo las nuevas tecnologías de IA y otras tecnologías digitales”. Sin embargo, también ha indicado que, con esta medida, se procura equilibrar el valor de un medio “sintético” en cuanto a “potencial de expresión y el riesgo de daños a individuos”.

Siguiendo esto, TikTok subrayó que no permitirá que ningún medio sintético comparta la “representación o simulación” de una persona privada. Concretamente, ha especificado que en el caso de una persona pública la plataforma es “más flexible”, pero tampoco se permitirá que “sea objeto de abuso”, ni que se difunda información engañosa sobre cuestiones “políticas o económicas”.

La red social incide en que estas medidas incluyen también la prohibición de contenidos ‘deepfake’ que se basen en discursos de odio, explotación sexual o las “formas graves” de acoso.

No obstante, la ‘app’ sí permite medios sintéticos que muestren a una persona pública en ciertos contextos. Por ejemplo, hace referencia a las situaciones artísticas y educativas.

Integridad en procesos electorales

La red social china también ha regulado pautas concretas sobre el contenido relativo a los asuntos políticos. Así, ha ampliado las cuestiones que ya trataban anteriormente en sus políticas sobre desinformación o publicación falsa de información de elecciones.

Según ha señalado, desde ByteDance intentan encontrar el “equilibrio justo” entre permitir el debate y “ser una plataforma de unión, no de división”. Por ello, TikTok ha acentuado que, a partir de ahora, los partidos políticos no pueden pagar por publicar contenido ni publicidad política ni tampoco recaudar financiación.

Esta restricción incluye desde los anuncios de pago convencionales de la aplicación a los creadores de contenido que son contratados para respaldar o ejercer oposición con respecto a un candidato en política.

Asimismo, tampoco permite la desinformación sobre procesos cívicos o electorales como, por ejemplo, datos falsos sobre cómo votar, sobre los requisitos de los candidatos o sobre los procesos de escrutinio de votos. Incluso, TikTok informó que el contenido que incluya alguna de estas afirmaciones falsas se excluirá automáticamente del ‘feed’ Para Ti.

*Con información de Europa Press.