La aparición de nuevas plataformas digitales impulsadas por una inteligencia artificial (IA) generativa han llevado a un nuevo nivel la creatividad de los cibernautas, al facilitar la creación de contenidos gráficos, y en video altamente realista y de una manera mucho más sencilla.
Pese a que las redes sociales se han llenado de todo tipo de publicaciones que exponen la creatividad de los usuarios de la IA, varios expertos en el sector de la tecnología también han advertido sobre los peligros que tienen estas herramientas al poder ser empleadas en campañas de desinformación que rápidamente se pueden hacer virales.
Ahora que Colombia está en un proceso electoral, la presencia de la inteligencia artificial y sus capacidades para producir falsas informaciones genera una mayor incertidumbre.
Semana consultó con especialistas para conocer qué papel tendría la IA en las elecciones que se celebrarán el próximo 29 de octubre de 2023 y cuáles son los riesgos que corre el elector.
¿Qué rol tiene la IA en los procesos electorales en Colombia?
Mónica Talán, experta en comunicaciones e inteligencia artificial y fundadora de CryptoConexión, le explicó a SEMANA que en este momento la IA desempeña un papel clave en los procesos electorales de Colombia y todo el mundo, porque esta herramienta está siendo usada por los partidos políticos para analizar datos y tendencias del electorado.
Con esa tecnología, las campañas pueden segmentar a los votantes en grupos específicos basándose en sus preferencias y comportamientos, permitiendo así generar campañas políticas mejor dirigidas.
La inteligencia artificial puede automatizar tareas administrativas, como la verificación de la identidad de los votantes y el conteo de votos. Lo cual podría ayudar a agilizar el proceso electoral y reducir los errores humanos.
Talán señala que en 2018, el candidato presidencial Iván Duque utilizó un chatbot de IA para interactuar con los votantes en las redes sociales, respondiendo a preguntas y proporcionando información sobre la campaña.
En 2022, el candidato presidencial Gustavo Petro usó un modelo de IA para crear anuncios personalizados para los votantes. Dicho modelo fue empleado para analizar los datos de los votantes y generar anuncios que tenían más posibilidades de atraer la atención del público.
La especialista sostiene que IA está transformando la forma en que los candidatos y partidos se comunican con el electorado, pero de la mano de esta evolución también ha surgido un debate en torno al uso de la inteligencia artificial para producir videos falsos (deepfakes) usando imágenes o audios alterados mediante el uso de esta tecnología.
En este contexto, Talán afirma que estrategas y políticos ya han manifestado su preocupación ante la posibilidad de que esos contenidos falsos puedan influir en los votantes y que eventualmente se afecte a la democracia.
¿Qué riesgos corre el elector?
Mónica Talán explicó que los electores sí están en peligro de caer en campañas de desinformación y manipulación justamente generadas a través de contenido falso. Pues se trata de campañas engañosas que pueden afectar a la opinión pública y sobre esto es necesario que se tomen medidas urgentes.
“Si bien casi no existe regulación sobre cómo se utiliza la IA en la publicidad política, Google tomó la delantera y acaba de anunciar que a partir de noviembre, de cara a las elecciones 2024 en los Estados Unidos, exigirá una etiqueta en todos los anuncios políticos que utilizan herramientas de inteligencia artificial y contenido sintético en sus videos, imágenes y audio”, agregó.
¿Cómo se ejecutan las campañas de desinformación con IA?
El mecanismo principal es la generación de contenido falso. Talán señaló dicha táctica fue empleada en el marco de la campaña electoral en Estados Unidos, cuando circuló una imagen falsa del arresto del expresidente Donald Trump o un video que planteaba un futuro sombrío si Joe Biden era reelegido.
Al respecto, la organización sin fines de lucro AIandYou lanzaron una serie de campañas de concientización pública para educar a los votantes sobre cómo la IA podría afectar las elecciones.
Agregado a ello, los bots en redes sociales pueden ser usados para la difusión de informaciones falsas, puesto que ese recurso puede ser programado para que de forma automática difundir el contenido de manera masiva.
¿Qué pueden hacer los electores para no ser víctimas de engaños?
Mónica Talán señaló que es fundamental que las personas adopten el hábito de verificar las fuentes de la información que reciben o que buscan en la web.
Una buena forma es siempre constatar la información con diversas fuentes. “Una regla que todos deberíamos seguir es la de verificar antes de compartir. Muchas veces una simple búsqueda en Google te ayuda a confirmar un reportaje”.
Talán también indicó que es importante que desde la escuela se eduque en alfabetización digital para que los más pequeños se familiaricen con el mundo digital y así tengan más recursos para identificar noticias falsas.
¿Cómo detectar contenido falso creado con IA generativa?
Examinar detalles: se debe prestar atención a diferentes elementos en una imagen o artículo, como errores gramaticales, distorsiones visuales o inconsistencias que pueden ser evidenciar una falsedad.
Consultar fuentes confiables: verificar la información consultando fuentes de noticias confiables y sitios web de verificación de hechos. Una simple búsqueda en Google o Bing puede ayudar a corroborar la información, algo que todos deben hacer antes de compartir.