Transparencia en la IA: un reto para la adopción tecnológica en América Latina

Entre 2020 y el año pasado, la incorporación de IA en empresas latinoamericanas pasó del 58% al 71%, con países como México y Colombia liderando este avance. A pesar de estos progresos, la implementación sigue siendo más lenta de lo anticipado, principalmente debido a preocupaciones relacionadas con la transparencia en el manejo de datos.

La preocupación por la gobernanza de la IA y el origen de la información es evidente, especialmente en lo que respecta a la replicación de voces, imágenes y la gestión de datos provenientes de múltiples fuentes. Estos desafíos plantean dilemas sobre la necesidad de regulaciones efectivas que protejan los derechos de autor y al mismo tiempo promuevan la innovación tecnológica.

La transparencia es uno de los 10 principios rectores de la recomendación de la UNESCO sobre la ética de la inteligencia artificial. Estos principios abarcan proporcionalidad, seguridad, equidad, sostenibilidad, privacidad, supervisión humana, transparencia, responsabilidad, conciencia y colaboración multilateral, asegurando que las soluciones de IA respeten los derechos humanos y contribuyan al desarrollo sostenible.

Entidades como la CEPAL (Comisión Económica para América Latina y el Caribe) y el BID (Banco Interamericano de Desarrollo) coinciden en la necesidad de desarrollar políticas públicas que limiten los riesgos que vienen de la mano del desarrollo de la IA, incluyendo sesgos raciales, económicos y de género. En el entorno empresarial, la falta de procesos claros de gobernanza en la implementación de IA puede exponer a las empresas a riesgos significativos, incluyendo problemas de reputación, responsabilidad social y potencial discriminación. Por esto es crucial que las organizaciones tecnológicas lideren el camino hacia una mayor transparencia y confianza en el uso de la IA en la región.

La lista de estrategias que se pueden poner en marcha para mejorar la transparencia en la IA debe iniciar por algo tan simple como el desarrollo de modelos explicables. Los sistemas deben ser capaces de proporcionar explicaciones claras y comprensibles sobre cómo llegan a sus decisiones. Esto no solo facilita la aceptación y adopción de la tecnología, sino que también permite a los usuarios y reguladores evaluar su fiabilidad y equidad.

Así mismo, las políticas de gobernanza de datos deben estar diseñadas para asegurar la trazabilidad y la seguridad de la información utilizada por los sistemas de IA. Organismos como la OCDE (Organización para la Cooperación y el Desarrollo Económicos) han destacado la importancia de establecer marcos regulatorios que protejan los derechos individuales mientras fomentan la innovación tecnológica.

Una de las máximas en el desarrollo tecnológico debe ser el énfasis en la IA ética y responsable. En este aspecto, empresas como SAP están liderando iniciativas para desarrollar estándares claros y líneas de conducta que promuevan el uso ético de la IA. Esto incluye la protección de datos sensibles, la mitigación de sesgos algorítmicos y la garantía de que los sistemas respeten los principios de privacidad y derechos humanos.

En definitiva, superar la cautela hacia la IA en Latinoamérica implica abogar por una transparencia y gobernanza ejemplares en el manejo de datos. Al implementar soluciones tecnológicas responsables y éticas, las empresas pueden liderar el camino hacia una adopción tecnológica más confiable y exitosa. La transparencia no solo es un requisito clave para construir confianza entre los usuarios, sino también una oportunidad para fomentar la innovación y el desarrollo sostenible en la región.

En última instancia, alcanzar la transparencia en la IA no solo beneficia a las empresas y a los usuarios, sino que también contribuye a la creación de un entorno digital más seguro y equitativo para todos.

Por:;

Jair Cuervo, Director de Soluciones de IA / Arquitectura de SAP Región Norte de América Latina y el Caribe