Lavado de inteligencia artificial: cómo detectarlo y por qué es un problema creciente

Imagínese que quiere comprar una aspiradora moderna. La busca en su tienda online favorita y encuentra un producto que dice funcionar con inteligencia artificial (IA), y eso lo hace sonar a la moda, tecnológico e inteligente.

Sin embargo, en realidad, solo tiene un simple botón con sensor que asegura que la aspiradora no choca con los muebles. Es decir, nada especial ni innovador. Este es un ejemplo del llamado lavado de IA.

¿Por qué es un problema?

En primer lugar, es un problema porque las verdaderas innovaciones de la IA pueden quedar opacadas por la publicidad engañosa. En segundo lugar, la gente podría volverse escéptica acerca de las aseveraciones de estos productos y dejar de confiar en la AI.

Christoph Lütge, del Instituto de Ética en la Inteligencia Artificial, de Múnich, afirma a DW que “es difícil abordar la IA desde un punto de vista legal porque el término es demasiado vago. Desde el punto de vista ético, puede funcionar. Es bueno contar con un experto que venga y oriente a los organismos reguladores y a la sociedad civil desde un punto de vista ético”.

Pero también es un dolor de cabeza para los inversores, ya que algunos proyectos serios pueden fracasar por culpa de este lavado. Además, las empresas podrían apuntar a objetivos imposibles, creyendo que la IA puede hacer algo que no puede.

A principios de este año, las empresas de inversión Delphia y Global Predictions, fueron obligadas a pagar 400.000 dólares (368.000 euros) en multas, tras afirmar falsa o engañosamente su uso de IA.

La Comisión del Mercado de Valores (SEC, por sus siglas en inglés) de EE. UU. informó que Delphia señaló que usaba datos de IA recopilados para “predecir qué empresas y tendencias estaban a punto de triunfar e invertir en ellas antes que nadie”, cuando, en realidad, no poseía esta capacidad.

En tanto, Global Predictions aseveraba en su sitio web y en las redes sociales que era el “primer asesor financiero regulado de IA” y tergiversó que su plataforma proporcionaba “pronósticos impulsados por expertos”.

“Hemos visto una y otra vez que cuando aparecen nuevas tecnologías, estas pueden crear expectación entre los inversores, así como falsas afirmaciones por parte de quienes pretenden utilizar esas nuevas tecnologías”, dijo en un comunicado el presidente de la SEC, Gary Gensler. “Ese lavado de IA daña a los inversores”, agregó.

Grandes empresas como Coca-Cola y Amazon también fueron criticadas por este asunto. En septiembre, Coca-Cola lanzó la bebida Y3000, un nuevo sabor futurista que supuestamente fue “cocreado” por la IA.

¿Cómo se regula en Europa?

En 2019, un informe de MMC Ventures, firma de capital de riesgo con sede en Londres, reveló que más de 2.830 startups en Europa se clasificaban como empresas de AI, pero el 40% de estas no tenía nada que ver con esta tecnología.

Este jueves (01.08.2024) entró en vigor la Ley de Inteligencia Artificial de la Unión Europea (UE), que busca garantizar que los usuarios sepan que están interactuando con sistemas de IA, lo que les permite tomar decisiones informadas.

“Aunque la Ley de IA no se encarga de regular el ámbito del lavado de IA, podría ser útil porque garantiza que las organizaciones sean muy transparentes en lo que respecta a la inteligencia artificial, por lo que esto podría ayudar a limitar indirectamente la publicidad engañosa de las empresas”, afirma a DW Joerg Heidrich, abogado especialista en inteligencia artificial.

*Con información de AFP