China desarrolla un ‘fiscal’ de inteligencia artificial que identifica delitos comunes con 97 % de precisión

La industria china de la tecnología anunció que ha desarrollado exitosamente un fiscal de inteligencia artificial que podría acusar a las personas de delitos, con más del 97 % de precisión, afirman los investigadores. La máquina distópica puede identificar la “disidencia” contra el Estado y sugerir sentencias para supuestos criminales, sacando a las personas del proceso de enjuiciamiento.

Pero a pesar del auge de la tecnología, ya hay temores generados de que el Partido Comunista chino pueda utilizar el sistema como arma con fiscales humanos preocupados por quién asumirá la responsabilidad de las decisiones de la Inteligencia Artificial. La herramienta puede presentar una acusación basada en una descripción verbal del caso y fue construida y probada por la Fiscalía Popular de Shanghai Pudong, la fiscalía de distrito más grande y concurrida de China.

La nueva tecnología permitiría a los fiscales humanos aliviar su carga de trabajo y les permitiría centrarse solo en los casos más complejos, dijo el científico principal del proyecto, el profesor Shi Yong. Así mismo, se anunció que el sistema puede ejecutarse en una computadora de escritorio estándar y presentaría cargos basados en mil ‘rasgos’ del texto de descripción del caso generado por humanos, informó el South China Morning Post.

El fiscal de inteligencia artificial fue ‘entrenado’ usando 17.000 casos de la vida real desde 2015 hasta 2020 y es capaz de identificar y presentar cargos por los ocho delitos más comunes en Shanghái.

Las preocupaciones vienen ya que dentro de estos delitos se incluyen “provocar problemas”, un término utilizado para reprimir la disidencia en China, fraude con tarjetas de crédito, delitos de juego, conducción peligrosa, robo, fraude, lesiones intencionales y obstrucción de deberes oficiales.

Además, se informó que en el futuro próximo, el fiscal podrá reconocer más tipos de delitos y presentar varios cargos contra un sospechoso una vez que se actualice. Los creadores de la tecnología dijeron en un artículo publicado en la revista Management Review: “El sistema puede reemplazar a los fiscales en el proceso de toma de decisiones hasta cierto punto”.

Alguna tecnología de inteligencia artificial ya existe en las fuerzas del orden en China, pero esta sería la primera vez que se involucra en la presentación de cargos.

Hay varios casos en el mundo, por ejemplo, en Alemania, el reconocimiento de imágenes y el análisis forense digital se utilizan para ayudar con la carga de casos, mientras que China utiliza una herramienta conocida como Sistema 206 para evaluar la evidencia, el peligro potencial de un sospechoso y las condiciones para el arresto.

Pero el sistema no tiene ningún papel en el proceso de toma de decisiones y no sugiere sentencias, a diferencia del fiscal desarrollado, lo cual ha generado preocupaciones entre la justicia china y del mundo. Un fiscal de Guanghzhou dice que le preocupa la nueva tecnología, “la precisión del 97 % puede ser alta desde un punto de vista tecnológico, pero siempre habrá una posibilidad de error. ¿Quién asumirá la responsabilidad cuando suceda? ¿El fiscal, la máquina o el diseñador del algoritmo?”, dijo el fiscal.

También el fiscal añadió que muchos fiscales humanos no querrán que las computadoras interfieran en su trabajo. “La IA puede ayudar a detectar un error, pero no puede reemplazar a los humanos al tomar una decisión”, dijo.

Por otra parte, también se teme que no pueda mantenerse al día con los estándares sociales cambiantes y que el estado pueda utilizarlo como arma. El Gobierno chino confía cada vez más en la inteligencia artificial para aumentar su productividad, con máquinas ya instaladas para combatir la corrupción y aumentar el control estatal sobre la población china.