La histórica decisión sobre el papel de la inteligencia artificial en Colombia arrancó cuando una madre decidió instaurar una tutela contra una EPS porque le habría negado a su hijo los pagos de cuotas moderados y copagos, cubrir los gastos de transporte y los servicios que requería para que pudiera asistir a las terapias del tratamiento integral que tenía autorizado.
El caso llegó a un juez de segunda instancia que utilizó ChatGPT para revisar la tutela y tomar una decisión jurídica de fondo sobre si le estaban vulnerando el derecho fundamental a la salud del menor. Con la información de la inteligencia artificial, se incorporó a la sentencia una serie de interrogantes y respuestas que motivaron finalmente la decisión.
En medio de esa situación, el alto tribunal decidió revisar el caso para revisar si habría existido una vulneración fundamental al derecho del debido proceso, ante el gran interrogante de si el juez fue quien tomó la decisión o la inteligencia artificial, pero también se puso sobre la mesa determinar si el fallo de la tutela estuvo motiva o se dio producto de los “sesgos” generados por la IA. Al final, la Corte consideró que la inteligencia artificial no puede reemplazar al juez.
Frente a ese caso, la Sala de Revisión de la Corte Constitucional detalló que “debía respetarse el derecho a un juez natural, el cual implica como elemento esencial, la condición de ser humano del juzgador, ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina. En ese sentido, resaltó que la IA no puede reemplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción”.
Sin embargo, el alto tribunal consideró que la inteligencia artificial se podría utilizar en temas administrativos, documentales y hasta corrección de textos con supervisión de un operador jurídico, pero nada que esté relacionado con la creación de contenido, interpretación de hechos o soluciones de casos.
“En el marco del respeto del derecho al debido proceso, la implementación de la IA también debe garantizar la independencia e imparcialidad judicial, lo que, en este contexto, supone que ningún poder, ya sea estatal, particular o de cualquier otra índole, como por ejemplo una IA, pueda influir en la consideración del caso”, confirmó la Corte.
La decisión también advierte que las decisiones judiciales no se pueden basar en los sesgos de la IA, porque se producirían ciertas irregularidades como discriminaciones y decisiones parcializadas, pues el riesgo se correría con el uso de información falsa o inexacta que pueda terminar en graves problemas de motivación frente a una sentencia judicial
“El uso ponderado y razonado de la IA en el sistema de administración de justicia es admisible, a partir de un enfoque de protección de derechos fundamentales que valore y considere las mejores prácticas, la aplicación de criterios éticos y el respeto a los mandatos superiores. La utilización de este tipo de herramientas debe atender, como presupuesto esencial, el criterio de no sustitución de la racionalidad humana”, concluyó la Corte.
Sobre el caso del niño que no habría recibido ciertos servicios de su EPS, la Corte consideró que el juez de segunda instancia utilizó la inteligencia artificial cuando ya había fundamentado y tomado la decisión, por lo que consideraron que no existió un reemplazo de la función judicial por parte de ChatGPT.