ChatGPT revoluciona al mundo tras dos meses al aire: ¿cuál es la gran preocupación con este fenómeno?

Quien piense que ChatGPT es solo una herramienta digital más es porque todavía no lo ha probado o no ha pensado detenidamente en sus posibilidades. El 30 de noviembre de 2022 OpenAI hizo público ChatGPT, un sistema de inteligencia artificial (IA) diseñado para mantener conversaciones a través de texto escrito.

Su funcionamiento es muy sencillo. La persona pregunta y ChatGPT responde. Lo que hace a esta herramienta radicalmente diferente de otros chatbots disponibles es el grado de elaboración y realismo de las respuestas que ofrece. Es capaz de crear historias, escribir ensayos y realizar muchas otras tareas relacionadas con el lenguaje de manera similar a como lo haría un ser humano. Sus implicaciones sociales son aún desconocidas, aunque muchos ya hablan de una auténtica revolución.

Alarma en las universidades

Desde su lanzamiento hace apenas dos meses la popularidad de ChatGPT no ha hecho más que crecer exponencialmente. El contexto educativo es una de las realidades donde este fenómeno se ha hecho más evidente.

Recientemente, algunas universidades australianas han adoptado medidas ante los primeros indicios de que algunos estudiantes estaban utilizando sistemas de IA para la elaboración de ensayos académicos. Su propuesta: “volver al lápiz y el papel”. Otros centros educativos han prohibido a sus alumnos descargarse la aplicación.

Un cambio en la evaluación

ChatGPT, de momento una herramienta gratuita y de acceso abierto, plantea numerosos retos para la educación. El primero y más evidente hace referencia a los sistemas de evaluación utilizados para determinar si un estudiante ha adquirido los conocimientos y competencias esperados.

ChatGPT no solo puede responder preguntas que simplemente exijan recuperar información (como por ejemplo, recuperar un listado con los ríos de España); también puede relacionar e integrar información llegando a conclusiones nuevas. O, por lo menos, a conclusiones creíbles.

No importa cuán compleja sea la pregunta que se le formule al estudiante, con ayuda de ChatGPT podría responder potencialmente a cualquiera. Además, herramientas tradicionales de detección de plagio, como Turnitin, no sirven, ya que las respuestas ofrecidas por ChatGPT son novedosas.

Forma frente a contenido

La credibilidad de la información proporcionada es otro de los retos. Las respuestas elaboradas por ChatGPT siempre suenan plausibles, pero no siempre son precisas o están verificadas. Confiar excesivamente en esta herramienta puede conducir a errores y sesgos indeseables.

Con la aparición de esta y otras herramientas similares se hace más urgente si cabe la adquisición de habilidades relacionadas con el pensamiento crítico. Contrastar la información, acudir a las fuentes originales, evaluar los posibles intereses asociados a una determinada información, etc. son prácticas que deberían formar parte de nuestra rutina intelectual.

Dependencia tecnológica y deterioro cognitivo

Otro de los retos para la educación puede ser su potencial impacto sobre la creatividad y el esfuerzo de los estudiantes. ¿Quién se va a esforzar en responder una pregunta si ChatGPT puede responderla de forma rápida y convincente?, ¿quién se va a esforzar por encontrar soluciones nuevas y creativas si el chatbot ya las proporciona?

Como algunos autores ya han advertido, el riesgo de incrementar la dependencia tecnológica y reducir el esfuerzo cognitivo son posibilidades reales.

Otros retos, no menos importantes, tienen que ver con la protección de la privacidad o la integridad académica a la hora de elaborar nuevos escritos. Pensar en la posibilidad de incluir esta herramienta como parte de la práctica educativa exige dar una respuesta a estos y muchos otros retos que todavía no somos capaces de identificar.

Paso atrás o adelante

A menudo, la velocidad con la que se suceden los cambios y desarrollos tecnológicos impiden una reflexión sosegada que permita adoptar las mejores decisiones. A menudo, la realidad se impone. Como ya se ha señalado anteriormente, algunas instituciones han decidido optar por la vía de la prohibición, volviendo a los exámenes tradicionales “con papel y lápiz” o a los exámenes orales.

Otras propuestas consideran que prohibir ChatGPT no tiene sentido. Se debe permitir su uso, a la vez que se desarrollan herramientas digitales de detección, en una suerte de “carrera armamentística de IA educativa”. Algunas iniciativas en las que ya se está trabajando son incluir marcas de agua en todos los textos generados por este tipo de tecnología, o programas de detección como GPT Zero.

Una tercera vía sería reflexionar acerca de las posibilidades que ofrece ChatGPT para promover aprendizajes significativos. ¿Se podría utilizar esta herramienta para aprender más y mejor? ¿Podría su uso incentivar la creatividad de las y los estudiantes, en vez de atrofiarla? ¿Se podría utilizar para mejorar el pensamiento, en una suerte de cognición o mente extendida?

Sí, es posible, y el ejemplo es la elaboración de este artículo. Su elaboración ha sido fruto de un diálogo continuo con ChatGPT, donde a través de preguntas y respuestas he ido encontrando y desechando ideas, seleccionando y mejorando algunas, descartando y eliminando otras.

Si todavía no nos convencen las posibilidades que ChatGPT ofrece, descifrar qué fragmentos de este artículo han sido escritos por este chatbot y cuáles no puede ser un ejercicio útil. Quizá esta no sea la herramienta definitiva, pero lo serán otras. De nosotros depende formar parte del cambio o tratar, en vano, de impedirlo.

Por: Carlos de Aldama

Profesor e investigador especializado en Psicología del Pensamiento y de la Educación, Universidad Complutense de Madrid

Artículo publicado originalmente en The Conversation