Jugada de ciberdelincuentes dejó mal parado al poderoso ChatGPT; miles de usuarios en el mundo están en peligro

Más de 100.000 cuentas de ChatGPT han resultado comprometidas a nivel global en el último año debido al empleo de los denominados ‘infostealers’ para infectar los equipos y robar las credenciales de acceso.

El robo de las credenciales de acceso a cuentas de ChatGPT pone en riesgo información confidencial, dado que son numerosos los empleados que acceden a este servicio para automatizar tareas y que guarda el historial de peticiones y respuestas de la IA.

Entre junio de 2022 y mayo de 2023, los investigadores de la firma de seguridad Group-IB han detectado 101.143 cuentas de ChatGPT comprometidas, cuyas credenciales se han puesto a la venta en la ‘darkweb’.

Este robo de credenciales se ha realizado con la ayuda de los llamados ‘infostealers’, programas maliciosos que infectan un equipo para robar información. Estos también se habrían adquirido en la ‘darkweb’. Group-IB asegura que los más utilizados en esta campaña son Racoon, Vidar y Redline.

En mayo de 2023 se detectó el mayor pico de registros con cuentas de ChatGPT comprometidas (26.802), frente a los 74 detectados en junio del año pasado. No obstante, este dato puede responder al crecimiento en la popularidad que experimentó ChatGPT a partir de noviembre, cuando se lanzó oficialmente.

De hecho, y siguiendo con la línea de la popularidad, los registros con cuentas comprometidas pasan de 594 en octubre de 2022 a 1.134 en noviembre y a 2.766 en diciembre del mismo año, según la información facilitada por Group-IB y compartida en su blog oficial.

El análisis por regiones indica que Asia-Pacífico es la más afectada en el periodo analizado, con 40.999 dispositivos infectados con ‘infostealer’ y credenciales de ChatGPT guardadas. Siguen Oriente Próximo y África (24.295) y Europa (16.951). Por países, los más afectados son India (12.632), Pakistán (9.217) y Brasil (6.531).

La actualización periódica de las contraseñas y la activación de un sistema de autenticación de dos factores son dos barreras que ayudan a proteger las credenciales de acceso a las cuentas de ChatGPT, como señalan desde Group-IB.

Las palabras que delatan a los estudiantes que presentan textos hechos con ChatGPT

ChatGPT se ha convertido en una herramienta sumamente eficaz para realizar algunas tareas; sin embargo, los estudiantes parecen estar abusando de ella a la hora de presentar sus tareas o trabajos en colegios y universidades.

Lo que los profesores han identificado es que se está presentando lo mismo que sucedía hace algunos años, cuando existía la popular enciclopedia Encarta o Wikipedia, de donde se copiaba y pegaban los textos que eran presentados por los alumnos.

Ahora, aunque ChatGPT produce textos diferentes, los docentes han comenzado a identificar, de algunas formas, que estos documentos no son creados por los propios estudiantes, sino que están recurriendo a esta herramienta de inteligencia artificial desarrollada por OpenAI para ganar tiempo aprobar las materias con trabajos que hacen pasar como suyos.

Ante esta necesidad de los profesores y como respuesta a ChatGPT, la tecnología también le ha dado una mano a los docentes y ha creado una inteligencia artificial capaz de detectar el contenido que ha sido creado con ChatGPT. Esta nueva herramienta tiene más de 175 millones de parámetros y se sigue entrenando cada minuto mientras es utilizada, lo que le permite entender cómo escribe el bot de OpenAI y así dejar en evidencia a los estudiantes que lo utilizan en sus tareas.

Uno de ellos es AI Text Classifier, también desarrollado pro OpenAI y el cual es de abierto y gratuito; a este se suman Writer.com o GPT Zero, los cuales realizan bien su función, pero presentan algunas limitaciones. Todas estas herramientas operan con mejores resultados en textos en inglés y, además, no logran identificar, con exactitud, documentos que han sido modificados por los alumnos, pues hay algunos muy precavidos que alteran algunos párrafos o frases, lo que logra despistar a estos programas.

Y es que hay quienes ni siquiera se toman la molestia de leer lo que ChatGPT escribe y no se percatan que en algunas partes de los textos aparece la frase “como un modelo de lenguaje IA”, explicación que da la herramienta para intentar justificarse ante algunas de las frases o enunciados que deja en el documento.

Ante esto, diferentes escuelas y universidades en el mundo han recurrido a una solución milenaria con el fin de que los estudiantes sean los que realicen sus propios trabajos; por ejemplo, en Australia, sus ocho principales universidades, y en California, algunos institutos, prefirieron que sus alumnos realizaran sus trabajos a mano, algo que, desde las directivas de esas instituciones ha sido una solución viable.