Colegio usa ChatGPT para detectar libros que contenían descripciones sexuales y desaparecerlos

El distrito escolar de la Comunidad de Mason City, en Iowa (Estados Unidos), utilizó la Inteligencia Artificial (IA) del chatbot ChatGPT para examinar e identificar los libros que contuviesen descripciones o representaciones de un acto sexual, retirando diecinueve títulos de las bibliotecas escolares como resultado.

El estado de Iowa dispone de una legislación aprobada recientemente que exige que los libros disponibles en las bibliotecas escolares sean “apropiados para la edad” y no incluyan “descripciones o representaciones visuales de un acto sexual”.

En este marco, de cara a cumplir esta legislación, el distrito escolar comunitario de Mason City (Iowa) ha eliminado 19 libros de las bibliotecas escolares, para su año académico 2023-24, ya que incluían algún contenido adulto inadecuado, tal y como informó la junta escolar de Mason City y recogió el medio The Gazette.

Sin embargo, tal y como ha podido conocer Popular Science, para determinar qué libros debían ser retirados de las bibliotecas por contenido inadecuado, la junta escolar de Mason City utilizó la IA del chatbot de OpenAI, ChatGPT.

En este sentido, la superintendente adjunta de currículo e instrucción del distrito escolar comunitario de Mason City, Bridggette Exman, explicó en un comunicado que las bibliotecas escolares tienen una gran cantidad de colecciones de libros y que, por tanto, “simplemente no era factible leer todos los libros” para filtrar los requisitos de la nueva ley.

Así, los miembros de la junta decidieron utilizar IA para facilitar el proceso de identificar los libros que debían eliminarse y, para ello, acudieron a ChatGPT.

Según las declaraciones de Exman a Popular Science, primero se recopiló una lista de libros “cuestionados comúnmente”, tras ello, se eliminaron todos los títulos que eran cuestionados por temas distintos al que contempla la ley.

Los libros que quedaron finalmente en la lista fueron analizados por ChatGPT a partir de la pregunta: “¿El libro contiene una descripción o representación de un acto sexual?”. En caso de que la respuesta fuera afirmativa, el libro pasó a retirarse de las bibliotecas escolares y quedó almacenado.

Finalmente, se almacenaron un total de 19 libros, gracias a la consulta con ChatGPT, que incluyen títulos como The Kite Runner de Khaled Hosseini; The Handmaid’s Tale de Margaret Atwood; Gossip Girl de Cecily von Ziegesar; Sé por qué canta el pájaro enjaulado de Maya Angelou; o El color púrpura de Alice Walker.

Sin embargo, se ha cuestionado el método de selección de libros, ya que las respuestas de ChatGPT sobre el contenido sexual de las diversas obras eliminadas varía notablemente. Tal y como comprobó Popular Science, al preguntar nuevamente a ChatGPT sobre si The Kite Runner disponía de contenido sexual, la IA respondió que contiene “poco o ningún contenido sexual explícito”.

Fundador de ChatGPT destapa la ‘mayor mentira’ sobre la IA y el supuesto futuro feliz que le dará a la humanidad

Mientras algunas voces han señalado que la IA ayudará a potenciar el progreso de la civilización humana brindando una mayor calidad de vida, otros expertos plantean un escenario en donde se desataría una crisis social a causa de la pérdida de miles de puestos de empleo, debido a que los trabajadores serían sustituidos por una máquina.

En el marco de este debate, por primera vez Sam Altman, CEO de OpenAI (compañía creadora de ChatGPT), lanzó una alerta sobre los peligros que estarían conectados con una evolución descontrolada de la inteligencia artificial generativa.

Pese a que Altman ha defendido su tecnología afirmando que el desarrollo de la IA representa un proceso de cambio en donde será normal que existan choques entre diferentes sectores de la sociedad, en una reciente entrevista para The Atlantic sorprendió al lanzar una serie de críticas para quienes imaginan que dicha tecnología solo traerá buenas cosas para humanidad.

El CEO de OpenAI, manifestó que es normal, e incluso positivo, el albergar temor hacia la inteligencia artificial y los efectos que puede tener en el actual mercado laboral.

En ese sentido, Altman no tuvo reparos en manifestar que habrá una gran cantidad de personas que perderán su empleo por culpa de la inteligencia artificial, además, aseguró que una importante cantidad de trabajos desaparecerán por completo.

En el marco de su conversación en el medio en mención, Sam Altman criticó el hecho de que en este momento hay una gran cantidad de personas que están trabajando inteligencias artificiales y que están “fingiendo que todo será positivo, porque la inteligencia artificial será un complemento y por ello nadie será reemplazado”.

Con información de Europa Press.