Aparece una temible IA que busca enloquecer a otras inteligencias artificiales; así opera esta nueva amenaza

Glaze, también conocido como OpenAI’s GPT-3.5, una inteligencia artificial que es la última iteración de la serie GPT (Generative Pre-trained Transformer) y representa un avance significativo en el campo de la IA.

Glaze es capaz de generar texto de manera impresionante, simulando respuestas humanas con un nivel de coherencia y naturalidad sorprendente.

Esta versión 1.0 de Glaze ofrece a los artistas protección contra otras IA. Esta se desarrolló en respuesta al lanzamiento de modelos de IA como MidJourney y Stable Diffusion, los cuales son entrenados con miles de millones de imágenes sin autorización de los autores de las mismas.

En ese orden, lo que hace Glaze es interferir con la capacidad de esas otras IA para analizar ciertos detalles concretos de las obras de arte.

Así las cosas, “una vez que una imagen ‘glazeada’ es descargada e incluida en un dataset de entrenamiento, la IA en entrenamiento podrá procesar formas y objetos básicos en la misma, pero no podrá capturar lo que hace único a un artista: los patrones de aspectos como los trazos del pincel o las paletas de colores”, según indicó el portal Genbeta.

¿Cómo se logra esto?

Añadiendo un ‘camuflaje’ superpuesto a la imagen original, pese a que uno que ofrece ‘robustez frente a la eliminación’, que no es tan fácil de quitar como una marca de agua, la cual confunde y hace pensar que está viendo el estilo que el usuario prefiere.

“El camuflaje no es una marca de agua frágil, que se ve o no se ve: es una transformación de la imagen en una dimensión que los humanos no perciben, pero sí en las dimensiones en las que el modelo de aprendizaje profundo percibe estas imágenes. Así que las transformaciones que rotan, desenfocan, cambian la resolución, recortan, etc. , no afectan a la capa, del mismo modo que esas operaciones no cambiarían tu percepción de lo que hace que un cuadro de Van Gogh sea ‘un Van Gogh”, se indica en el portal.

Ataque antagónico

Así se le llama a este camuflaje que permite seguir apreciando la imagen original, pero ‘enloquece’ o despista a la otra IA. En el pasado, esto ya ha permitido imprimir en 3D tortugas que otras IAs identificaban como rifles, o pegatinas para el asfalto capaces de convencer a los Tesla de conducir en dirección contraria.

Cabe destacar que esto funciona mientras el ojo humano siga viendo tortugas perfectamente reconocibles y las indicaciones de tráfico correctas, claro está.

“Aunque es difícil predecir el rendimiento con modelos nuevos o patentados, hemos probado y validado el rendimiento de nuestra protección contra múltiples modelos de IA. Hasta ahora, no se han encontrado formas efectivas de romper la protección de Glaze”, añadieron.

Esto debido a que, quizá, Glaze se parezca más a la pintura facial capaz de ‘cortocircuitar’ el reconocimiento de rostros mediante la inteligencia artificial o los parches para la ropa anti-reconocimiento de personas, ya que en este caso el ojo humano sí es capaz de apreciar una pequeña diferencia.

Es de anotar que la primera beta de Glaze se lanzó hace tres meses, momento en el que la IA recibió miles de halagos, sin embargo, las personas eran conscientes de la alteración creada en la imagen original por el camuflaje visual añadido podía afectar negativamente a su estética, entonces eso convertía a Glaze en una mala opción si el usuario pretendía vender su arte online.

De todos modos, la versión 1.0, da la opción a sus usuarios de “controlar hasta qué punto el camuflaje modifica la obra de arte original, desde la introducción de cambios totalmente imperceptibles hasta modificaciones ligeramente más visibles [que] proporcionan una mayor protección contra la capacidad de la IA para robar el estilo”.

¿Resulta útil hacerlo a estas alturas, con docenas o cientos de obras de arte ya disponibles en Internet?

Cientos de pintores e ilustradores se harán esa pregunta tras conocer sobre Glaze, no obstante, la respuesta es sí; en la medida en que las nuevas versiones de los modelos vayan actualizando sus datasets de entrenamiento.

“Estos modelos de IA siempre están añadiendo más datos de entrenamiento para mejorar su precisión y mantenerse al día de los cambios en las tendencias artísticas con el paso del tiempo. Cuantas más imágenes ‘glazeadas’ publiques en Internet, más ‘cambiará tu estilo’ [de cara a esas IAs], acercándose al estilo objetivo. En algún momento, cuando el cambio sea lo suficientemente significativo, el modelo de IA empezará a generar imágenes en el estilo de Van Gogh cuando se le pregunte por tu estilo”, explica Genbeta.

Finalmente, se indicó que está comprobado que, “siempre que se produzca un ligero cambio en el espacio de características del modelo de IA, este creará imágenes notablemente diferentes de tu estilo. Por ejemplo, las imágenes generadas pueden parecerse a un híbrido (incómodamente espeluznante) de tu estilo y el cubismo abstracto”.