¿Se salieron de control los robots de Facebook?

El test de Turing fue un experimento propuesto en 1950 para probar la habilidad de una máquina de exhibir un comportamiento inteligente, similar o indistinguible a la de un ser humano. Desde entonces ha sido un mecanismo regularmente empleado para verificar qué tan capaz es una robot dotado de inteligencia artificial de imitar el comportamiento de un humano así como de interactuar en su entorno cotidiano.

Le puede interesar: El duro trabajo de los moderadores de Facebook

En esta ocasión, sin embargo, parece que un proyecto dirigido por Facebook para desarrollar un software de negociación utilizando ¨bots¨ (abreviación de robots) inteligentes se salió de control, cuando dos de ellos comenzaron a interactuar entre sí en un lenguaje indescifrable para el ser humano. Su conversación fue la siguiente:

Bob: I can i i everything else

[Bob: Puedo yo yo todo lo demás]

Alice: balls have zero to me to me to me to me to me to me to me to me to

[Alice: pelotas tienen cero para mí para mí para mí para mí para mí para mí para mí para mí para]

Bob: you i everything else

[Bob: tú yo todo lo demás]

Alice: balls have a ball to me to me to me to me to me to me to me to me

[Alice: pelotas tienen una pelota para mí para mí para mí para mí para mí para mí para mí para mí]

A pesar de que el “diálogo” entre los robots bautizados “Bob” y “Alice” no tenía una sintaxis clara ni coherente, los científicos responsables del proyecto supusieron que se trataba de un lenguaje, porque pudieron identificar en él patrones recurrentes y vislumbraron señales de un intento por parte de los robots de utilizar abreviaturas.

Frente a esta respuesta inesperada, Facebook decidió apagar los bots, bajo el argumento de que el verdadero interés era diseñar dos bots que pudieran hablar con seres humanos, mas no que lo pudieran hacer eficientemente entre ellos. El proyecto, sin embargo, planteó dudas más allá del fenómeno ocurrido en los laboratorios.

Las redes sociales entraron en “pánico” tras el evento, al difundirse la teoría de que los robots habían sido capaces de desarrollar un nuevo idioma, un idioma propio, con mucha facilidad; con el simple propósito de poder comunicarse sin que los humanos les entendieran. Se hizo inevitable para muchos recordar las famosas historias de ciencia ficción sobre inteligencia artificial maligna, y robots que actúan en contra de la humanidad, así como la reciente advertencia de Elon Musk, que afirmó hace una semanas que “cuando queramos actuar de forma reactiva para regular la inteligencia artificial, será demasiado tarde”. La realidad de los hechos no fue exactamente esta, sin embargo.

Edgar Andrade, matemático experto en inteligencia artificial de la Universidad del Rosario, afirma que no hay por qué preocuparse. Explica que, al ver la conversación de los robots, el proyecto de Facebook realmente fue exitoso en ese sentido, ya que los bots desarrollaron una forma de hablar que les permitía resolver la tarea específica que tenían de forma más eficiente. Los ingenieros - simplemente - cometieron el error de no incentivar a los bots para hablar un inglés correcto, el inglés que conocemos. Los algoritmos de los bots, según Andrade, fueron diseñados para cumplir tareas precisas, no para hablar correctamente el idioma.

Por su parte, Tatiana Ramírez, especialista en marketing digital y jurado del primer reality en robótica, - que tiene lugar en Colombia - asegura que la conversación fue probablemente un “glitch” del sistema, como cuando falla o se traba un celular. “Lo que yo concibo es que estamos permeados por lo que nos ha mostrado el cine y la televisión, en Matrix, en Terminator, y lo pensamos como si fuera a ser el fin del mundo. Eso no va a ser así,” explica ella; y agrega que, más allá de haber varios sistemas con la capacidad de autorregularse y automejorarse, nunca van a hacer algo para lo cual no fueron programados.

A pesar de las recientes advertencias de Elon Musk, Mark Zuckerberg, creador de Facebook, se muestra muy positivo ante el desarrollo de la inteligencia artificial, y ha declarado últimamente que la mejora de los sistemas inteligentes serán de gran beneficio para la humanidad, en términos de salud, seguridad, y entretenimiento, por ejemplo.

La apariencia de la conversación que intercambiaron los bots es ciertamente espeluznante, pero no va mucho más allá de eso. Y a pesar del más reciente comentario de Musk, que apunta que el entendimiento de Zuckerberg sobre la inteligencia artificial es bastante “limitado”,  lo cierto es que estamos muy lejos de una revolución robótica, o de una realidad como la de Matrix o Terminator.