Tecnología
CEO de Google reveló que su inteligencia artificial empezó a actuar por sí misma
El CEO de Google reveló que una de sus inteligencias artificiales actuó sin estar programada para ello.
Sundar Pichai, director ejecutivo de Google, reveló recientemente que uno de los sistemas de inteligencia artificial de la empresa ha comenzado a mostrar capacidades que no estaban contempladas en su diseño inicial.
Durante una entrevista televisiva, el directivo explicó que el software respondió con precisión a una pregunta a la cual al sistema no se le había programado, es decir, no tenía conocimiento del tema.
Este hecho dejó perplejos a los desarrolladores, ya que la IA no solo comprendió el mensaje, sino que además generó una respuesta coherente, pese a que esa lengua no formaba parte de su instrucción.
El episodio ha puesto de manifiesto la creciente autonomía que están adquiriendo estas tecnologías, incluso en tareas que escapan a los parámetros establecidos por sus creadores.
Lo más leído
El misterio del aprendizaje no supervisado
El caso específico al que hizo referencia Pichai sugiere que el sistema fue capaz de adaptarse y aprender por su cuenta, sin intervención directa de los programadores ni ajustes externos.
La inteligencia artificial, al parecer, logró identificar patrones lingüísticos y generar una respuesta en un idioma desconocido hasta ese momento para ella, lo que implicaría un nivel de razonamiento y generalización que va más allá de lo que sus diseñadores habían previsto.
“Estamos comenzando a comprender cómo operan estas herramientas”, admitió el CEO al ser consultado sobre el incidente, dejando entrever que incluso para los desarrolladores más avanzados, estas tecnologías siguen siendo en parte impredecibles.
La comunidad tecnológica lleva años observando con atención este tipo de fenómenos, conocidos como ‘emergencia’, donde una IA desarrolla habilidades que no fueron explícitamente introducidas durante su entrenamiento.
En estos casos, el sistema parece encontrar soluciones o comportamientos nuevos a partir de grandes volúmenes de datos y procesos de correlación complejos.
No se trata de una actualización o mejora programada, sino de un fenómeno espontáneo dentro del modelo de aprendizaje profundo, que plantea interrogantes sobre el control y la transparencia en el desarrollo de estas herramientas.
Se está preparado para lo que viene
Un periodista del medio CBS que lo entrevistaba no dudó en plantear una inquietud ética en donde se indicaba si era responsable lanzar al mundo tecnologías cuyo funcionamiento aún es parcialmente desconocido para sus propios desarrolladores.
Ante esta cuestión, Pichai respondió con una metáfora que podría resultar tan tranquilizadora como inquietante: “Tampoco comprendemos del todo cómo funciona el cerebro humano y, sin embargo, lo usamos todos los días”.
La declaración no pasó desapercibida y reavivó el debate sobre los límites del desarrollo de la inteligencia artificial.
Por ahora, lo que parece claro es que estas tecnologías están evolucionando más rápido de lo que se esperaba y el desafío no es solo técnico, sino también ético.
