El mundo se sorprendió esta semana con la salida de Google, tras más de una década de trabajo, de Geoffrey Hinton, un veterano del sector de la tecnología y uno de los pioneros de la llamada inteligencia artificial (IA).
En 2012, Hinton y dos de sus más brillantes estudiantes de posgrado de la Universidad de Toronto, en Canadá, crearon una tecnología que se convirtió en el punto de partida de los actuales sistemas de IA.
Con 75 años a cuestas y más de 40 en la industria tecnológica, Hinton dedicó su carrera a investigar la red neuronal. Lo hizo desde 1972 como estudiante de posgrado en la Universidad de Edimburgo. Esa red neuronal es un complejo sistema matemático que aprende habilidades analizando datos. En aquella época, pocos investigadores creían en la idea, pero se convirtió en el trabajo de su vida.
A la par, diseñó un sistema matemático y computacional que aprende habilidades mediante el análisis de datos, la semilla de la inteligencia artificial que hoy se conoce.
Pero desde hace unos meses sintió que era el momento de dar un paso al costado. Inicialmente, su renuncia fue tomada solo como la simple jubilación de un creador tecnológico excepcional, aunque pronto dejó claro que detrás de la decisión se escondía una realidad demoledora: había pasado de pionero a profeta pesimista sobre los verdaderos alcances de la IA para la humanidad.
“Me consuelo con la excusa habitual: si yo no lo hubiera hecho, habría sido alguien más”, aseguró en una entrevista con The New York Times, en la que advirtió, además, que ahora se sentía libre para denunciar sin filtros los riesgos de la IA.
Y, en ese sentido, soltó una frase que estremeció a millones en el mundo: “Una parte de mí lamenta ahora el trabajo de mi vida”.
Conocido como el padrino de la inteligencia artificial, Hinton se unía así a una lista creciente de voces críticas que desde distintos sectores cuestiona a las empresas que compiten en la creación de productos basados en la IA generativa, la tecnología que impulsa chatbots populares, como ChatGPT.
Y sus vaticinios no son un asunto menor. En la actualidad, es claro que los sistemas nuevos de IA resultan tan determinantes para el futuro de la industria tecnológica como lo fue en su momento el lanzamiento del navegador web a principios de la década de 1990.
Hoy se sabe que la inteligencia artificial implica avances en ámbitos que van desde la investigación de fármacos hasta la educación.
De ahí que, tras su salida de Google, Hinton compartió sus temores con respecto al desarrollo de una tecnología que “funciona mejor que el cerebro humano”, pero de la cual nadie tiene garantías sobre cómo controlar. “No creo que deban ampliar esto más hasta que hayan entendido si pueden controlarlo”, sentenció Hinton, quien ganó en 2018 el Premio Turing, conocido como el Nobel de la computación.
El británico está convencido de que los sistemas se vuelven cada vez más peligrosos a medida que las empresas cualifiquen su IA: “Es atemorizante”. En este momento “los sistemas de IA no son más inteligentes que nosotros. Pero creo que pronto lo serán”, dijo en una entrevista con la BBC.
Pero ¿qué es lo que provoca tanta angustia? ¿A qué se exponen los seres humanos con esta tecnología?
Una ‘nueva verdad’
Una de las mayores preocupaciones de Hinton es que, por cuenta de la IA, internet se invadirá de fotos, videos y textos falsos y el usuario promedio “ya no podrá saber qué es verdad y qué no”.
Y ya está sucediendo. A finales de marzo, una imagen bastante peculiar del papa Francisco dio mucho de qué hablar. Esta mostraba al pontífice, de 86 años, vestido con un grueso abrigo blanco de corte largo, ceñido a la cintura y aparentemente cubierto con otras capas de ropa de calle para el invierno.
En otras imágenes, no menos virales, aparecía caminando por la calle con tenis blancos y gafas oscuras. El papa parecía alejarse drásticamente de sus vestimentas típicas: togas, estolas y mitras (los tocados altos puntiagudos).Solo unas horas después, el mundo se enteró de que había asistido a un efectivo engaño colectivo: las fotos habían sido recreadas por inteligencia artificial.
Desde que Microsoft expandió su motor de búsqueda Bing con un chatbot, desafiando de esta manera el negocio central de Google, se desató una carrera entre los gigantes tecnológicos que buscan desarrollar su mejor versión de IA. Por ello, Hinton vaticinó que la competencia entre Google, Microsoft y otros se convertirá al final en una carrera global sin regulaciones internacionales.
Por eso, otra de las preocupaciones del padrino de la IA es cómo esta tecnología impactará el mercado laboral, ya de por sí golpeado seriamente por factores como la reciente pandemia y la recesión económica mundial.
Para Hinton, la inteligencia artificial, en lugar de complementar a los seres humanos, podría reemplazarlos en innumerables oficios en los que se desempeñan tareas rutinarias.
Pero su mayor angustia es que se desarrollen armas verdaderamente autónomas, como “robots asesinos”. El informático británico explica sus motivos: los sistemas de IA “a menudo aprenden un comportamiento inesperado debido a la gran cantidad de datos que analizan. Y las personas y las empresas permiten a los sistemas de IA no solo generar su propio código, sino también ejecutar ese código por su cuenta”.
Es difícil “evitar que los malos la utilicen para cosas malas”, expresó Hinton con preocupación.
Pero que este experto levantara su voz está dando resultados. Después de que la empresa emergente OpenAI, de San Francisco, lanzara una nueva versión de ChatGPT en marzo, más de 1.000 líderes tecnológicos e investigadores firmaron una carta abierta en la que pedían una moratoria de seis meses en el desarrollo de nuevos sistemas porque las tecnologías de IA plantean “profundos riesgos para la sociedad y la humanidad”.
Días más tarde, 19 líderes actuales y antiguos de la Asociación para el Avance de la Inteligencia Artificial, una agrupación académica con 40 años de antigüedad, publicaron su propia carta con el fin de advertir sobre los riesgos de la IA.
En ese grupo figuraba Eric Horvitz, director científico de Microsoft, la empresa que ha desplegado la tecnología de OpenAI en una amplia gama de productos, incluyendo su motor de búsqueda Bing.
Preocupado y casi arrepentido, esta suerte de profeta espera desde el retiro que su creación enderece el rumbo. “De lo contrario, será el fin de todo lo que conocemos”.