‘Nexus’: para Harari, la Inteligencia artificial es un auto sin frenos y dice, “una bomba no podía crear otra bomba”

Es aterrador el escenario democratizador que se vive actualmente, en el que naciones desarrolladas y en desarrollo son víctimas por igual de la desinformación rampante. Basta ver las contiendas electorales en distintas partes del mundo. Todo se ha nivelado por lo bajo. Ninguna se salva de la demencia argumentativa. Desde Washington, donde hace prensa para su libro más reciente, Nexus, Yuval Noah Harari expresa ante más de cien medios de Hispanoamérica, con la claridad que lo caracteriza, que estos días “lo único en lo que coinciden republicanos y demócratas es en que no hay lugar para una conversación racional”. Bien podría decirlo de los contendores en el 90 por ciento de las democracias actuales. ¿Cómo llegamos a este punto?, él lo cuenta en su libro. ¿Puede ponerse peor?, sin duda.

Ante la dictadura de los algoritmos y sus misterios no revelados, que rigen los destinos de lo que circula y de cómo circula en esta era de redes e información desinformada (entre eso, nuestros datos, voces, rostros), no parece haber ente regulador trasnacional con el poder de hacer una diferencia ni una iniciativa que obligue a sus desarrolladores a controlar responsablemente sus avances. Mientras eso sucede (no va a suceder pronto), los gigantes tecnológicos siguen escudándose en la libertad de expresión para permitir a sus algoritmos y a sus inteligencias artificiales propagar una considerable cantidad de teorías falsas, de miedo, de odio, porque está probado que son aquellas que más tráfico (y rédito) les significan. Lo han hecho sin sufrir consecuencias reales, hasta el momento. Y queda en el aire si lo que pasó en Brasil, donde Twitter fue bloqueado, marca una línea en la arena. La conversación se intensificará. Eso es seguro.

Esta crispación no le escapa a Harari, académico, historiador y filósofo, pensador contemporáneo que ha alimentado millones de conciencias humanas desde libros como Sapiens, que en 2014 revitalizó la no ficción inteligente. Nacido en Israel en 1976, profesor en el Departamento de Historia de la Universidad Hebrea de Jerusalén, autor ultra best seller mundial (con más de 45 millones de ejemplares vendidos, 23 de Sapiens), Harari se ha convertido por su virtud y su visión en un narrador y comentarista de la historia humana reciente. En el caso de Nexus, lo hace casi en tiempo real, algo que antes hubiera resultado precipitado, pero que se hace necesario por la velocidad frenética a la que se registran los desarrollos y sus impactos.

El israelí sabe que los gigantes tecnológicos están detrás de ir afinando inteligencias artificiales y de dejarlas operar como caballos desbocados. Gritan vanguardia, pero no pagarán los platos rotos de hacerla crecer sin un marco de control. Los platos rotos, en el fondo, no importan, los dividendos y los mercados importan. Y por eso la sociedad necesita abrir los ojos y exigir más responsabilidad. “Si produces autos, medicinas, nadie te deja venderlas sin saber que son seguras”, explica el pensador. Añade que en el terreno del desarrollo de esta tecnología prima una mentalidad de “guerra armamentista”, al que llegue más rápido, y ahí yacen peligros enormes.

“Se está sacando un carro sin frenos a la calle –ilustra Harari–, pensando en manejar rápidamente y luego ver cómo frenar”. El pensador cree que hay que seguir desarrollando la IA, pero sugiere que las empresas que lo hacen destinen el 20 por ciento de sus gastos a controlar, dar un marco seguro. No sucede hoy y podría hacer una gran diferencia.

¿Hay lados buenos de la IA? Claro, asegura Harari, pero para él esos lados (un mejor sistema de salud actualizable al segundo y sin horario, entre otros posibles escenarios) ya se publicitan ampliamente. El peligro para él es no revelar los lados oscuros. “Mirar a esos lugares difíciles” es una responsabilidad que atribuye a historiadores, los filósofos, académicos y periodistas.

El pensador cuenta que en plataformas como Facebook y Twitter la inteligencia artificial ya escoge qué poner en el feed de cada usuario, y que, dado que la conspiración mueve más que la verdad, eso prioriza, “el botón del odio y del miedo”, un hecho que desnuda un vacío de responsabilidad. Porque, a diferencia de lo que pasa con un editor de medio de comunicación, que responde por lo que decide publicar y sufre consecuencias si difunde informaciones falsas, aquí nadie paga el precio. Todo se queda en iniciativas de relaciones públicas y pañitos de agua tibia. “La IA ya tiene ese poder del editor”, señala, mientras subraya que esto no es libertad de prensa y que estas compañías poderosas deberían ser responsables.

“La gente tiene derecho a su estupidez”, señala el profesor, y no se le debe censurar tan fácilmente. En eso, Harari está de acuerdo con los titanes de las plataformas; pero en lo que difiere radicalmente es en aceptar la libertad empresarial que les dan a sus algoritmos de destacar las mentiras, porque se comparten más fácilmente, en nombre del negocio, sin escrúpulo alguno. Puesto así, no es muy distinto de vender veneno.

Le preguntan si hay contradicción entre existir en la sociedad de la información y sentir mayor ignorancia, pero no lo ve así. “Es importante anotar que información no equivale a verdad, no equivale a conocimiento. Elon Musk dice que se necesita más información, pero no es así. La mayoría de la información es basura. La ficción es barata, no exige más que inventarla y escribirla. La verdad es costosa, exige tiempo, esfuerzo e inversión. Además, la verdad duele. Y la gente prefiere las historias simples”.

La sala indaga sobre qué tan dramático es el escenario, porque la humanidad ha sobrevivido a uno que otro reto. “Una bomba atómica no podía crear una bomba más poderosa. La IA sí puede crear ideas por su cuenta”, responde. Y se duda porque la gente ve hoy la música, o el arte de IA, o los textos de ChatGPT, y no siente una amenaza, se queda en los defectos, los dedos en las imágenes, la música genérica. Harari señala que estas IA tienen unos 10 años y están apenas en su fase ‘ameba’. Relata que entre las amebas y los mamíferos hubo millones de años, pero la evolución digital es muchísimo más rápida. Y lo que antes tomó millones de años, ahora puede suceder en 10 o 20 años. “Estos son apenas los primeros pasos –recalca– y si así se ve la ameba, no me quiero imaginar cómo se verá el tiranosaurio rex”.

El profesor comparte además que los problemas que se reconocen en muchos de los textos de IA los reconoce en los ensayos de sus alumnos. “Esta IA no es un copy-paste, no es un autocomplete glorificado: hay párrafos, historias, con muchos errores, pero con sentido. Son ensayos y tratan de comunicar un punto. Eso lo puede hacer ya, veremos en cinco años”. Y entonces lanza una sentencia que deja fríos a los escuchas: “Si se piensa bien, en toda la historia de la humanidad todo ha venido de la mente humana. Ahora, cada vez más de estos artefactos, historias, series, imágenes, música, serán producto de una inteligencia alien, ¿qué efectos tendrá esto en la psicología humana? No lo sabemos, pero es una enorme cuestión”.

Se vuelve inevitable tocar la intersección entre estas tecnologías y Gobiernos de talante autoritario, puesto que la radicalización de la conversación ha llevado a los extremos a ser opción. En este punto, Harari anota que en estas estrategias coinciden ambos extremos, derechas e izquierda, en democracias y en dictaduras. “De ambos extremos se escucha la sospecha de las instituciones. Y tiene una visión muy cínica, de que la única realidad es el poder”. La democracia necesita confianza, la dictadura no. Harari habla aquí de una añoranza del ser humano por saber la verdad, porque sin ella no puede ser realmente feliz.

Por último, ¿qué rol desempeña la prensa en todo esto?, le preguntaron. Harari explicó que la democracia es posible gracias a la prensa, no al revés, porque la prensa permite la conversación grande que exige el sistema. Cuando se controlan los medios que realmente hacen contrapoder no se pueden exponer las mentiras de un Gobierno. Sin verdad no hay conversación, y sin conversación no hay democracia. Así que no son importantes, son cruciales. ¿Tienen los medios el poder de destruir? “Lenin fue editor de un periódico antes de convertirse en Lenin. Mussolini empezó como periodista socialista antes de fundar el periódico desde el cual armó su base y asumió en la Italia fascista –comparte–, pero ahora el poder está en manos de estos gigantes y de sus algoritmos”.