Antes de despedir a Sam Altman, creadores de ChatGPT hallaron nueva IA que sería una “amenaza para la humanidad”

El despido de Sam Altman, como presidente ejecutivo de OpenAI, ha causado una gran inestabilidad en la compañía responsable de ChatGPT, puesto que existen varias interrogantes en torno a la salida de Altman.

Adicional a ello, varios trabajadores de la compañía se han mostrado en desacuerdo por la decisión y han amenazado con dimitir a su cargo, a menos que todos los actuales miembros de la junta directiva de la empresa renuncien.

Ahora la prensa internacional señala que días antes de que Sam Altman fuera despedido, un equipo de investigadores de OpenAI enviaron una carta a las directivas de la empresa en donde se advierte un poderoso descubrimiento en el terreno de la inteligencia artificial que, según ellos, podría convertirse en una amenaza para la humanidad.

De acuerdo con un informe publicado por Reuters, dos personas cercanas al caso le indicaron a esa agencia de noticias que dicha carta, junto a otros factores, habrían incidido en la decisión de expulsar a Altman de su cargo como CEO de OpenAI.

Según una fuente, citada en la publicación de la agencia, Mira Murati, funcionaria de la compañía, habló de una iniciativa llamada llamado Q* con los empleados de la marca y confirmó que las directivas habían recibido una carta antes del despido de Sam Altman.

¿La iniciativa Q* es un riesgo para la humanidad?

Actualmente, se especula que ChatGPT habría logrado un importante avance en la iniciativa Q*, la cual estaría vinculada con el desarrollo de una súper inteligencia artificial, también conocida como una inteligencia artificial general (IAG) que sería mucho más inteligentes que los seres humanos.

No obstante, en este momento no se ha revelado a la luz pública detalles que permitan establecer cuáles serían todas las capacidades de la IAG.

Sin embargo, investigadores especializados en IA consideran que el mayor desafío en esta tecnología es lograr una inteligencia artificial generativa que sea capaz de realizar cálculos matemáticos de gran complejidad porque en ese escenario solo hay una respuesta correcta, situación que no ocurre con la creación o traducción de un texto.

De manera que lograr que una IA adquiera dicha capacidad la haría más similar a la inteligencia humana. Especialistas le explicaron a Reuters que a diferencia de una calculadora que puede resolver una serie limitada de operaciones matemáticas, la IAG tiene la capacidad de aprender y comprender con cada cálculo que ejecuta.

Sam Altman llegó a hablar de una ‘súper inteligencia artificial’

Meses atrás, Altman llegó a hablar sobre una “Inteligencia Artificial General”, la cual tendría la facultad de ir “más allá” de lo que hoy en día puede hacer una IA.

El entonces SEO de OpenAI indicó que se busca producir un sistema que tenga un nivel de racionamiento cercano al del ser humano.

Poco después se conoció que OpenAI, estaba trabajando en una herramienta llamada Superalignment, cuya principal facultad es el control de sistemas de inteligencia artificial “mucho más inteligentes” que el ser humano.

De esta manera, la compañía pretende tener un sistema que le otorgue pleno dominio sobre otras tecnologías inteligentes que podrían superarían las capacidades del ser humano.

El hombre debe temer a la IA

Finalmente, vale la pena recordar que meses atrás el propio Sam Altman comentó en una entrevista para ABC News que las capacidades de la inteligencia artificial sí pueden ser usadas con propósitos negativos.

En dicha conversación, Altman admitió que es altamente probable que otros grupos estén desarrollando una IA sin restricciones para poder emplearla en actividades que podrían dañar al ser humano.

Agregado a ello, advirtió que es necesario que la especie humana aprenda a tenerle miedo a las IA, pues de ese modo siempre se tendrá una consciencia sobre cuáles serán las mejores formas de usar u limitar esas tecnologías.