Alto directivo del Pentágono estaría “muerto de miedo” por el desarrollo de la inteligencia artificial

En medio de los avances y las discusiones sobre el desarrollo de la Inteligencia Artificial, apareció un protagonista importante, como quiera que pertenece a uno de los más importantes organismos de la seguridad de estados Unidos y que tiene un gran impacto a nivel mundial.

Se trata del director de Inteligencia Digital y Artificial del Departamento de Defensa (pentágono), Craig Martell, quien lanzó una alerta sobre el uso que las personas podrían darle a esta herramienta.

Y es que esta advertencia está relacionada con la posibilidad de que este instrumento tecnológico se convierta en una herramienta que sea utilizada para fomentar la desinformación, por lo que llamó la atención en la necesidad de capacitar a las personas en la detección de fake news.

“No nos vendan solo la generación, trabajen también en la detección”, en relación con poder identificar la realidad dentro de sus resultados.

En este caso, el funcionario del Pentágono se refirió a la simulación de avatares o la clonación de voz, o la calidad similar a la fotográfica en las imágenes generadas por IA.

“Esta información desencadena una respuesta psicológica que lleva a pensar que esto tiene autoridad”, señaló, de acuerdo con la publicación del medio Breaking Defense, al destacar su participación en la conferencia cibernética TechNet, organizada por la Asociación de Electrónica y Comunicaciones de las Fuerzas Armadas.

De acuerdo con la misma publicación, Martell reconoció que se encuentra “muerto de miedo” por el uso que puedan darle los usuarios a los recursos de la IA.

Aseguró que este desarrollo tecnológico “fue preparado para expresarse con fluidez y habla con fluidez y autoridad, así que lo creen incluso cuando su información está mal”.

“Esto significa que es una herramienta perfecta para la desinformación. Y, realmente, necesitamos herramientas para poder detectar cuándo sucede esto y poder advertir en ese momento… Pero no las tenemos. Estamos atrasados en esa lucha”, indicó.

Incluso destacó que “si le preguntas a ChatGPT: ‘¿Puedo confiar en vos?’, su respuesta data de un largo ‘no’. No bromeo. Dice que es una herramienta que va a darte una respuesta, pero que te corresponde a vos ir a verificarlo por vos mismo”.

“Entonces, mi temor sobre usar esta tecnología, a diferencia de los temores de que nuestros adversarios lo usen, es que confiemos demasiado en ella, sin que los proveedores del servicio construyan las garantías adecuadas y la capacidad para que nosotros lo validemos”, enfatizó.

Desarrollos tecnológicos

Así mismo, el funcionario explicó que se avanza en el desarrollo del proyecto JADC2, cuyo propósito es desarrollar un enfoque de comando y control conjunto para todas las fuerzas militares, incluyendo tierra, aire, mar, espacio y cibernética.

Esta iniciativa busca mejorar la toma de decisiones en el campo de batalla y enfrentar los avances militares de China y Rusia, consideradas las principales amenazas para la seguridad nacional de Estados Unidos.

Este proyecto es adelantado por la Oficina de Inteligencia Artificial y Digital (CDAO) que lidera los Experimentos Globales de Dominio de la Información (GIDE).

El regreso de GIDE se produce después de un paréntesis de varios meses y en medio de un creciente interés público por la IA y su potencial para aumentar la capacidad humana.

La CDAO también ha desarrollado la capa de integración de datos, que ayudará a recopilar información de diversas fuentes y presentarla de manera unificada.

Según explicó Martell, se trata de una plataforma que hará conectar los sistemas de todas las ramas de esta institución y compartir los datos que recopila su tecnología.

La primera de las pruebas reanudadas, GIDE V, tuvo lugar a principios de año, con la participación de funcionarios del Pentágono, mandos de combate e instalaciones de todo el mundo. De acuerdo con el cronograma, se esperan tres iteraciones más, GIDE VI a GIDE VIII, este año 2023.

Según Martell, él y sus colegas trabajan con los mandos de combate con una cadencia regular, buscando disolver las barreras entre regiones y mejorar la fluidez en el intercambio de información.