Erróneo informe militar generado con IA casi provoca una operación de EE.UU. contra un barco chino

Un chatbot de inteligencia artificial produjo un informe de inteligencia completamente falso que estuvo a punto de desencadenar una operación militar estadounidense contra un buque chino en Oriente Medio, según reveló una investigación exclusiva de CNN basada en cuatro fuentes familiarizadas con el episodio.

El incidente ocurrió en la primavera de este año, en plena guerra entre Estados Unidos e Irán. El informe, elaborado por un analista del Comando de Operaciones Especiales del Pacífico (SOCOM Pacific), con sede en Hawái, afirmaba que un barco chino navegaba por la región transportando componentes de un programa de armas nucleares.

El documento circuló por toda la cadena de mando y desató una respuesta inmediata: según dos de las fuentes, personal militar armado se preparaba para abordar el buque.

Aviones militares ya estaban en el aire cuando, en el último momento, funcionarios que revisaron el informe con mayor detenimiento descubrieron el error.

El analista había consultado un chatbot sobre información del manifiesto del barco. La herramienta fusionó inteligencia de fuentes abiertas con inteligencia de señales clasificada y llegó a una conclusión errónea.

Luego, el analista usó IA por segunda vez para empaquetar los hallazgos en un informe de inteligencia estándar —el tipo de documento en que los funcionarios militares confían— y lo diseminó sin mayor verificación.

Una de las fuentes calificó el documento de «completamente falso» y advirtió que «casi inicia una guerra». CNN no pudo determinar cuál era la carga real del buque ni si el chatbot utilizado era un producto comercial o gubernamental.

Un exfuncionario senior señaló que «las herramientas internas son en su mayoría copias de los productos comerciales con maquillaje».

Cualquier operación militar contra un buque chino habría tenido el potencial de escalar a un conflicto armado entre las dos potencias, en un momento en que la rivalidad estratégica entre Washington y Pekín alcanza niveles históricos. El creciente espionaje chino en la región ya había encendido alarmas entre funcionarios estadounidenses.

El episodio se produce en el contexto de una acelerada adopción de IA en el ámbito militar. En enero, el secretario de Defensa Pete Hegseth lanzó la «Estrategia de Aceleración de Inteligencia Artificial» del Pentágono, con el objetivo de integrar estas herramientas en todas las facetas de las operaciones, desde el análisis de inteligencia y la selección de blancos hasta la logística y los presupuestos.

«Desataremos la experimentación, eliminaremos las barreras burocráticas y demostraremos el enfoque de ejecución necesario para liderar en IA militar», declaró Hegseth al anunciar la estrategia.

Una fuente familiarizada con las políticas actuales del ejército advirtió: «El uso de IA en la selección de blancos está definitivamente en aumento y no existe orientación real sobre cómo la supervisión humana prevendrá bajas civiles o fuego amigo».

Otra resumió el riesgo con una frase contundente: «La IA te permite llegar más rápido a una mala idea».

Sin embargo, el esfuerzo es descentralizado: distintas unidades usan herramientas diferentes bajo órdenes y estándares de seguridad dispares, sin normas unificadas para verificar la información generada.

Las armas autónomas con control de IA desplegadas por EE.UU. ya habían generado debate sobre los límites de la supervisión humana en operaciones de combate.

Fuentes advierten que las «alucinaciones» —errores factuales generados por IA— no han sido un incidente aislado en la comunidad de inteligencia desde que estas herramientas comenzaron a proliferar. Los analistas más jóvenes, señalan varias fuentes, tienden a confiar en ellas de forma acrítica.