Un informe de inteligencia equivocado bastó para poner en marcha una operación militar estadounidense en Medio Oriente. Aviones ya estaban desplegados y efectivos armados se preparaban para abordar una embarcación china cuando una revisión de último minuto descubrió el problema: un chatbot había identificado erróneamente su carga.
Esta vez, una “alucinación” de inteligencia artificial no inventó una cita, una dirección o un dato histórico. Según una investigación de CNN, estuvo a punto de provocar una operación militar estadounidense contra una embarcación china.
El episodio ocurrió durante la primavera boreal, mientras Estados Unidos se encontraba en guerra con Irán. Un informe que comenzó a circular dentro de las Fuerzas Armadas advertía que un barco chino que navegaba por Medio Oriente transportaba componentes vinculados a un programa de armas nucleares.
La información fue tomada con suficiente seriedad como para activar preparativos operativos. Aviones militares estadounidenses despegaron y personal armado quedó preparado para abordar el buque.
Pero había un problema enorme: el informe era falso.
El error nació en un chatbot
Según CNN, el documento se originó cuando un analista perteneciente a un comando de operaciones especiales utilizó un chatbot para analizar información sobre la carga de la embarcación.
El sistema recibió una combinación de inteligencia de señales —información clasificada obtenida por el gobierno— y antecedentes provenientes de fuentes abiertas. A partir de esos datos, la herramienta identificó incorrectamente la carga como componentes relacionados con un programa de armas nucleares.
CNN no logró determinar si se utilizó un chatbot comercial o alguna de las herramientas internas desplegadas por el gobierno estadounidense.
El error tampoco quedó limitado a una consulta.
De acuerdo con el reporte, la inteligencia artificial volvió a utilizarse para elaborar un informe con formato estándar, el tipo de documento que posteriormente circula entre funcionarios y mandos militares.
Así, una conclusión equivocada adquirió la apariencia de un producto formal de inteligencia.
La revisión humana llegó cuando los aviones ya volaban
La cadena se rompió prácticamente al final.
Analistas con experiencia en la materia revisaron la información que sustentaba el reporte y descubrieron que el chatbot había identificado incorrectamente el material transportado por la embarcación. La operación fue cancelada.
Una de las fuentes consultadas por CNN describió el informe como completamente falso y aseguró que el episodio “casi comenzó una guerra”.
No significa que Estados Unidos y China hubieran entrado inevitablemente en guerra. Sí significa que una acción militar contra un barco chino, basada además en información incorrecta, podía desencadenar una crisis de consecuencias difíciles de anticipar.
El problema no es solamente que la IA se equivoque
El episodio aparece precisamente cuando el Pentágono está acelerando la incorporación de inteligencia artificial a distintas áreas de sus operaciones.
La administración de Donald Trump y el secretario de Defensa, Pete Hegseth, han impulsado una adopción más rápida de estas herramientas, incluyendo análisis de información, logística y operaciones relacionadas con selección de objetivos.
Las fuentes consultadas por CNN advirtieron además que este no sería el único caso en que informes elaborados con ayuda de IA llegaron a usos operativos sin una revisión suficiente, lo que abre interrogantes sobre los mecanismos de supervisión humana.
El incidente expone así un riesgo bastante menos futurista que el de una máquina tomando autónomamente el control de un arma.
Una IA puede equivocarse. Un analista puede confiar demasiado en ella. Un informe puede seguir avanzando por una cadena de mando. Y cuando alguien finalmente descubre el error, los aviones ya pueden estar en el aire.
Plano General
Durante años imaginamos el peligro de la inteligencia artificial como una máquina capaz de decidir por sí misma iniciar una guerra.
Este episodio plantea algo bastante más incómodo: quizás ni siquiera necesita hacerlo.
Basta con que entregue una respuesta equivocada, un ser humano la convierta en certeza y los siguientes confíen en que alguien ya comprobó que era verdad.
por
por
