Un informe generado por IA llevó al Ejército de EE.UU. a preparar una operación en Oriente Medio durante la guerra con Irán en 2026.
Un error en un sistema de inteligencia artificial casi llevó al Ejército de Estados Unidos a abordar un buque chino en Oriente Medio, tras una falsa alerta sobre componentes nucleares durante la guerra entre Estados Unidos e Irán a comienzos de 2026.
El incidente se originó cuando un informe de inteligencia, elaborado con ayuda de inteligencia artificial, identificó erróneamente el cargamento del buque como materiales relacionados con un programa de armas nucleares. Un analista de un comando de operaciones especiales utilizó un chatbot para analizar información sobre la embarcación, combinando datos de fuentes abiertas con inteligencia clasificada. El chatbot concluyó de manera incorrecta que el buque transportaba componentes vinculados a armas nucleares.
Militares armados se prepararon para abordar la embarcación y aeronaves estadounidenses ya estaban en el aire cuando la operación fue suspendida poco antes de ejecutarse, tras una revisión que detectó el error en el informe. Una fuente calificó el informe como “completamente falso” y advirtió sobre las consecuencias de una intervención militar contra una embarcación china.
Uso de inteligencia artificial en decisiones militares
El Ejército y los servicios de inteligencia estadounidenses están incrementando el uso de herramientas de inteligencia artificial para procesar información y elaborar análisis. Expertos en seguridad han señalado que los errores o “alucinaciones” de la IA pueden contener información incorrecta que afecta decisiones militares.
Dario Amodei, director ejecutivo de Anthropic, ha expresado preocupaciones sobre los riesgos de seguridad asociados con el desarrollo de sistemas de IA. El incidente es uno de los casos más delicados conocidos sobre las consecuencias de un error generado por IA en decisiones militares.
CNN no pudo determinar cuál era realmente la carga del buque ni si el chatbot era una herramienta comercial o un sistema desarrollado por el Gobierno de Estados Unidos.