La controversia sobre el sistema de selección de objetivos por IA Maven de Palantir y sus implicaciones para la IA militar de las potencias medias

Resumen ejecutivo

En febrero de 2026, durante la guerra entre Estados Unidos e Irán, el sistema de selección de objetivos por IA Maven de Palantir designó incorrectamente como objetivo una escuela primaria en Minab, Irán. El ataque resultante mató a más de 150 personas, incluidos 120 niños. Una misión de investigación de la ONU determinó que el incidente podría constituir un crimen de guerra, pero la Casa Blanca negó inmediatamente estas conclusiones. Este caso pone de relieve el problema estructural de la velocidad en la selección de objetivos impulsada por IA, que comprime el tiempo disponible para la verificación humana. También revela el riesgo de propagación de errores cuando un sistema estandarizado se suministra a múltiples aliados. Las potencias medias, incluida Corea del Sur, deberían considerar proactivamente asegurar el control independiente sobre sus capas de datos y procedimientos de verificación a medida que adoptan los estándares de IA-C2 liderados por Estados Unidos.

I. Análisis de la situación

El sistema de selección de objetivos por IA Maven de Palantir y la controversia sobre las víctimas civiles en Irán: un análisis de la situación

1. Antecedentes y desarrollo de los acontecimientos

El 28 de febrero de 2026, Estados Unidos e Israel atacaron Irán. Los ataques aéreos mataron al líder supremo Alí Jamenei y dañaron las instalaciones nucleares y militares de Irán[5]. Aunque los combates a gran escala cesaron tras un alto el fuego negociado por Pakistán y un acuerdo en junio, ambas partes continuaron intercambiando ataques esporádicos, alegando violaciones[5].

Durante los primeros 38 días de la guerra, se utilizó un sistema de selección de objetivos basado en IA para identificar aproximadamente 13.000 objetivos[4]. Entre ellos se encontraba una escuela primaria en Minab, en el sur de Irán. El 28 de febrero, un misil Tomahawk impactó en la escuela, matando a más de 150 personas, incluidos más de 120 niños[14][11]. El periódico sueco SvD informó de que 120 niños murieron en el ataque, añadiendo que los detalles del incidente estaban surgiendo gradualmente desde el Departamento de Defensa[1]. En otro ataque aéreo ese mismo febrero, un centro deportivo en Lamerd también fue alcanzado, resultando en 22 muertes adicionales[16][17].

El medio de comunicación local iraní Tehran Times comparó el incidente con la masacre de My Lai durante la guerra de Vietnam, cuestionando directamente la responsabilidad del ejército estadounidense bajo el titular 'Una pregunta que todo estadounidense debería hacerse'[11]. Esto indica que, dentro de Irán, el suceso se percibe no como un simple error en la selección de objetivos, sino como parte de un patrón recurrente de asesinatos de civiles por parte de Estados Unidos.

2. Situación actual

El 17 de septiembre de 2026, la Misión Internacional Independiente de Investigación de la ONU sobre Irán publicó un informe de 18 páginas en el que se afirma que existen 'motivos razonables' para creer que los ataques aéreos contra la escuela primaria de Minab y el centro deportivo de Lamerd podrían constituir crímenes de guerra[13][17]. Está previsto que el informe se presente formalmente ante el Consejo de Derechos Humanos de la ONU en Ginebra el 21 de septiembre[12]. La misión de la ONU concluyó que ambos ataques fueron indiscriminados y que provocaron muertes de civiles y daños a infraestructuras civiles[17].

La Casa Blanca desestimó inmediatamente las conclusiones calificándolas de 'absurdas'[12]. Durante una audiencia en el Congreso en marzo, el ejército estadounidense confirmó el uso de herramientas avanzadas de IA para procesar rápidamente información durante el conflicto con Irán, pero subrayó que la decisión final sobre los objetivos la toman los humanos[15]. Sin embargo, el periódico austriaco Der Standard, citando un informe de la CNN, afirmó que la IA de Palantir no reconoció que los datos de imágenes que condujeron al ataque a la escuela de Minab estaban desactualizados[10]. El mismo informe también cubrió un incidente separado en el que un error de la IA estuvo a punto de desencadenar una operación militar contra China[10]. Esto sugiere que el incidente de Minab no es un error aislado, sino parte de un problema de fiabilidad más amplio del sistema Palantir.

La cuestión también ha sido abordada oficialmente en el Congreso de Estados Unidos. En una audiencia del 16 de septiembre de la Comisión de Derechos Humanos Tom Lantos, los testigos señalaron que un proceso de aprobación humana por sí solo es insuficiente para garantizar un control significativo sobre las decisiones basadas en IA[7]. La preocupación es que, a medida que se expande el papel de la IA en la identificación y recomendación de objetivos, el tiempo disponible para la intervención humana se está comprimiendo[7].

3. Actores y posturas clave

Departamento de Defensa de EE. UU. y Casa BlancaHan afirmado repetidamente el principio de que los humanos tienen la última palabra en las decisiones de selección de objetivos, una postura que parece destinada a contener la responsabilidad dentro de la cadena de mando en lugar de atribuirla al sistema[15]. Sin embargo, su respuesta a la investigación de la ONU ha sido negar sus conclusiones sin aportar pruebas, lo que ha generado críticas de que son pasivos en la búsqueda de la verdad[11][12].

Gobierno iraní y medios de comunicación localesEnmarcan el incidente como una extensión de las acciones militares inhumanas de Estados Unidos. La comparación del Tehran Times con la masacre de My Lai muestra que la opinión pública en Irán está interpretando el suceso a través del marco de un crimen de guerra histórico[11]. Por otra parte, en marzo de 2026, Irán llevó a cabo un ataque con drones denominado 'Operación Furia Épica', que dañó tres centros de datos de AWS afiliados a Estados Unidos en Oriente Medio. Los medios estatales iraníes declararon que estas instalaciones fueron atacadas porque apoyaban al ejército estadounidense[2]. Esto indica que Irán está tomando como objetivo de represalia la propia infraestructura operativa basada en IA del ejército estadounidense.

Misión de Investigación de la ONUAl concluir que las acciones de Estados Unidos podrían constituir crímenes de guerra, la misión ha dado más peso a los argumentos de rendición de cuentas por violaciones del derecho internacional humanitario[13][17]. Al mismo tiempo, la misión ha mantenido un equilibrio crítico al señalar también que el gobierno iraní utilizó 'legislación represiva' y 'fuerza letal' para reprimir las protestas por el aumento del coste de la vida, criticando así a ambas partes[13].

PalantirLa empresa se encuentra en el centro de la controversia por suministrar software de IA a las fuerzas estadounidenses, israelíes y británicas, apoyando ataques aéreos en Gaza e Irán. La acusación de que su sistema confundió imágenes desactualizadas con datos actuales, lo que provocó víctimas civiles[10], está derivando en cuestiones más amplias sobre la fiabilidad técnica de la empresa.

Comisión de Derechos Humanos Tom LantosAl plantear oficialmente, de forma bipartidista, el riesgo estructural de que la velocidad de selección de objetivos por IA supere las capacidades de verificación humana, la comisión actúa como un contrapeso al poder ejecutivo, adoptando una postura diferente[7].

4. Cuestiones clave

La primera cuestión es si el principio de 'control humano' se aplicó eficazmente. Aunque el ejército estadounidense ha explicado que los humanos toman las decisiones finales[15], la revelación de que el sistema ni siquiera fue capaz de filtrar información desactualizada[10] ha alimentado la sospecha de que el proceso de aprobación humana fue meramente una salvaguarda formal.

La segunda cuestión es la de la rendición de cuentas en virtud del derecho internacional. La brecha entre la determinación de crimen de guerra de la misión de la ONU[13][17] y la negación rotunda de la Casa Blanca[12] demuestra que aún no se han establecido normas internacionales para asignar la responsabilidad jurídica en operaciones militares mediadas por IA.

La tercera cuestión es la proliferación del sistema a las naciones aliadas. Un ejemplo de ello es la inclusión por parte del Ministerio de Defensa de Japón del coste de adquisición del sistema Maven de Palantir para el Mando de Operaciones Conjuntas de las Fuerzas de Autodefensa en su presupuesto para el año fiscal 2027[3][6]. Esto demuestra que un sistema que conlleva riesgos como los observados en el incidente de Minab se está extendiendo a las estructuras de mando y control de los aliados sin que existan alternativas probadas. Se considera que tales decisiones de integrar los sistemas de datos de un país en el estándar de ontología del ejército estadounidense 'probablemente crearán una dependencia estructural debido al aumento de los costes de cambio'[3]. Esto se relaciona directamente con los debates sobre la interoperabilidad de mando y control en la cooperación de seguridad minilateral entre EE. UU., la República de Corea y Japón, y con la cuestión de la autonomía operativa de Corea del Sur tras la transición del control operativo en tiempo de guerra (OPCON)[6].

II. Análisis en profundidad de la cuestión

El sistema de selección de objetivos por IA Maven de Palantir y la controversia sobre las víctimas civiles en Irán: un análisis en profundidad

1. Análisis de las causas fundamentales

La causa aparente del incidente de Minab fue un error relacionado con datos de imágenes desactualizados. Der Standard, citando a la CNN, informó de que la IA de Palantir no reconoció que los datos de imágenes que condujeron al ataque a la escuela estaban desactualizados[10]. El sistema no logró descartar la posibilidad de que el uso del edificio en el momento de la selección del objetivo difiriera de su uso en el momento del ataque real.

Sin embargo, esto no es tanto un fallo técnico como el resultado de la tensión estructural entre la velocidad y la verificación. En la audiencia del Congreso, los testigos señalaron que, a medida que se expande el papel de la IA en la identificación y recomendación de objetivos, el tiempo disponible para la intervención humana se está comprimiendo[7]. Incluso si se mantiene un proceso final de aprobación humana, esa aprobación se convierte en una mera formalidad si el margen de tiempo para ella no puede seguir el ritmo de la velocidad del flujo de información generado por la IA. El hecho de que se identificaran 13.000 objetivos en los primeros 38 días de la guerra ilustra la magnitud de esta compresión[4]. En un flujo de trabajo que procesa una media de más de 300 objetivos al día, la capacidad de un verificador humano para comprobar individualmente cada objetivo en busca de imágenes desactualizadas o errores contextuales está estructuralmente limitada.

Más fundamentalmente, el problema se agrava por el hecho de que no fue un error aislado del sistema Palantir. Se informó de que, durante el mismo período, un error de IA distinto estuvo a punto de desencadenar una operación militar contra China[10]. La recurrencia de estos incidentes dentro de la misma familia de sistemas sugiere que la causa de los errores puede no ser una coincidencia de casos individuales, sino más bien una vulnerabilidad inherente al diseño general del sistema y a los procedimientos operativos.

2. Contexto estructural

En términos de estructura de seguridad, este incidente ocurrió dentro de una estructura en la que Palantir suministra la misma familia de software de IA a las fuerzas estadounidenses, israelíes y británicas. El sistema Maven de Palantir ya tenía un historial de apoyo a ataques aéreos en Gaza, y se utilizó una arquitectura similar en la guerra con Irán. Esto implica el riesgo de que una ontología de selección de objetivos creada por un único proveedor, cuando se utiliza repetidamente en múltiples teatros de operaciones, pueda tener un efecto acumulativo en diversas operaciones hasta que se descubra un fallo específico. Análisis previos del EAI han señalado que el sistema Maven de Palantir está construido 'sobre el concepto CJADC2 y los estándares de ontología que el Departamento de Defensa de EE. UU. ha acumulado durante casi 20 años'[3]. Esto significa que la ventaja de la estandarización tiene una contrapartida: el potencial de propagación de errores.

En términos de estructura política, el rechazo por parte de la Casa Blanca de las conclusiones de la investigación de la ONU como 'absurdas' muestra que, dentro de la administración estadounidense, el incidente no se está tratando como una cuestión de legitimidad operativa militar, sino como un asunto de defensa política[12]. El Departamento de Defensa reitera el principio de que los humanos toman las decisiones finales de selección de objetivos, pero no ha proporcionado respuestas específicas sobre las limitaciones de información y tiempo bajo las cuales se tomaron realmente esas decisiones humanas. Esto no es ajeno al incentivo político de mantener deliberadamente ambiguo el foco de la responsabilidad, en algún punto entre el ser humano y la IA.

En términos de la estructura de las normas internacionales, la conclusión de la Misión Internacional Independiente de Investigación de la ONU sobre Irán de que los ataques a la escuela de Minab y al centro deportivo de Lamerd podrían constituir crímenes de guerra[13][17] pone de manifiesto una laguna normativa sobre cómo los sistemas de selección de objetivos por IA deben satisfacer los principios de distinción y proporcionalidad en virtud del derecho internacional humanitario. Para las estructuras de toma de decisiones híbridas en las que una IA identifica un objetivo y un humano lo aprueba, aún no se han establecido estándares jurídicos internacionales para atribuir la responsabilidad por crímenes de guerra.

3. Comparación con precedentes históricos y casos similares

El Tehran Times comparó el incidente con la masacre de My Lai de la guerra de Vietnam bajo el titular 'Una pregunta que todo estadounidense debería hacerse'[11]. Esta comparación muestra que la opinión pública en Irán percibe el suceso no como un error técnico, sino como otro ejemplo en un patrón recurrente de asesinatos de civiles por parte del ejército estadounidense. Sin embargo, una diferencia fundamental con la masacre de My Lai es que, mientras que aquel suceso implicó asesinatos directos por parte de tropas de tierra, el incidente de Minab estuvo mediado por la identificación de objetivos basada en algoritmos y un ataque a larga distancia. El carácter novedoso de este incidente es que el foco de la responsabilidad se ha desplazado de la violación de órdenes por parte de un soldado individual a un problema de diseño del sistema y procedimiento operativo.

Un precedente más directo es el historial de uso de Palantir y sistemas similares de selección de objetivos por IA en la Franja de Gaza. Palantir ya tenía experiencia apoyando ataques aéreos en Gaza, y en ese contexto se observaron tensiones similares entre la velocidad y la verificación. El hecho de que el mismo problema se repitiera en la guerra con Irán respalda la opinión de que el fallo en el sistema Palantir no es un problema excepcional ligado a un campo de batalla específico, sino un riesgo repetible inherente al propio sistema.

Además, el incidente de falsa alarma que involucró a China y que ocurrió durante el mismo período sirve como un importante punto de comparación[10]. Demuestra que un error en una IA de selección de objetivos no solo conlleva la consecuencia humanitaria de daños a civiles, sino también el riesgo estratégico de desencadenar un conflicto militar accidental entre grandes potencias. Esto es estructuralmente similar a varios incidentes de la Guerra Fría en los que fallos en los sistemas de alerta temprana crearon crisis que podrían haber conducido a una guerra nuclear. La diferencia esta vez es que el fallo fue mediado por una IA diseñada para asistir el juicio humano.

4. Variables clave que configuran la evolución futura

Acciones de seguimiento del Consejo de Derechos Humanos de la ONUEsta es la primera variable. El que las conclusiones de la investigación, que se presentarán en Ginebra el 21 de septiembre, conduzcan a una remisión al Consejo de Seguridad o a la Corte Penal Internacional, o simplemente terminen como un debate político en medio de las negaciones de Estados Unidos, determinará las repercusiones del incidente en el derecho internacional[12][17].

El nivel de respuesta legislativa del Congreso de EE. UU.Esta es la segunda variable. La cuestión clave es si el asunto del control humano significativo, planteado en la audiencia de la Comisión de Derechos Humanos Tom Lantos[7], conducirá a regulaciones legales o procedimientos de verificación obligatorios para los sistemas de selección de objetivos por IA, o si será contenido por la respuesta general del Departamento de Defensa de que 'los humanos toman la decisión final'.

El ritmo de proliferación del sistema Palantir entre los aliadosEsta es la tercera variable. Dado que el Ministerio de Defensa de Japón ya ha incluido el coste de adquisición del Sistema Inteligente Maven para el Mando de Operaciones Conjuntas de las Fuerzas de Autodefensa en su presupuesto para el año fiscal 2027[3][6], queda por ver en qué medida un fallo como el del incidente de Minab afectará a los debates de los aliados sobre su adopción. Si el incentivo para garantizar la interoperabilidad prevalece incluso después de conocerse el fallo, esto, combinado con el problema de 'dependencia estructural' señalado por el EAI, aumenta el riesgo de que el mismo error se repita sin que los aliados dispongan de capacidades de verificación autónomas[3].

La transparencia de la relación contractual entre Palantir y el Departamento de Defensa de EE. UU.Esta es la cuarta variable. A menos que se determine claramente si la responsabilidad del error recae en un fallo en el diseño del software del proveedor o en los procedimientos operativos del Departamento de Defensa, será difícil reducir la probabilidad de que incidentes similares se repitan en otros teatros de operaciones.