La controverse sur le ciblage par l'IA de Palantir Maven et ses implications pour l'IA militaire des puissances moyennes

Synthèse

En février 2026, durant la guerre entre les États-Unis et l'Iran, le système de ciblage par IA Palantir Maven a incorrectement désigné comme cible une école primaire à Minab, en Iran. La frappe qui en a résulté a tué plus de 150 personnes, dont 120 enfants. Une mission d'établissement des faits de l'ONU a déterminé que l'incident pourrait constituer un crime de guerre, mais la Maison-Blanche a immédiatement démenti ces conclusions. Ce cas met en lumière le problème structurel de la vitesse du ciblage par IA, qui comprime le temps disponible pour la vérification humaine. Il révèle également le risque de propagation des erreurs lorsqu'un système standardisé est fourni à de multiples alliés. Les puissances moyennes, y compris la Corée du Sud, devraient envisager de manière proactive de garantir un contrôle indépendant sur leurs couches de données et leurs procédures de vérification lors de l'adoption des normes de commandement et de contrôle assistés par IA (AI-C2) menées par les États-Unis.

I. Analyse de la situation

Le système de ciblage par IA Palantir Maven et la controverse sur les victimes civiles en Iran : une analyse de la situation

1. Contexte et développements

Le 28 février 2026, les États-Unis et Israël ont attaqué l'Iran. Les frappes aériennes ont tué le Guide suprême Ali Khamenei et endommagé les installations nucléaires et militaires de l'Iran[5]. Bien que les combats à grande échelle aient cessé suite à un cessez-le-feu négocié par le Pakistan et à un accord en juin, les deux parties ont continué à échanger des attaques sporadiques, invoquant des violations[5].

Au cours des 38 premiers jours de la guerre, un système de ciblage basé sur l'IA a été utilisé pour identifier environ 13 000 cibles[4]. Parmi celles-ci se trouvait une école primaire à Minab, dans le sud de l'Iran. Le 28 février, un missile Tomahawk a frappé l'école, tuant plus de 150 personnes, dont plus de 120 enfants[14][11]. Le journal suédois SvD a rapporté que 120 enfants avaient été tués dans la frappe, ajoutant que les détails de l'incident émergeaient progressivement de l'intérieur du département de la Défense[1]. Lors d'une autre frappe aérienne en février de la même année, un centre sportif à Lamerd a également été touché, entraînant 22 morts supplémentaires[16][17].

Le média local iranien Tehran Times a comparé l'incident au massacre de Mỹ Lai pendant la guerre du Viêt Nam, remettant directement en question la responsabilité de l'armée américaine sous le titre « Une question que chaque Américain devrait se poser »[11]. Cela indique qu'en Iran, l'événement est perçu non pas comme une simple erreur de ciblage, mais comme faisant partie d'un schéma récurrent de meurtres de civils par les États-Unis.

2. Situation actuelle

Le 17 septembre 2026, la Mission internationale indépendante d'établissement des faits sur l'Iran de l'ONU a publié un rapport de 18 pages déclarant qu'il existe des « motifs raisonnables » de croire que les frappes aériennes sur l'école primaire de Minab et le centre sportif de Lamerd pourraient constituer des crimes de guerre[13][17]. Le rapport doit être officiellement présenté au Conseil des droits de l'homme de l'ONU à Genève le 21 septembre[12]. La mission de l'ONU a conclu que les deux frappes étaient des attaques indiscriminées qui ont entraîné la mort de civils et des dommages aux infrastructures civiles[17].

La Maison-Blanche a immédiatement qualifié les conclusions de « non-sens »[12]. Lors d'une audition au Congrès en mars, l'armée américaine a confirmé son utilisation d'outils d'IA avancés pour traiter rapidement les informations pendant le conflit avec l'Iran, mais a souligné que la décision finale sur les cibles est prise par des humains[15]. Cependant, le journal autrichien Der Standard, citant un reportage de CNN, a déclaré que l'IA de Palantir n'avait pas reconnu que les données d'imagerie ayant conduit à la frappe de l'école de Minab étaient obsolètes[10]. Le même reportage couvrait également un incident distinct où une erreur de l'IA a failli déclencher une opération militaire contre la Chine[10]. Cela suggère que l'incident de Minab n'est pas une erreur isolée, mais s'inscrit dans un problème de fiabilité plus large du système Palantir.

La question a également été officiellement abordée au Congrès américain. Lors d'une audition de la Commission des droits de l'homme Tom Lantos le 16 septembre, des témoins ont souligné qu'un processus d'approbation humaine à lui seul est insuffisant pour garantir un contrôle significatif sur les décisions basées sur l'IA[7]. La préoccupation est que, à mesure que le rôle de l'IA dans l'identification et la recommandation de cibles s'étend, le temps disponible pour l'intervention humaine se trouve compressé[7].

3. Acteurs clés et positions

Département de la Défense des États-Unis et Maison-BlancheIls ont affirmé à plusieurs reprises le principe selon lequel les humains ont le dernier mot sur les décisions de ciblage, une position qui semble viser à contenir la responsabilité au sein de la chaîne de commandement plutôt qu'à l'attribuer au système[15]. Cependant, leur réponse à l'enquête de l'ONU a été de nier ses conclusions sans fournir de preuves, ce qui a conduit à des critiques les accusant d'être passifs en matière d'établissement des faits[11][12].

Gouvernement iranien et médias locauxIls présentent l'incident comme une extension des actions militaires inhumaines des États-Unis. La comparaison du Tehran Times avec le massacre de Mỹ Lai montre que l'opinion publique en Iran interprète l'événement à travers le prisme d'un crime de guerre historique[11]. Par ailleurs, en mars 2026, l'Iran a mené une attaque de drones baptisée « Opération Fureur Épique », endommageant trois centres de données AWS affiliés aux États-Unis au Moyen-Orient. Les médias d'État iraniens ont déclaré que ces installations avaient été ciblées parce qu'elles soutenaient l'armée américaine[2]. Cela indique que l'Iran cible pour ses représailles l'infrastructure opérationnelle basée sur l'IA de l'armée américaine elle-même.

Mission d'établissement des faits de l'ONUEn concluant que les actions américaines pourraient constituer des crimes de guerre, la mission a donné plus de poids aux arguments en faveur de la responsabilité pour les violations du droit international humanitaire[13][17]. Dans le même temps, la mission a maintenu un équilibre critique en soulignant également que le gouvernement iranien a utilisé une « législation répressive » et une « force létale » pour réprimer les manifestations contre la hausse du coût de la vie, critiquant ainsi les deux parties[13].

PalantirL'entreprise est au centre de la controverse pour avoir fourni des logiciels d'IA aux forces américaines, israéliennes et britanniques, soutenant des frappes aériennes à Gaza et en Iran. L'allégation selon laquelle son système aurait confondu des images obsolètes avec des données actuelles, entraînant des victimes civiles[10], se transforme en questions plus larges sur la fiabilité technique de l'entreprise.

Commission des droits de l'homme Tom LantosEn soulevant officiellement, de manière bipartite, le risque structurel que la vitesse du ciblage par IA dépasse les capacités de vérification humaine, la commission agit comme un contre-pouvoir face à l'exécutif, adoptant une position différente[7].

4. Enjeux clés

Le premier enjeu est de savoir si le principe du « contrôle humain » a été efficacement mis en œuvre. Bien que l'armée américaine ait expliqué que les humains prennent les décisions finales[15], la révélation que le système n'a même pas réussi à filtrer les informations obsolètes[10] a alimenté le soupçon que le processus d'approbation humaine n'était qu'une garantie formelle.

Le deuxième enjeu est la question de la responsabilité en vertu du droit international. Le fossé entre la qualification de crime de guerre par la mission de l'ONU[13][17] et le démenti catégorique de la Maison-Blanche[12] démontre que des normes internationales n'ont pas encore été établies pour attribuer la responsabilité juridique dans les opérations militaires assistées par l'IA.

Le troisième enjeu est la prolifération du système auprès des nations alliées. L'inclusion par le ministère de la Défense du Japon du coût d'acquisition du système Palantir Maven pour le Commandement des opérations interarmées des Forces d'autodéfense dans son budget de l'année fiscale 2027 en est un bon exemple[3][6]. Cela montre qu'un système porteur de risques, comme ceux observés dans l'incident de Minab, se propage aux structures de commandement et de contrôle alliées sans alternatives éprouvées. De telles décisions d'intégrer les systèmes de données d'un pays à la norme ontologique de l'armée américaine sont évaluées comme « susceptibles de créer une dépendance structurelle en raison de l'augmentation des coûts de transition »[3]. Cela est directement lié aux discussions sur l'interopérabilité du commandement et du contrôle dans la coopération de sécurité minilatérale entre les États-Unis, la République de Corée et le Japon, ainsi qu'à la question de l'autonomie opérationnelle de la Corée du Sud après le transfert du contrôle opérationnel en temps de guerre (OPCON)[6].

II. Analyse approfondie des enjeux

Le système de ciblage par IA Palantir Maven et la controverse sur les victimes civiles en Iran : une analyse approfondie

1. Analyse des causes profondes

La cause apparente de l'incident de Minab était une erreur impliquant des données d'imagerie obsolètes. Der Standard, citant CNN, a rapporté que l'IA de Palantir n'avait pas reconnu que les données d'imagerie ayant conduit à la frappe de l'école étaient obsolètes[10]. Le système n'a pas réussi à écarter la possibilité que l'usage du bâtiment au moment du ciblage différait de son usage au moment de la frappe réelle.

Cependant, il s'agit moins d'une faille technique que du résultat de la tension structurelle entre vitesse et vérification. Lors de l'audition au Congrès, des témoins ont souligné qu'à mesure que le rôle de l'IA dans l'identification et la recommandation de cibles s'étend, le temps disponible pour l'intervention humaine se trouve compressé[7]. Même si un processus final d'approbation humaine subsiste, cette approbation devient une simple formalité si la fenêtre de temps qui lui est allouée ne peut suivre le rythme du flux d'informations généré par l'IA. Le fait que 13 000 cibles aient été identifiées au cours des 38 premiers jours de la guerre illustre l'ampleur de cette compression[4]. Dans un flux de travail traitant en moyenne plus de 300 cibles par jour, la capacité d'un vérificateur humain à contrôler individuellement chaque cible pour y déceler des images obsolètes ou des erreurs contextuelles est structurellement limitée.

Plus fondamentalement, le problème est aggravé par le fait qu'il ne s'agissait pas d'une erreur ponctuelle du système Palantir. Il a été rapporté que, durant la même période, une autre erreur de l'IA a failli déclencher une opération militaire contre la Chine[10]. La récurrence de ces incidents au sein de la même famille de systèmes suggère que la cause des erreurs n'est peut-être pas une coïncidence liée à des cas individuels, mais plutôt une vulnérabilité inhérente à la conception globale du système et aux procédures opérationnelles.

2. Contexte structurel

En termes de structure de sécurité, cet incident s'est produit dans une structure où Palantir fournit la même famille de logiciels d'IA aux forces américaines, israéliennes et britanniques. Le système Palantir Maven avait déjà un historique de soutien aux frappes aériennes à Gaza, et une architecture similaire a été utilisée dans la guerre avec l'Iran. Cela implique un risque qu'une ontologie de ciblage créée par un seul fournisseur, lorsqu'elle est utilisée de manière répétée sur plusieurs théâtres d'opérations, puisse avoir un effet cumulatif sur diverses opérations jusqu'à ce qu'une faille spécifique soit découverte. Une analyse précédente de l'EAI a souligné que le système Palantir Maven est construit « sur le concept CJADC2 et les normes ontologiques que le département de la Défense des États-Unis a accumulés pendant près de 20 ans »[3]. Cela signifie que l'avantage de la standardisation a un inconvénient : le potentiel de propagation des erreurs.

En termes de structure politique, le rejet par la Maison-Blanche des conclusions de l'enquête de l'ONU comme étant un « non-sens » montre qu'au sein de l'administration américaine, l'incident est traité non pas comme une question de légitimité opérationnelle militaire, mais comme un enjeu de défense politique[12]. Le département de la Défense réitère le principe selon lequel les humains prennent les décisions finales de ciblage, mais il n'a pas fourni de réponses précises sur les contraintes d'information et de temps dans lesquelles ces décisions humaines ont été réellement prises. Cela n'est pas sans rapport avec l'incitation politique à maintenir délibérément le lieu de la responsabilité ambigu, quelque part entre l'humain et l'IA.

En termes de structure des normes internationales, la conclusion de la Mission internationale indépendante d'établissement des faits sur l'Iran de l'ONU, selon laquelle les frappes sur l'école de Minab et le centre sportif de Lamerd pourraient constituer des crimes de guerre[13][17], révèle une lacune normative quant à la manière dont les systèmes de ciblage par IA doivent satisfaire aux principes de distinction et de proportionnalité en vertu du droit international humanitaire. Pour les structures de prise de décision hybrides où une IA identifie une cible et un humain l'approuve, les normes juridiques internationales pour l'attribution de la responsabilité des crimes de guerre n'ont pas encore été établies.

3. Comparaison avec des précédents historiques et des cas similaires

Le Tehran Times a comparé l'incident au massacre de Mỹ Lai pendant la guerre du Viêt Nam sous le titre « Une question que chaque Américain devrait se poser »[11]. Cette comparaison montre que l'opinion publique en Iran perçoit l'événement non pas comme une erreur technique, mais comme un autre exemple dans un schéma récurrent de meurtres de civils par l'armée américaine. Cependant, une différence fondamentale avec le massacre de Mỹ Lai est que, si cet événement impliquait des meurtres directs par des troupes au sol, l'incident de Minab a été médiatisé par une identification de cible basée sur un algorithme et une frappe à longue portée. Le caractère inédit de cet incident réside dans le fait que le lieu de la responsabilité s'est déplacé de la violation des ordres par un soldat individuel à un problème de conception du système et de procédure opérationnelle.

Un précédent plus direct est l'historique de l'utilisation de Palantir et de systèmes de ciblage par IA similaires dans la bande de Gaza. Palantir avait déjà une expérience de soutien aux frappes aériennes à Gaza, et des tensions similaires entre vitesse et vérification avaient été notées dans ce contexte. Le fait que le même problème se soit reproduit dans la guerre avec l'Iran conforte l'idée que la faille du système Palantir n'est pas un problème exceptionnel lié à un champ de bataille spécifique, mais un risque reproductible inhérent au système lui-même.

De plus, l'incident de fausse alerte impliquant la Chine, survenu à la même période, constitue un point de comparaison important[10]. Il démontre qu'une erreur dans une IA de ciblage entraîne non seulement la conséquence humanitaire de pertes civiles, mais aussi le risque stratégique de déclencher un conflit militaire accidentel entre grandes puissances. Ceci est structurellement similaire à divers incidents de la Guerre froide où des dysfonctionnements dans les systèmes d'alerte précoce ont créé des crises qui auraient pu conduire à une guerre nucléaire. La différence cette fois-ci est que le dysfonctionnement a été médiatisé par une IA conçue pour assister le jugement humain.

4. Variables clés façonnant les développements futurs

Actions de suivi du Conseil des droits de l'homme de l'ONUC'est la première variable. Le fait que les conclusions de l'enquête, qui seront présentées à Genève le 21 septembre, conduisent à une saisine du Conseil de sécurité ou de la Cour pénale internationale, ou se terminent simplement par un débat politique sur fond de démentis américains, déterminera les répercussions de l'incident en droit international[12][17].

Le niveau de réponse législative du Congrès américainC'est la deuxième variable. La question clé est de savoir si la question du contrôle humain significatif, soulevée lors de l'audition de la Commission des droits de l'homme Tom Lantos[7], conduira à des réglementations juridiques ou à des procédures de vérification obligatoires pour les systèmes de ciblage par IA, ou si elle sera contenue par la réponse générale du département de la Défense selon laquelle « les humains prennent la décision finale ».

Le rythme de la prolifération du système Palantir parmi les alliésC'est la troisième variable. Le ministère de la Défense du Japon ayant déjà inclus le coût d'acquisition du système intelligent Maven pour le Commandement des opérations interarmées des Forces d'autodéfense dans son budget de l'année fiscale 2027[3][6], il reste à voir dans quelle mesure une faille comme celle de l'incident de Minab affectera les discussions des alliés sur son adoption. Si l'incitation à garantir l'interopérabilité prévaut même après que la faille est connue, cela, combiné à la question de la « dépendance structurelle » soulignée par l'EAI, augmente le risque que la même erreur se reproduise sans que les alliés disposent de capacités de vérification autonomes[3].

La transparence de la relation contractuelle entre Palantir et le département de la Défense des États-UnisC'est la quatrième variable. À moins qu'il ne soit clairement déterminé si la responsabilité de l'erreur incombe à une faille dans la conception du logiciel du fournisseur ou aux procédures opérationnelles du département de la Défense, il sera difficile de réduire la probabilité que des incidents similaires se reproduisent sur d'autres théâtres d'opérations.