Controverse américano-russe sur l'obstruction conjointe à la réglementation des systèmes d'armes dotés d'IA : contexte et implications

Résumé exécutif

Lors de l'Assemblée générale de l'ONU, il a été confirmé que les États-Unis et la Russie ont conjointement bloqué l'introduction d'une clause imposant l'intervention humaine dans les décisions de ciblage des systèmes d'armes dotés d'IA. Il s'agit du résultat combiné du scepticisme de l'administration Trump à l'égard de la surveillance internationale de l'IA et de la méfiance de la Russie envers les normes multilatérales portées par l'Occident, reflétant la position structurelle partagée par les deux pays en tant que membres permanents du Conseil de sécurité de l'ONU et États dotés d'armes nucléaires dans les normes de désarmement. Parallèlement, 22 pays, dont des nations européennes, ont adopté séparément une déclaration sur le principe du contrôle humain afin de combler ce vide normatif. Par conséquent, la gouvernance de l'IA se fragmente en trois voies : le canal bilatéral États-Unis-Chine, la voie d'obstruction américano-russe et la déclaration multilatérale des puissances moyennes. Étant donné que la formation de normes multilatérales officielles a de fortes chances de stagner, la Corée du Sud doit donner la priorité à sa participation à des organes consultatifs informels de niveau technique de type SIPRI et à l'établissement de ses propres procédures de vérification de l'IA. Dans une situation où les États-Unis adoptent une double approche — bloquer les réglementations avec la Russie tout en maintenant un canal de notification des incidents avec la Chine —, la Corée du Sud doit évaluer à la fois sa marge de manœuvre pour une réponse indépendante et les limites de son pouvoir de négociation.

I. Analyse de la question

Controverse américano-russe sur l'obstruction conjointe à la réglementation des systèmes d'armes dotés d'IA : analyse de la question

1. Contexte et évolution de la question

Cette affaire a d'abord été révélée par un reportage sur le terrain lors de l'Assemblée générale de l'ONU par le journal italien La Repubblica, citant un article du Washington Post [1]. Le cœur de cet article est que les États-Unis et la Russie ont conjointement bloqué l'introduction de restrictions internationales sur l'utilisation de l'IA dans les systèmes d'armes [1]. En particulier, il a souligné qu'une proposition visant à rendre obligatoire le fait que les décisions finales sur les cibles suggérées par l'IA soient prises par des humains plutôt que par des ordinateurs a été rejetée [1].

Cette controverse n'est pas un incident isolé. Elle s'est produite dans le même contexte que le scepticisme américain à l'égard de la réglementation de l'IA qui a traversé toute la semaine de l'Assemblée générale de l'ONU en septembre. Le président Trump a qualifié les demandes de surveillance internationale de l'IA de « complot mondialiste » dans son discours à l'Assemblée générale de l'ONU [4]. Il a également déclaré que le gouvernement américain utiliserait le terme de « superintelligence » au lieu d'« intelligence artificielle » dans les documents officiels [4]. À peu près au même moment, le ministre russe des Affaires étrangères, Sergueï Lavrov, s'est exprimé à l'ONU, accusant l'Europe d'entraver la paix concernant la guerre en Ukraine [1]. Le fait que les deux pays aient partagé des intérêts sur une voie distincte — la réglementation des armes dotées d'IA — donne du poids à ce rapport.

Au cours de la même Assemblée générale de l'ONU, 22 pays, dont des nations européennes, ont adopté une déclaration affirmant que l'IA doit rester « sous la direction, la supervision et le contrôle de l'homme » [10]. Cette déclaration proposait la création d'un cadre de surveillance mondial et avertissait que le développement rapide de modèles d'IA avancés pose de graves risques pour la sûreté et la sécurité s'il n'est pas géré correctement [10]. L'obstruction des États-Unis et de la Russie s'est produite précisément au point de conflit direct avec ces tentatives multilatérales de normalisation.

2. Situation actuelle

À l'époque de l'Assemblée générale de l'ONU, les discussions sur la gouvernance de l'IA se sont scindées en deux tendances opposées. L'une est la voie bilatérale États-Unis-Chine. Suite au sommet Trump-Xi à Washington, les deux pays ont convenu d'établir un canal de notification mutuelle en cas d'accidents liés à l'IA, le prochain cycle de consultations étant prévu pour novembre [16]. Le Secrétaire général de l'ONU, António Guterres, a publiquement exhorté les deux grandes puissances de l'IA, les États-Unis et la Chine, à engager le dialogue [18]. Cependant, l'analyse de l'EAI estime que cet accord sino-américain est « plus proche d'un geste de politique intérieure pour les deux parties que d'une avancée normative dotée d'une force contraignante substantielle » [9]. De plus, elle souligne que cette ligne rouge est « simplement un canal de gestion de crise de sécurité nationale et n'implique pas une expansion de la coopération commerciale en matière d'IA » [9].

L'autre est la voie de la réglementation des systèmes d'armes, à laquelle appartient l'obstruction conjointe des États-Unis et de la Russie. Les 9 et 10 septembre, l'Institut international de recherche sur la paix de Stockholm (SIPRI) a organisé des discussions à huis clos sur la coopération entre l'État et l'industrie pour le développement et l'utilisation licites de l'IA militaire, invitant des responsables des ministères de la Défense et des Affaires étrangères, du Comité international de la Croix-Rouge (CICR), de l'OTAN et de l'Institut des Nations Unies pour la recherche sur le désarmement (UNIDIR) [8]. Bien que cela montre que les efforts pour établir des normes pour l'IA militaire se poursuivent au niveau technique, cela contraste vivement avec le fait que la clause essentielle conservant l'autorité finale de ciblage pour les humains a été rejetée en raison de la collusion américano-russe [1][8].

Un cas analysé séparément par l'EAI souligne l'urgence de cette question. Ce printemps, l'armée américaine a préparé une opération d'interdiction et de saisie contre un navire chinois dans les eaux du Moyen-Orient sur la base d'un rapport de renseignement co-rédigé par un agent conversationnel d'IA, pour finalement annuler l'opération à la dernière minute alors que des avions de chasse avaient déjà décollé [6]. L'EAI souligne que « la source de l'erreur n'était pas une tromperie de l'adversaire, mais le propre processus de production de renseignements de l'armée américaine », et estime que « cela démontre que la clé de la stabilité en temps de crise ne réside pas dans les canaux de notification, mais dans le calendrier des procédures de vérification humaine » [6]. En d'autres termes, alors que le principe du contrôle humain est discuté formellement, un déficit de vérification s'est déjà manifesté dans les opérations militaires réelles.

3. Acteurs clés et positions

Les États-Unissont une partie clé à cette question. L'administration Trump a donné la priorité au maintien du rythme de développement de l'IA en tant que stratégie nationale et considère les cadres de surveillance internationaux comme des mécanismes qui restreignent le leadership technologique américain [4]. Dans son discours à l'ONU, le président Trump a déclaré : « Au lieu de réprimer l'IA, les États-Unis continueront d'encourager son développement » [17]. Cette position forme une posture politique cohérente avec les rapports faisant état d'un blocage des restrictions internationales sur l'IA militaire. Dans le même temps, les États-Unis affichent une double attitude : établir un canal de notification des accidents avec la Chine [16] tout en partageant des intérêts avec la Russie pour bloquer la réglementation des armes.

La Russiea été identifiée aux côtés des États-Unis comme co-acteur du blocage de la réglementation [1]. Les remarques du ministre des Affaires étrangères Lavrov à l'ONU montrent une approche contradictoire : tout en affrontant l'Occident au sujet de la guerre en Ukraine, la Russie s'engage dans une coopération pragmatique avec les États-Unis sur la question distincte de la militarisation de l'IA [1]. Le Peterson Institute for International Economics (PIIE) note le potentiel de coopération entre la Chine et la Russie dans les domaines de l'IA avancée, tout en prédisant que les États-Unis, l'Occident et l'Ukraine coopéreront également sur les systèmes d'armes basés sur l'IA [13]. Cela suggère que les alignements entourant la militarisation de l'IA ne forment pas une simple dichotomie États-Unis-Russie contre l'Occident, mais plutôt un paysage complexe d'intérêts remodelé au cas par cas.

Les pays européenssont le camp qui mène la déclaration des 22 pays et exige la normalisation du principe de contrôle humain [10]. Étant donné que leurs exigences ont été de fait contrecarrées par l'obstruction conjointe des États-Unis et de la Russie, l'Europe peut être considérée comme une partie prenante directe et un groupe affecté dans cette affaire.

La Chinen'apparaît pas directement dans ce rapport, mais elle exerce un pouvoir de négociation distinct sur la voie parallèle sino-américaine. Alors que la Chine cherche à utiliser les discussions sur la sécurité de l'IA comme un moyen d'obtenir une autorité mondiale en matière d'élaboration des règles, les États-Unis abordent les questions de sécurité uniquement dans le cadre du maintien de leur avantage concurrentiel sur la Chine, ce qui conduit à estimer que les deux parties poursuivent des objectifs fondamentalement différents [9].

4. Questions clés

La première question est le vidage de sa substance du principe de contrôle humain. La clause imposant que les humains prennent la décision finale sur les cibles suggérées par l'IA a été considérée comme le point de consensus minimal dans les discussions sur la gouvernance de l'IA militaire. Le rejet de cette clause démontre que le principe de « direction, de supervision et de contrôle humains » dans la déclaration des 22 pays menée par l'Europe peut être neutralisé dans le domaine des systèmes d'armes par un consensus des grandes puissances [1][10].

La deuxième question est la neutralisation des normes multilatérales par la collusion des grandes puissances. Le fait que les États-Unis et la Russie — deux puissances militaires nucléaires idéologiquement et stratégiquement opposées — aient formé un intérêt commun sur une question spécifique pour bloquer l'introduction de restrictions internationales révèle la limite structurelle selon laquelle la réglementation de l'IA militaire est difficile à imposer uniquement par la volonté des puissances moyennes ou des organisations multilatérales.

La troisième question est la fragmentation des voies de réglementation. Alors qu'un dialogue est en cours entre les États-Unis et la Chine, bien que sous la forme limitée d'un canal de notification des accidents [16], les États-Unis et la Russie ont activement bloqué les progrès sur la question plus fondamentale de la réglementation des systèmes d'armes. Cela suggère que plutôt que de converger vers un régime international unique, la gouvernance de l'IA se déploie sur plusieurs voies fragmentées par les grandes puissances et les domaines thématiques. Pour les puissances moyennes, il devient de moins en moins clair sur quelle voie elles peuvent faire entendre leur voix.

II. Analyse approfondie

Controverse américano-russe sur l'obstruction conjointe à la réglementation des systèmes d'armes dotés d'IA : analyse approfondie

1. Analyse des causes profondes

Bien que la justification apparente de la collusion américano-russe soit le débat sur l'efficacité technique, la motivation réelle réside dans le maintien de la supériorité militaire. Les discussions sur l'établissement de normes pour les systèmes d'armes létaux autonomes (SALA) sont en cours dans le cadre de la Convention des Nations Unies sur certaines armes classiques (CCAC) depuis le milieu des années 2010, mais ont échoué à plusieurs reprises à parvenir à un accord contraignant en raison de l'opposition des principales puissances militaires. Cette question s'inscrit dans le prolongement de ce schéma. Les États-Unis estiment que le fait d'imposer l'intervention humaine dans les décisions de ciblage de l'IA les désavantagerait en termes de vitesse opérationnelle par rapport à leurs concurrents. La Russie a également déjà déployé des systèmes d'identification des cibles assistés par l'IA sur le champ de bataille en Ukraine et n'a aucun intérêt à accepter des normes qui les restreindraient rétroactivement.

La position de l'administration Trump montre une structure logique cohérente sur cette question. Dans son discours à l'Assemblée générale de l'ONU, le président Trump a qualifié les demandes de surveillance internationale de l'IA de « complot mondialiste » [4]. Il a déclaré qu'au lieu de réprimer l'IA, les États-Unis continueraient à la développer [17]. Cela démontre que le rejet de la réglementation de l'IA commerciale et le rejet de la réglementation de l'IA militaire fonctionnent au sein du même cadre politique. En d'autres termes, la Maison-Blanche applique un discours qui définit l'IA non pas comme un objet de réglementation mais comme une source de compétitivité nationale, sans distinguer le domaine civil du domaine militaire [4][17].

Les calculs de la Russie diffèrent, mais les résultats convergent. Les remarques du ministre des Affaires étrangères Lavrov lors de la même Assemblée générale de l'ONU accusant l'Europe d'entraver la paix [1] suggèrent que la Russie nourrit une méfiance fondamentale à l'égard des normes multilatérales portées par l'Occident. Pour la Russie, la réglementation des armes dotées d'IA est très susceptible d'être perçue comme une énième norme imposée par l'Occident qui restreint sa liberté d'action militaire dans la conduite de la guerre en Ukraine. Le fait que deux pays ayant des intérêts sous-jacents différents aient produit le même résultat — le rejet de la réglementation — n'est pas une convergence fortuite, mais plutôt le reflet de la position structurelle partagée par les deux pays en tant que membres permanents du Conseil de sécurité de l'ONU et États dotés d'armes nucléaires au sein des normes de désarmement multilatérales.

2. Contexte structurel

En termes de structure de sécurité, cette question présente un schéma similaire à l'effondrement du régime de désarmement nucléaire. Pendant la guerre froide, les États-Unis et l'Union soviétique, en tant que deux superpuissances partageant la puissance destructrice écrasante des armes nucléaires, ont adopté une double approche : coopérer pour empêcher la prolifération tout en restant réticents à réduire leurs propres armements. La même structure se reproduit dans les systèmes d'armes dotés d'IA. Bien que les États-Unis et la Russie coopèrent pour bloquer la formation de normes internationales réglementant la militarisation de l'IA, il s'agit d'une coopération purement passive visant à préserver leur propre liberté de développement et de déploiement. Cela explique pourquoi les États-Unis et la Russie sont identifiés comme des acteurs clés de la concurrence normative interétatique concernant l'utilisation militaire de l'IA dans les domaines de sécurité émergents et non traditionnels.

En termes de structure politique, la double approche de la politique de l'IA au sein des États-Unis est marquante. L'analyse de l'EAI a précédemment souligné que dans les relations sino-américaines, « la voie de coopération menée par la Maison-Blanche et la voie de pression menée par le Congrès et les agences de réglementation fonctionnent déjà séparément » [9]. L'obstruction conjointe des États-Unis et de la Russie démontre que cette structure à double voie se manifeste de manière similaire dans les relations avec la Russie. Alors que la Maison-Blanche partage des intérêts pratiques avec la Russie concernant la réglementation de l'IA militaire, elle maintient une posture de pression, telle que le contrôle des exportations de semi-conducteurs, dans sa concurrence avec la Chine [9]. Cela indique que la diplomatie américaine en matière d'IA se réorganise de manière fluide en fonction d'intérêts spécifiques à chaque dossier plutôt que sur des distinctions strictes entre alliés et concurrents.

En termes de structure économique, l'alignement des intérêts entre l'industrie de la défense et l'industrie de l'IA forme la base matérielle du blocage de la réglementation. Le fait que le SIPRI ait tenu des discussions à huis clos en septembre avec des responsables des ministères de la Défense et des Affaires étrangères, des représentants de l'industrie, du CICR et de l'OTAN sur la « coopération État-industrie pour le développement et l'utilisation licites de l'IA dans le domaine militaire » [8] suggère une structure où la formation des normes est de fait décidée au sein de complexes militaro-industriels plutôt que par des négociations intergouvernementales. Indépendamment du rejet de la clause imposant l'intervention humaine dans les décisions de ciblage sur la scène multilatérale de l'ONU, des organes de coopération au niveau technique mènent des discussions basées sur le principe d'une « utilisation licite » plutôt que d'une réglementation [8]. Cela indique que la voie de formation des régimes de réglementation internationaux glisse du multilatéralisme de type Assemblée générale de l'ONU vers une gouvernance de type réseau État-industrie minilatérale.

3. Précédents historiques et cas comparatifs

Le précédent le plus proche est l'échec répété des discussions du Groupe d'experts gouvernementaux (GEG) sur les SALA dans le cadre de la CCAC. En cours depuis plus d'une décennie depuis 2014, ces discussions ont échoué à plusieurs reprises à rédiger un traité contraignant en raison de l'opposition des principales nations de technologie militaire telles que les États-Unis, la Russie et Israël. L'obstruction conjointe des États-Unis et de la Russie est le dernier exemple en date de ce schéma d'échec, représentant une information plus avancée qu'auparavant dans la mesure où les acteurs opposés à la réglementation ont été publiquement identifiés.

Le deuxième cas comparatif est la structure de collusion des grandes puissances observée dans le régime du Traité sur la non-prolifération des armes nucléaires (TNP). Pendant la guerre froide, les États-Unis et l'Union soviétique ont coopéré pour réglementer les essais nucléaires mutuels, mais cela visait principalement à consolider l'ordre existant en empêchant l'entrée de nouveaux États dotés d'armes nucléaires. Une implication similaire peut être tirée de l'obstruction à la réglementation des armes dotées d'IA. Ceux qui bénéficient du rejet de l'obligation d'intervention humaine sont les États-Unis et la Russie, qui possèdent déjà des systèmes de ciblage avancés par IA, tandis que les nations relativement retardataires devront assumer la charge d'établir leurs propres normes dans un vide normatif lors du développement de systèmes similaires à l'avenir.

Le troisième cas est l'incident récent d'un ordre erroné déclenché par une hallucination d'IA au sein de l'armée américaine, analysé par l'EAI. Lors de cet incident, une opération d'interdiction et de saisie contre un navire chinois dans les eaux du Moyen-Orient a été préparée sur la base d'un rapport de renseignement co-rédigé par un agent conversationnel d'IA, mais a été annulée à la dernière minute après que des avions de chasse eurent déjà décollé [6]. L'EAI a analysé que « la source de l'erreur n'était pas une tromperie de l'adversaire, mais le propre processus de production de renseignements de l'armée américaine » [6]. Cet incident peut être lu comme un exemple où l'intervention humaine a réellement fonctionné pour prévenir un résultat catastrophique. Néanmoins, le fait que les États-Unis, sur la scène de l'ONU à peu près au même moment, se soient joints à la Russie pour bloquer cette obligation même d'intervention humaine [1] démontre un décalage entre la perception des risques au niveau technique et les choix politiques au niveau des normes.

4. Variables clés façonnant les développements futurs

La première variable est de savoir si le dialogue sino-américain sur l'IA progresse. Suite au sommet Trump-Xi à Washington, les deux pays ont convenu d'établir un canal de notification mutuelle pour les accidents liés à l'IA, avec des consultations de suivi prévues pour novembre [16]. Cependant, ce canal est évalué comme « simplement un canal de gestion de crise de sécurité nationale et n'implique pas une expansion de la coopération commerciale en matière d'IA » [9]. Le fait que ce dialogue élargisse son ordre du jour pour inclure les décisions de ciblage de l'IA militaire ou reste confiné au cadre étroit de la notification des accidents déterminera l'orientation de la future formation des normes.

La deuxième variable est l'expansion de la déclaration des 22 pays. Menée par les nations européennes, cette déclaration précisait que l'IA doit rester « sous la direction, la supervision et le contrôle de l'homme » et proposait la création d'un cadre de surveillance mondial [10]. La clé est de savoir si le nombre de pays participants s'élargit au-delà de 22 pour former une coalition d'une taille capable de faire pression sur les membres permanents du Conseil de sécurité de l'ONU. Actuellement, les trois grandes puissances de l'IA militaire — les États-Unis, la Russie et la Chine — sont toutes absentes de cette déclaration, ce qui limite sa force normative contraignante.

La troisième variable réside dans les réalisations d'autorégulation des réseaux techniques État-industrie. Si le dialogue à huis clos entre les ministères de la Défense, les ministères des Affaires étrangères, l'industrie et les organisations internationales hébergé par le SIPRI [8] débouche sur des codes de conduite ou des normes techniques substantiels, une voie normative alternative contournant les traités intergouvernementaux défaillants pourrait émerger. Cependant, parce que cette voie repose dès le départ sur le principe d'une « utilisation licite » [8], elle risque de produire des résultats plus proches de la justification que de la réglementation.

La quatrième variable est la mesure dans laquelle l'utilisation réelle d'armes dotées d'IA sur le champ de bataille en Ukraine est exposée. À mesure que des preuves concrètes apparaissent que la Russie utilise déjà des systèmes de ciblage assistés par l'IA au combat, l'opposition publique au rejet de l'obligation d'intervention humaine est susceptible de croître. Il s'agit d'une variable potentielle qui pourrait conduire à des pressions pour une renégociation sur la scène de l'ONU.

Les implications pour la Corée du Sud dépendent de la combinaison de ces quatre variables. Dans l'hypothèse où une norme contraignante sur l'IA militaire au niveau de l'ONU a peu de chances d'émerger pour le moment, la tâche prioritaire reste d'établir des procédures de vérification indépendantes pour les renseignements générés par l'IA entrant dans le système de renseignement combiné République de Corée-États-Unis. Dans le même temps, des efforts diplomatiques multilatéraux doivent être menés en parallèle, comme la participation à des voies de coalition de puissances moyennes telles que la déclaration des 22 pays, afin de combler le vide normatif créé par la collusion bilatérale américano-russe.