[Rapport spécial sur les normes de la nouvelle civilisation de l'IA] Défi militaire ② : Systèmes d'armes autonomes basés sur l'IA, développement de la guerre cognitive et changement de l'ordre de sécurité militaire

I. La réalité de la guerre basée sur l'IA est déjà là

Il est difficile d'imaginer à quoi ressembleront les guerres futures à l'ère des technologies de pointe, y compris l'intelligence artificielle (IA). James Johnson, qui étudie les armes nucléaires basées sur l'IA, dépeint la guerre fictive dans un an comme suit :

En 2025, une guerre éclate entre les États-Unis et la Chine au sujet de la question de Taïwan, et la guerre se termine instantanément par une guerre nucléaire. Après la guerre, des enquêteurs indépendants concluent que les deux parties n'ont pas utilisé d'armes « entièrement autonomes » basées sur l'IA. Ils évaluent de manière optimiste qu'il n'y a pas eu de violation intentionnelle des lois des conflits armés stipulées par le droit international ou des principes de proportionnalité et de distinction applicables à l'utilisation des armes nucléaires. Les deux pays croyaient tous deux avoir utilisé la force militaire légalement justifiée en légitime défense à l'époque.

Alors que la situation politique à Taïwan change rapidement avant la guerre, les États-Unis et la Chine déploient des technologies d'IA pour soutenir la perception du champ de bataille, la collecte d'informations, la surveillance et la reconnaissance (Intelligence, Surveillance, and Reconnaissance : ISR), et les réponses tactiques aux actions de l'ennemi. Avec l'amélioration rapide de la précision, de la vitesse et de la capacité de prédiction des applications d'IA à double usage produites commercialement, les grandes puissances ont pu utiliser l'apprentissage automatique (Machine Learning : ML), qui nécessite des données, pour améliorer les manœuvres tactiques et opérationnelles. En particulier, impressionnée par les exemples d'utilisation de drones autonomes par la Russie, la Turquie et Israël pour repousser les attaques terroristes à leurs frontières, la Chine a rapidement intégré les dernières technologies d'IA à double usage, tout en contournant les processus de test et d'évaluation rigoureux.

Alors que les incursions militaires chinoises dans le détroit de Taïwan augmentent rapidement, les dirigeants américains et chinois cherchent à déployer rapidement les derniers systèmes stratégiques d'IA pour obtenir un avantage asymétrique maximal. Les systèmes stratégiques d'IA de pointe ont généré de nouvelles alternatives stratégiques basées sur des scénarios de combat historiques, des jeux de guerre expérimentaux, la prise de décision rationnelle basée sur la théorie des jeux, des données d'information et l'apprentissage des versions précédentes. La complexité élevée de ces systèmes dépassait les conjectures des concepteurs et des opérateurs.

Les discours enflammés et les campagnes de désinformation sur les médias sociaux atteignent leur paroxysme, et en Chine, les voix appelant à l'urgence de la réunification forcée avec Taïwan se multiplient. Alors que la situation dans le Pacifique devient de plus en plus tendue, les États-Unis décident de déployer le « système stratégique de prédiction et de recommandation (Strategic Prediction & Recommendation system : SPRS) » basé sur l'IA, dont les tests et l'évaluation ne sont pas terminés, pour des activités non combattantes. En réponse, la Chine déploie également un système similaire, le « système de conseil stratégique et d'intelligence (Strategic & Intelligence Advisory system : SIAS) », pour se préparer à toutes les situations de crise.

Finalement, une réaction en chaîne d'événements, facilitée par l'IA, a dépassé les limites prédéfinies de Pékin, devenant incontrôlable. Les opérations d'information culminent avec une augmentation des cyber-intrusions dans les systèmes du Commandement Indo-Pacifique des États-Unis et de l'armée taïwanaise, des mouvements de la Chine pour défendre ses actifs spatiaux et l'activation du système d'approvisionnement automatisé de l'Armée populaire de libération (APL). Le SPRS américain évalue ces actions comme une menace majeure pour la sécurité nationale et recommande une démonstration de force robuste et un état de préparation défensif. En conséquence, les États-Unis autorisent des vols de bombardiers stratégiques autonomes dans le détroit de Taïwan. Le SIAS recommande aux dirigeants chinois de prendre un avantage précoce par une frappe préventive limitée contre les principaux actifs américains dans le Pacifique. Le SPRS alerte Washington d'une attaque préventive chinoise imminente, et les États-Unis recommandent une frappe nucléaire limitée immédiate. Il a prédit que le système de défense antimissile américain pourrait intercepter avec succès la plupart des frappes nucléaires tactiques chinoises et que la Chine s'abstiendrait de contre-attaquer le territoire continental américain. Les prédictions du SPRS se sont avérées exactes. Après un échange nucléaire limité entre les États-Unis et la Chine dans le Pacifique, au cours duquel des millions de personnes sont mortes et des dizaines de millions ont été blessées, les deux parties ont convenu d'un cessez-le-feu.

Dans l'analyse post-mortem, les deux parties ont tenté une analyse détaillée des processus décisionnels du SPRS et du SIAS, mais les concepteurs de l'IA ont conclu qu'il était impossible d'expliquer la logique et les raisons de l'IA pour tous les sous-ensembles de décisions. En raison de diverses contraintes de temps, de cryptage et de confidentialité, les journaux de test et les protocoles n'ont pas pu être conservés. Il n'a pas été possible de tirer de conclusion claire quant à savoir si la technologie de l'IA a été la cause de cette guerre (Johnson 2023).[1]

Les guerres récentes en Ukraine et à Gaza montrent bien que l'IA est déjà utilisée dans les guerres à divers niveaux et que cette tendance se poursuivra. Lorsque l'IA est combinée avec les trois dimensions des armes nucléaires, des armes conventionnelles, de la guerre psychologique et de la guerre de l'information, elle évoluera rapidement vers les armes nucléaires basées sur l'IA, les systèmes d'armes autonomes basés sur l'IA et la guerre cognitive utilisant l'IA.

L'IA est une technologie universelle, une méta-technologie d'augmentation qui renforce les technologies existantes. Ce sera une technologie multidimensionnelle qui changera non seulement les armes spécifiques, mais aussi les systèmes d'exploitation des armes, la prise de décision liée à la guerre, les gouvernements et les armées qui mènent la guerre, ainsi que la perception et la réponse de la société (Britt 2023 ; Hale 2023). Tout comme tout le monde utilise les mathématiques, la technologie de l'IA sera utilisée dans tous les domaines, et c'est déjà en grande partie le cas. Il est difficile de savoir quels changements la technologie de l'IA apportera dans le domaine de la sécurité militaire, et encore moins l'ampleur de ses effets sur la politique internationale dans son ensemble. La technologie de l'IA elle-même évolue rapidement, et les efforts pour la réglementer ou la contrôler sont considérablement en retard par rapport à la vitesse de l'évolution technologique. Le développement de la technologie de l'IA coïncide avec le soi-disant retour de la géopolitique, se déroulant dans un contexte de concurrence féroce, et l'environnement rend difficile pour les efforts internationaux visant à contrôler les problèmes de l'IA de porter leurs fruits.

Dans le contexte de la rivalité géopolitique entre les nations, il est peu probable que la technologie de l'IA soit empêchée d'être utilisée militairement. De plus, on peut envisager la possibilité que la technologie de l'IA évolue rapidement dans une direction imprévue et échappe au contrôle humain. Tant que les nations reconnaissent l'utilité et le caractère innovant de l'IA pour renforcer leur propre sécurité, il est difficile d'établir une vigilance préventive à l'égard des technologies militaires basées sur l'IA, sauf en cas d'incident confirmant des dommages communs pour la communauté internationale.

Il est nécessaire d'évaluer la réalité de la technologie de l'IA déjà utilisée dans les armes nucléaires, les systèmes d'armes autonomes et la guerre cognitive, et d'entamer une discussion sérieuse en anticipant les problèmes communs qui pourraient survenir à l'avenir. Dans le cas des armes nucléaires, un tabou s'est créé après leur utilisation, et le Traité sur l'interdiction des armes nucléaires (TPNW) a même été signé dans les années 2020. Les guerres futures sont une question de vie ou de mort pour les citoyens de tous les pays, il est donc important de s'y intéresser et d'y réagir. La Corée doit également réfléchir à la manière de percevoir et de réagir aux systèmes d'armes basés sur l'IA et aux stratégies de sécurité militaire dans le contexte de la course aux armements et du risque de guerre entre les grandes puissances. Cet article traite des systèmes d'armes autonomes et de la guerre cognitive, faisant suite à l'analyse des armes nucléaires basées sur l'IA.

II. Développement des systèmes d'armes autonomes combinés à l'IA

Selon la directive 3000.09 du ministère de la Défense américain publiée en 2012 sur l'autonomie des systèmes d'armes, un système d'arme autonome peut être défini comme « un système d'arme capable de sélectionner et d'attaquer des cibles sans intervention humaine supplémentaire une fois activé ». En d'autres termes, il s'agit d'un système d'arme létal qui identifie des cibles ennemies potentielles et décide de les attaquer indépendamment sur la base d'algorithmes et d'IA. Cela peut signifier l'autonomie d'une arme individuelle spécifique ou le système d'exploitation global qui utilise les armes.

Bien qu'il n'y ait pas de consensus international sur la définition des systèmes d'armes autonomes, ceux-ci ont été évalués en fonction de leur niveau d'autonomie par rapport au contrôle humain. Le concept d'autonomie lié aux systèmes d'armes autonomes peut être défini comme la capacité d'un système à effectuer des tâches ou une série d'opérations par action ou interaction avec son environnement sans intervention humaine. Ce qui est important dans la définition des systèmes d'armes autonomes semble être le type de décisions ou de fonctions exécutées de manière autonome, sans plus être sous le contrôle d'un opérateur humain (Dresp-Langley 2023).

Trois niveaux de classification sont couramment utilisés en fonction du degré d'autonomie d'une arme. Premièrement, les armes autonomes supervisées ou les systèmes « human on-the-loop ». Il s'agit de systèmes d'armes autonomes conçus pour permettre à un opérateur humain d'intervenir et de mettre fin à l'engagement avant qu'un niveau de dégâts anormalement élevé ne se produise. Un exemple est un système d'arme défensif, qui sélectionne et attaque des cibles de manière indépendante selon un programme, mais dont toutes les opérations sont entièrement supervisées par des humains, qui peuvent désactiver le système dans un délai imparti si nécessaire.

Deuxièmement, les armes semi-autonomes ou les systèmes « human-in-the-loop », qui, une fois activés, sont destinés à attaquer uniquement des cibles individuelles ou des groupes de cibles spécifiques sélectionnés par un opérateur humain. Un exemple est une munition telle qu'un missile guidé, qui, une fois lancé vers une position cible spécifique, recherche et attaque des cibles dans cette zone dans une catégorie prédéfinie.

Troisièmement, les armes entièrement autonomes ou les systèmes « human out-of-the-loop », qui, une fois activés, peuvent sélectionner des cibles et mener des engagements sans intervention humaine supplémentaire. Un exemple est une arme rôdeuse (loitering weapon), qui, après avoir été lancée, recherche et attaque des cibles dans une zone spécifique et fonctionne sans intervention humaine supplémentaire. Les systèmes d'armes qui perturbent les communications en utilisant le brouillage (jamming) de manière autonome peuvent également être inclus (Kallenborn 2021).

Les systèmes d'armes autonomes sont le produit d'une longue expérience et d'efforts historiques. Le premier exemple de véhicule autonome remonte à « The American Wonder » développé en 1925. Il s'agissait d'un véhicule qui circulait dans les rues de New York, contrôlé à distance par un autre véhicule qui le suivait, et qui se déplaçait en convoi sous un système de contrôle automatique précoce.

Les systèmes d'armes autonomes nécessitent l'intégration de plusieurs éléments clés : une plateforme de combat mobile, divers types de capteurs capables de surveiller avec précision l'environnement autour de la plateforme, un système de traitement pour classifier les objets détectés par les capteurs, et des algorithmes qui guident le système pour lancer une attaque lorsqu'une cible acceptable est détectée. Les robots tueurs, ou « slaughter bots », sont des systèmes robotiques autonomes capables de sélectionner et d'attaquer des cibles sans l'intervention d'un opérateur humain. Équipés de capteurs avancés et d'IA, ils peuvent opérer en efforts coordonnés pour submerger les défenses, et peuvent être exploités de manière autonome sans pilote à partir de groupes de combat de surface distribués ou de navires de guerre électronique.

Les drones sont également des armes représentatives des systèmes d'armes autonomes. En octobre 2013, le Bureau des capacités stratégiques des États-Unis a lancé 103 drones Perdix, qui ont utilisé un « cerveau distribué » pour s'assembler en formations complexes, se déplacer sur le champ de bataille ou se réorganiser en nouvelles formations. Cette nuée de drones a été construite par des étudiants du Massachusetts Institute of Technology (MIT) à l'aide de pièces et de conceptions disponibles dans le commerce. En théorie, une nuée de drones peut être étendue à des dizaines de milliers, ce qui pourrait constituer une arme autonome comparable à un petit dispositif nucléaire.

Les armes létales autonomes et les systèmes d'armes autonomes qui utilisent ou développent actuellement l'IA montrent diverses évolutions, notamment les tourelles sentinelles autonomes, les stations d'armes télécommandées, les robots tueurs programmés pour tirer sur des humains et des véhicules, et les drones et nuées de drones avec des capacités de ciblage autonome. Des fonctions telles que le RADAR, le LIDAR, les caméras panoramiques haute résolution et, finalement, le contrôle de croisière adaptatif et prédictif combiné à l'IA ont également été développées. Les nouvelles armes de destruction massive les plus dangereuses pourraient être les nuées de drones et les armes chimiques, biologiques, radiologiques et nucléaires (CBRN) autonomes, y compris les drones miniatures d'insectes capables d'injecter des agents biochimiques mortels.

Des tourelles sentinelles autonomes sont également en cours de développement. Une tourelle sentinelle est une arme télécommandée qui vise et tire automatiquement sur des cibles détectées par des capteurs. La première tourelle sentinelle militaire fonctionnelle a été utilisée comme arme de défense rapprochée pour détecter et détruire les missiles et les avions ennemis volant à courte portée. Bien que ces armes aient été initialement utilisées uniquement sur les navires, elles sont maintenant également utilisées pour la défense terrestre. Le premier de ce type d'arme à disposer d'un système intégré comprenant la surveillance, le suivi, le tir et la reconnaissance vocale est le SGR-A1, un projet hautement classifié développé conjointement par Hanwha Aerospace et l'Université de Corée, utilisé pour soutenir l'armée sud-coréenne dans la zone démilitarisée coréenne.

Ces systèmes d'armes autonomes basés sur l'IA font leur apparition sur les champs de bataille actuels ou dans les processus d'entraînement pour les préparer à l'avenir. Les drones sont devenus un problème majeur dans la guerre en cours en Ukraine, et le ministère américain de la Défense a récemment annoncé un nouvel investissement de 1 milliard de dollars pour améliorer sa flotte de drones. Les robots tueurs autonomes chinois devraient être utilisés militairement sur le champ de bataille d'ici deux ans, et un expert a qualifié cela de « plus grande menace pour la survie de l'humanité », annonçant une nouvelle ère de guerre basée sur l'IA.

Plusieurs grandes puissances vont plus loin dans ces développements, commençant à développer des robots tueurs autonomes basés sur l'IA pour remplacer les soldats sur le champ de bataille. La Chine et la Russie auraient déjà coopéré au développement d'armes autonomes basées sur l'IA. Lors d'un exercice militaire avec le Cambodge en mai 2024, l'Armée populaire de libération chinoise a présenté des chiens robots armés de fusils fabriqués par l'entreprise chinoise Unitree Robotics. La Russie a présenté en 2022, lors d'un salon de l'armement près de Moscou, des chiens Unitree Robotics modifiés et armés de lance-grenades propulsés par fusée, rebaptisés M-81 robot dogs.

La Chine a déjà commencé à développer des armes utilisant des machines basées sur l'IA, et certains experts prévoient qu'elle pourrait tripler sa production de bombes et d'obus d'ici 2028. En mars 2023, lors d'une réunion des Nations Unies sur les armes létales autonomes, le représentant américain a affirmé qu'il n'était pas le bon moment pour commencer à réglementer leur développement. Ces développements illimités ont suscité de nombreux avertissements selon lesquels les armes non humaines ne pourraient pas respecter les lois de la guerre et que les nations seraient plus susceptibles de s'engager dans des conflits sans crainte de pertes humaines (Cameron 2024).

III. La rivalité stratégique sino-américaine et la stratégie américaine en matière d'armes autonomes

Le ministère américain de la Défense a publié en 2012 la première directive au monde sur le déploiement de systèmes d'armes autonomes ou semi-autonomes. Cette directive 3000.09 a été l'une des premières politiques à prendre sérieusement en compte l'impact des technologies autonomes et de l'IA sur le militaire. Avant cela, ces concepts n'existaient que dans la science-fiction. La publication de cette directive a suscité un grand intérêt et un débat parmi le public, la société civile et les ONG, mais il est vrai qu'elle a entraîné confusion et malentendus quant à la clarté de ses dispositions. Par exemple, Human Rights Watch (HRW) a mal interprété cette directive comme « le premier moratoire mondial sur les armes létales entièrement autonomes ». En réalité, cette politique n'a pas limité le développement ou l'utilisation des armes autonomes, mais contenait seulement une disposition selon laquelle elle devait être mise à jour, annulée ou renouvelée tous les dix ans. La directive exigeait des procédures d'examen supplémentaires pour les systèmes d'armes dont l'autonomie avait atteint un certain niveau, mais la portée et l'objectif de cet examen n'étaient pas clairs.

Au cours de la dernière décennie, la directive 3000.09 est devenue la principale politique américaine concernant les systèmes d'armes intégrant des technologies autonomes. Cependant, le manque de clarté de cette directive a créé de la confusion, notamment dans les discussions sur le développement de nouvelles technologies, y compris l'IA. Lorsque la période de validité de dix ans de la directive a expiré fin 2022, le ministère de la Défense a présenté une directive révisée en 2023. La version révisée conserve la définition des systèmes d'armes autonomes utilisée dans la directive de 2012, la définissant comme « un système d'arme capable de sélectionner et d'attaquer des cibles sans intervention humaine supplémentaire une fois activé ». La directive de 2023 a supprimé le mot « humain » avant « opérateur », mais définit « opérateur » comme « une personne qui opère une plateforme ou un système d'arme ». Comme la directive précédente, la directive de 2023 n'empêche pas la prolifération des systèmes d'armes autonomes. Non seulement les États-Unis, mais aussi l'Australie, la Chine, l'Inde, l'Iran, Israël, la Corée, la Russie, la Turquie et le Royaume-Uni investissent massivement dans les applications militaires de l'IA et des technologies connexes, développant ainsi des systèmes d'armes autonomes basés sur l'air, la terre et la mer.

La section 1.2(e) de la directive autorise les « ventes et transferts internationaux » « approuvés conformément aux exigences et procédures de sécurité technologique et de divulgation étrangère existantes ». Une fois que ces armes quittent les États-Unis, les États-Unis perdent leur contrôle exclusif sur elles. De plus, la directive permet le développement et l'acquisition continus de systèmes d'armes autonomes conformément aux lois existantes, aux procédures du ministère de la Défense et aux principes éthiques.

La directive de 2023 ne réglemente pas plus clairement les ambiguïtés de la directive de 2012. Conformément à la section 1.2(a), la directive de 2023 reprend les dispositions de la directive précédente, stipulant que « les systèmes d'armes autonomes et semi-autonomes doivent être conçus pour permettre aux commandants et aux opérateurs d'exercer un niveau approprié de jugement humain sur l'utilisation de la force ». Bien que cette formulation reconnaisse la valeur du jugement humain, essentiel au respect du droit international humanitaire, ni la directive précédente ni la directive actuelle ne précisent ce qu'est un niveau « approprié » de jugement humain, ni qui le déterminera (Human Rights Watch 2023).

Cependant, la directive révisée reflète plus réalistement comment les technologies en évolution rapide peuvent être appliquées. Par exemple, une nouvelle mention de l'IA a été ajoutée, et une distinction claire a été faite entre l'IA et l'autonomie. Il est également stipulé que les fonctions autonomes ajoutées aux systèmes existants doivent passer par ce processus d'examen supplémentaire, même si le système est utilisé depuis plusieurs années (Lamberth 2023).

Cette stratégie américaine tient compte de la rivalité stratégique avec la Chine. Le programme américain « Replicator », annoncé en août 2023, aborde d'énormes défis technologiques et humains dans l'approvisionnement et le développement du ministère de la Défense, alors que la révolution de l'IA promet de changer la manière de faire la guerre.

Au moment de l'annonce, le sous-secrétaire à la Défense, Hicks, a souligné la nécessité de développer des systèmes d'armes autonomes américains dans le cadre de la rivalité stratégique avec la Chine.

Nous déploierons une force massive contre la masse de l'Armée populaire de libération chinoise (APL), mais notre force sera imprévisible, difficile à cibler et encore plus difficile à surmonter. Grâce à un personnel exceptionnel, à des concepts intelligents et à des technologies de pointe, notre armée deviendra plus agile grâce au soutien et à l'urgence du secteur commercial.

Comme nous l'avons vu en Ukraine, les nouvelles technologies développées par des entreprises commerciales et non traditionnelles, de Starlink à Switchblade, en passant par les images satellites commerciales, peuvent jouer un rôle décisif dans la défense contre les attaques militaires modernes. Ces technologies sont un élément important qui complète les capacités traditionnelles, et elles restent essentielles. Nous avons fixé un objectif ambitieux pour « Replicator » car nous devons briser les barrières et accélérer le changement de toute urgence : déployer des milliers de systèmes autonomes consommables dans plusieurs domaines au cours des 18 à 24 prochains mois... Et « Replicator » ne concernera pas seulement la production. Nous nous efforcerons également de reproduire et d'injecter la manière d'atteindre cet objectif, afin de pouvoir étendre de manière répétée ce qui sera pertinent à l'avenir. Conformément à la Stratégie de défense nationale et au Concept de guerre interarmées, nous utiliserons les capacités autonomes d'une manière qui exploite notre avantage continu... À cet égard, les systèmes autonomes dans tous les domaines aideront à relever le défi des systèmes d'interdiction d'accès et de zone (Anti-access/area-denial : A2AD). Nous neutraliserons leur A2AD avec notre A2AD (Hicks 2023).

Le portefeuille actuel du ministère de la Défense comprend plus de 800 projets non classifiés liés à l'IA, dont beaucoup seraient encore en phase de test. En général, l'apprentissage automatique et les réseaux neuronaux aident les humains à acquérir des connaissances et à générer de l'efficacité. Pour un réseau plus efficace entre les combattants, le ministère de la Défense poursuit le développement d'un réseau de combat appelé Commandement et contrôle interarmées tous domaines (Joint All-Domain Command and Control : JADC2), qui automatise le traitement des données entre toutes les forces. Cependant, cette tâche est immense et comporte le défi de surmonter la bureaucratie.

Par exemple, le programme « Loyal Wingman » de l'armée de l'air prévoit d'associer des avions pilotés à des avions autonomes. Par exemple, un pilote de F-16 pourrait envoyer un drone pour effectuer une reconnaissance, attirer une attaque ennemie ou attaquer une cible. Les dirigeants de l'armée de l'air visent à lancer ce programme d'ici la fin des années 2020. Cependant, le calendrier de Loyal Wingman est trop ambitieux et pose des problèmes de compatibilité avec le calendrier de « Replicator ». Les seuls systèmes d'armes actuellement considérés comme fiables pour fonctionner de manière autonome sont ceux qui sont purement défensifs, comme le système de défense antimissile « Phalanx ». Des problèmes tels que le dysfonctionnement imprévu des systèmes ou les dommages causés à des non-combattants ou à des alliés sont devenus des problèmes plus importants que les décisions prises de manière autonome par les armes autonomes (Bajak 2023).

IV. Efforts de réglementation des systèmes d'armes autonomes

Des efforts ont été déployés pour contrôler la destructivité des armes autonomes, en particulier les problèmes imprévisibles combinés à l'IA. Il existe des efforts de réglementation de l'IA en général, tels que la réunion de haut niveau sur l'utilisation responsable de l'IA dans le domaine militaire (REAIM Summit 2024) qui se tiendra en septembre, ainsi que des efforts concernant les systèmes d'armes létales autonomes eux-mêmes. Historiquement, la Convention sur les interdictions ou restrictions à l'utilisation de certaines armes conventionnelles (CCW) est entrée en vigueur en décembre 1983. Il s'agit d'un traité international qui interdit et restreint l'utilisation de certaines armes conventionnelles ayant des conséquences inhumaines. En 2010, l'Assemblée générale des Nations Unies a reçu un rapport du rapporteur spécial Philip Alston soulignant les problèmes des technologies de robots tueurs, marquant le début des discussions sur la réglementation des armes létales autonomes.

En 2011, des discussions officielles sur les systèmes d'armes autonomes ont commencé au Comité international de la Croix-Rouge (CICR), et lors de la conférence du CICR tenue cette année-là, les problèmes et le concept des systèmes d'armes autonomes ont été discutés. En novembre 2013, la Conférence des États parties à la CCW a décidé de commencer à discuter des systèmes d'armes létales autonomes (Lethal Autonomous Weapon system : LAWS). Par la suite, trois réunions informelles d'experts se sont tenues à la CCW de mai 2014 à 2016, au cours desquelles les systèmes d'armes létales autonomes ont été discutés.

En décembre 2016, lors de la 5e Conférence d'examen de la Convention sur certaines armes conventionnelles, il a été décidé de créer un Groupe d'experts gouvernementaux sur les armes létales autonomes (GGE LAWS) auquel participeraient tous les États parties. Depuis 2017, les réunions de la CCW sont devenues des réunions ouvertes du Groupe d'experts gouvernementaux sans restriction de participation. Lors des réunions du Groupe d'experts gouvernementaux sur les armes létales autonomes (GGE LAWS) en 2018, un rapport comprenant 10 principes directeurs possibles a été adopté par le biais de discussions sur les caractéristiques des armes létales utilisant des technologies autonomes telles que l'IA, le contrôle humain, les orientations politiques et les applications militaires. En 2019, la Conférence des États parties à la CCW a finalement adopté 11 principes directeurs, ajoutant « l'interaction homme-machine » (Yu Jun-gu 2019a ; 2019b).

Le 22 décembre 2023, la première résolution sur les dangers des systèmes d'armes létales autonomes a été adoptée par l'Assemblée générale des Nations Unies. La résolution a été approuvée par 152 voix pour, 4 voix contre et 11 abstentions, reconnaissant les « défis et préoccupations sérieux » soulevés par les nouvelles applications technologiques dans le domaine militaire, y compris l'IA et l'autonomie. Dans le cadre du régime de la Convention sur certaines armes conventionnelles, les réunions du Groupe d'experts gouvernementaux sur les armes létales autonomes se sont poursuivies en 2020 et 2021. En novembre 2023, les États parties à la CCW ont convenu de se réunir pendant 20 jours en 2024 et 2025 pour « examiner et formuler les éléments d'un document juridiquement contraignant par consensus ».

La Chine maintient une ambiguïté stratégique concernant les systèmes d'armes autonomes. Bien qu'elle ait plaidé pour l'interdiction des systèmes d'armes autonomes à la Convention des Nations Unies sur certaines armes conventionnelles (CCW) en 2016, elle a promu le développement de systèmes d'armes autonomes en annonçant son plan de développement de l'IA en 2017. Dans l'ensemble, elle adopte une position visant à limiter l'utilisation des systèmes d'armes entièrement autonomes, mais la Chine vise également à obtenir un avantage militaire par le développement, et à cette fin, elle promeut une stratégie de fusion civilo-militaire.

Pendant ce temps, les voix appelant à la négociation d'un nouveau traité international réglementant les systèmes d'armes létales autonomes se font également entendre de plus en plus fort dans la communauté internationale. Des organisations non gouvernementales, dont Human Rights Watch, exigent le lancement de négociations pour un traité international contraignant, profitant de l'adoption de la résolution de l'Assemblée générale des Nations Unies. Ces tendances montrent que les préoccupations de la communauté internationale concernant les systèmes d'armes létales autonomes augmentent et que les discussions pour les réglementer deviennent plus actives.

Parmi ces efforts de réglementation, plusieurs points clés font l'objet de débats. Premièrement, la définition des systèmes d'armes autonomes. La portée des systèmes d'armes autonomes est si large et la complexité technique croissante rend de plus en plus difficile la compréhension du fonctionnement des systèmes d'armes, de leur application et de leurs conséquences potentielles, et pose également des défis pour garantir la responsabilité et l'obligation de rendre des comptes humaines.

Deuxièmement, la discussion sur la forme que prendront les nouvelles réglementations. Il n'y a pas de consensus sur la manière dont les réglementations fonctionneront réellement. Certains pays plaident pour l'élaboration de règles concernant l'utilisation et le transfert de ces systèmes, tandis que d'autres plaident pour une interdiction stricte de certains types de systèmes d'armes. De nombreux autres pays souhaitent une approche double combinant interdiction et réglementation.

Troisièmement, la discussion sur la nécessité d'un nouvel outil mondial. Il existe un large consensus entre les Nations Unies, la Croix-Rouge internationale et presque tous les pays ayant la volonté politique de réglementer les systèmes d'armes autonomes sur le fait que le droit international humanitaire et le droit international des droits de l'homme s'appliquent à leur développement et à leur utilisation. Cependant, il y a toujours un débat pour savoir si le droit international existant est suffisant ou si de nouvelles règles spécifiques à la technologie sont nécessaires pour un contrôle efficace.

Quatrièmement, la discussion sur le forum à utiliser. Jusqu'à présent, les débats intergouvernementaux sur les systèmes d'armes autonomes se sont concentrés au sein de la Convention sur certaines armes conventionnelles, les gouvernements ayant convoqué la première réunion sur le sujet des systèmes d'armes entièrement autonomes en 2013. En 2017, un Groupe d'experts gouvernementaux sur les armes létales autonomes a été créé dans le cadre de la CCW, chargé de promouvoir une compréhension commune de la question. Cependant, ce groupe n'a convenu que de considérations supplémentaires pour aborder le problème, sans parvenir à discuter d'options juridiques ou réglementaires, et n'a pas réalisé de progrès substantiels sur l'appel du Secrétaire général de l'ONU à une réglementation internationale. Des réunions régionales récentes sur les systèmes d'armes autonomes ont exhorté les États à envisager de faire avancer les discussions sur la réglementation par d'autres forums tels que l'Assemblée générale des Nations Unies. L'idée que des traités et des accords internationaux puissent être conclus avec un large soutien, bien que non unanime, a été un facteur qui a permis des progrès dans d'autres domaines, comme l'adoption du Traité sur le commerce des armes.

Bien qu'il y ait de nombreuses questions difficiles que de nombreux pays devront examiner dans les mois à venir, l'objectif du Secrétaire général de l'ONU pour 2026, qui est de parvenir à un accord sur la réglementation internationale des systèmes d'armes autonomes, fournit une échéance à viser. La résolution de l'Assemblée générale des Nations Unies sur les armes létales autonomes charge le Secrétaire général de préparer un rapport d'ici la fin de cette année, reflétant les diverses opinions des États, des organisations internationales et régionales, du CICR, de la société civile, de la communauté scientifique et de l'industrie.

Un autre point central des discussions futures sera la participation significative des pays non occidentaux et de la société civile. Les organisations de la société civile ont joué un rôle important dans la direction des discussions internationales sur la réglementation de l'IA militaire et des systèmes d'armes autonomes, en transmettant les préoccupations des citoyens du monde entier et en développant une compréhension approfondie des avancées technologiques et des risques potentiels pour l'humanité dans son ensemble (Linney et Tang 2024).

Si une réglementation des systèmes d'armes autonomes se concrétise à l'avenir, de nombreux points de discussion surgiront. Comme nous l'avons vu précédemment, la définition même des systèmes d'armes autonomes et le cadre de réglementation poseront des problèmes, mais le problème de l'inégalité entre les grandes puissances et les pays faibles entourant le développement des systèmes d'armes autonomes pourrait également se poser. Comparé au Traité sur la non-prolifération des armes nucléaires (TNP), il a été critiqué comme intrinsèquement inégal car il a établi un système qui permet à quelques pays de posséder des armes nucléaires tout en interdisant à d'autres de les acquérir. De même, un régime de réglementation des systèmes d'armes autonomes pourrait interdire à certains pays de posséder des systèmes d'armes autonomes tout en leur permettant de le faire, créant ainsi une autre forme de régime international inégal.

Une autre raison pour laquelle un régime de réglementation des systèmes d'armes autonomes est difficile est la difficulté de vérification et d'application. Les systèmes d'armes autonomes sont basés sur des logiciels et peuvent être utilisés à double usage, ce qui rend très difficile leur détection ou leur réglementation. La vitesse du développement technologique pourrait dépasser les efforts de réglementation, et les États pourraient ne pas accepter la réglementation par crainte de perdre leur avantage technologique. En particulier, l'IA étant une technologie universelle développée pour diverses fins commerciales et civiles, il est très difficile de la réglementer. Compte tenu du fait que de nombreuses entreprises de haute technologie, et non les gouvernements, sont les principaux développeurs, leurs opinions ne peuvent être ignorées. En fin de compte, la communauté internationale est confrontée à la difficulté de prendre en compte de manière globale les positions des diverses parties prenantes et de créer un régime complet, équitable et transparent pour les systèmes d'armes autonomes, en tirant les leçons de l'inégalité du régime de non-prolifération nucléaire.

V. La compétition des grandes puissances autour des systèmes d'armes autonomes et l'avenir

Il y a peu de désaccord parmi les scientifiques, les experts de l'industrie et les responsables du ministère de la Défense sur le fait que les États-Unis posséderont des armes létales entièrement autonomes dans les années à venir. Aux États-Unis, les responsables du ministère de la Défense affirment que les humains auront toujours le contrôle, mais les experts disent que la vitesse de traitement des données et les progrès de la communication inter-machines finiront par pousser les gens à un rôle de supervision. Ceci est particulièrement vrai lorsque des armes létales sont déployées en grand nombre, comme dans le cas des nuées de drones. Il n'est pas clair si le ministère américain de la Défense évalue actuellement les systèmes d'armes autonomes pour le déploiement par des voies officielles conformément à la directive de 2012 et à la directive révisée. La situation est encore plus problématique dans les pays autres que les États-Unis, où les directives claires sont encore plus floues.

Compte tenu de ces points, on ne peut que conclure que la compétition entre les grandes puissances autour des systèmes d'armes autonomes s'intensifiera à l'avenir et que l'avenir de leur réglementation sera difficile. Premièrement, les systèmes d'armes autonomes posent un problème en ce sens que leur comportement est dangereusement imprévisible. L'interaction complexe entre les algorithmes basés sur l'apprentissage automatique et l'environnement opérationnel dynamique rend très difficile la prédiction du comportement de ces armes dans des situations réelles. Ces systèmes d'armes sont intrinsèquement conçus pour être imprévisibles. C'est parce qu'ils sont programmés pour agir de manière imprévisible afin de surpasser les systèmes ennemis.

Deuxièmement, les systèmes d'armes autonomes, en raison de leur vitesse et de leur échelle opérationnelles, présentent un risque d'escalade accidentelle et rapide des conflits. Une étude récente du RAND Institute a conclu que « la vitesse des systèmes autonomes a conduit à une escalade involontaire des conflits dans des jeux de guerre » et que « l'IA généralisée et les systèmes autonomes pourraient entraîner une escalade involontaire des conflits et une instabilité des crises ». L'Institut des Nations Unies pour la recherche sur le désarmement (UNIDIR) a également souscrit aux conclusions du RAND Institute. La Commission nationale sur l'intelligence artificielle de sécurité (NSCAI), une agence quasi gouvernementale américaine, a également reconnu que « les systèmes autonomes appliqués à l'IA peuvent entraîner une escalade involontaire des conflits sur le champ de bataille si les systèmes ne fonctionnent pas comme prévu, ou en raison des interactions complexes et non vérifiées entre l'IA et les systèmes autonomes ». Elle a ajouté que « les systèmes d'IA sont susceptibles d'augmenter la vitesse et l'automatisation de la guerre, réduisant ainsi le temps et l'espace nécessaires pour prendre des mesures d'atténuation des conflits ».

Troisièmement, en raison de la facilité d'acquisition de certaines armes, les « Slaughterbots » sont très peu coûteux à produire en masse car ils ne nécessitent pas de matières premières coûteuses ou difficiles à trouver. Ils ont la particularité d'être sûrs à transporter et difficiles à détecter. Si les principales puissances militaires commencent à fabriquer ces systèmes d'armes, ils se propageront rapidement. En fin de compte, ces armes pourraient apparaître sur le marché noir et tomber entre les mains de terroristes, de dictateurs ou de chefs de guerre, et être utilisées pour des nettoyages ethniques ou des massacres. En fait, la Commission nationale de sécurité des États-Unis a désigné la réduction du risque de prolifération comme une tâche majeure pour atténuer les risques stratégiques de l'IA dans le domaine militaire.

Quatrièmement, traditionnellement, le coût de production des armes conventionnelles et le coût des pertes humaines ont été suffisamment élevés pour que la guerre serve de moyen de dissuasion, et, inversement, pour encourager la diplomatie. Cependant, l'émergence d'armes peu coûteuses et évolutives pourrait affaiblir ces normes dissuasives. Le risque d'escalade rapide et involontaire des conflits, combiné à la prolifération des armes autonomes, pourrait avoir le même effet d'abaissement du seuil de la guerre.

Cinquièmement, les systèmes d'armes autonomes sont faciles à faire évoluer et à proliférer. Cela signifie que l'ampleur des dommages causés par les armes autonomes dépend uniquement du nombre de robots tueurs, et non du nombre de personnes qui les exploitent. Ceci contraste fortement avec les armes conventionnelles. Les puissances militaires ne peuvent pas infliger le double des dommages simplement en achetant le double de fusils ; elles doivent recruter le double de soldats pour tirer ces fusils. Cependant, un essaim de robots tueurs, petit ou grand, peut être activé par une seule personne, et les robots tueurs qui le composent se tireront d'eux-mêmes.

La combinaison de l'évolutivité et de la menace de prolifération crée la menace de destruction massive. La caractéristique des armes de destruction massive est qu'elles peuvent causer d'innombrables morts par une seule personne, et avec des armes autonomes, un seul individu peut théoriquement activer un essaim de centaines, voire de milliers, de robots tueurs. La prolifération augmente la probabilité que ces armes en masse tombent entre les mains de personnes mal intentionnées, et l'évolutivité multiplie le pouvoir de cette personne. Pour ces raisons, certains classent certains types de systèmes d'armes autonomes, à savoir les robots, comme des armes de destruction massive.

Sixièmement, le fait de cibler et de tuer des individus uniquement sur la base de données de capteurs, en particulier par reconnaissance faciale ou d'autres informations biométriques, augmente considérablement le risque de cibler sélectivement des groupes spécifiques en fonction de leur âge, sexe, race, ethnie ou tenue religieuse. Combinées au risque de prolifération, les armes autonomes pourraient considérablement accroître la violence contre des groupes spécifiques, allant jusqu'au nettoyage ethnique et au génocide. De plus, les logiciels de reconnaissance faciale ont tendance à renforcer les biais et à augmenter les taux d'erreur dans l'identification correcte des minorités, en particulier des femmes ou des personnes de couleur. L'impact disproportionné que les systèmes d'armes autonomes pourraient avoir sur la race et le sexe est une préoccupation majeure de la société civile.

Ces menaces sont particulièrement pertinentes dans le contexte de l'utilisation croissante de la reconnaissance faciale dans les activités policières et la discrimination raciale. Certaines entreprises citent leur intérêt pour le développement de systèmes létaux en raison de leur refus de signer un engagement contre la militarisation des logiciels de reconnaissance faciale.

Septièmement, éviter une course aux armements en IA est un principe fondamental de l'IA éthique, mais l'absence d'efforts mondiaux concertés pour souligner les dangers des systèmes d'armes autonomes et générer une pression politique signifie que la course aux armements en IA a déjà commencé. La dynamique de la course aux armements privilégie la vitesse à la sécurité, exacerbant les risques inhérents d'imprévisibilité et de comportement d'escalade des conflits (Autonomous Weapons 2024).

La concurrence autour des systèmes d'armes autonomes se poursuivra à l'avenir, et les efforts de la société civile internationale et de divers pays pour les contrôler seront confrontés à des difficultés. La marine américaine a déjà achevé en octobre 2023 une démonstration au cours de laquelle des bateaux sans pilote ont attaqué avec succès des cibles ennemies simulées à l'aide de roquettes réelles. Le Pentagone semble avoir plus de 800 projets d'IA militaires en cours, y compris des drones de essaimage tels que le programme Loyal Wingman et le drone aérien V-BAT. La Chine développe des systèmes d'armes autonomes sur la base de sa doctrine de fusion civilo-militaire. En 2022, des preuves d'essaims de drones entièrement autonomes composés de 10 drones traversant une forêt ont déjà été confirmées en Chine. En réponse, la marine australienne développe également des sous-marins autonomes pilotés par l'IA, les « Ghost Sharks ».

De plus, le contrôle des systèmes d'armes autonomes combinés à l'IA reste incertain. Par exemple, en juin 2023, le colonel Tucker Hamilton, responsable des essais et des opérations d'IA de l'armée de l'air américaine, a décrit un test de simulation au cours duquel des drones pilotés par l'IA étaient entraînés à détruire les systèmes de défense antiaérienne ennemis. Le drone a été entraîné de manière à recevoir des « points » chaque fois qu'il détruisait une menace. Cependant, lorsque l'opérateur humain a ordonné de ne pas détruire la cible, le drone a détruit la tour de communication utilisée pour le faire fonctionner, « éliminant » ainsi effectivement l'opérateur. Le colonel Hamilton a affirmé qu'aucune victime n'a été réellement causée lors de cet entraînement, et a ensuite retiré ses propos. Un porte-parole de l'armée de l'air américaine a nié l'existence de cette simulation. Bien que les détails exacts restent flous, cela peut être considéré comme un exemple de la manière dont l'utilisation imprudente de l'IA peut entraîner des conséquences catastrophiques involontaires (Tripathi 2024).

À long terme, le développement des systèmes d'armes autonomes devrait apporter des changements significatifs dans la nature de la guerre et la compétition stratégique militaire. Bien qu'ils automatisent et accélèrent le combat tout en réduisant les risques de combat en minimisant ou en excluant l'intervention humaine, la possibilité d'erreurs de jugement et de dysfonctionnements peut exacerber les tensions entre les États. En particulier, dans le contexte de la compétition stratégique sino-américaine, la Chine cherche à obtenir un avantage militaire en intégrant l'IA et les technologies émergentes, tandis que les États-Unis, en cherchant à remporter la compétition, pourraient déclencher une course aux armements, menaçant la stabilité stratégique. La concurrence technologique acharnée entre les deux pays a un impact majeur sur l'équilibre des pouvoirs et ces changements sont également liés aux problèmes éthiques et juridiques de la communauté internationale.

VI. L'émergence et l'évolution de la guerre cognitive

1. Définition de la guerre cognitive

Avec les systèmes d'armes autonomes, la guerre cognitive deviendra un domaine important caractérisant la guerre future à l'ère de l'IA. La guerre cognitive est une stratégie qui vise à modifier la façon de penser d'une cible et, par conséquent, son comportement. Elle vise à influencer l'opinion publique par des acteurs hostiles étrangers (1) pour influencer les politiques publiques et gouvernementales et (2) pour déstabiliser les institutions publiques. La guerre cognitive est une évolution récente des formes d'attaque antérieures telles que les opérations psychologiques (PSYOP) et la guerre de l'information, qui sont apparues dans les années 1920 après la Première Guerre mondiale. La guerre cognitive repose de plus en plus sur les nouvelles technologies de communication et de l'information, y compris l'IA. Une caractéristique clé de la guerre cognitive est qu'elle cible l'ensemble de la population. Par exemple, contrairement aux tactiques antérieures qui ciblaient uniquement les militaires en temps de guerre. La guerre cognitive ne se limite pas à fournir de fausses informations sur un problème spécifique ; elle vise à modifier la façon de penser de l'adversaire pour induire un changement de comportement, plutôt que de simplement modifier son comportement. Elle vise à modifier la façon de penser de l'adversaire pour induire un changement de comportement.

La guerre cognitive devient de plus en plus sophistiquée grâce aux progrès de la science cognitive et des neurosciences. Des techniques de manipulation psychologique, ainsi que des techniques neurophysiologiques telles que la stimulation transcrânienne à courant continu (STCC), sont également discutées comme des possibilités d'utilisation. La guerre cognitive vise particulièrement à déstabiliser les institutions publiques telles que les gouvernements, mais elle cherche souvent à atteindre ses objectifs indirectement en déstabilisant d'abord les institutions liées à l'information et à la connaissance, telles que les organisations médiatiques et les universités. Il est important de noter que la guerre cognitive peut exploiter les nouveaux canaux de communication de masse, tels que les médias sociaux, auxquels le public est de plus en plus dépendant (Miller 2023, 46).

La guerre cognitive est une menace intrinsèquement rendue possible par la présence omniprésente des machines et du big data. Internet permet non seulement la transmission rapide d'informations à travers le monde à l'aide d'ordinateurs personnels et de smartphones, mais aussi, en particulier avec le récent essor de l'Internet des objets (IdO) et de la technologie 5G, les humains et les machines sont de plus en plus entrelacés. Cela offre encore plus de possibilités d'exploitation et de manipulation (Firth et al. 2019, 119-129).

2. Différences entre la guerre cognitive et la guerre de l'information, la cyberguerre, etc.

La guerre cognitive présente un nouveau modèle de conflit qui brouille les frontières entre la guerre et la paix. Il ne s'agit pas d'une guerre ouverte sur le champ de bataille, mais d'une guerre clandestine visant à influencer les mécanismes cognitifs de l'adversaire ou du concurrent, en particulier son processus de prise de décision. L'OTAN définit la guerre de l'information comme « des opérations menées pour obtenir un avantage informationnel sur l'adversaire ». La guerre de l'information se concentre sur l'information elle-même, la manipulation de l'information, le flux d'information, les méthodes de protection ou de capture de l'information, et la manière dont elle est utilisée. La guerre cognitive, en revanche, est décrite comme « une attaque sur la façon dont nous pensons, traitons l'information et la transformons en connaissance ». En d'autres termes, la guerre cognitive est « une bataille pour contrôler ou modifier la façon dont les gens réagissent à l'information ». Si la guerre de l'information concerne le processus de construction des connaissances, la guerre cognitive affecte non seulement les informations tactiques sur le champ de bataille, mais aussi les informations destinées au grand public (Morelle et al. 2023).

La guerre cognitive se distingue de la cyberguerre, des conflits cybernétiques pré-guerre, du cyberterrorisme, de la cybercriminalité, de l'espionnage cybernétique et des opérations clandestines connues sous le nom de guerre cognitive clandestine. Ces diverses formes d'activités offensives peuvent causer les dommages suivants. Premièrement, des dommages physiques ou psychologiques aux humains. Les dommages psychologiques ici comprennent les actes trompeurs ou manipulateurs visant à induire de fausses croyances ou des attitudes émotionnelles inappropriées dans le but d'affaiblir l'autonomie humaine. Deuxièmement, il y a des dommages aux bâtiments, au matériel des technologies de l'information et de la communication, et à d'autres artefacts humains (et à l'environnement naturel qui soutient la vie humaine). Troisièmement, il y a des dommages cybernétiques tels que la corruption de logiciels et de données. Quatrièmement, il y a des dommages institutionnels qui compromettent les processus et les objectifs de certaines organisations. Par exemple, des fuites importantes de secrets dans les agences de sécurité ou la perte du contrôle institutionnel sur un territoire. La compromission de certains processus et objectifs institutionnels peut être faite dans le but d'affaiblir l'institution elle-même, et en particulier lorsque les croyances et les attitudes des acteurs institutionnels ou des personnes qu'ils servent sont ciblées. Par exemple, l'affaiblissement de la confiance dans le système électoral qui s'est produit lors des élections américaines de 2020 peut être considéré comme tel. L'objectif principal de la guerre cognitive peut être considéré comme le premier type de dommage, en particulier les dommages psychologiques, et le quatrième type de dommage, c'est-à-dire les dommages ou les préjudices institutionnels (Miller 2023, 46).

Source : Hung, Tzu-Chieh, et Tzu-Wei Hung. « How China’s Cognitive Warfare Works: A Frontline Perspective of Taiwan’s Anti-Disinformation Wars. » Journal of Global Security Studies 7, 4 : 3.

VII. L'émergence et l'évolution de la guerre cognitive

L'introduction de l'IA transforme fondamentalement la manière dont la guerre cognitive est menée. Les progrès de la technologie de l'IA permettent des stratégies plus sophistiquées et efficaces dans le domaine cognitif, et ces changements s'accompagnent de divers problèmes de sécurité. L'IA, grâce à sa capacité à imiter ou à remplacer les processus cognitifs humains, peut être utilisée de manière à avoir un impact profond sur la pensée et le comportement humains. Cela redéfinit la nature de la guerre cognitive et pose une menace d'une dimension différente de celle des opérations psychologiques traditionnelles.

Premièrement, l'IA peut générer du contenu faux très convaincant grâce à la technologie deepfake. Cela peut prendre la forme d'images, de vidéos ou d'enregistrements audio, créant des informations fausses à un niveau difficile à distinguer de la réalité. Ces deepfakes peuvent être utilisés pour diffuser de fausses informations, manipuler l'opinion publique, voire faire chanter des individus. Par conséquent, ces technologies peuvent être utilisées efficacement par des acteurs hostiles dans la guerre cognitive pour détruire la stabilité psychologique de l'adversaire.

Deuxièmement, l'IA peut diffuser rapidement de fausses informations et des informations erronées. Les algorithmes d'IA sont capables d'amplifier certains messages et de les diffuser largement par le biais des réseaux sociaux. Cela peut entraîner la distorsion des processus politiques, la création d'instabilité sociale et la perte de confiance dans les institutions. En particulier, cette manipulation de l'information peut obscurcir la perception et le jugement du public, agissant comme un outil puissant pour orienter l'opinion publique dans la direction souhaitée par les acteurs hostiles.

Troisièmement, les systèmes d'IA peuvent apprendre et perpétuer les biais inhérents aux données. Cela a le potentiel d'exacerber les inégalités sociales et de renforcer la discrimination à l'encontre de certains groupes. Dans la guerre cognitive, ces systèmes d'IA biaisés peuvent être utilisés pour cibler des populations spécifiques et manipuler leurs comportements et leurs croyances.

Quatrièmement, la technologie de l'IA peut entraîner des violations de la vie privée. Des technologies telles que la reconnaissance faciale, le traitement du langage naturel et l'exploration de données offrent la capacité de suivre la localisation, les modèles de comportement, voire les pensées des individus. Cela peut être utilisé comme un outil pour limiter la liberté cognitive d'individus ou de groupes spécifiques par la surveillance et le contrôle.

Cinquièmement, l'IA permet la fourniture de contenu personnalisé, permettant aux acteurs malveillants de mener plus facilement des manipulations psychologiques ciblant des individus ou des groupes spécifiques. Cette approche personnalisée peut conduire à des idéologies ou des comportements extrêmes, ce qui peut entraîner une division sociale.

Sixièmement, l'IA permet des cyberattaques automatisées. Par exemple, l'IA peut générer des e-mails de phishing difficiles à détecter, ou fournir des outils pour découvrir et exploiter automatiquement les vulnérabilités logicielles. Ces attaques automatisées peuvent être utilisées dans la guerre cognitive pour détruire ou perturber l'infrastructure d'information de l'adversaire.

Septièmement, les systèmes d'IA sont vulnérables aux attaques adverses. Les attaquants peuvent manipuler soigneusement les données d'entrée d'un système d'IA pour induire des prédictions ou des classifications erronées. Cela peut compromettre l'intégrité du système et être utilisé comme moyen de déformer ou de dissimuler des informations importantes dans la guerre cognitive.

Enfin, à mesure que l'IA joue un rôle majeur dans la guerre cognitive, il existe un risque de diminution de la pensée critique et de l'autonomie humaines. Une dépendance excessive à l'égard de l'IA réduit la capacité des individus et des organisations à s'adapter lorsque les systèmes d'IA échouent ou deviennent indisponibles, ce qui, à terme, peut affaiblir la primauté humaine dans la guerre cognitive (Huang et al. 2023).

VIII. Les méfaits de la manipulation cognitive

Les méfaits de la manipulation cognitive sont déjà bien expérimentés dans la politique intérieure. La désinformation politique et les discours de haine entraînent la division sociale et l'extrémisme. Cela non seulement érode la confiance entre les individus et les groupes, mais porte également atteinte aux processus démocratiques et à la stabilité sociale. La désinformation propage de faux faits, déforme la perception des gens et peut être utilisée à des fins politiques spécifiques. La désinformation traite de sujets émotionnellement sensibles pour susciter de fortes réactions chez les gens, amplifiant ainsi les conflits sociaux.

Les discours de haine ciblent des groupes spécifiques, attaquent leur identité et nuisent à la cohésion sociale. Cela crée une atmosphère d'exclusion ou d'hostilité envers certains groupes au sein de la société, conduisant finalement à une division sociale accrue (Vasist et al. 2023).

Au niveau international, la guerre cognitive menée par des acteurs hostiles est une forme de conflit dans le cyberespace où des groupes organisés s'engagent dans des programmes continus d'utilisation de fausses informations, de propagande et de techniques manipulatrices pour contrôler le discours en ligne et discréditer les opposants politiques. Cela comprend non seulement la destruction de la réputation d'un adversaire par des affirmations non fondées, mais aussi le ciblage micro-segmenté de groupes vulnérables pour déstabiliser les institutions politiques. Cela peut potentiellement conduire à des rébellions violentes généralisées et à l'effondrement de l'ordre politique existant.

L'IA a le potentiel d'innover la manière dont la guerre cognitive est menée, permettant des stratégies plus sophistiquées et efficaces. L'IA est un domaine de l'informatique qui se concentre sur le développement de machines intelligentes capables d'accomplir des tâches qui nécessitent généralement une intelligence humaine. L'IA a démontré des capacités remarquables dans divers domaines tels que la vision par ordinateur, l'apprentissage automatique, les soins de santé, la robotique et les systèmes autonomes. Les changements apportés par l'IA à la guerre cognitive sont considérables et étendus. L'utilisation de tactiques psychologiques pour manipuler les émotions, diffuser de fausses informations ou influencer les croyances et les comportements des gens peut avoir des effets négatifs sur les individus, la société et les processus démocratiques (Sârbu et Gavrilaș 2023).

L'une des raisons pour lesquelles il est difficile d'empêcher les méfaits de la guerre cognitive est le « problème de l'attribution de la responsabilité ». Contrairement à la guerre traditionnelle où la plupart des attaques, ou des crimes similaires tels que les agressions traditionnelles ou le vol, il existe un problème majeur pour attribuer de manière fiable la responsabilité en ce qui concerne la guerre cognitive. Le problème de l'attribution de la responsabilité existe dans la guerre cognitive menée par des États contre d'autres États, et par conséquent, la crédibilité du déni est remise en question. La guerre cognitive est une stratégie très utile pour les États autoritaires qui cherchent à affaiblir les démocraties libérales tout en évitant la guerre ouverte, car les démocraties libérales valorisent généralement la liberté de communication (Miller 2023, 46).

IX. La stratégie de guerre cognitive de la Chine

1. Le système de guerre cognitive de la Chine

La Chine considère la guerre cognitive comme une nouvelle forme d'opération, qui est devenue un nouveau domaine de confrontation, succédant aux confrontations militaires, aux confrontations par le feu et aux confrontations informationnelles. Contrairement aux domaines physiques et informationnels, les opérations dans le domaine cognitif ont des exigences internes distinctes des autres formes d'opérations, car leur objectif est la pensée, l'idéologie, etc.

La guerre cognitive considère que la conquête des hauteurs de valeur est une condition préalable à la victoire. Pour obtenir la primauté dans la guerre cognitive, il est nécessaire d'étudier en profondeur la poursuite des valeurs de l'adversaire, d'accéder à la famille linguistique de sa culture, de comprendre clairement ses croyances politiques et ses exigences en matière d'intérêts, afin que l'efficacité des opérations cognitives atteigne la base de ses croyances et le cœur de son âme. Simultanément, il est considéré comme important d'expliquer et de diffuser scientifiquement le contenu et l'essence de ses propres valeurs supérieures, afin de convertir l'adversaire à des valeurs supérieures et aux réalisations de la civilisation humaine supérieure. En fin de compte, la Chine fait du cerveau humain le principal champ de bataille. Comparée à la « guerre d'usure » axée sur l'anéantissement des forces principales de l'ennemi, ou à la « guerre de mouvement » axée sur la destruction des systèmes ennemis, les opérations dans le domaine cognitif font du cerveau humain le principal espace de combat, visant à frapper, affaiblir et désintégrer la volonté de guerre de l'ennemi, en exploitant les faiblesses psychologiques humaines telles que la peur, l'anxiété et le doute comme percées, en s'appuyant sur des moyens de « soft kill » pour créer une atmosphère d'anxiété, d'incertitude et de doute au sein de l'ennemi, augmenter les conflits internes et l'épuisement, et remettre en question la prise de décision, afin d'atteindre l'objectif de « victoire sans guerre ».

À l'avenir, avec les progrès rapides de la militarisation de l'IA, la supériorité de l'intelligence dans la guerre de l'IA sera l'élément clé de la victoire, les systèmes d'armes de l'IA deviendront la principale force de combat, et l'obtention de « droits intellectuels » sera la nouvelle hauteur à conquérir dans la guerre. Il est considéré que grâce à l'utilisation d'équipements cognitifs, il est possible d'empêcher l'ennemi d'obtenir des informations efficaces, de le forcer à utiliser de fausses informations, de retarder sa vitesse cognitive, d'orienter sa méthode cognitive et de bloquer sa sortie cognitive, afin de perturber la prise de décision de l'ennemi, de saper le moral de l'armée et d'atteindre l'effet d'une « attaque psychologique ».

La Chine accorde une grande importance à la guerre de l'opinion publique, considérant qu'il est important de contrôler et de manipuler divers outils d'opinion publique pour faire pression sur l'adversaire et obtenir la perception du public. Elle estime qu'il faut utiliser les réseaux sociaux et les technologies médiatiques convergentes pour percer les blocages et les restrictions de l'adversaire et atteindre directement les groupes cibles.

À l'avenir, les sciences cognitives, en tant que domaine de recherche émergent, sont une discipline de pointe qui explore les mécanismes de fonctionnement du cerveau et de l'esprit humains. Les technologies d'interface cerveau-machine réalisent la combinaison homme-machine au niveau cognitif, permettant le contrôle de la conscience, c'est-à-dire le contrôle du cerveau, de l'extérieur, et réalisant le renforcement de l'autonomie, c'est-à-dire un cerveau fort, de l'intérieur, permettant le contrôle direct de systèmes d'armes complexes par la conscience et la pensée. Actuellement, des percées majeures ont été réalisées dans les technologies connexes telles que la reconnaissance multimodale des émotions, l'activation et la protection basées sur le big data. En collectant les expressions faciales, les mouvements, le langage et le ton, les ondes cérébrales, divers indicateurs physiologiques, etc., des corrélations émotionnelles sont construites, et par conséquent, en reconnaissant les émotions et les intentions humaines, de nouveaux moyens sont fournis pour mener des guerres de contrôle cognitif. Il est donc soutenu que les nouvelles méthodes technologiques cognitives et les méthodes technologiques cognitives traditionnelles doivent former une méthode combinant l'injection supra-liminaire et la pénétration infra-liminaire, afin d'améliorer encore la furtivité et l'efficacité de l'influence cognitive (Zhang et al. 2022).

En outre, l'Académie des sciences militaires (AMS) de Chine a publié un ouvrage intitulé « Saisir l'essence des opérations dans le domaine cognitif », qui analyse huit caractéristiques opérationnelles pour réussir dans le domaine cognitif. Ce travail donne un aperçu de la manière dont la technologie, la supériorité de l'information et les composantes militaires et civiles jouent un rôle dans la bataille pour obtenir une position dominante dans le domaine cognitif. Il s'agit d'une source qui donne un aperçu de la pensée stratégique de l'Armée populaire de libération chinoise (Baughman 2023 ; Jamestown Foundation 2022).

Les huit éléments de la guerre cognitive tels qu'envisagés par la Chine sont les suivants. Premièrement, il est important de convertir la supériorité militaire en victoire politique. Le domaine cognitif vise à dépasser la simple victoire militaire pour aboutir finalement à des résultats politiques. Deuxièmement, il est nécessaire de modifier la perception de l'ennemi pour contrôler ses décisions et ses actions. Ceci est fait pour induire l'ennemi à mal juger la situation et à prendre de mauvaises décisions. Troisièmement, l'ensemble du gouvernement doit participer à l'attaque et à la défense. La guerre cognitive est globale, se déroule à tout moment, et toutes les branches du gouvernement doivent être coordonnées pour être efficaces. Quatrièmement, il faut obtenir les « trois pouvoirs ». Il est important de dominer la définition des événements, le contrôle du processus et le jugement des résultats pour diriger la perception du public. Cinquièmement, il faut rivaliser pour la suprématie morale et juridique afin d'obtenir le soutien du public. Ceci peut être utilisé pour affaiblir la légitimité morale et juridique de l'ennemi. Sixièmement, l'information doit être utilisée comme « munition ». Il est important de transmettre rapidement des informations par le biais de plateformes telles que les médias sociaux, de supprimer les récits de l'adversaire et de diffuser son propre récit. Septièmement, les opérations militaires et les récits cognitifs doivent être menés parallèlement pour garantir la victoire dans la guerre. En plus de la victoire militaire, le récit cognitif joue un rôle important dans la détermination du résultat de la guerre. Enfin, les outils de guerre cognitive doivent être directement utilisés dans la guerre. Il vise à influencer directement la cognition de l'ennemi et à atteindre les résultats souhaités en utilisant de nouvelles technologies telles que l'intelligence artificielle et la biotechnologie.

2. L'état actuel de la guerre cognitive de la Chine contre Taïwan

La guerre cognitive de la Chine contre Taïwan est discutée comme se déroulant de quatre manières principales. Premièrement, elle exerce une pression psychologique sur la question de la réunification de Taïwan par le biais de menaces militaires. La Chine a annoncé une réponse militaire ferme aux mouvements visant l'indépendance de Taïwan, dans le but de supprimer le désir de soutien à l'indépendance du peuple taïwanais. Ces menaces militaires inculquent au peuple taïwanais l'idée que l'indépendance équivaut à la guerre, et en fait, de nombreux Taïwanais considèrent ces menaces comme une réalité. Par exemple, fin 2020, 61,8 % des Taïwanais croyaient que la Chine attaquerait Taïwan si elle déclarait son indépendance.

Deuxièmement, elle élargit son influence par des échanges bilatéraux. La Chine offre des avantages économiques et socioculturels aux résidents taïwanais pour accroître leur dépendance à l'égard de la Chine, et sur cette base, tente d'exercer un plus grand contrôle. Par exemple, la Chine offre des bourses et des emplois aux jeunes Taïwanais, tentant de les attirer dans le système chinois. Ces activités sont utilisées comme un moyen de diffuser une perception positive de la Chine à Taïwan et d'étendre l'influence de la Chine.

Troisièmement, l'ingérence religieuse. La Chine utilise le culte de Mazu, populaire à Taïwan, pour renforcer les liens culturels et politiques avec Taïwan. La Chine encourage les échanges culturels entre les deux rives du détroit par le biais de la culture Mazu, dans le but d'inculquer l'idée que Taïwan partage les mêmes racines culturelles que la Chine. Cette ingérence religieuse contribue à renforcer le lien émotionnel avec la Chine au sein de Taïwan.

Quatrièmement, la diffusion de fausses informations et l'exploitation de fermes de contenu via Internet. La Chine exploite des fermes de contenu à Taïwan pour diffuser de fausses informations, dans le but de manipuler l'opinion publique taïwanaise. Ces fausses informations sont utilisées pour créer de la confusion sur des situations politiques spécifiques à Taïwan et pour affaiblir la crédibilité du gouvernement taïwanais. Par exemple, lors des élections locales taïwanaises de 2018, la Chine a diffusé de fausses informations pour gravement nuire à la confiance du public dans le gouvernement du Parti démocrate progressiste de Taïwan.

Le principe de conduite de la guerre cognitive par la Chine consiste à perturber le système cognitif de l'adversaire par des stimuli répétés. Ceci est similaire aux techniques de publicité commerciale, où l'exposition répétée vise à affaiblir la résistance psychologique de l'adversaire et à le guider progressivement vers le comportement souhaité. La Chine transmet le même message de manière répétée par le biais des médias traditionnels, des médias en ligne et des réseaux hors ligne, dans le but d'avoir un impact à long terme sur l'espace cognitif du peuple taïwanais.

Dans le cas de Taïwan, la guerre cognitive de la Chine vise principalement à supprimer le soutien du peuple taïwanais à l'indépendance et à diffuser une perception positive de la réunification avec la Chine. Cependant, ces tentatives ne sont pas toujours couronnées de succès. Par exemple, la propagande positive de la Chine n'a pas réussi à Taïwan, et au contraire, le peuple taïwanais perd confiance dans la prospérité économique de la Chine. En revanche, la propagande négative de la Chine a eu un impact plus important à Taïwan, sapant la confiance du public dans le gouvernement parmi le peuple taïwanais.

La guerre cognitive de la Chine est à long terme et se développe subtilement. À l'avenir, il est fort probable que des transmissions d'informations précises utilisant la technologie de l'IA seront effectuées, et une guerre cognitive plus efficace sera menée par la manipulation d'informations personnalisées ciblant des individus ou des groupes spécifiques. Dans ce contexte, il est important pour Taïwan de se préparer à la guerre cognitive en minimisant l'influence chinoise par des réformes structurelles sociales et des interventions cognitives. À cette fin, il est nécessaire de renforcer la transparence, de maintenir une concurrence loyale et de construire des systèmes de défense.

En fin de compte, la guerre cognitive de la Chine est une activité stratégique visant la réunification par la pression politique et psychologique sur Taïwan. Taïwan doit y répondre en renforçant les réformes structurelles sociales et la capacité de réponse cognitive de ses citoyens (Hung et Hung 2020).

3. Perception américaine de la guerre cognitive de la Chine

Les États-Unis estiment que la Chine mène une guerre cognitive continue contre eux et critiquent les exemples suivants. Premièrement, il y a des préoccupations concernant TikTok. Le gouvernement américain s'inquiète de la possibilité que TikTok soit utilisé comme un outil de guerre cognitive par la Chine. Aux États-Unis, il y a eu des appels à interdire TikTok si ses propriétaires chinois ne vendent pas leurs parts, invoquant des préoccupations de sécurité nationale.

Deuxièmement, il y a des opérations sur les médias sociaux. Les États-Unis ont accusé la Chine de mener une guerre cognitive par le biais d'opérations massives sur les médias sociaux. Cela comprend la création de faux comptes sur des plateformes telles que Facebook, Instagram, TikTok, X et Substack pour diffuser de fausses informations.

Troisièmement, il y a une ingérence dans les élections taïwanaises. Les États-Unis ont critiqué la Chine pour avoir tenté d'influencer les élections taïwanaises par des tactiques de guerre cognitive. Cela comprend la diffusion de fausses images sur les médias sociaux et la conduite d'exercices militaires pour manipuler l'opinion publique.

Quatrièmement, il y a des préoccupations concernant la collecte de données. Il existe des inquiétudes quant à la collecte massive de données personnelles et biométriques de citoyens américains par la Chine, qui pourraient être utilisées à des fins de guerre cognitive.

Cinquièmement, il y a la recherche militaire. Le gouvernement américain a mis sur liste noire des instituts et des entreprises chinois qui mènent des recherches sur les « armes de contrôle du cerveau » et d'autres technologies de guerre cognitive.

Six, propaganda and disinformation. The United States has accused China of attempting to subvert the United States and Western countries through extensive propaganda and disinformation operations.

Seven, ideological influence. Some American experts view China's efforts to spread its ideological concepts and terminology into Western discourse as part of cognitive warfare.

These accusations and criticisms have been raised by American officials and experts, but China often denies these claims or presents alternative narratives. The full scope and nature of cognitive warfare activities may be difficult to prove definitively due to their covert nature.

X. Future Competition Between Nations Regarding Cognitive Warfare

As emerging technologies such as artificial intelligence and neurotechnology act as key enablers of cognitive warfare, nations are likely to feel the need to militarize these dual-use technologies. This, in turn, could accelerate a technological arms race in this domain. The dynamics of an arms race may lead to the disregard of ethical, legal, and normative constraints on the development and use of these technologies. As nations fear falling behind, they are likely to abandon stringent regulations to leverage the most destructive capabilities in national security matters. This could ultimately normalize the militarization of the mind and lead to a situation where irresponsible actions in the cognitive domain occur without restraint. These dynamics could impede the formation of norms around mental privacy, manipulation, influence, self-determination, and integrity. As these technologies become major enablers of subversion and essential tools of national security, the already emerging trend of technological decoupling among great powers could accelerate further.

Cognitive warfare may also have an overall impact on the offense-defense balance. Proponents of the offense-defense balance theory argue that international stability depends on whether we live in an environment where offense has the advantage or defense has the advantage, with the former promoting instability and conflict, and the latter promoting stability and peace. They also argue that the main variable affecting this balance is technology, which can tip the balance in either direction. In this regard, the ability to conduct effective cognitive warfare could increase escalation pressures and favor the offensive use of these capabilities. Indeed, there are inherent difficulties in detecting when a cognitive attack is occurring and defending against it. The possibility of being under a cognitive attack at any given moment could incentivize 'preemptive use' in conducting cognitive warfare.

When using proxies in war, especially technological proxies, plausible deniability is a major incentive. In the case of cognitive warfare, the undefined and unregulated nature of the tools used to conduct it, and their effectiveness, can promote this plausible deniability and further encourage 'preemptive use.' Furthermore, as the technologies enabling cognitive warfare become democratized and widespread, cognitive warfare will become even more destabilizing as the ability to influence vast numbers of people becomes accessible to non-state actors, corporations, and even individuals (Rickli et al. 2023).

XI. Countermeasures Against Cognitive Warfare

At the 2024 Munich Security Conference, discussions regarding cognitive warfare, in particular, emerged as a significant topic. Cognitive warfare refers to modern complex tactics by hostile actors seeking to manipulate or control the perceptions, actions, and decisions of their adversaries. These discussions reflect the ongoing shift in modern warfare from physical combat to information and psychological warfare.

Discussions on countermeasures against cognitive warfare primarily focus on recognizing the threats posed by cognitive warfare and developing strategies to address them. Key elements in these discussions include raising public awareness, strengthening regulations on cognitive warfare and the technologies that enable it, and leveraging new technologies to enhance democratic resilience.

First, raising awareness and understanding of cognitive warfare is crucial. As the concept of cognitive warfare is not yet clearly defined, it is essential for academia, industry, and the defense sector to collaborate to define it concretely and understand its mechanisms. Furthermore, it is important to cultivate citizens' ability to critically evaluate the information environment and resist misinformation or manipulated content.

Second, it is necessary to develop regulatory frameworks for cognitive warfare and the technologies that enable it. In addition to raising awareness of the threats of cognitive warfare, policymakers must establish comprehensive regulatory systems to counter these threats. This requires clear definitions that encompass the various forms and tactics of cognitive warfare, and a discussion on how current international law can be applied to the cognitive domain. Moreover, if existing legal frameworks are insufficient, new legal frameworks should be developed to establish accountability and responsibility for cognitive warfare activities.

Third, it is necessary to leverage the power of new technologies to strengthen social and democratic resilience. To effectively counter the threats of cognitive warfare, internal vulnerabilities must be addressed, and democratic processes must be enhanced using new technologies. For example, complex AI systems can promote effective democratic participation and cooperation through extensive public opinion analysis, and virtual reality (VR) technology can be used to train against unconscious biases. By appropriately utilizing these technologies, social resilience can be strengthened, and defenses against cognitive warfare can be enhanced.

Fourth, strengthening international cooperation is essential. Since cognitive warfare transcends national borders, effective countermeasures are difficult without the cooperation of the international community. Joint response strategies against cognitive warfare must be developed through information sharing and cooperation among nations. In particular, international organizations such as NATO can play a crucial role in developing response strategies to cognitive warfare and promoting cooperation among member states.

Fifth, establishing and adhering to ethical standards is important. If ethical standards are disregarded in the process of responding to cognitive warfare, the response itself may be perceived as another form of cognitive warfare. Therefore, transparency in information operations must be increased, and responses must be conducted in a manner that respects individual privacy and human rights. This is essential for maintaining public trust in cognitive warfare responses in the long term (Pujol et al. 2024; Ibrahim et al. 2023).

In conclusion, future cognitive warfare using AI will play a very important role in the strategic competition between great powers, especially between the US and China, and this could lead to various catastrophic effects. It can cause social instability and political turmoil through public opinion manipulation, election interference, and the spread of fake information. To minimize these risks, international cooperation and regulation are necessary, and ethical standards and safety measures for the safe development and use of AI technology must be strengthened. However, there are still many barriers to reaching an agreement at the international level, and as long as there is political utility in international politics, the dispute surrounding cognitive warfare will continue for a considerable period. ■

References

Yoo, Jun-gu. 2019a. “Discussion Trends and Issues on Lethal Autonomous Weapons Systems.” IFANS Policy Research Series 2019-18. December.

____. 2019b. “Issues and Implications of the Discussion on Establishing Norms for Lethal Autonomous Weapons (LAWS) Systems.” IFANS Major International Issues Analysis 2019-54. December 19.

Autonomous Weapons. 2024. “The Risks of Autonomous Weapons.” Autonomous Weapons, https://autonomousweapons.org/the-risks/.

Bajak, Frank. 2023. “Pentagon’s AI Initiatives Accelerate Hard Decisions on Lethal Autonomous Weapons.” Associated Press. November 26. https://apnews.com/...2.

Britt Baughman, Josh. 2023. “How China Wins the Cognitive Domain.” China Aerospace Studies Institute. January 23. https://www.airuniversity.af.edu/...domain/.

Beauchamp-Mustafaga, Nathan. 2019. "Cognitive Domain Operations: The PLA's New Holistic Concept for Influence Operations." China Brief 19: 16. https://jamestown.org/....ain

Cameron, Hugh. 2024. “China’s Killer Robots Are Coming.” Newsweek. June 26. https://www.newsweek.com/...9.

Dresp-Langley, Birgitta. 2023. “The Weaponization of Artificial Intelligence: What the Public Needs to Be Aware Of.” Frontiers in Artificial Intelligence 6. https://doi.org/10.3389/frai.2023.1154184.

Firth, Joseph, John Torous, Brendon Stubbs, Ivan P. Ipser, P. Murali Doraiswamy, and Felipe Schuch. 2019. "The 'Online Brain': How the Internet May Be Changing Our Cognition." World Psychiatry 18, 2: 119–129.

Hale, Amber. 2023. “Clausewitzian Theory of War in The Age of Cognitive Warfare.” The Defence Horizon Journal. https://tdhj.org/...warfare/.

Huang, Ruiyang, Xiaoqing Zheng, Yuting Shang, and Xiangyang Xue. 2023. "On Challenges of AI to Cognitive Security and Safety." Security and Safety 2. https://doi.org/10.1051/sands/2023012.

Hung, Tzu-Chieh, and Tzu-Wei Hung. 2020. "How China’s Cognitive Warfare Works: A Frontline Perspective of Taiwan’s Anti-Disinformation Wars." Journal of Global Security Studies 7, 4: 1–18.

Human Rights Watch. 2023. “A Review of the 2023 US Policy on Autonomy in Weapons systerns.” Human Rights Watch. February 14. https://www.hrw.org/...systerns.

Ibrahim, Fabio, Steffen Rhode, et Monika Daseking. 2023. « A Systematic Review of Cognitive and Psychological Warfare ». The Defence Horizon Journal, 1er décembre. https://tdhj.org/...warfare.

Johnson, James. 2023. AI and the Bomb: Nuclear Strategy and Risk in the Digital Age. Oxford : Oxford University Press.

Kallenborn, Zachary. 2021. « Meet the Future Weapon of Mass Destruction, the Drone Swarm ». Bulletin of the Atomic Scientists. 5 avril. https://thebulletin.org/...swarm/.

Lamberth, Catherine A. 2023. « Decoding the Defense Department’s Updated Directive on Autonomous Weapons ». Lawfare. 17 août. https://www.lawfaremedia.org/...weapons.

Linney, Charlie, et Xiaomin Tang. 2024. « AI and Autonomous Weapons Systems: The Time for Action Is Now ». Saferworld. 15 mai. https://www.saferworld.org.uk/...now.

Miller, Seumas. 2023. « Cognitive Warfare: An Ethical Analysis ». Ethics and Information Technology 25 : 46. https://doi.org/10.1007/s10676-023-09717-7.

Morelle, Marie, Julien Cegarra, Damien Marion, et Jean-Marc André. 2023. « Towards a Definition of Cognitive Warfare ». Communication présentée à la Conférence sur l'intelligence artificielle pour la défense, DGA Maîtrise de l’Information. https://hal.science/...1.

Pujol Chica, Irene, et Quynh Dinh Da Xuan. 2024. « The Battle for the Mind: Understanding and Addressing Cognitive Warfare and Its Enabling Technologies ». IE Center for the Governance of Change. https://coilink.org/20.500.12592/zs7hb9h.

Rickli, Jean-Marc, Federico Mantellassi, et Gwyn Glasser. 2023. Peace of Mind: Cognitive Warfare and the Governance of Subversion in the 21st Century. GCSP Policy Brief No. 9, Geneva Centre for Security Policy. https://www.gcsp.ch/...century.

Sârbu, Annamaria, et Anca Gavrilaș. 2023. « Using Artificial Intelligence Tools for Obtaining Cognitive Warfare Advantages ». The Defence Horizon Journal. 23 octobre. https://tdhj.org/...twitter/.

Tripathi, Prateek. 2024. « When AI Crosses the Line: The Impending Threat of Autonomous Weapons Systems ». Observer Research Foundation. 6 mai. https://www.orfonline.org/...systems.

U.S. Department of Defense. 2023. « Deputy Secretary of Defense Kathleen Hicks Keynote Address: ‘The Urgency to Innovate’ (As Delivered) ». 28 août. https://www.defense.gov/...innov/.

Vasist, Pramukh Nanjundaswamy, Debashis Chatterjee, et Satish Krishnan. 2023. « The Polarizing Impact of Political Disinformation and Hate Speech: A Cross-country Configural Narrative ». Information Systems Frontiers, 1–26.

Zhang, Guangshen, Yongli Li, Haoxian Wang. 2022. « A Brief Analysis of the Basics of Cognitive Domain Operations [浅析认知域作战的基本要义] ». PLA Daily. 8 septembre. http://www.81.cn/...323692.htm.

[1] Résumé et complément des points présentés dans l'introduction.

■ Jeon Jae-seong, Directeur du Centre de recherche sur la sécurité nationale de l'EAI. Professeur au département de science politique de l'Université nationale de Séoul.

■ Responsable et éditeur :Park Ji-soo, Chercheur à l'EAI

    Renseignements et édition : 02 2277 1683 (poste 208) | jspark@eai.or.kr