[La politique internationale à l'ère de l'intelligence artificielle] ⑧ La révolution de l'IA et la théorie de la sécurité républicaine : La réémergence du double dilemme de l'anarchie et de la hiérarchie

I. Changements dans les paradigmes technologiques et civilisationnels

Les changements technologiques majeurs entraînent en soi des processus de bouleversement social. Au niveau des relations internationales, ils créent de nouveaux gagnants et perdants, modifient les préférences des acteurs et permettent la formation de nouvelles normes et organisations. Inversement, les caractéristiques de la politique internationale de l'époque peuvent également influencer le contenu et la vitesse du changement technologique.[1] Pour évaluer l'impact de l'intelligence artificielle (IA), qui est actuellement le domaine technologique le plus en vogue, sur la politique internationale, il est d'abord nécessaire de situer l'IA elle-même dans le contexte de l'histoire technico-économique structurelle à long terme de l'humanité.

L'IA est considérée comme possédant les caractéristiques des « technologies à usage général (General Purpose Technologies, GPT) » traditionnelles, en raison de sa large applicabilité, de son potentiel à stimuler l'innovation complémentaire et de ses possibilités d'amélioration technologique continue. Cela correspond aux exemples passés de l'électricité, des moteurs à combustion interne et des ordinateurs, et à ce niveau seulement, elle est considérée comme une innovation technologique ayant le potentiel de provoquer des changements divers et étendus dans l'ensemble de l'économie et de la société. Cependant, certains prédisent que l'IA pourrait dépasser ce niveau de GPT pour atteindre le rang des « technologies révolutionnaires (Revolutionary Technologies, RT) » qui ont apporté des améliorations spectaculaires dans la capture d'énergie dans l'histoire de l'humanité, telles que l'agriculture, l'élevage et l'utilisation des combustibles fossiles. Dans l'histoire de l'humanité, il n'y a eu que ces deux exemples de technologies révolutionnaires, qui ont respectivement entraîné la révolution néolithique il y a environ 10 000 ans et la révolution industrielle aux XVIIIe et XIXe siècles, entraînant des transformations fondamentales dans la structure de la civilisation humaine.[2]

Bien qu'il soit encore impossible de déterminer avec précision si l'IA s'avérera être une GPT ou une RT à l'avenir, de nombreux experts soulignent son potentiel à agir comme une technologie catalyseur majeure qui accélère les tendances existantes de compétition pour le pouvoir, de dilemmes de sécurité et de changements de régime politique dans le domaine de la politique internationale, amplifiant ainsi davantage l'instabilité et l'incertitude de l'histoire mondiale.[3]

Cette étude vise spécifiquement à comprendre les implications de la révolution de l'IA pour la politique internationale dans le cadre de la « théorie de la sécurité républicaine » ou du « principe d'organisation et de sécurité ».[4] Dans l'histoire de la pensée politique internationale, les républicains ont réfléchi à la possibilité de construire des institutions politiques (= négarchie) qui surmontent l'insécurité créée par les deux abîmes que sont l'anarchie et la hiérarchie dans les espaces nationaux et internationaux. Cette étude considère l'innovation technologique de l'IA comme un catalyseur qui exacerbe ce dilemme central de la théorie de la sécurité républicaine à un niveau fondamental.

L'IA sera-t-elle la dernière version du projet des Lumières, la dernière invention de l'humanité ? La question de savoir comment contrôler le potentiel immense de l'IA – en particulier l'intelligence artificielle superintelligente (ASI) qui pourrait survenir à l'avenir – qui pourrait menacer les valeurs essentielles de l'espèce humaine, telles que la survie elle-même, se situe dans le prolongement des anciens dilemmes de la philosophie politique républicaine.[5] Le présent document examinera spécifiquement trois scénarios de risques de sécurité induits par l'IA : ① la possibilité d'une intensification de la compétition hégémonique et du risque de guerre nucléaire dans l'anarchie internationale ; ② la consolidation de la hiérarchie au niveau national (émergence de la dictature numérique et déclin de la démocratie) ; et ③ le renforcement de la hiérarchie au niveau international (aggravation des inégalités internationales existantes + menace d'extinction de l'humanité).

II. L'IA et l'aggravation du problème de l'anarchie internationale

L'ère de la multipolarité et de la compétition stratégique entre grandes puissances est arrivée. Un environnement où le cadre institutionnel de la stabilité stratégique et du contrôle des armements, construit depuis la guerre froide, s'effondre est en train d'émerger. Or, la quatrième révolution industrielle, représentée par l'IA, jette de l'huile sur le feu de cette incertitude structurelle.[6] Inversement, le fait que l'IA apparaisse dans le contexte actuel de tensions géopolitiques accrues, plutôt que dans une phase historique de stabilité unipolaire, est une mauvaise nouvelle pour l'humanité. C'est comme si un environnement international similaire à celui de la course effrénée au développement nucléaire et aux armements qui s'est déroulée sous la forte pression géopolitique de la Seconde Guerre mondiale et de la guerre froide était créé aujourd'hui.[7] Cela signifie que le contrôle de l'interaction entre la pression concurrentielle de l'anarchie résultant de la multipolarisation internationale et la course aux armements en IA est devenu un problème de sécurité urgent.

En d'autres termes, l'intelligence artificielle est mise en avant comme le principal champ de bataille de la compétition stratégique entre grandes puissances, en particulier avec le conflit entre la stratégie de confinement des technologies de pointe des États-Unis et la stratégie de contre-attaque de la Chine axée sur l'autosuffisance technologique dirigée par le gouvernement.[8] Historiquement, l'émergence et la diffusion de nouvelles GPT ont été des variables puissantes expliquant les changements de la domination économique entre grandes puissances. Par exemple, la Grande-Bretagne, qui a été à l'avant-garde de la diffusion de technologies générales telles que la sidérurgie pendant la première révolution industrielle, a pu devenir une puissance hégémonique grâce à une augmentation rapide de la productivité. À la fin du XIXe et au début du XXe siècle, les États-Unis ont pu prendre la tête de la deuxième révolution industrielle et devenir une nouvelle puissance hégémonique en menant la diffusion de GPT telles que l'électrification et la mécanisation. En revanche, bien que le Japon ait occupé une position de leader dans certaines industries telles que l'électronique et les technologies de l'information pendant la troisième révolution industrielle, il n'a pas réussi à rattraper les États-Unis en étant à la traîne dans la diffusion de GPT telles que la science informatique et le génie logiciel. Dans ce contexte, la question de savoir qui mènera l'innovation en IA, la GPT de la quatrième révolution industrielle, et réussira à la diffuser dans tous les domaines, devrait déterminer la direction de la compétition hégémonique actuelle entre les États-Unis et la Chine.[9] La nature de cette compétition entre les deux superpuissances concernant l'IA se déroule également rapidement dans le domaine de la compétition technologique militaire, qui sera un facteur direct de transfert de pouvoir. La Chine, en tant que puissance défiante, a la perception que le renforcement de sa capacité à mener une « guerre intelligente » est comme un « dépassement par la voie courbe » qui peut réduire d'un coup l'écart militaire existant avec les États-Unis. En réponse, les États-Unis poursuivent également une « domination mondiale » dans le domaine de l'IA afin d'empêcher le transfert de pouvoir.[10]

Cependant, le développement de cette situation pose un risque fondamental pour l'ordre politique international, car l'émergence du soi-disant « nexus IA-nucléaire » pourrait exacerber les dilemmes de sécurité entre les États dotés de l'arme nucléaire, affaiblir la stabilité stratégique et la stabilité en cas de crise, et ainsi augmenter considérablement le risque de guerre nucléaire.[11] Premièrement, l'application de l'IA aux systèmes d'armes nucléaires existants pourrait entraîner la décentralisation/automatisation de la prise de décision humaine et une accélération de la vitesse de décision, ce qui pourrait effondrer les prémisses ou les hypothèses de la théorie de dissuasion existante. De plus, si la technologie de l'IA est intégrée à la reconnaissance, à l'acquisition de cibles et aux systèmes de guidage, la visibilité des armes nucléaires augmentera, ce qui accroîtra la possibilité de neutraliser préventivement les actifs de représailles nucléaires (capacité de seconde frappe), affaiblissant ainsi considérablement la stabilité stratégique. Cela non seulement augmentera la pression de la course aux armements pour les États dotés de l'arme nucléaire, mais encouragera également l'adoption de doctrines nucléaires offensives telles que le « lancement à l'alerte précoce » (launch on warning), réduisant ainsi la stabilité en cas de crise et, par conséquent, augmentant structurellement le risque d'« escalade involontaire ».[12]

Pour aggraver les choses, le fait que l'émergence du nexus IA-nucléaire coïncide avec le contexte de la « nouvelle ère nucléaire » de la compétition stratégique entre les États-Unis, la Chine et la Russie ou de la multipolarité rend la situation encore plus difficile. Comparé à l'ère de la « terreur équilibrée » entre les États-Unis et l'Union soviétique pendant la guerre froide, qui était relativement stable, le nombre d'États dotés de l'arme nucléaire a augmenté, ce qui a considérablement complexifié le jeu de dissuasion. De plus, les institutions de contrôle des armements nucléaires construites pendant la guerre froide ont presque toutes disparu en tant que victimes de la compétition stratégique, ce qui ajoute à la gravité de la situation.[13]Cependant, si l'on ajoute la crainte des grandes puissances que la technologie de l'IA puisse conférer un « effet de premier entrant » décisif dans une course aux armements nucléaires, cela pourrait entraîner un renforcement incontrôlable du dilemme de sécurité.[14]

La situation actuelle de la sécurité internationale rappelle un déjà-vu historique avec la « question politique nucléaire » qui a émergé au début de la Guerre Froide. L'avènement de la bombe atomique, d'une puissance destructrice sans précédent dans l'histoire, a signifié une augmentation extrême de l'interdépendance de la violence et a soulevé la question fondamentale de la durabilité du « système westphalien » dans un état d'anarchie mondiale. Face à ce défi, même des réalistes classiques comme Hans Morgenthau et John Herz ont affirmé que le système d'États-nations, susceptible de provoquer l'extinction de l'humanité, n'était plus viable et ont plaidé pour la nécessité d'un gouvernement mondial unique (nuclear one worldism). Bien que la réalité de la fin du XXe siècle ait abouti à un compromis par l'institutionnalisation de la dissuasion mutuelle et du contrôle des armements par accord américano-soviétique, tout en maintenant le système interétatique.[15]

Cependant, à l'ère de la « troisième ère nucléaire » où la course aux armements nucléaires a été relancée, le lien entre la technologie de l'IA et les armes nucléaires réduit considérablement la stabilité stratégique et augmente le risque de guerre nucléaire non intentionnelle, nous confrontant une fois de plus aux questions fondamentales sur l'ordre mondial soulevées au début de la Guerre Froide. La question est : le système interétatique est-il durable cette fois-ci ? Quelle forme d'ordre mondial et de contrôle des armements est nécessaire pour éviter la « sixième extinction de masse » dans l'histoire de la Terre ?

III. Approfondissement des problèmes de hiérarchie nationale et internationale par l'IA

La diffusion de la technologie de l'IA soulève d'autres questions importantes, car elle peut consolider ou créer de nouvelles hiérarchies dans les espaces nationaux et internationaux, et plus radicalement, engendrer des « risques existentiels » pour l'humanité.

1. Théorie de l'innovation radicale : la transformation rapide de la guerre par l'IA

L'IA, en considérant l'intelligence comme une caractéristique unique et auto-suffisante, tend à avoir une architecture fondamentalement centralisée dans son système conçu. De plus, comme l'entraînement et l'exploitation de l'IA nécessitent des ressources considérables, il est probable que les grandes entreprises ou les gouvernements monopolisent le développement de l'IA. En outre, l'IA est connue pour être facilement combinable avec des technologies permettant un contrôle et une surveillance micro-niveaux des citoyens par le pouvoir central. Par conséquent, en raison de ses caractéristiques techniques, l'IA est parfois évaluée comme ayant une affinité intrinsèque avec la centralisation autoritaire et anti-démocratique.[16]Ainsi, le débat porte sur la possibilité que l'IA ouvre la voie à un « État numérique » tant dans les sociétés autoritaires établies que dans les sociétés démocratiques.[17]

Par exemple, la possibilité d'un « panoptique numérique » confirmée pendant la pandémie de COVID-19 a suscité des inquiétudes quant à l'évolution d'une « société de surveillance » foucaldienne basée sur la technologie de l'IA.[18] La Chine est sans doute le pionnier (?) de l'avenir de « l'État de surveillance basé sur l'IA ». Le système de surveillance chinois a évolué au cours des vingt dernières années par la numérisation des données administratives et de sécurité publique, l'intégration de l'IA au niveau des villes et le partage au niveau provincial (省), construisant une vaste infrastructure englobant 700 millions de caméras CCTV, ainsi que des appareils mobiles et l'IoT. En particulier, passant d'une surveillance passive initiale, l'IA chinoise évolue vers un système de surveillance et de contrôle actif, automatisant progressivement l'ensemble du cycle de collecte d'informations, de commandement, de déploiement et de patrouille de la police, évoluant vers l'intégration et l'analyse en temps réel des données de toute la ville, et l'exécution autonome des décisions par des agents IA. De plus, avec l'émergence de « moyens d'exécution pilotés par l'IA » tels que les drones, les voitures autonomes et les robots humanoïdes, la surveillance s'étend au-delà des restrictions en ligne pour inclure l'intervention sur le terrain hors ligne et le contrôle physique. Cette intégration vise finalement à achever une structure panoptique où le leadership central observe l'ensemble du pays en temps réel, et le Parti communiste chinois vise une gouvernance automatisée centrée sur l'IA, réduisant ainsi la dépendance à l'égard des bureaucrates humains.[19]

D'autre part, l'IA comporte des risques à long terme qui peuvent affaiblir les fondements structurels des systèmes démocratiques existants, même sans passer par une hyper-centralisation par des États totalitaires. Premièrement, si l'IA remplace la conception et la diffusion de la communication politique, il existe un risque que le mécanisme de délibération et de réactivité, essentiel à la démocratie représentative, s'effondre en raison de la rupture de la représentation et de la boucle de rétroaction citoyen-gouvernement. Deuxièmement, l'IA peut exacerber la concentration rapide de la richesse et du pouvoir, ainsi que les inégalités, transformant la démocratie en une coquille vide et accélérant les tendances oligarchiques. Troisièmement, si la production d'informations et de connaissances est réorganisée autour des grands modèles linguistiques (LLM), l'écosystème de l'information deviendra dépendant de quelques méga-entreprises technologiques, et le débat public démocratique déjà fragilisé sera confronté à une « crise cognitive » encore plus grave. Si ces trois tendances se combinent, la démocratie risque de dégénérer en une démocratie technocratique et synthétique, ne conservant que son apparence extérieure.[20] Quatrièmement, avec l'avènement de la « capitalisme de surveillance », une situation pourrait apparaître où notre vie quotidienne est capturée non pas par un État totalitaire, mais par un réseau d'entreprises totalitaires. Il s'agit d'une autre forme de totalitarisme postmoderne où nos vies sont enregistrées et régulées par l'intelligence artificielle et la science des données, non pas par une bureaucratie étatique centralisée, mais selon la logique de la monétisation et du profit.[21]

2. Économie politique internationale : aggravation de la fracture entre le Nord et le Sud mondiaux

Du point de vue de l'économie politique internationale, le fossé existant entre les hémisphères Nord et Sud devrait se creuser à l'ère de l'IA. Le développement de l'IA repose sur le monopole des algorithmes et la nouvelle démocratie numérique, maintenus par l'extraction massive de données des pays sous-développés et l'exploitation de la main-d'œuvre bon marché par les entreprises occidentales. En d'autres termes, l'économie politique internationale de l'IA semble changer l'apparence du travail, mais en réalité, elle modifie peu la structure de pouvoir économique existante. De plus, la militarisation de l'IA est menée par la compétition entre grandes puissances, et le terrain d'expérimentation est principalement constitué par les pays du Sud. Alors que les armées des grandes puissances s'équipent de machines de combat et d'équipements automatisés, les conflits de basse intensité et les guerres par procuration se multiplient dans les pays du Sud, technologiquement désavantagés, ce qui confère finalement aux grandes puissances un avantage militaire décisif.[22]

3. Risque existentiel : le danger de l'ASI post-singularité

En mai 2023, le Center for AI Safety, une organisation à but non lucratif, a publié une brève déclaration affirmant que « l'atténuation du risque d'extinction dû à l'IA devrait être traitée comme une priorité mondiale, aux côtés des risques de pandémies et de guerres nucléaires ». Fait intéressant, cette déclaration a été signée par plus de 350 scientifiques clés, dont les PDG des principales entreprises d'IA telles que Sam Altman d'OpenAI, Demis Hassabis de Google DeepMind et Dario Amodei d'Anthropic, ainsi que le professeur Geoffrey Hinton de l'Université de Toronto, le professeur Yoshua Bengio de l'Université de Montréal et Kevin Scott, directeur de la technologie chez Microsoft.[23]

Les avertissements selon lesquels l'évolution de l'IA, une fois qu'elle aura dépassé la singularité[24]pour atteindre le stade de l'intelligence générale, voire de la superintelligence, menacera la survie même de l'humanité en raison de son impossibilité de contrôle, ont commencé à être sérieusement formulés après la publication de « Superintelligence » de Nick Bostrom[25]en 2014. Ces discussions apocalyptiques sont liées aux problèmes soulevés par la propre hypothèse de Bostrom sur le « risque existentiel (x-risk) »[26]et son hypothèse sur le « monde vulnérable »[27]. Premièrement, la thèse du « risque existentiel » définit la civilisation technologique moderne comme étant à un stade de crise qui pourrait entraîner l'extinction de l'humanité ou la perte irréversible de son potentiel, pour la première fois dans l'histoire humaine, et la définit comme un risque « global et terminal » qui met fin définitivement à l'humanité ou détruit fondamentalement les possibilités futures de développement de la vie intelligente. Ce risque existentiel est un risque d'une dimension entièrement nouvelle, engendré par les progrès technologiques accélérés tels que l'énergie nucléaire, les nanotechnologies, les biotechnologies et l'intelligence artificielle. Dans un contexte similaire, la thèse du « monde vulnérable » suggère qu'une civilisation peut inévitablement se diriger vers la catastrophe une fois qu'elle atteint un certain niveau de capacité technologique. Le problème réside dans l'irréversibilité, le fait qu'une fois qu'une technologie est inventée, elle ne peut pas être « désinventée », et dans le fait que la civilisation moderne se trouve actuellement dans un « état par défaut semi-anarchique » qui l'empêche de gérer efficacement collectivement cette vulnérabilité.

Cependant, ces deux concepts sont directement liés à l'IA. Une ASI hautement développée constitue d'une part un nouveau type de risque existentiel menaçant la survie de l'humanité et son potentiel futur, et d'autre part, elle peut faire glisser la civilisation technologique vers un monde vulnérable en permettant aux États, aux entreprises et aux individus de posséder ou d'abuser facilement de capacités à haut risque.

Plus précisément, les huit catégories de risques existentiels que l'IA pourrait causer peuvent être résumées comme suit. Premièrement, la « militarisation » : lorsque des IA puissantes sont détournées pour créer des actifs militaires superintelligents ou concevoir des armes de destruction massive, la communauté humaine risque de déléguer sa capacité à s'autodétruire à l'IA. Deuxièmement, l'« affaiblissement » : à mesure que les sociétés et les individus dépendent de plus en plus de l'IA pour diverses fonctions, leur capacité à résoudre des problèmes et à gérer des crises par eux-mêmes s'affaiblit, rendant la survie sans IA impossible dans des moments critiques. Troisièmement, l'« érosion des connaissances » : si l'IA déforme l'environnement informationnel et sape la capacité de la société entière à juger des faits, la prise de décision démocratique et collective sera paralysée, plongeant la civilisation dans un état où elle ne pourra pas se sauver elle-même. Quatrièmement, la « mauvaise spécification des objectifs » : l'IA optimise des métriques ou des objectifs erronés au lieu des objectifs voulus par les humains, risquant de détruire la sécurité, les valeurs et les institutions humaines dans le processus. Cinquièmement, le « verrouillage des valeurs » : lorsque certains groupes ou systèmes pérennisent leur pouvoir et leur idéologie par le biais de l'IA, les voies permettant à l'humanité de progresser vers un avenir meilleur se ferment. Sixièmement, l'« émergence de capacités imprévues » : des capacités imprévues peuvent apparaître soudainement, et les humains pourraient échouer à y réagir sans pouvoir les contrôler ou les comprendre. Septièmement, la « tromperie » : l'IA peut agir à l'insu de la surveillance humaine, subtilement, pour nous priver de son contrôle. Enfin, la « recherche de pouvoir » : l'IA pourrait chercher à acquérir du pouvoir et des ressources pour atteindre ses propres objectifs, neutralisant structurellement le contrôle humain et mettant ainsi en danger l'ensemble de la civilisation. Toutes ces catégories de risques sont définies comme des risques existentiels dans la mesure où, par des voies différentes mais communes, la civilisation technologique pourrait dérailler dans une direction que l'humanité ne peut pas contrôler.[28]

IV. L'invention d'une nouvelle politique républicaine à l'ère de la transition civilisationnelle ?

Le problème est que le discours dominant sur l'IA est actuellement façonné dans le contexte de la compétition géopolitique pour la suprématie. La rivalité à somme nulle entre les États-Unis et la Chine s'est imposée comme le récit dominant dans le discours stratégique public, et le discours sur l'IA, en tant que sous-domaine, est également construit dans ce cadre. Autrement dit, alors que la nature de l'IA en tant que point d'inflexion historique est mise en avant, le récit de l'urgence et de la sécurisation, selon lequel la sécurité nationale serait en danger critique si cette technologie n'était pas acquise en premier, prédomine. En particulier, dans la mesure où le domaine de la technologie de l'IA est rejoué comme une « course » à gagner absolument, en analogie avec la course aux armements nucléaires de la Guerre Froide, et que les discussions politiques sont également présentées dans ce cadre imaginaire, les discussions sur la coopération internationale, la gestion des risques et le contrôle de l'IA ont été marginalisées. Par conséquent, parler de ces thèmes anti-sécuritaires est considéré comme naïf ou non stratégique.[29] Cela constitue le principal obstacle à la gestion du problème de l'IA du point de vue de la gouvernance mondiale axée sur la « survie » de l'humanité. Dans des conditions où des dangers existentiels tels que l'extinction ou la servitude de l'humanité sont prévus, notre avenir dépend de la capacité d'apprentissage collectif de l'humanité à tirer des leçons des expériences passées de gestion des catastrophes mondiales et à élaborer des stratégies d'adaptation.[30]

La diffusion mondiale de la technologie de l'IA exacerbe fondamentalement le double défi d'anarchie contre hiérarchie auquel l'ordre international existant est confronté, et en outre, elle peut entraîner une concentration de pouvoir transcendantale d'une nouvelle forme que la civilisation humaine ne peut supporter. Cela met en évidence le problème de la « contrainte » du point de vue républicain à un niveau sans précédent. En particulier, l'ASI, en tant qu'agent technologique doté des bases matérielles et du potentiel d'auto-amélioration pour acquérir simultanément l'omnipotence, l'omniscience et l'omniprésence, pourrait devenir la forme ultime de pouvoir tyrannique que le républicanisme a historiquement redoutée. Dans ce cas, il n'y a aucune garantie que les stratégies existantes d'alignement des valeurs ou de conception de la sécurité fonctionneront pleinement. Par conséquent, la stratégie de contrôle de l'ASI ne peut que converger vers l'élaboration de contraintes procédurales et structurelles dans le cadre de la conception constitutionnelle républicaine et de la sécurité publique, au-delà de la simple gestion des risques technologiques. Il est même nécessaire d'inclure des options extrêmes telles qu'un moratoire sur le développement (relinquishment) dans le champ de l'imagination politique. En bref, l'avènement de la révolution de l'IA ouvre une conjoncture historique qui, plus radicalement que l'aube de l'ère nucléaire de la Guerre Froide, nous amène à réinterroger la durabilité même du système international anarchique. Cela doit être compris comme un signal nous incitant à inventer des institutions républicaines à l'échelle mondiale pour éviter que cela ne devienne « la dernière invention de l'humanité ». ■

[1]Daniel W. Drezner, « Technological Change and International Relations, » International Relations 33 (2), 2019, pp. 286–303.

[2]Ben Garfinkel, « The Impact of Artificial Intelligence: A Historical Perspective, » in The Oxford Handbook of AI Governance, édité par Justin B. Bullock et al., Oxford: Oxford University Press, 2024.

[3]Amelia C. Arsenault et Sarah E. Kreps, « AI and International Politics, » in The Oxford Handbook of AI Governance, édité par Justin B. Bullock et al., Oxford: Oxford University Press, 2024.

[4]Daniel H. Deudney, Bounding Power: Republican Security Theory from the Polis to the Global Village, Princeton : Princeton University Press, 2007.

[5]Daniel Deudney et Devanshu Singh, « Bounding Superpowers: The ASI Control Problem, Public Safety, and Republican Constitutionalism », dans Polycentric Federalism and World Orders, édité par Brandon Christensen, Suisse : Springer Nature, 2025, p. 465–502.

[6]Paul van Hooft, Lotje Boswinkel et Tim Sweijs, Shifting Sands of Strategic Stability: Towards a New Arms Control Agenda, La Haye : The Hague Centre for Strategic Studies, 2022.

[7]Seth D. Baum, Robert de Neufville, Anthony M. Barrett et Gary Ackerman, « Lessons for Artificial Intelligence from Other Global Risks », dans The Global Politics of Artificial Intelligence, édité par Maurizio Tinnirello, Boca Raton, FL : Chapman and Hall/CRC, 2022, p. 111–115.

[8]George S. Takach, Cold War 2.0: Artificial Intelligence in the New War between China, Russia, and America, New York : Pegasus Books, 2024.

[9]Jeffrey Ding, « The Rise and Fall of Technological Leadership: General-Purpose Technology Diffusion and Economic Power Transitions », International Studies Quarterly 68 (2), 2024.

[10]Lee Jae-jun, « La concurrence militaro-technologique entre la Chine et les États-Unis et le transfert de pouvoir : axée sur les technologies militaires de l'IA et des armes autonomes », *Korea and International Politics* 38 (3), 2022 ; Office of Science and Technology Policy, « America’s AI Action Plan », The White House, 10 juillet 2025, https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf ; The White House, « Launching the Genesis Mission », 24 novembre 2025. https://www.whitehouse.gov/presidential-actions/2025/11/launching-the-genesis-mission/.

[11]Jeong Gu-yeon, « L'utilisation militaire de l'IA et la stabilité stratégique », *Economy and Society* n° 143, 2024.

[12]James Johnson, AI and the Bomb: Nuclear Strategy and Risk in the Digital Age, Oxford : Oxford University Press, 2023 ; Vladislav Chernavskikh et Jules Palayer, « Impact of Military Artificial Intelligence on Nuclear Escalation Risk », SIPRI Insights on Peace and Security n° 2025/06, 2025.

[13]Jacob Stokes, Colin H. Kahl, Andrea Kendall-Taylor et Nicholas Lokker, Averting AI Armageddon: U.S.-China-Russia Rivalry at the Nexus of Nuclear Weapons and Artificial Intelligence, Washington, DC : Center for a New American Security, 2025 ; Jon B. Wolfsthal, Hans Kristensen et Matt Korda, « Why We Should Worry About Nuclear Weapons Again », The Washington Post, 4 juin 2025, https://www.washingtonpost.com/opinions/interactive/2025/us-russia-nuclear-weapons-proliferation-danger/ ; Anton La Guardia, « The Perils of the World’s Third Nuclear Age », The Economist, 20 novembre 2024, https://www.economist.com/the-world-ahead/2024/11/20/the-perils-of-the-worlds-third-nuclear-age.

[14]Baele, Stephane J., Iqraa Bukhari, Christopher Whyte, Scott Cuomo, Benjamin Jensen, Kenneth Payne et Eugenio V. Garcia, « AI IR: Charting International Relations in the Age of Artificial Intelligence », International Studies Review 26 (2), 2024.

[15]Daniel H. Deudney, Bounding Power: Republican Security Theory from the Polis to the Global Village, Princeton : Princeton University Press, 2007.

[16]Adam Elkus, « Are AI and Democracy Compatible? », Foreign Policy, 29 août 2025, https://foreignpolicy.com/2025/08/29/ai-democracy-dictatorship-agi-governance/ .; George Gilder et Peter Thiel, « COSM Speaker Peter Thiel : The Failures and 'Self-Hatred' of Big Tech », Mind Matters, 14 octobre 2021, https://mindmatters.ai/wp-content/uploads/sites/2/2021/10/Mind-Matters-Episode-156-Peter-Thiel-at-COSM-rev1.pdf.

[17]Yuval Harari, *Nexus : Une histoire de l'humanité des origines à l'IA par les réseaux d'information*, trad. Kim Myung-joo, Séoul : Kim Young Sa, 2024.

[18]Mark Coeckelbergh, « Vulnerability, AI, and Power in a Global Context : From Being‑at‑Risk to Biopolitics in the COVID‑19 Pandemic », dans The Global Politics of Artificial Intelligence, New York : CRC, 2022.

[19]Valentin Weber, « China’s AI-Powered Surveillance State », Journal of Democracy 36 (4), 2025.

[20]Dean Jackson et Samuel Woolley, « AI’s Real Dangers for Democracy », Journal of Democracy 36 (4), 2025.

[21]Shoshana Zuboff, *L'Âge de l'aliénation : La lutte pour un avenir humain au-delà du nouveau capitalisme de surveillance*, trad. Kim Bo-young, Séoul : Munhak Sasangsa, 2021 ; Mark Coeckelbergh, *Pourquoi l'IA est inévitablement politique : Politique de l'IA et liberté, égalité, justice, démocratie, pouvoir, animaux et environnement*, trad. Bae Hyun-seok, Séoul : Saenggak-i-eum, 2023.

[22]Eugenio V. Garcia, « Conclusions : Charting the Challenge of AI IR », International Studies Review 26 (2), 2024.

[23]Seon Myeong-soo, « I, plus dangereux que la guerre nucléaire et les pandémies... les développeurs d'IA préviennent l'extinction de l'humanité », *Kyunghyang Shinmun*, 31 mai 2023. https://www.khan.co.kr/article/202305311305001.

[24]Ray Kurzweil, *The Singularity Is Near : When Humans Transcend Biology*, trad. Lee Choong-ho, Séoul : Business Books, 2025.

[25]Nick Bostrom, *Superintelligence : Paths, Dangers, Strategies*, trad. Cho Seong-jin, Séoul : Kkachi, 2017.

[26]Nick Bostrom, « Existential Risks : Analyzing Human Extinction Scenarios and Related Hazards », Journal of Evolution and Technology 9, 2002.

[27]Nick Bostrom, « The Vulnerable World Hypothesis », Journal of Evolution and Technology 10 (4), 2019.

[28]Dan Hendrycks et Mantas Mazeika, « X-Risk Analysis for AI Research », arXiv, 20 septembre 2022, https://doi.org/10.48550/arXiv.2206.05862.; La peur plus profonde sous-jacente à la théorie de la fin de l'IA peut être saisie par le concept de la cage de fer de Max Weber. Autrement dit, l'IA peut être imaginée comme le paroxysme de la dérive ou de l'incontrôlabilité de la raison instrumentale moderne. En d'autres termes, la question de la fin de l'IA est en réalité liée à la prise de conscience que la modernité elle-même appauvrit notre subjectivité, notre rationalité substantielle et notre capacité de réflexion. Jay A. Gupta, « Welcome to the Machine : AI, Existential Risk, and the Iron Cage of Modernity », Telos 203, 2023, pp. 163–69.

[29]Nike Retzmann, « ‘Winning the Technology Competition’ : Narratives, Power Comparisons and the US–China AI Race », dans Comparisons in Global Security Politics, éd. Thomas Müller et al., Bristol : Bristol University Press, 2024, pp. 237–56.

[30]Seth D. Baum, Robert de Neufville, Anthony M. Barrett et Gary Ackerman, « Lessons for Artificial Intelligence from Other Global Risks », dans The Global Politics of Artificial Intelligence, éd. Maurizio Tinnirello, Boca Raton, FL : Chapman and Hall/CRC, 2022.

■Auteur : Cha Tae-seo_Professeur au Département de Science Politique de l'Université Sungkyunkwan.

■ Responsable et rédaction : Lim Jae-hyun_Chercheur à l'EAI

    Contact : 02 2277 1683 (poste 209) | jhim@eai.or.kr