Intensification des débats sur la réglementation de la superintelligence et la gouvernance internationale : Le cas du Royaume-Uni et la stratégie de la Corée du Sud

Résumé exécutif

Malgré la pression bipartite d'une majorité du Parlement britannique, le Cabinet Office a rejeté l'introduction d'un « interrupteur d'urgence ». Il ne s'agissait pas d'un recul politique, mais d'un jugement pratique selon lequel le contrôle physique de modèles d'IA commerciaux décentralisés est irréalisable. Le Haut-Commissaire des Nations Unies aux droits de l'homme a qualifié l'IA de menace existentielle et a appelé à l'élaboration de normes internationales, mais la contrainte structurelle de la compétition technologique entre les États-Unis et la Chine continue de freiner le rythme de la réglementation. Au cours des 12 à 18 prochains mois, un vide réglementaire prolongé constitue le scénario le plus probable, et une convergence précoce des normes internationales doit être considérée comme un résultat peu probable. La Corée du Sud a besoin d'une double stratégie : donner la priorité à la réforme de ses institutions nationales tout en préparant un point d'ancrage pour sa participation aux discussions multilatérales, même dans le cas improbable d'une convergence réglementaire précoce.

I. Analyse de la situation

Intensification des débats sur la réglementation de la superintelligence et la gouvernance internationale : Une analyse de la situation

1. Contexte et développements

Le point de départ de cette question a été le Parlement britannique en septembre 2026. Plus de 70 membres de la Chambre des communes et de la Chambre des lords ont adressé une lettre à Andy Burnham, le secrétaire d'État à la Culture, aux Médias et au Sport, l'exhortant à soutenir une interdiction du développement de la superintelligence artificielle (SIA) [1]. La liste des signataires est remarquable. Elle comprend 15 anciens ministres, l'ancien secrétaire du Cabinet Sir Robin Butler, et des députés de premier plan de tout l'échiquier politique, y compris John McDonnell du Parti travailliste [1]. Cela peut être interprété non pas comme une question soulevée par une faction spécifique, mais comme une préoccupation bipartite à travers Westminster.

Le déclencheur immédiat a été l'avertissement d'un initié de l'industrie de l'IA. Une publication d'un chef d'équipe chez Anthropic, affirmant qu'il « croit sincèrement que l'IA pourrait tuer tout le monde », a incité les parlementaires britanniques à agir [5]. Sur cette base, le député travailliste Darren Jones a envoyé une lettre ouverte à l'ONU et à l'OCDE, appelant à une intervention contre le « développement non sécurisé de la superintelligence » [5]. Le magazine Wired a décrit cette période comme « l'été du chaos de l'IA », expliquant le contexte derrière la vague de législations réactives des politiciens britanniques au cours de l'été [5]. Le député travailliste Alex Sobel a également présenté un projet de loi connexe à la Chambre des communes durant la même période [5].

Cette tendance n'est pas propre au Royaume-Uni. En Corée du Sud, la série des documents de travail de l'EAI a déjà noté que « le développement rapide de l'intelligence artificielle déclenche des changements révolutionnaires dans tous les domaines, y compris le militaire, la sécurité, la politique, la diplomatie, l'économie et la société » [7]. Le facteur structurel de la compétition technologique entre les États-Unis et la Chine, qui freine le rythme de la réglementation en matière de sécurité, a également été souligné dans des éditoriaux nationaux. Le journal Hankyoreh a souligné que « malgré un chœur de préoccupations similaires de la part de l'industrie et des experts, il n'y a aucun mouvement réglementaire pour ralentir le développement, car les États-Unis et la Chine ne sont pas disposés à reculer dans la course au développement de l'IA pour l'hégémonie future » [8]. L'appel du Parlement britannique à une interdiction de la superintelligence peut être considéré comme une tentative politique de sortir de cette impasse structurelle.

2. Situation actuelle

La réponse du gouvernement britannique a été un rejet. Le Cabinet Office n'a pas accepté la demande d'introduire un « interrupteur d'urgence » légal pour arrêter de force une IA dangereuse en cas d'urgence. La BBC a rapporté que le Cabinet Office a déclaré : « Le Royaume-Uni ne peut pas simplement éteindre l'IA » [13]. Le Daily Sabah a rapporté le même fait, précisant que le Cabinet Office est le département supervisant la sécurité de l'IA [11]. En d'autres termes, le département même en charge de la politique de sécurité a tracé une ligne contre une réglementation stricte, invoquant la faisabilité technique et administrative. Cela crée un conflit direct entre les exigences politiques d'une majorité parlementaire et le jugement pratique du pouvoir exécutif.

Pendant la même période, des avertissements ont également été émis au niveau de l'ONU. Le Haut-Commissaire des Nations Unies aux droits de l'homme, Volker Türk, a averti dans un discours au Conseil des droits de l'homme que l'IA pourrait constituer une « menace existentielle pour l'humanité » [15][16][17]. Il a demandé : « Le besoin d'une gouvernance de l'IA est largement reconnu, mais où est l'action ? » et a déclaré que les retards ne profitent qu'aux grandes entreprises technologiques et à leurs propriétaires [15]. Avant le début de son second mandat, Türk a exigé des « garanties à toute épreuve » pour assurer la sécurité de l'IA [16][17]. Cette déclaration, coïncidant avec le débat au Parlement britannique sur une interdiction de la superintelligence, a créé une situation où des tentatives de réglementation nationale et des appels à l'établissement de normes au niveau de l'ONU ont émergé simultanément.

L'analogie avec le TNP présentée dans l'éditorial du Hankyoreh fonctionne comme un point de référence symbolique dans ce contexte [8]. La logique est d'appliquer le précédent du Traité sur la non-prolifération, qui a freiné la propagation des armes nucléaires grâce à un cadre incluant les grandes puissances, à l'établissement de normes pour l'IA. Cependant, une voie institutionnelle pour que cette analogie mène à un traité effectif est actuellement absente. Le fait que des experts du SIPRI aient participé à la première consultation informelle de l'ONU sur l'IA militaire à Genève en juin [6] montre que les discussions multilatérales en sont à leurs débuts. En même temps, cela signifie également qu'il s'agit d'une phase exploratoire précoce, encore loin de la formation de normes contraignantes.

3. Acteurs clés et positions

Le groupe bipartite au Parlement britanniqueCe groupe est l'acteur principal qui exerce une pression sur le pouvoir exécutif. La lettre, signée par d'anciens ministres et des députés de premier plan du gouvernement et des partis d'opposition, a un poids politique considérable [1]. Cependant, leur demande que le Royaume-Uni dirige un mouvement international n'est pas un objectif réalisable par le Royaume-Uni seul. Compte tenu de la taille de l'industrie de l'IA du Royaume-Uni et de son pouvoir de négociation international, il s'agit davantage d'un appel à un leadership symbolique.

Le gouvernement britannique (Cabinet Office)La position du gouvernement prend en compte à la fois l'efficacité de la réglementation et la compétitivité industrielle. Son rejet de l'interrupteur d'urgence avec la logique que l'IA « ne peut pas simplement être éteinte » [13] peut être interprété comme le résultat d'une combinaison de facteurs : le jugement pratique qu'il est difficile de contrôler de manière centralisée des systèmes d'IA techniquement décentralisés et répliqués, et des considérations de politique industrielle visant à ne pas saper la compétitivité internationale de la propre industrie de l'IA du Royaume-Uni.

Le Haut-Commissariat des Nations Unies aux droits de l'homme (HCDH)Le HCDH joue le rôle de fournir la justification morale pour la formation de normes. Les déclarations de Türk s'apparentent davantage à l'exercice d'une pression politique qu'à une mesure contraignante [15][16][17]. La discussion sur l'IA militaire, co-organisée par l'Institut des Nations Unies pour la recherche sur le désarmement (UNIDIR), le Bureau des affaires de désarmement des Nations Unies (UNODA) et le SIPRI [6], montre que les cadres des droits de l'homme et de la sécurité militaire progressent en parallèle au sein de l'ONU.

Les initiés des entreprises d'IA de pointe comme AnthropicParadoxalement, ces initiés sont les plus grands catalyseurs du débat réglementaire. Leurs avertissements publics sur les dangers de leur propre technologie [5] stimulent, en fait, les tentatives législatives des politiciens. Cela peut aussi être interprété comme une stratégie des entreprises pour s'assurer une voix dans le processus de conception de la réglementation en menant préventivement le discours sur la sécurité.

Les États-Unis et la ChineBien qu'ils ne soient pas visibles à la surface de ce débat, ils en constituent la toile de fond structurelle. Comme l'a souligné le Hankyoreh, la compétition hégémonique entre les deux pays est la source fondamentale de la pression en faveur de la déréglementation [8]. Un briefing de la Brookings Institution évalue que l'écart entre les États-Unis et la Chine s'est en fait creusé à travers une série de sommets sur l'IA, y compris au G7 et à l'ONU [12]. Dans une telle structure, l'établissement de normes internationales demandé par le Royaume-Uni ou l'ONU n'aura probablement qu'un effet limité sans la participation substantielle des États-Unis et de la Chine.

4. Enjeux clés

Le premier enjeu est la substance du risque. Il n'y a pas de consensus sur la question de savoir si le chiffre de 10 % de probabilité d'extinction humaine [1] est une estimation scientifique vérifiée ou un procédé rhétorique discursif. Cette incertitude est la raison fondamentale du fossé entre la réponse intransigeante des politiciens et la position prudente du pouvoir exécutif.

Le deuxième enjeu est la faisabilité des outils réglementaires. Le gouvernement britannique a directement souligné l'écart entre la création d'un point de contrôle clair comme un interrupteur d'urgence et les caractéristiques techniques des systèmes d'IA décentralisés [13]. Ce problème n'est pas limité au Royaume-Uni ; c'est une contrainte structurelle qui s'appliquera également à toutes les tentatives de réglementation au niveau national.

Le troisième enjeu est la voie vers l'établissement de normes internationales. L'analogie avec le TNP [8] présuppose l'inclusion des grandes puissances. Cependant, dans la dynamique concurrentielle actuelle entre les États-Unis et la Chine [8][12], l'incitation pour les deux pays à ralentir volontairement leur rythme de développement est faible. La pression morale du HCDH [15][16][17] et les discussions sur l'IA militaire par des organismes d'experts comme le SIPRI [6] sont des germes pour la formation de normes, mais une voie politique vers un traité contraignant n'est pas encore visible.

Le quatrième enjeu est la politique du discours. Il est difficile de distinguer si les avertissements des initiés des entreprises sont de véritables évaluations des risques ou un positionnement stratégique pour s'assurer une voix dans le processus de conception de la réglementation. C'est un point crucial que les puissances moyennes, y compris la Corée du Sud, doivent aborder lors de leur participation aux discussions internationales. Ne pas discerner la nature politique du discours sur le risque pourrait conduire à céder l'initiative dans la conception de la réglementation aux entreprises de pointe et aux grandes puissances.

II. Analyse approfondie

Intensification des débats sur la réglementation de la superintelligence et la gouvernance internationale : Une analyse approfondie

1. Analyse des causes profondes

La cause profonde de cette situation est le décalage temporel entre l'évaluation des risques technologiques et la réponse politique. L'avertissement public d'un initié d'Anthropic a déclenché non pas un débat sur la réalité du risque, mais la rapidité de la réaction politique au récit du risque [5]. Wired rapporte directement la logique du député Darren Jones selon laquelle le gouvernement doit intervenir « qu'il s'agisse d'une hyperbole marketing ou d'un véritable signe avant-coureur d'extinction » [5]. En effet, une structure a été créée qui exige une action politique avant même que la véracité du risque puisse être confirmée. C'est un schéma classique où le fait d'éviter la responsabilité politique prime sur la vérification du risque.

Les divisions internes au sein des entreprises sont une autre cause profonde. La démission du chercheur d'Anthropic Jacob Coxson et la déclaration d'Evan Hubinger sur une probabilité d'extinction de 10 % révèlent un manque de consensus sur la sécurité même au sein d'un développeur d'IA de pointe. Le fait qu'une entreprise qui a fait de la sécurité une priorité absolue ait elle-même exposé au public des sonnettes d'alarme internes démontre qu'il n'existe au départ aucune norme de risque objective à laquelle les régulateurs puissent se référer.

À cela s'ajoutent des incitations structurelles dans l'industrie. Le fait que la compétition hégémonique en matière d'IA entre les États-Unis et la Chine soit une condition fondamentale qui contraint le rythme de la réglementation sur la sécurité a déjà été souligné dans des éditoriaux nationaux. L'évaluation est qu'« il n'y a aucun mouvement réglementaire pour ralentir le développement, car les États-Unis et la Chine ne sont pas disposés à reculer dans la course au développement de l'IA pour l'hégémonie future » [8]. L'appel du Parlement britannique à une interdiction de la superintelligence était une tentative unilatérale d'aller à l'encontre de cette dynamique concurrentielle internationale, et était donc destiné à faire face à un débat sur son efficacité dès le départ.

2. Contexte structurel

Structure politique : Le clivage législatif-exécutif

La coalition bipartite au sein du Parlement britannique est politiquement inhabituelle. La lettre, signée par 15 anciens ministres, l'ancien secrétaire du Cabinet Sir Robin Butler, et des personnalités de l'aile gauche du Parti travailliste comme John McDonnell, ainsi que des partis conservateur, libéral-démocrate et national écossais, représente une pression qui transcende les clivages partisans [1]. Cependant, le Cabinet Office, qui est en fait responsable de la politique de sécurité de l'IA, ne l'a pas acceptée. La BBC rapporte que le Cabinet Office a déclaré : « Le Royaume-Uni ne peut pas simplement éteindre l'IA » [13]. Cela reflète une structure où les actions politiques symboliques du pouvoir législatif se heurtent aux réalités techniques et exécutives évaluées par l'administration. Étant donné que le concept même d'un interrupteur d'urgence a été proposé sans tenir compte de l'impossibilité physique de contrôler des modèles d'IA commerciaux décentralisés, le rejet du gouvernement est moins un recul politique qu'une reconnaissance des limites pratiques.

Ce clivage représente également un dilemme universel auquel est confrontée la réglementation de l'IA. La Brookings Institution souligne que la structure même qui force les puissances moyennes à choisir entre les États-Unis et la Chine est en soi un risque économique et géopolitique [9]. Le Royaume-Uni se trouve dans la nécessité de trouver un équilibre entre la tentative de jouer un rôle de premier plan en matière de normes et la protection de sa propre compétitivité industrielle au milieu des deux grandes puissances. Le rejet de l'interrupteur d'urgence peut être interprété comme une décision qui fait pencher cette balance en faveur de l'industrie.

Structure de sécurité : Liens avec le domaine militaire

Les discussions au niveau de l'ONU ne se limitent pas au domaine des droits de l'homme. Des experts de l'Institut international de recherche sur la paix de Stockholm (SIPRI) ont participé à la première consultation informelle de l'ONU sur l'IA militaire à Genève en juin [6]. Le fait que cette consultation ait été co-organisée par l'Institut des Nations Unies pour la recherche sur le désarmement (UNIDIR), le Bureau des affaires de désarmement des Nations Unies (UNODA) et le Haut-Commissariat aux droits de l'homme (HCDH) montre que le récent avertissement du Haut-Commissaire Türk ne se limite pas à son discours au Conseil des droits de l'homme mais est lié aux voies du désarmement et de la sécurité [6]. En d'autres termes, le débat sur le risque de la superintelligence est abordé non seulement comme une question de sécurité des chatbots civils, mais dans le même contexte que le vide réglementaire pour les applications militaires de l'IA comme les systèmes d'armes létales autonomes (SALA). La série des documents de travail de l'EAI a également traité séparément des « Dynamiques et défis de la compétition en matière de gouvernance sur les systèmes d'armes létales autonomes », suggérant que les discussions normatives sur les voies civile et militaire proviennent en fait de la même racine [7].

Structure économique : Les bénéficiaires du retard réglementaire

Le Haut-Commissaire Türk a directement souligné que « le retard ne profite qu'aux entreprises technologiques géantes, à leurs propriétaires et à leurs facilitateurs » [15]. Cette déclaration recadre le débat sur la réglementation de la sécurité de l'IA non pas comme une simple évaluation des risques techniques, mais comme une question de répartition des profits. Il existe une incitation structurelle selon laquelle plus le vide réglementaire persiste, plus la domination du marché par les entreprises leaders se renforce. Cela explique pourquoi les entreprises de pointe préfèrent l'autorégulation et sont passives quant à l'introduction de normes internationales juridiquement contraignantes. Une enquête du Council on Foreign Relations (CFR) auprès de 350 experts a également révélé un consensus sur le fait que « personne n'est préparé à contrôler les capacités futures de l'IA » [2]. Cela signifie qu'il y a un accord sur le manque de préparation, mais pas d'accord sur qui devrait combler le vide et comment.

3. Comparaison avec des précédents historiques et des cas similaires

L'axe de comparaison présenté par l'éditorial du Hankyoreh est le Traité sur la non-prolifération nucléaire (TNP). L'éditorial soutient : « Il n'y a pas d'autre choix que d'introduire des normes internationales qui englobent toutes les grandes puissances, comme le TNP qui a empêché la crise de la prolifération nucléaire incontrôlée » [8]. Cependant, cette comparaison présente une asymétrie fondamentale. Alors que le développement des armes nucléaires était limité aux États et que l'acquisition des matériaux constituait en soi une barrière à l'entrée élevée, l'IA de pointe est développée par des entreprises privées et se compose d'éléments relativement accessibles comme les ressources de calcul et les données. Les inspections physiques pour déterminer « qui possède quoi », qui sont une prémisse d'un régime de vérification de type TNP, sont techniquement difficiles à appliquer à l'IA. Cela rejoint la logique du gouvernement britannique pour rejeter l'interrupteur d'urgence. Les armes nucléaires peuvent être physiquement scellées et démantelées, mais les modèles d'IA qui sont décentralisés et distribués, même en open source, ne peuvent pas être désactivés avec un seul interrupteur.

Un autre axe de comparaison est le régime international sur le changement climatique. L'adoption par l'Accord de Paris d'engagements volontaires (Contributions déterminées au niveau national, ou CDN) au lieu d'obligations de réduction contraignantes était le résultat de la résistance des États souverains à des normes contraignantes qui nuiraient à leur compétitivité industrielle. Un schéma similaire peut être détecté dans le débat sur la gouvernance de l'IA. Le rejet de l'interrupteur d'urgence par le Royaume-Uni et le fait que les États-Unis et la Chine évitent une course à la réglementation sont deux choix qui donnent la priorité aux intérêts industriels et de sécurité nationaux par rapport aux normes internationales. Cependant, contrairement au changement climatique, il n'y a même pas de consensus scientifique sur le calendrier et l'ampleur des risques de l'IA. Par conséquent, la situation actuelle doit être considérée comme une étape précoce où même un système d'engagement minimal du niveau de l'Accord de Paris n'a pas encore été formé.

Le schéma des discussions consécutives de haut niveau du G7 et de l'ONU, tel que résumé par la Brookings Institution, présente des caractéristiques similaires à la phase initiale des négociations sur la maîtrise des armements de la Guerre froide [12]. La dynamique des États-Unis et de la Chine ralliant chacun leurs blocs respectifs pour s'engager dans une compétition sur les normes pourrait potentiellement reproduire le schéma des pourparlers américano-soviétiques sur la maîtrise des armements d'avant la détente, qui ont été dans l'impasse pendant une longue période sur fond de méfiance mutuelle. Cependant, alors que la maîtrise des armements de la Guerre froide était centrée sur des négociations bilatérales, le débat sur les normes de l'IA implique le Parlement britannique, le Haut-Commissaire des Nations Unies aux droits de l'homme, le G7 et des entreprises individuelles qui soulèvent tous la question simultanément sur des voies différentes, ce qui signifie que les parties négociantes elles-mêmes sont fragmentées.

4. Variables clés façonnant les développements futurs

La première variable est l'intensité de la compétition entre les États-Unis et la Chine. La Brookings Institution évalue que la série de sommets sur l'IA tenus à l'été 2026 a en fait mis en évidence le fossé et les désaccords entre les États-Unis et la Chine [12]. Tant que les deux pays donneront la priorité à l'obtention de la supériorité technologique plutôt qu'à la compétition sur les normes, les discussions sur une interdiction de la superintelligence menées par le Royaume-Uni ou l'ONU ont peu de chances de conduire à un régime multilatéral contraignant.

La deuxième variable est la direction du conflit entre le législatif et l'exécutif au Royaume-Uni. Les facteurs clés sont le sort du projet de loi présenté à la Chambre des communes par le député Alex Sobel et les alternatives réglementaires pratiques que le Cabinet Office proposera à la place d'un interrupteur d'urgence [5][13]. Si le gouvernement rejette à plusieurs reprises les propositions sans offrir d'alternatives, la pression parlementaire bipartite est susceptible de s'intensifier à nouveau.

La troisième variable est de savoir si la voie de l'ONU s'institutionnalisera. Le tournant sera de savoir si l'avertissement du Haut-Commissaire Türk reste de la rhétorique au niveau du Conseil des droits de l'homme ou s'il mène à un organe consultatif multilatéral substantiel, comme la consultation informelle sur l'IA militaire impliquant le SIPRI [6][15]. Si les consultations co-organisées par l'UNIDIR, l'UNODA et le HCDH deviennent régulières, cela pourrait servir de premier point d'ancrage institutionnel pour les discussions sur l'introduction d'un régime international de type TNP.

La quatrième variable est de savoir si les divisions internes au sein des entreprises se propageront. Si les avertissements et les démissions de chercheurs provenant d'Anthropic se propagent à d'autres entreprises de pointe, la crédibilité de la logique d'autorégulation de l'industrie pourrait être rapidement sapée. Dans ce cas, la possibilité que la pression politique exigeant une intervention gouvernementale puisse s'étendre au-delà du Royaume-Uni aux États-Unis et à l'UE ne peut être exclue.

Du point de vue de la Corée du Sud, la combinaison de ces quatre variables déterminera la fenêtre d'opportunité pour une stratégie de réponse de puissance moyenne. Comme le souligne la Brookings Institution, les puissances moyennes, y compris la Corée du Sud, sont confrontées à une vulnérabilité structurelle consistant à être forcées de choisir entre les États-Unis et la Chine [9]. Dans un contexte où le discours sur le risque de la superintelligence est consommé davantage comme une rhétorique politique que comme une vérification technique réelle, il est plus avantageux pour la Corée du Sud de participer aux premières étapes de la formation des normes et de s'engager dans des discussions sur la conception de standards de vérification, plutôt que d'accepter passivement les normes établies par les grandes puissances plus tard.