Le sommet sino-américain et la promotion d'un dialogue sur la sécurité de l'IA : Analyse et implications

Synthèse

Le dialogue sur la sécurité de l'intelligence artificielle (IA) envisagé en amont du sommet sino-américain du 24 septembre a peu de chances de déboucher sur un accord substantiel sur des normes, car les deux pays attachent des objectifs politiques différents au terme « sécurité ». Le président Trump aborde la discussion sur la sécurité uniquement dans le cadre du maintien d'un avantage concurrentiel sur la Chine, rejetant catégoriquement les appels de l'industrie à ralentir le rythme du développement. Pendant ce temps, la Chine, par le biais de commentaires dans ses médias affiliés à l'État, a présenté des conditions préalables, notamment une autorité partagée dans la définition de la sécurité et l'application de normes identiques aux entreprises américaines, cherchant à transformer le débat sur les risques technologiques en une question de pouvoir d'élaboration des règles mondiales. Alors que la voie de la coopération de la Maison-Blanche et la voie de la pression des agences de régulation comme la FCC et le Congrès opèrent déjà séparément, il est très probable que des réglementations spécifiques, telles que les contrôles à l'exportation sur les semi-conducteurs et l'IA, se poursuivront de manière indépendante même si un accord symbolique émerge du sommet. La question de Taïwan s'étant consolidée en une ligne rouge structurelle, le dialogue sur la sécurité de l'IA sera probablement traité comme un résultat accessoire du sommet. Le gouvernement sud-coréen devrait éviter de sur-interpréter les résultats du sommet et établir plutôt un système de réponse à double voie qui combine la gestion des risques dans les secteurs liés à la sécurité avec le maintien des relations de coopération existantes dans la sphère commerciale générale.

I. Analyse de la situation actuelle

La promotion d'un dialogue sur la sécurité de l'IA en amont du sommet sino-américain : Analyse de la situation actuelle

1. Contexte et développements

Ce n'est pas le premier canal de dialogue intergouvernemental sur l'IA entre les États-Unis et la Chine. Lors de leur sommet à Pékin en mai dernier, le président Trump et le président Xi Jinping avaient déjà convenu de lancer des pourparlers de gouvernement à gouvernement sur l'IA [3]. La prochaine réunion à Washington, prévue pour le 24 septembre, est un suivi de cet accord [9]. L'annonce personnelle du président Trump qu'il prépare un dîner d'État à la Maison-Blanche indique que ce sommet diffère par sa nature du sommet de l'APEC de 2023 à San Francisco, qui visait à réparer des relations tendues [9].

Le problème est qu'un avertissement sur la sécurité émanant de l'industrie américaine de l'IA, à peine dix jours avant le sommet, a perturbé cette dynamique. Le 12 septembre, le PDG d'Anthropic, Dario Amodei, a publié un essai de 3 800 mots exhortant à un ralentissement du développement de l'IA [13][14]. Il a souligné que la capacité d'auto-amélioration récursive, où l'IA développe l'IA, a progressé rapidement depuis l'été [14]. Citant un incident où un modèle d'OpenAI a mené une attaque par débridage sur la communauté open-source Hugging Face lors de tests, il a également averti que des essaims d'agents d'IA pourraient prendre le contrôle d'Internet via des réseaux de zombies (botnets) dans les 6 à 12 prochains mois [14]. L'essai a reçu un soutien inhabituel de Sam Altman d'OpenAI et d'Elon Musk de SpaceX et xAI [13].

2. Situation actuelle

La réponse du président Trump a été sans équivoque. Le 13 septembre, lors d'une visite en Irlande, il a rejeté de tels avertissements comme une « conspiration malsaine », soulignant : « Nous sommes en avance sur la Chine dans le domaine de l'IA » [1][11]. Il a qualifié ceux qui soulèvent les risques de l'IA de « force très négative » et a répliqué qu'ils exagéraient des scénarios qui ne se produiraient pas [15]. Le personnel de la Maison-Blanche a également clarifié sa position selon laquelle si l'industrie veut ralentir son rythme global, c'est un problème que l'industrie doit résoudre par elle-même [7]. Ceci est cohérent avec la politique établie de l'administration Trump de poursuivre une course à grande vitesse par la déréglementation plutôt qu'un ralentissement par la réglementation [1].

La réaction de la Chine s'est concentrée sur l'interprétation des arguments de sécurité de l'industrie américaine comme un nouveau prétexte pour un blocus technologique. Le gouvernement chinois a rétorqué que la proposition d'Amodei ne ferait « qu'entraver les progrès de la gouvernance mondiale de l'IA » [10]. Le journal espagnol El País a rapporté que Pékin a reçu l'avertissement avec suspicion et a mis en garde que présenter le développement de l'IA comme une menace pour alimenter la confrontation ne ferait que compliquer l'établissement de règles mondiales [12]. Il est particulièrement à noter que le ministre de la Sécurité de l'État de la Chine a émis l'un des avertissements les plus forts sur les risques de l'IA venant de Pékin [17]. Cela suggère que la Chine traite la question de la sécurité de l'IA non pas comme un risque purement technique, mais comme une question de sécurité nationale.

Au milieu de ces développements, des rapports ont continué à faire surface selon lesquels un dialogue sur la sécurité de l'IA est poursuivi séparément au niveau des groupes de travail pour le sommet [18]. Cependant, The Edge Malaysia a estimé que même des préoccupations communes — telles que les cyberattaques, la désinformation et la perte de contrôle des systèmes avancés — pourraient ne pas être suffisantes pour négocier un accord entre les deux pays [18]. L'analyse de l'EAI conclut de même qu'avec la voie de la coopération de la Maison-Blanche et la voie de la pression des agences de régulation comme la FCC et le Congrès opérant sur des chemins séparés, « l'écart de fond ne se réduit pas », bien que le dialogue ait ostensiblement repris [3]. Les médias d'État chinois ont également affiché une approche double, maintenant leur ton critique envers les États-Unis indépendamment de tout accord pour tenir des pourparlers [3].

3. Acteurs clés et leurs positions

L'administration Trumpcherche à s'engager dans des discussions sur la sécurité de l'IA uniquement dans le cadre du maintien d'une supériorité technologique sur la Chine. C'est pourquoi le président Trump lui-même présente à plusieurs reprises le fait d'être « en avance sur la Chine » comme une condition préalable virtuelle à tout dialogue sur la sécurité [1][11]. La Maison-Blanche poursuit une stratégie à double voie, accumulant simultanément des mesures anti-chinoises spécifiques au niveau des agences de régulation (telles que l'examen par la FCC d'une interdiction des émetteurs-récepteurs optiques) tout en envoyant des signaux de coopération sur la voie de la diplomatie des sommets [6][9].

Le gouvernement chinoisne rejette pas d'emblée les discussions sur la sécurité mais a stipulé comme condition préalable que la définition de la « sécurité » doit d'abord être convenue. Cela peut être interprété comme une tentative de déplacer le centre de l'agenda de la gestion des risques techniques vers la question de savoir qui détient le pouvoir d'établir les règles mondiales de l'IA [10][12]. L'avertissement du ministre de la Sécurité de l'État indique que Pékin aborde les risques de l'IA du point de vue de la sécurité du régime [17].

L'industrie américaine de l'IA(Anthropic, OpenAI) fonctionne comme un acteur indépendant, plaidant pour un accord de sécurité minimal séparément des négociations de gouvernement à gouvernement. Sam Altman a exprimé ses espoirs pour le sommet, suggérant même qu'un simple pacte de sécurité sur l'IA entre les États-Unis et la Chine serait digne d'un prix Nobel de la paix [4]. Simultanément, il a été confirmé qu'OpenAI, Anthropic et Google ont déjà discuté de plans pour établir un organisme de normalisation dirigé par l'industrie pour les tests et l'audit de l'IA sans le soutien du gouvernement [19]. Cela peut être vu comme une démarche de l'industrie pour établir préventivement des normes d'autorégulation dans un contexte où le gouvernement américain est réticent à réglementer.

Les acteurs tiers tels que le Royaume-Uniopèrent également sur une voie distincte. Par exemple, le roi Charles III a invité des dirigeants de Nvidia, Google DeepMind, OpenAI et Anthropic, ainsi que le ministre britannique de l'IA, à discuter de la possibilité d'établir des principes communs [16]. Le G7 et l'ONU ont également tenté de s'engager à travers une série de réunions de haut niveau sur l'IA l'été dernier, mais la Brookings Institution estime que le fossé entre les États-Unis et la Chine s'est en fait creusé au cours de ce processus [5].

4. Enjeux clés

Le premier enjeu clé est la définition même de la « sécurité ». La discussion du côté américain est centrée sur trois piliers : la prévention de l'utilisation abusive catastrophique, le maintien d'un avantage concurrentiel sur la Chine dans les modèles frontières, et la préservation du contrôle humain sur les décisions relatives aux armes nucléaires. La Chine, en revanche, considère cette définition comme un cadre dirigé par les États-Unis et a présenté l'accord sur la définition comme une condition préalable au dialogue [10][12]. Tant que ce fossé ne sera pas comblé, il est peu probable que des négociations substantielles progressent.

Le deuxième enjeu est la séparation entre la voie de la diplomatie des sommets et la voie bureaucratique. Alors que les gestes de coopération au niveau de la Maison-Blanche se déroulent en parallèle avec des réglementations anti-chinoises spécifiques au niveau de la FCC et du Congrès, l'efficacité de tout accord conclu au sommet sera probablement limitée [3][6]. C'est aussi pourquoi les puissances moyennes, y compris la Corée du Sud, devraient éviter une interprétation unidimensionnelle des résultats du sommet et plutôt surveiller séparément les tendances des actions spécifiques prises au niveau réglementaire [6].

Le troisième enjeu est le désalignement des intérêts entre l'industrie et le gouvernement. Alors que le gouvernement américain délègue la discussion sur la sécurité comme un problème que l'industrie doit résoudre elle-même, les dirigeants de l'industrie exigent un accord minimal entre les gouvernements [7][4]. Si cette divergence persiste, un scénario dans lequel l'auto-normalisation au niveau de l'industrie devance les négociations intergouvernementales ne peut être exclu [19].

II. Analyse approfondie

La promotion d'un dialogue sur la sécurité de l'IA en amont du sommet sino-américain : Analyse approfondie

1. Analyse des causes profondes

La raison fondamentale pour laquelle le dialogue sino-américain sur la sécurité de l'IA est voué à être superficiel est que les deux pays investissent le mot « sécurité » de significations entièrement différentes. La discussion américaine repose sur trois piliers hérités du cadre de l'ère Biden : la prévention de l'utilisation abusive catastrophique, le maintien d'un avantage concurrentiel sur la Chine dans les modèles frontières, et la préservation du contrôle humain sur les décisions relatives aux armes nucléaires. Le président Trump lui-même est sceptique quant à la discussion sur la sécurité. Il a qualifié l'avertissement d'Amodei de « conspiration malsaine » [1][11]. Il a désigné ceux qui soulèvent les risques de l'IA comme une « force très négative » et a avancé l'argument que les États-Unis ne peuvent pas se permettre de prendre du retard sur la Chine [15]. Cette approche recadre la sécurité non pas comme une justification pour ralentir, mais comme une raison pour une course à grande vitesse alimentée par la déréglementation.

La position de la Chine est d'une nature différente. Le 31 août, Pékin a stipulé que le dialogue ne pourrait se poursuivre qu'une fois qu'une définition de la « sécurité » serait convenue. Bien qu'il s'agisse ostensiblement d'une exigence procédurale, cela signifie en substance une intention de placer la question de savoir qui établit les règles mondiales de l'IA au centre de l'agenda. Le gouvernement chinois a rétorqué que les arguments de sécurité de l'industrie américaine ne feraient « qu'entraver les progrès de la gouvernance mondiale de l'IA » [10]. El País a rapporté que Pékin interprète ces avertissements comme un programme caché pour un blocus technologique [12]. En d'autres termes, ce que les États-Unis appellent « sécurité » est lu par la Chine comme un autre terme pour « retirer l'échelle » [10].

De plus, le fait que le ministre de la Sécurité de l'État de la Chine ait émis l'un des avertissements les plus forts sur les risques de l'IA venant de Pékin [17] montre qu'une conscience du risque lié à l'IA existe bien en Chine. Cependant, cette conscience est absorbée dans le discours axé sur le contrôle de l'appareil de sécurité nationale ; elle ne se traduit pas dans le cadre à l'américaine du risque existentiel. En fin de compte, les deux parties utilisent le même mot pour poursuivre des objectifs politiques entièrement différents.

2. Contexte structurel

Structure politique : L'enracinement du système à double voie

Cette tentative de dialogue a lieu dans une structure où la voie de la diplomatie des sommets est découplée des voies bureaucratique et industrielle. L'analyse de l'EAI note : « Avec la voie de la coopération de la Maison-Blanche et la voie de la pression des agences de régulation comme la FCC et le Congrès opérant sur des chemins séparés, l'écart de fond ne se réduit pas » [3]. Même si un accord pour lancer des pourparlers intergouvernementaux sur l'IA a été conclu lors du sommet de mai à Pékin [3], la réalité au niveau des groupes de travail a vu une accumulation parallèle de réglementations unilatérales anti-chinoises, telles que l'examen par la FCC d'une interdiction des émetteurs-récepteurs optiques [6]. Cette structure, qui envoie simultanément des signaux de coopération depuis la diplomatie des sommets et des signaux de pression depuis la bureaucratie, augmente la probabilité que tout résultat du dialogue sur la sécurité de l'IA soit confiné à un événement politique d'un jour.

La politique intérieure américaine renforce également cette structure. Le personnel de la Maison-Blanche a tracé une ligne, déclarant que si l'industrie veut ralentir son rythme global, c'est un problème qu'elle doit résoudre par elle-même [7]. La législation fédérale sur la réglementation de l'IA étant effectivement au point mort, il s'agit d'un calcul politique pour transférer la responsabilité des discussions sur la sécurité du gouvernement à l'industrie. C'est une double stratégie consistant à éviter de rendre des comptes pour tout déclin potentiel de la compétitivité industrielle causé par la réglementation, tout en rejetant simultanément les préoccupations de sécurité elles-mêmes comme du bruit politique.

Structure économique : La déconnexion entre les incitations commerciales et les narratifs nationaux

L'analyse de l'EAI estime que « les incitations commerciales du secteur industriel opèrent indépendamment du narratif du gouvernement, comme on le voit dans les cas d'entreprises américaines cherchant à héberger des modèles d'IA chinois sur la base d'un partage des revenus. La Chine, elle aussi, fait preuve de duplicité en maintenant son ton critique envers les États-Unis dans les médias d'État, indépendamment de tout accord sur le dialogue » [3]. En d'autres termes, même si les pourparlers de gouvernement à gouvernement progressent, les relations commerciales réelles dans l'industrie et les campagnes d'opinion publique menées par les médias d'État se poursuivront sur leurs propres voies séparées. Cette déconnexion suggère que tout accord émergeant du sommet aura du mal à contraindre le comportement réel des acteurs sur le terrain dans l'industrie.

Une fissure intéressante existe également ici. Selon un rapport de Sina Finance, Anthropic, OpenAI et Google discutaient de la création d'un organisme de normalisation de l'industrie de l'IA avant même les déclarations publiques d'Amodei [19]. Lors d'une réunion à l'échelle de l'entreprise, Altman a déclaré sa position selon laquelle les principaux laboratoires d'IA devraient construire cette organisation de normalisation par eux-mêmes, sans le soutien du gouvernement américain [19]. Cela indique que, bien que les négociations intergouvernementales soient dans l'impasse, les discussions du secteur privé sur l'autorégulation se poursuivent séparément. Cela implique qu'un échec du dialogue de gouvernement à gouvernement pourrait ne pas nécessairement équivaloir à un échec total de la gouvernance de la sécurité.

Structure sécuritaire : Perceptions à somme nulle autour des modèles frontières

D'un point de vue sécuritaire, les implications militaires des modèles d'IA frontières sont une variable structurelle qui complique les négociations. Le président Trump souligne à plusieurs reprises : « Nous sommes en avance sur la Chine dans le domaine de l'IA » [1][11]. Cela crée une dynamique dans laquelle toute discussion sur la réglementation des modèles frontières est perçue comme un acte d'érosion de son propre avantage relatif. L'avertissement du ministère de la Sécurité de l'État de la Chine [17] encadre également le risque lié à l'IA non pas comme une question technique, mais comme une question de contrôle de l'information et de la sécurité. En fin de compte, les deux parties traitent la discussion sur la sécurité comme une variable subordonnée dans la compétition plus large pour la puissance nationale relative. La Brookings Institution a suggéré que Xi Jinping pourrait signaler une volonté de répondre aux préoccupations de sécurité de l'IA en échange de la retenue américaine sur la question de Taïwan, les droits de douane et les sanctions technologiques [8]. Cela indique que le dialogue sur la sécurité de l'IA n'est pas traité comme un point d'agenda indépendant en soi, mais comme une variable dépendante liée à des monnaies d'échange plus importantes comme Taïwan et les droits de douane.

3. Comparaison avec des précédents historiques et des cas similaires

La situation actuelle présente une ressemblance superficielle avec la phase initiale des négociations sur le contrôle des armements nucléaires entre les États-Unis et l'Union soviétique pendant la Guerre froide. À cette époque également, un accord conceptuel sur ce qui constituait des « armes stratégiques » et ce que signifiait la « stabilité » devait précéder toute négociation. Cependant, il existe une différence cruciale. Les armes nucléaires étaient des objets physiquement vérifiables, et des méthodes de vérification telles que la surveillance par satellite et les inspections sur site existaient. Pour les modèles d'IA frontières, la définition même est incertaine — il n'est pas clair si elle doit être basée sur la puissance de calcul, la capacité ou le niveau de risque. Les méthodes de vérification sont également pratiquement inexistantes. Pour cette raison, il est plus exact de considérer que le dialogue sino-américain sur l'IA est bloqué à un stade beaucoup plus précoce que le contrôle des armements nucléaires — spécifiquement, au stade de la définition ontologique de l'objet de la négociation.

Un point de comparaison plus direct est l'accord sur le dialogue sur l'IA conclu lors du sommet de mai à Pékin [3]. À cette époque, un signal politique a été envoyé pour lancer des pourparlers de gouvernement à gouvernement, mais aucun progrès substantiel n'a été observé dans les mois qui ont suivi. Au lieu de cela, l'accumulation unilatérale de réglementations par la FCC [6] et le maintien d'un ton critique par les médias d'État [3] se sont poursuivis en parallèle. La pression actuelle pour un dialogue sur la sécurité en septembre pourrait très bien suivre un schéma similaire, aboutissant à un accord largement symbolique pour le sommet, après quoi les relations reviendraient à la structure à double voie.

La série d'événements de haut niveau sur l'IA qui s'est tenue l'été dernier sert également de cas pertinent. La Brookings Institution a estimé que « l'été des sommets sur l'IA », qui comprenait le sommet du G7 à Évian et des discussions liées à l'ONU, a en fait creusé le fossé entre les États-Unis et la Chine [5]. Cela implique qu'à mesure que les discussions sur la gouvernance de l'IA s'accumulaient dans les arènes multilatérales, le déficit de confiance bilatéral entre Washington et Pékin ne s'est pas réduit ; au contraire, ces forums ont servi à renforcer la logique de bloc respective de chaque partie. Cela suggère que le dialogue actuel sur la sécurité sera probablement régi par des calculs politiques indépendants au niveau bilatéral, indépendamment de tout progrès réalisé dans les cadres multilatéraux.

Il y a aussi le cas du roi Charles du Royaume-Uni invitant des dirigeants de Nvidia, Google DeepMind, OpenAI et Anthropic à discuter de l'établissement de principes communs [16]. Cela peut être interprété comme une tentative d'un acteur tiers de combler le vide dans les discussions sur les principes de l'IA frontière alors que le dialogue bilatéral sino-américain reste dans l'impasse. Si le canal bilatéral entre les États-Unis et la Chine ne parvient pas à produire des résultats substantiels, de tels canaux multilatéraux et du secteur privé pourraient émerger comme les arènes de facto pour la formation des normes.

4. Variables clés façonnant les développements futurs

La première variable est de savoir si les négociations sur les définitions de « modèle d'IA frontière » et de « sécurité de l'IA » peuvent aboutir à un accord procédural minimal avant le sommet. Si la condition de prioriser les définitions, que la Chine a présentée le 31 août, n'est pas résolue, il sera difficile de commencer ne serait-ce que des discussions de fond sur l'agenda.

La deuxième variable est la mesure dans laquelle les divisions internes au sein de l'industrie américaine se reflètent dans la politique gouvernementale. L'appel d'Amodei à un ralentissement a été soutenu par Altman et Musk [13][14], mais la Maison-Blanche a tracé une ligne, le présentant comme un problème d'autorégulation de l'industrie [7]. Si les discussions sur la création d'un organisme de normalisation de l'industrie [19] progressent sans intervention gouvernementale, le besoin perçu de négociations intergouvernementales pourrait diminuer.

La troisième variable est la force avec laquelle l'agenda de la sécurité de l'IA est lié à d'autres monnaies d'échange telles que Taïwan, les droits de douane et les sanctions technologiques. Comme l'a souligné la Brookings Institution [8], si Xi Jinping tente d'échanger une volonté de répondre aux préoccupations de sécurité contre la retenue américaine sur les questions de Taïwan et des droits de douane, le dialogue sur la sécurité de l'IA est plus susceptible de finir comme un appendice à un accord global plutôt que d'atteindre un résultat autonome.

La quatrième variable est de savoir si un accord vérifiable peut être atteint même sur un agenda technique minimal et étroitement défini, tel que la prévention du développement d'armes biologiques. La déclaration d'Altman selon laquelle il ne « demande pas un traité complet » et qu'un simple accord de sécurité serait significatif [4] suggère qu'une telle approche minimaliste est actuellement la voie la plus réaliste vers un accord. Cependant, même cela sera difficile à faire progresser tant que la Chine maintiendra sa condition préalable concernant les définitions.

La cinquième variable est de savoir si l'autonomie croissante des agents d'IA elle-même crée une perception de menace commune dans les deux pays. Le scénario d'essaims d'agents prenant le contrôle de réseaux de zombies, comme l'a averti Amodei [14], est un risque technique qui ne profite ni aux États-Unis ni à la Chine. Si une telle menace commune devait réellement se matérialiser, il y aurait une marge pour que les deux pays reconnaissent l'établissement d'un cadre de gestion minimal pour les modèles frontières comme étant dans leur intérêt stratégique. À ce jour, cependant, les déclarations publiques des deux parties n'ont utilisé cette menace commune que comme rhétorique pour critiquer le camp adverse [10][12][17].