[AI et Rapport Spécial sur les Normes de la Nouvelle Civilisation] Introduction

I. 왜 AI인가?

La civilisation humaine moderne est confrontée à des défis majeurs : une confrontation géopolitique entre grandes puissances centrée sur la compétition stratégique sino-américaine, le déclin de la mondialisation et le chaos généralisé de l'ordre économique international libéral dans un contexte de propagation du protectionnisme et de fragmentation des chaînes d'approvisionnement, les crises climatiques et les crises sanitaires/infectieuses, l'augmentation du risque de prolifération nucléaire et de terrorisme nucléaire, et la compétition technologique incontrôlée. Si l'humanité ne parvient pas à sortir du marais de la souveraineté axée sur les intérêts étroits des États-nations et poursuit la confrontation entre blocs dominés par les grandes puissances, la planète entière pourrait être confrontée à une situation de risque d'extinction.

Au cœur de ces changements futurs se trouve l'intelligence artificielle (IA). L'IA peut être définie comme une technologie habilitante ou une méta-technologie qui agit comme un « catalyseur » et un « multiplicateur de force », caractérisant les changements et les capacités d'autres technologies. Par conséquent, elle accélère sa propre vitesse d'innovation tout en aggravant les problèmes existants ou en offrant de nouvelles solutions. L'IA, lorsqu'elle est combinée à des armes nucléaires et à des systèmes d'armement, peut entraîner des conséquences destructrices, ou conduire à la fragmentation de l'économie mondiale dominée par les grandes puissances et à l'accélération des inégalités mondiales dans la lutte pour le contrôle de l'écosystème de l'IA. Au niveau national, elle devrait entraîner une intensification des monopoles des grandes entreprises technologiques (Tech Giants), un déséquilibre du marché du travail et du chômage, la consolidation des régimes autoritaires, et la fragmentation de la société autour de valeurs, de croyances ou d'objectifs spécifiques. D'un autre côté, l'innovation technologique de l'IA pourrait maximiser les avantages économiques tout en offrant des pistes de solution aux problèmes apparemment non durables tels que l'environnement ou la santé. À cet égard, la direction du développement de la technologie de l'IA peut être considérée comme une variable fondamentale qui déterminera la survie et la prospérité de la société humaine à l'avenir.

L'équipe de recherche de l'Institut d'Asie de l'Est (East Asia Institute : EAI) analyse systématiquement les processus macroscopiques de changement dans les domaines de la sécurité militaire et de la politique économique, qui sont des variables clés du changement de l'ordre mondial futur, par l'innovation technologique de l'IA. Ce travail sera divisé en analyse de la militarisation et de l'armement de l'IA par les États-Unis et la Chine, de la création de modèles commerciaux d'IA et de la construction de chaînes d'approvisionnement mondiales, de l'expansion de l'influence monopolistique des entreprises technologiques et des changements dans les relations gouvernement-entreprise, et des réponses collectives à la réglementation de la technologie de l'IA. Ce projet vise à présenter des scénarios de changement de l'ordre mondial futur et, à terme, à rechercher des voies pour établir un système de gouvernance mondiale (共治體制) qui reflète les positions des parties prenantes multidimensionnelles, ainsi que des grandes puissances, afin de contrôler et de gérer les impacts destructeurs de la technologie de l'IA.

II. Quelles sont les caractéristiques techniques de l'IA ?

En tant que technologie de pointe, l'IA possède des caractéristiques uniques. Premièrement, en raison de sa nature imitant l'intelligence humaine, les effets catastrophiques de son utilisation abusive sont globaux, et lorsqu'elle évolue vers l'intelligence artificielle générale (AGI) ou l'intelligence artificielle super (SAI), elle pose le problème fondamental de l'incontrôlabilité de la technologie. Deuxièmement, l'IA partage deux aspects : les « avantages/l'innovation » et les « crises ». Malgré les crises de militarisation, d'utilisation abusive et d'incontrôlabilité de l'IA, il est difficile de la contrôler et de la réglementer en raison de ses avantages et de son caractère innovant. Troisièmement, l'IA implique divers acteurs (multi-stakeholderism), y compris non seulement les États, mais aussi les individus, les entreprises et les groupes sociaux. Par conséquent, il est difficile de façonner et de contrôler l'avenir du développement de la technologie de l'IA par la seule réglementation et le contrôle menés par l'État. Quatrièmement, alors que les crises de la politique internationale telles que le changement climatique/la crise environnementale, la guerre nucléaire, et les crises des maladies infectieuses/sanitaires nécessitent une coopération ciblée pour prévenir la catastrophe dans chaque domaine spécifique, l'IA a un impact révolutionnaire sur toutes les dimensions – individuelle, sociale, nationale et mondiale – et tous les domaines – militaire, économique, idéologique et politique. Par conséquent, il existe des problèmes de superposition, de généralité et de complexité dans la réglementation, le contrôle et l'établissement d'un nouveau système de gouvernance mondiale. Enfin, l'avenir de la technologie de l'IA, et les changements qu'elle provoquera aux niveaux individuel, social, national et politique, n'en sont qu'à leurs débuts. Elle possède un potentiel et une puissance explosive illimités qui rendent difficile la prévision des changements à moyen et long terme.

III. Changements dans l'ordre militaire et économique provoqués par l'IA

Notre équipe de recherche a estimé que l'écosystème de l'IA se fragmenterait au milieu de la compétition entre les États-Unis et la Chine pour l'utilisation militaire de l'IA et la construction de modèles commerciaux d'IA, dans le contexte de la compétition de « de-risking » (réduction des risques) entre les deux pays. De plus, bien que les États-Unis, qui détiennent une nette supériorité en matière d'infrastructure, de puissance de calcul, de modèles fondamentaux et d'applications, occuperaient une position de leader dans cette compétition, les voix des accélérationnistes, qui recherchent des solutions aux problèmes par l'innovation technologique, gagneraient en influence dans les cercles politiques des principaux pays, y compris les États-Unis et la Chine, en raison des répercussions de la concurrence acharnée.

Dans le contexte de la compétition technologique de l'IA entre les principales puissances, la fragmentation se poursuivra au niveau politico-économique, et la possibilité de blocs économiques augmentera. Une compétition multidimensionnelle et multicouche et une escalade des conflits pourraient se produire dans tous les domaines tels que la technologie, l'industrie, l'économie et la politique. De plus, alors que l'effet dissuasif de l'interdépendance économique existante sur l'usage de la force disparaîtrait en raison de la blocage, les problèmes potentiels liés à l'utilisation militaire de l'IA (par exemple, l'enchevêtrement nucléaire et la double utilisation, l'escalade non intentionnelle et le déclenchement de guerres dus au problème de la boîte noire) pourraient se manifester, augmentant la probabilité de conflits armés réels et de guerres dans des points chauds géopolitiques dans la région indo-pacifique, tels que Taïwan, la Corée du Nord, et la mer de Chine méridionale et orientale.

Dans ce processus, les pays du Sud pourraient être confrontés à une dépendance technologique, économique et politique accrue, ainsi qu'à une instabilité politique, avec un fossé politique, économique et social encore plus grand qu'auparavant avec les pays développés. Simultanément, leurs systèmes de sécurité fragiles pourraient être exploités, entraînant une grave instabilité par des attaques contre les infrastructures critiques et les systèmes financiers des pays du Sud. De plus, les géants de la technologie (Big Tech) qui mènent la course à l'IA pourraient devenir une nouvelle puissance hégémonique incontrôlable, se caractérisant par des monopoles de marché, la domination du marché du travail et un chômage à grande échelle, des biais dans les données et des atteintes à la vie privée, et défiant le pouvoir de l'État. Par conséquent, si la tendance actuelle de la compétition de l'IA se poursuit, l'humanité pourrait être confrontée à une crise très grave dans un avenir proche.

IV. Scénarios futurs et normes de la nouvelle civilisation

Si la militarisation de l'IA, la fragmentation économique, l'explosion des cas d'utilisation abusive de l'IA, et même le risque de dépendance de l'humanité vis-à-vis de l'IA se concrétisent, comment l'ordre mondial futur évoluera-t-il ? Comme le montre cette étude, l'ordre futur se manifestera par une combinaison des changements impulsés par la technologie de l'IA et la dynamique de l'ordre existant (Figure 1).

<Figure 1> Scénarios de transformation de l'ordre futur et de développement de l'IA par domaine

Cela pourrait se traduire par : (1) l'émergence d'un système international caractérisé par la confusion et la fragmentation, la division et la confrontation des normes et de l'ordre internationaux (Voie 1), résultant de la compétition souveraine des grandes puissances et des puissances émergentes en l'absence de leadership mondial ; (2) un système de coexistence mutuelle basé sur une certaine coopération face aux défis mondiaux, parallèlement à la compétition pour l'influence, la suprématie technologique et la domination stratégique entre les grandes puissances (Voie 2) ; ou (3) l'émergence d'un système de gouvernance mondiale global et complexe par la participation démocratique et multidimensionnelle des États et des acteurs non étatiques (Voie 3). Cette série de rapports spéciaux présentera la logique et la théorie sous-jacentes à ces scénarios et, à terme, explorera une feuille de route pour la construction d'un ordre mondial conforme aux normes de la nouvelle civilisation. ■

■ KIM Yang-gyu_Chercheur principal à l'EAI. Chargé de cours au Département de science politique et de relations internationales de l'Université nationale de Séoul.

■ SON Yeol_Directeur de l'EAI. Professeur à la Graduate School of International Studies de l'Université Yonsei.

■ JEON Jaesung_Directeur du Centre de recherche sur la sécurité nationale de l'EAI. Professeur au Département de science politique et de relations internationales de l'Université nationale de Séoul.

■ HA Young-sun_Président de l'EAI. Professeur émérite de l'Université nationale de Séoul.

■ Coordination et édition :PARK Jisoo, EAI 연구원

    문의 및 편집: 02 2277 1683 (ext. 208) | jspark@eai.or.kr