[Rapport spécial sur l'IA et la nouvelle civilisation] Défi économique ② : Les défis de l'IA et de la politique mondiale - Questions relatives au Sud mondial et aux Big Tech

I. L'IA et le Sud mondial

1. Introduction du problème

La technologie de l'intelligence artificielle (IA), menée par ChatGPT, provoque des changements dans divers domaines de la société tels que l'économie, mais aussi la militaire, l'éducation, la santé et la culture, et on prévoit que son développement s'accélérera au cours du 21e siècle. Outre le potentiel de l'IA à stimuler la croissance économique, divers aspects négatifs sont également discutés. Parmi ceux-ci, cet article se concentre particulièrement sur la situation où le développement, la diffusion et l'utilisation de la technologie de l'IA sont dominés par les pays développés, notamment les États-Unis, et la Chine, tandis que le Sud mondial est relativement marginalisé.

Le fossé entre les pays développés et les pays en développement dans l'ordre politique et économique mondial, le soi-disant problème Nord-Sud, est depuis longtemps l'une des questions importantes de la politique internationale. Au 21e siècle, avec la numérisation, de nombreuses analyses ont été avancées sur l'impact des technologies de l'information et de la communication (TIC), notamment Internet et les smartphones, sur le fossé Nord-Sud (CNUCED 2020). Les recherches examinant les impacts à moyen et long terme de l'accélération rapide de l'automatisation, de l'expansion des usines intelligentes et de l'élargissement du marché du commerce électronique, qui se sont produits rapidement pendant la période de la COVID-19, montrent que la transformation numérique a des implications complexes pour le développement des pays en développement, avec des aspects à la fois positifs et négatifs (Bae Young-ja 2022).

Les pays en développement ont généralement des infrastructures numériques et des niveaux d'innovation technologique inférieurs à ceux des pays développés, des capacités plus faibles pour la transformation numérique et des ressources limitées autres que la main-d'œuvre. Dans ces conditions, la transformation numérique en cours dans des secteurs manufacturiers traditionnels tels que l'automobile, en particulier la diffusion de l'automatisation et des usines intelligentes, rend plus facile le remplacement du travail relativement simple et répétitif effectué par les pays en développement dans les chaînes de valeur mondiales par des machines. Il est donc probable que la position des pays en développement se réduise plutôt que se renforce, et que le fossé entre les pays en développement et les pays développés s'élargisse. D'autre part, il existe des aspects de la transformation numérique des pays développés qui peuvent constituer des opportunités de croissance pour les pays en développement. En fait, certaines régions des pays en développement, comme le Mexique, ont bénéficié de l'augmentation des échanges avec les pays développés en participant plus activement aux chaînes de valeur mondiales. Avec la diffusion des usines intelligentes utilisant des robots et la fabrication additive (3D) dans les pays développés, la productivité et les revenus augmentent, ce qui accroît la demande de produits finis et stimule le commerce avec les pays en développement qui fournissent des pièces et des intermédiaires (CNUCED 2020).

Dans le cas du commerce électronique, il est vrai que la diffusion des appareils numériques et d'Internet a accru les opportunités pour les entreprises des pays en développement de participer aux chaînes de valeur mondiales en tant que fournisseurs et producteurs via les marchés en ligne. Le nombre de petits producteurs des pays en développement utilisant les technologies numériques pour commercer avec des consommateurs des pays développés sur les principaux sites de commerce électronique tels qu'Alibaba, Amazon, eBay, Taobao et Mercado Libre a augmenté. Cependant, les méthodes de transaction, les méthodes de livraison, les systèmes de paiement et les politiques de remboursement et d'échange exigées par les plateformes constituent des obstacles à l'entrée pour la participation des entreprises des pays en développement. De plus, les politiques anticoncurrentielles telles que le monopole des données par les entreprises de commerce électronique et leurs offres prédatrices et les frais élevés en raison de l'abus de leur position sur le marché aggravent les difficultés des petits producteurs des pays en développement. En d'autres termes, bien que la transformation numérique puisse être une opportunité de développement pour les pays en développement, il existe de nombreux aspects qui agissent négativement sur le développement des pays en développement, tels que la plateforme des entreprises de commerce électronique, le monopole des données, les changements dans les chaînes de valeur et la réduction des effets sur l'emploi.

Dans le contexte du flux général de la transformation numérique, quel est l'impact du développement et de l'utilisation de la technologie de l'IA, qui s'est récemment accéléré, sur le fossé entre les pays développés et les pays en développement ? L'IA va-t-elle amplifier le fossé existant ? Ou l'IA deviendra-t-elle une opportunité pour les pays en développement et contribuera-t-elle à réduire le fossé ? Quels types de crises pourraient survenir si les pays en développement sont exclus du développement et de l'utilisation de l'IA à long terme ? Quelles sont les mesures qui peuvent être prises pour minimiser les impacts négatifs de l'IA sur le développement des pays en développement et maximiser les impacts positifs ? Cet article examine l'état actuel des investissements et de l'utilisation des infrastructures d'IA en comparant les pays développés et les pays en développement, et en examinant les discours sur l'IA et les pays en développement, afin de rechercher des moyens de renforcer la position politique et économique mondiale du Sud mondial grâce à l'IA.

2. État des investissements et de l'utilisation des infrastructures et technologies d'IA : Perspective du fossé entre pays développés et pays en développement

Nous examinons dans quelle mesure le fossé entre les pays développés et les pays en développement existe dans le processus de développement, de diffusion et d'utilisation de l'IA, à travers divers indicateurs. Premièrement, nous examinons le taux de pénétration d'Internet, un indicateur d'infrastructure fondamental pour le fonctionnement de l'IA. Comme le montre la figure 1 ci-dessous, sur la population mondiale actuelle d'environ 8 milliards d'habitants, environ 2,7 milliards n'ont pas accès à Internet. Il est connu qu'en particulier 680 millions en Inde et 340 millions en Chine n'ont pas accès à Internet, et que le taux de pénétration d'Internet en Afrique subsaharienne est inférieur à 40 % et en Asie du Sud-Est est de 51 %, ce qui est très faible.

Figure 1. Taux de pénétration d'Internet

Source : Datareportal. 2024

Ce sont également quelques pays développés qui mènent les investissements dans l'IA, qui se sont accélérés depuis 2020. Selon la figure 2, entre 2013 et 2023, les États-Unis ont été en tête avec 330 milliards d'investissements liés à l'IA, suivis par la Chine avec environ 100 milliards, et le Royaume-Uni, Israël, le Canada et l'Allemagne ont investi des dizaines de milliards. L'investissement américain est si exceptionnel que la somme de tous les investissements de la Chine, le deuxième pays en termes d'investissement, jusqu'à la Suède, le quinzième, ne dépasse que légèrement la moitié de l'investissement américain.

Figure 2. Montant des investissements par pays dans l'IA (2013-2023)

Source : HAI, Stanford. 2024.

Le manque d'infrastructures et d'investissements liés à l'IA dans les pays en développement se traduit naturellement par un faible nombre de recherches et de brevets en IA. La recherche en IA est menée par les États-Unis, la Chine et les pays de l'UE. Selon la figure 3, entre 2014 et 2023, les instituts américains ont produit plus de 772 000 articles de recherche en IA (articles évalués par des pairs dans des domaines clés de l'IA), représentant 30 % de la part de marché, tandis que la Chine a produit environ 465 000 articles, soit 18 %. Le Royaume-Uni, l'Allemagne, le Japon, ainsi que l'Inde, le Brésil et l'Iran sont des centres de recherche en IA produisant chacun entre 10 000 et 140 000 articles, tandis que la recherche en IA en Afrique, en Amérique du Sud et dans la plupart des pays asiatiques représente moins de 5 %. Pour les brevets en IA, entre 2010 et 2022, les pays d'Asie du Sud, d'Amérique latine et d'Afrique subsaharienne représentaient moins de 1 %, et la plupart des brevets ont été délivrés à la Chine (61,1 %) et aux États-Unis (20,9 %).

Figure 3. Part de la recherche et des brevets en IA

Source : Digital Science. 2024.

Les modèles fondamentaux tels que GPT-4, Claude 3 et Llama 2, qui sont des modèles d'apprentissage automatique ou d'apprentissage profond entraînés sur de vastes ensembles de données pour être appliqués à un large éventail de cas, mènent actuellement la diffusion de l'IA. Il en existe actuellement environ 150, qui représentent la recherche et l'utilisation de l'IA. En termes de nationalité, les États-Unis en possèdent 109, la Chine 20, le Royaume-Uni 8, et les Émirats arabes unis, le Canada, Singapour, Israël et l'Allemagne en possèdent chacun 2.

Il est intéressant de noter que la reconnaissance et l'utilisation de ChatGPT sont relativement élevées dans les pays en développement, qui sont très faibles par rapport aux pays développés en termes d'infrastructures, d'investissements, de recherche et de brevets en IA. Selon les données, le pourcentage de répondants utilisant ChatGPT quotidiennement ou hebdomadairement est de 75 % en Inde, 69 % au Kenya et 62 % au Pakistan, dépassant largement la moyenne mondiale, et est plus élevé qu'en Allemagne (41 %), au Japon (38 %) et au Royaume-Uni (38 %). Cela peut être interprété de diverses manières, mais l'entrée active des Big Tech sur de nouveaux marchés et la diffusion des services d'IA dans les pays sous-développés à moindre coût dans les secteurs de la santé et de l'éducation peuvent être considérées comme importantes. Les Big Tech telles que Google, Microsoft et Meta se sont développées en établissant des centres de R&D et des bureaux d'ingénierie dans les pays en développement (Okolo 2023). IBM a fondé IBM Research India en 1998, puis a ouvert des centres de recherche à São Paulo et Rio de Janeiro (2010), Nairobi (2013) et Johannesburg (2016). En 2005, Microsoft a ouvert Microsoft Research India à Bangalore et deux centres de développement africains à Nairobi et Lagos. Google a ouvert des laboratoires de recherche en IA à Accra en 2018 et à Bangalore en 2019.

Ce qui est important, c'est que, malgré la faiblesse des résultats des investissements en infrastructure, la diffusion et l'utilisation de l'IA sont plus actives que prévu dans les pays en développement. De plus, alors que le taux d'adoption de l'IA générative par les entreprises et les institutions est de 40 % aux États-Unis, il est de 31 % dans la région chinoise et de 33 % dans les pays en développement, y compris l'Inde et l'Amérique latine. En tenant compte de l'utilisation de l'IA, il existe une possibilité et une marge de manœuvre pour que l'IA devienne une opportunité pour les pays en développement.

Figure 4. Fréquence d'utilisation mondiale de ChatGPT (2023)

Source : Stanford University AI Index Report. 2024.

Selon un rapport de la CNUCED, le fossé entre les pays développés et les pays en développement s'est creusé depuis le début de la numérisation dans les années 1980. Comme nous l'avons vu ci-dessus, les pays développés dominent tous les aspects tels que les investissements en infrastructure d'IA, les investissements en recherche et les modèles fondamentaux, et la présence des pays en développement est très faible. Il est donc difficile d'être optimiste quant à la tendance selon laquelle le développement et l'utilisation accélérés de la technologie de l'IA atténueront le fossé existant. PwC estime que l'IA pourrait contribuer jusqu'à 15,7 billions de dollars à la croissance économique mondiale d'ici 2030, et affirme que l'impact économique sur la région du Sud mondial, à l'exclusion de la Chine, ne sera que de 1,7 billion de dollars. Cependant, comme les pays sous-développés font preuve d'une attitude proactive dans l'adoption et l'utilisation de l'IA, il est nécessaire de rechercher activement des moyens de réduire le fossé tout en observant l'impact global de l'IA sur le développement des pays sous-développés.

Figure 5. Évolution historique du fossé entre pays développés et pays en développement

Source : CNUCED, Rapport sur la technologie et l'innovation. 2023.

3. Discours sur l'IA et le Sud mondial

1) Impérialisme algorithmique

Le discours de l'impérialisme algorithmique, selon lequel la domination occidentale de l'IA ne se limite pas à l'exclusion des pays sous-développés du développement technologique, mais prend la forme d'une domination et d'un contrôle des discours sociaux, politiques et culturels, a été soulevé (Birhane 2023). Selon cette logique, alors que le colonialisme traditionnel était mené par les États, le colonialisme algorithmique est mené par les entreprises. Alors que le premier prenait la forme d'une domination violente et indiscriminée, le colonialisme à l'ère de l'IA se distingue par sa forme de « solutions basées sur l'IA » et d'« algorithmes de pointe » pour les problèmes sociaux. La plupart des infrastructures et écosystèmes numériques de l'Afrique sont exploités de manière dominante par des entreprises occidentales telles que Google, Meta, Netflix et Uber. Par exemple, Meta, sur la base des données obtenues grâce à la technologie de vision par ordinateur, aux données démographiques et aux images satellites à haute résolution, acquiert naturellement l'autorité de créer et de contrôler les connaissances sur la population du continent en créant des cartes démographiques de l'Afrique. À des fins d'extraction de données et de maximisation des profits, Meta utilise librement les informations sur les Africains et leurs déplacements, et décide de manière autoritaire de ce qui constitue une connaissance légitime de la population. Cela est très similaire à la façon dont les Occidentaux prétendaient mieux savoir ce dont les colonies avaient besoin, qu'ils les sauveraient et qu'ils devraient leur être reconnaissants pour justifier la domination coloniale passée, bien que seule la technologie utilisée ait changé.

Bien que le Nigeria soit relativement avancé technologiquement en Afrique, environ 90 % des logiciels utilisés sont importés, ce qui constitue un obstacle au développement technologique endogène. L'IA développée en Occident n'est pas seulement inadaptée aux problèmes africains ; l'intrusion d'algorithmes occidentaux entrave le développement de produits adaptés aux contextes locaux tout en rendant le continent dépendant des logiciels et infrastructures occidentaux. Par exemple, les diagnostics d'IA utilisant la mammographie, qui sont utiles pour le diagnostic du cancer du sein en Occident, n'ont pas donné les résultats escomptés en Afrique, et il est rapporté que l'auto-examen s'avère plus utile. Cela suggère que les systèmes d'IA liés à la santé, développés sur la base des modes de vie et de l'environnement occidentaux, peuvent avoir une utilité limitée dans les pays en développement et doivent être utilisés avec prudence.

En raison des biais inhérents aux modèles et aux données d'IA, les problèmes sont souvent définis et les solutions sont trouvées de manière similaire aux perceptions occidentales. Par exemple, il est rapporté que les résultats obtenus en traitant la même question avec des modèles d'IA diffèrent de ceux obtenus hors ligne par le WVS (World Values Survey) et le Pew Research Center, les résultats des modèles d'IA étant biaisés vers l'Occident. Dans une veine similaire, l'affirmation est également faite que les systèmes d'IA, qui sont finalement monopolisés par les entreprises des pays développés, monopoliseront et contrôleront les connaissances, conduisant à l'« esclavage des connaissances » dans les pays en développement (CNUCED 2023).

Figure 6. Comparaison des résultats des enquêtes (2023, HAI)

Source : HAI. 2023.

La domination occidentale des infrastructures et de l'utilisation de l'IA ne se limite pas à un simple monopole technologique et de données, mais s'accompagne de la diffusion de perceptions et de modes de vie occidentaux, ce qui conduit à une acceptation acritique de la légitimité du modèle occidental. L'adoption de modèles d'IA qui ignorent le contexte politique, économique et culturel des pays sous-développés est souvent inadéquate pour résoudre les problèmes auxquels ils sont confrontés et risque plutôt d'aggraver la dépendance des infrastructures et des données des pays sous-développés.

2) Discours sur les opportunités

D'autre part, il a été avancé que l'IA constitue un outil utile pour résoudre divers problèmes auxquels sont confrontés les pays en développement et que la participation des citoyens peut être encouragée par l'IA, augmentant ainsi la démocratie (Okolo 2023). Ces acteurs considèrent l'IA comme une opportunité de développement pour les pays en développement et recommandent son utilisation active. Au cours de la dernière décennie, les pays sous-développés ont commencé à utiliser des outils d'IA pour résoudre leurs problèmes de sous-développement traditionnels, et les cas d'utilisation de l'IA dans les domaines de l'agriculture, de la santé et de l'éducation ont augmenté. Par exemple, des modèles d'apprentissage profond pour le diagnostic sur le terrain des maladies de la banane et des infections agricoles ont été développés pour aider les agriculteurs des pays en développement, ainsi que des systèmes d'observation d'images pour soutenir la surveillance agricole et forestière. Dans les domaines de la santé, de la médecine et de l'éducation, des services qui complètent le manque d'infrastructures et réduisent considérablement les coûts grâce à l'utilisation de l'IA ont été développés et testés. En Inde, des modèles prédictifs ont été construits pour permettre aux mères des régions éloignées de continuer à participer à des programmes de télémédecine, et un système d'aide à la décision clinique a été créé au Ghana pour lutter contre la résistance aux antibiotiques. Dans le domaine de l'éducation, la Colombie utilise l'IA pour identifier les élèves à risque, la Thaïlande renforce l'apprentissage de l'anglais grâce à l'IA, et des assistants d'IA sont utilisés pour soutenir l'enseignement des sciences en Afrique de l'Ouest.

Ils soutiennent qu'il est possible de démocratiser les pratiques actuelles de l'IA, d'encourager le développement de systèmes d'IA plus inclusifs et d'augmenter la participation des communautés sous-représentées dans le développement de l'IA. Il existe une demande croissante de spécialisation régionale et de développement des systèmes d'IA actuels, et des efforts actifs sont en cours dans ce domaine. Des organisations citoyennes de base telles que Masakhane et Ghana NLP tentent de développer des ensembles de données et des outils de traduction automatique qui contribuent à élargir l'accessibilité aux langues africaines. D'autres, comme Deep Learning Indaba, Khipu, AI Saturdays Lagos et Data Science Africa, contribuent à renforcer l'expertise locale dans le domaine de l'IA et à la croissance des communautés de chercheurs et de développeurs d'IA en Afrique et en Amérique latine.

4. Crises résultant du fossé de l'IA et mesures d'adaptation

Dans quelle situation le monde sera-t-il confronté si le développement et l'utilisation de l'IA sont réalisés principalement par quelques pays développés, excluant les pays en développement ? Plus précisément, quels types de crises pouvons-nous prévoir ? Dans le tableau 1, nous avons résumé le contenu des crises et les mesures d'adaptation en les divisant en fossé économique entre pays développés et pays en développement, dépendance des pays en développement en matière de données et de technologie, élargissement des inégalités sociales et culturelles, et discrimination, ainsi que l'instabilité militaire et politique.

Tableau 1. Crises et mesures d'adaptation résultant de l'élargissement du fossé de l'IA entre pays développés et pays en développement

Pour résoudre la crise causée par l'élargissement du fossé en matière d'IA entre les pays développés et en développement, les efforts au niveau de chaque pays, tant développés qu'en développement, sont importants, mais des efforts internationaux sont absolument nécessaires pour reconnaître et répondre à cette crise, et il faut construire une gouvernance mondiale de l'IA qui contribue à atténuer le problème du fossé en matière d'IA.

5. Gouvernance mondiale de l'IA et le Sud mondial

Alors que la technologie de l'IA risque de renforcer le colonialisme algorithmique, il existe également une possibilité que l'IA soit activement utilisée dans des domaines tels que l'agriculture, la santé et l'éducation dans les pays sous-développés. Cependant, des défis subsistent pour que les pays sous-développés puissent bien exploiter les opportunités offertes par l'IA. Bien que le taux de pénétration de l'électricité et d'Internet dans la région africaine ait continuellement augmenté, une grande partie de la population de l'Afrique subsaharienne reste toujours privée d'accès à Internet. La Banque mondiale estime que des investissements d'au moins 100 milliards de dollars sont nécessaires pour connecter 100 millions d'Africains vivant dans des régions isolées. La diffusion des infrastructures en Afrique doit être davantage étendue. Le câble Internet sous-marin 2Africa, le plus long jamais conçu, est en cours de déploiement. La majorité des 485 câbles Internet sous-marins estimés en service dans le monde sont détenus par de grandes sociétés de télécommunications, et les géants de la technologie, y compris Amazon, Google, Meta et Microsoft, augmentent également leurs investissements dans les infrastructures sous-marines, co-détenant actuellement environ 30 câbles. Il faut discuter des moyens par lesquels cette expansion des infrastructures peut tenir compte des intérêts des régions sous-développées.

Les pays sous-développés sont responsables du travail d'étiquetage des données collectées, et l'exploitation des travailleurs de données et des modérateurs de contenu en Afrique de l'Est et en Asie du Sud, employés par des entreprises telles que Sama et Scale AI, a également été soulevée comme un problème. De plus, le manque de protection des données et de politiques d'IA dans la plupart des pays sous-développés peut potentiellement entraîner une utilisation abusive plus fréquente des données. Actuellement, les préoccupations et les discussions concernant les impacts négatifs de l'IA se concentrent principalement sur les pays développés, et une attention et une discussion actives sur la situation de ces pays sous-développés sont demandées.

Des efforts plus actifs de la part des gouvernements des pays sous-développés sont également importants. Les gouvernements des pays sous-développés devraient renforcer leur capacité à former des chercheurs et des développeurs locaux par le biais de partenariats avec des organisations externes afin de soutenir l'expansion de leur propre écosystème d'IA, et devraient soutenir la création et le maintien d'un écosystème d'IA qui encourage l'entrepreneuriat et soutient l'innovation locale. Le Nigeria s'est associé à Microsoft pour fournir des compétences numériques à ses citoyens, et Google a formé environ 8 millions de personnes en Amérique latine aux compétences numériques depuis 2017. Les initiatives de transformation numérique au Brésil, au Costa Rica, en Inde, en Jamaïque, en Malaisie, au Panama, au Rwanda et en Afrique du Sud mentionnent des plans d'intégration de sujets tels que la littératie informatique, les compétences TIC, la programmation, la citoyenneté numérique et la sécurité en ligne dans les programmes scolaires de la maternelle à la terminale.

Alors que l'influence de la technologie de l'IA s'accroît, il est important de créer un environnement où les pays sous-développés peuvent accéder équitablement à la technologie de l'IA, permettant un terrain de jeu équitable pour la concurrence et l'utilisation. Diverses organisations internationales telles que l'ONU, la Banque mondiale, le FMI et le G20 plaident pour la promotion de l'IA afin de garantir la stabilité, la sécurité et la souveraineté des pays en développement tout en promouvant les intérêts de l'humanité. Des idées telles que le cadre du système d'infrastructure publique numérique et le Répertoire mondial des infrastructures publiques numériques (GDPIR) ont également été proposées. L'initiative 3 du G20 sur la fracture des données (DGI-3) soutient les pays en développement dans l'exploitation de modèles d'IA à l'aide d'ensembles de données publics dans le domaine du changement climatique.

Alors que divers organismes et conférences internationaux traitant de la technologie de l'IA et de sa diffusion discutent continuellement de la fracture Nord-Sud en matière d'IA, des mesures d'atténuation et des plans de soutien aux pays en développement, il est demandé d'ouvrir et d'inviter les pays en développement à participer à la gouvernance mondiale de l'IA. Par ce biais, il faut accroître la prise de conscience des crises potentielles causées par le fossé en matière d'IA et rechercher des moyens d'y faire face.

II. IA et entreprises de Big Tech

1. Innovation et réglementation de l'IA

Les entreprises qui possèdent ou contrôlent de grandes plateformes numériques, les soi-disant géants de la technologie comme Google, Amazon, Apple, Meta et Microsoft, fournissent des services monopolistiques basés sur les effets de réseau. De plus, ils collectent et accumulent des données en temps réel importantes pour comprendre les préférences des consommateurs et prédire leurs comportements, formant ainsi le centre de l'écosystème numérique. Google est présent dans plus de 200 pays, Meta compte 2,3 milliards d'utilisateurs mensuels dans le monde, et les utilisateurs de MS Office et Windows dépassent respectivement 1,2 milliard et 1,4 milliard. Sur la base de leur position monopolistique, ils ont accumulé d'énormes ressources financières, représentant 22 % de la capitalisation boursière des entreprises du S&P 500, et la taille de chaque entreprise dépasse le PIB du Canada ou de l'Italie.

L'émergence de l'IA générative renforce encore la domination des géants de la technologie. Le développement de l'IA générative nécessite des ressources humaines, des données et une puissance de calcul. Peu d'entreprises, autres que les géants de la technologie, disposent de dizaines de milliers d'employés de haut niveau, de vastes quantités de données et la capacité de traiter rapidement les données en achetant plus de 10 000 GPU. Comme le montre la <Figure 7>, l'IA générative actuellement opérationnelle est dominée par une minorité de géants de la technologie.

<Figure 7> Part de marché mondiale de l'IA générative

Source : IoT Analytics Research 2023-Generative AI Market Report. 2023-2030.

Une question importante liée à l'IA concerne la manière de trouver un équilibre entre l'innovation technologique en IA et la réglementation. La concurrence entre les géants de la technologie accélère l'innovation et la diffusion de l'IA, tandis que les risques et les aspects négatifs qui en résultent sont également soulevés. Étant donné que la technologie de l'IA peut apporter des avantages dans divers domaines sociaux tels que les transports, la santé, l'éducation et la production, les pays élaborent actuellement des stratégies d'IA et soutiennent l'innovation des entreprises. D'autre part, les discussions sur la manière de minimiser et de réglementer les risques et les problèmes causés par l'IA sont également en cours. Le problème le plus urgent est de savoir comment prévenir et réglementer le développement de systèmes d'IA nuisibles ou contraires à l'éthique, de systèmes contenant des biais ou de la discrimination, ou de systèmes pouvant être utilisés à des fins malveillantes telles que la cyberguerre. De plus, il est important de trouver des solutions au fait que la concurrence acharnée entre les géants de la technologie et le monopole de quelques entreprises finissent par freiner l'innovation et limiter les avantages potentiels de l'IA. Une gouvernance mondiale de l'IA est nécessaire pour garantir que l'IA soit développée et utilisée de manière responsable et éthique, et que le développement, l'utilisation et les effets de la technologie de l'IA soient partagés par tous.

2. Expansion du rôle des entreprises de Big Tech et leurs relations avec les gouvernements

À l'ère de l'IA, les entreprises de Big Tech ne se contentent pas d'exercer une influence économique, mais s'impliquent profondément dans la définition des programmes, la fourniture de discours pour la résolution de problèmes et le processus de mise en œuvre des politiques. Les géants de la technologie jouent un rôle central dans l'identification des problèmes et la définition des priorités. Par exemple, ils peuvent définir efficacement des programmes en utilisant le contenu en ligne sur les problèmes qui font l'objet de discussions animées, et ils participent à la conduite de recherches académiques et politiques pour explorer ces problèmes et trouver des solutions. Les géants de la technologie mènent eux-mêmes des recherches ou financent des recherches d'institutions académiques et de recherche, ou influencent la recherche par le biais de la circulation des chercheurs. La fréquence et la proportion des recherches menées par les géants de la technologie eux-mêmes augmentent, et ils soulèvent de nouveaux problèmes politiques en analysant de vastes quantités de données. Tout comme Amazon possède le Washington Post ou Apple lance Apple News, les géants de la technologie tentent de passer du statut de modérateurs de contenu à celui de fournisseurs de contenu en possédant directement les médias.

Dans le passé, les infrastructures de base telles que les chemins de fer et les routes étaient détenues ou exploitées par le gouvernement. Cependant, les nouvelles infrastructures d'information, telles que les moteurs de recherche et les navigateurs, les serveurs de données et le cloud computing, les e-mails et la messagerie instantanée, les réseaux sociaux, les magasins d'applications, les systèmes de paiement, l'hébergement vidéo, les services de géolocalisation et de navigation, sont entièrement détenues par des entreprises de Big Tech. Les gouvernements n'ont d'autre choix que de demander l'aide des géants de la technologie lorsqu'ils sont confrontés à des défis spécifiques, comme lors de la pandémie de COVID-19. En fait, de nombreux gouvernements ont invité des représentants des géants de la technologie pour concevoir des politiques de gestion du COVID-19. Avec leur coopération, ils ont pu créer des cartes de propagation des épidémies, concevoir des outils de suivi et élaborer des politiques de prévention des maladies, ainsi que distribuer des médicaments et des vaccins. La coopération et le soutien des géants de la technologie deviennent de plus en plus essentiels dans divers domaines politiques. À mesure que l'influence économique et sociale des entreprises de Big Tech augmente, les demandes de responsabilité sociale de leur part augmentent également, et les entreprises de Big Tech participent de plus en plus en tant que fournisseurs directs de services politiques. Les activités de soutien des géants de la technologie dans les domaines de la santé, de l'éducation et de la finance dans les pays sous-développés se déroulent activement.

Avec l'avènement de l'IA générative, les géants de la technologie commencent non seulement à définir l'agenda et à redéfinir et proposer des problèmes sociaux, mais aussi à proposer des solutions au stade de l'élaboration des politiques et à assumer le rôle de décideurs. Alors que les géants de la technologie ont historiquement accumulé des profits transfrontaliers d'une ampleur considérable et acquis une influence politique immense, ils sont parfois traités comme des acteurs détenant un statut similaire à la souveraineté. Par exemple, le gouvernement danois a nommé un ambassadeur technologique (Tech Ambassador) travaillant dans la Silicon Valley, chargé de nouer des relations avec les géants de la technologie et de représenter les intérêts du pays, ce qui témoigne de la perception que les entreprises de Big Tech ont un statut similaire à celui d'un État. Certains universitaires observent comment la relation avec les États sera redéfinie à mesure que le statut des géants de la technologie s'élèvera.

Alors que les entreprises de Big Tech sont perçues comme des entreprises similaires à des États ou des quasi-États, l'attention se porte sur la manière dont la relation entre les États et les géants de la technologie sera établie. Comme le montre la <Figure 2>, la relation entre les deux devrait évoluer par diverses voies. Premièrement, il existe des domaines où la concurrence et les conflits directs entre les États souverains et les géants de la technologie sont inévitables. En particulier, des conflits peuvent survenir lorsque les gouvernements renforcent la réglementation des géants de la technologie et que ces derniers y résistent (concurrence). D'autre part, lorsque les gouvernements souhaitent réglementer fortement les géants de la technologie, ces derniers peuvent éviter un conflit direct avec l'État et adopter une stratégie consistant à suivre et à aligner les politiques gouvernementales autant que possible (cooptation). Inversement, lorsque les gouvernements ne renforcent pas la réglementation des géants de la technologie et les laissent faire en invoquant la logique de l'économie de marché libre, la relation entre les géants de la technologie et le gouvernement peut devenir très coopérative (collaboration). À mesure que l'influence des géants de la technologie augmente, il peut arriver que le gouvernement soit capturé par les géants de la technologie (capture). Les quatre directions ne sont pas mutuellement exclusives, mais peuvent se chevaucher.

<Figure 8> Matrice des relations entre les gouvernements et les entreprises de Big Tech

Source : Khanal et al. 2024.

3. Crises et mesures d'intervention résultant du développement et de l'utilisation de l'IA par les Big Tech

Les crises prévues et les mesures d'intervention lorsque les géants de la technologie mènent le développement de l'IA ont été classées comme suit dans le <Tableau 2> : monopole du marché et restriction de la concurrence, changements sur le marché du travail, chômage et inégalités économiques, biais des données et violation de la vie privée, contrôle technologique et menace pour la démocratie, défi du pouvoir de l'État par les géants de la technologie, impérialisme algorithmique des géants de la technologie.

<Tableau 2> Crises et mesures d'intervention résultant du développement de la technologie de l'IA par les Big Tech

4. État actuel des normes en matière d'IA

Comme on le sait, l'IA générative devrait contribuer à améliorer la productivité des entreprises en permettant la réduction des coûts et la prise de décision basée sur les données. L'IA générative stimule l'émergence de nouveaux services dans des domaines tels que la création de textes, d'images et de musique. D'autre part, bien que l'IA générative apprenne à partir de vastes quantités de données, elle génère parfois des réponses inexactes ou biaisées en raison de la nature limitée des données. Les données utilisées par l'IA générative peuvent contenir des informations personnelles sensibles ou privées, présentant un risque de violation de la vie privée. L'IA générative acquiert des données à partir d'œuvres existantes, ce qui présente une forte probabilité de violation des droits de propriété intellectuelle. La diffusion de fausses informations et la manipulation de l'opinion publique sont possibles grâce à l'IA générative.

Les divers risques inhérents à la technologie de l'IA peuvent être amplifiés lorsque le développement et l'utilisation de la technologie de l'IA sont menés par des entreprises de Big Tech. Dans la course acharnée à l'expansion de la part de marché et à l'accélération des investissements entre les géants de la technologie, la compétition pour le leadership est prioritaire, ce qui rend difficile le respect de la norme du développement de technologies d'IA fiables, responsables et éthiques. Actuellement, les géants de la technologie font l'objet de discussions au niveau national principalement dans le cadre de la réglementation antitrust. Au niveau international, il existe un large consensus sur la nécessité d'établir des normes éthiques pour faire face aux aspects négatifs de la technologie de l'IA et de mettre en place une gouvernance mondiale de l'IA pour les mettre en œuvre, mais il est difficile d'être optimiste quant à l'émergence de normes internationales convenues et d'une gouvernance mondiale efficace de l'IA, car les positions des États-Unis, de l'Europe et de la Chine en matière de réglementation de l'IA diffèrent légèrement.

L'UE a été la première à établir un cadre juridique pour la réglementation de l'IA en adoptant la loi sur l'intelligence artificielle (Artificial Intelligence Act : AIA) en 2024. L'AIA vise à promouvoir l'utilisation d'une IA centrée sur l'humain et digne de confiance, tout en minimisant les impacts néfastes de l'IA pour protéger la santé, la sécurité, les droits fondamentaux et la démocratie. L'AIA de l'UE classe les systèmes d'IA en fonction de leur niveau de risque pour les utilisateurs : risque inacceptable, risque élevé, risque faible et risque minimal, et applique des niveaux de réglementation différents en fonction de ces niveaux. En particulier, les systèmes qui ① manipulent la prise de décision humaine en utilisant des techniques subliminales ou trompeuses, ② exploitent la vulnérabilité de personnes ou de groupes spécifiques, ③ traitent de manière défavorable ou inéquitable des personnes ou des groupes spécifiques, ou évaluent ou classent des scores sociaux (social scoring), ou ④ utilisent des technologies d'identification biométrique à distance en temps réel dans des espaces accessibles au public, sont considérés comme inacceptables et leur utilisation est fondamentalement interdite. Les technologies d'IA utilisées dans les secteurs de l'éducation, de la santé et de l'armée qui peuvent présenter des risques pour les droits fondamentaux doivent satisfaire aux nouvelles normes établies par l'UE, et les entreprises doivent divulguer de manière transparente leurs méthodes de développement de modèles et être responsables des dommages. L'UE fait pression sur les géants de la technologie, affirmant que des modèles d'IA tels que GPT-4 d'OpenAI et Gemini de Google peuvent présenter des risques et nécessitent des travaux supplémentaires pour satisfaire aux normes de l'UE.

L'une des raisons pour lesquelles l'UE est à l'avant-garde de la réglementation de l'IA est son intention de contrôler les activités des géants de la technologie américains en Europe, étant donné qu'il n'y a pas de géants de la technologie européens possédant de grandes plateformes numériques, et de diriger les normes de sécurité. Bien qu'elle ne soit pas en avance dans la technologie de l'IA, elle réagit activement à la réglementation et à l'évaluation de la sécurité de l'IA. De plus, on peut entrevoir l'espoir de diriger la formation de normes internationales pour la sécurité de l'IA et d'y établir des services d'évaluation de la sécurité et des organismes d'évaluation qui en découlent en Europe.

Aux États-Unis, l'accent est mis sur l'autoréglementation des entreprises comme étant appropriée en matière de sécurité de l'IA, et le gouvernement annonce des politiques visant à compléter l'autoréglementation des entreprises. La plupart des géants de la technologie ont eux-mêmes élaboré et publié des codes d'éthique, mais personne ne pense que cela soit suffisant. Après avoir publié la Déclaration fédérale des droits de l'IA (Federal AI Bill of Rights) en 2022, l'administration Biden a signé en 2023 un décret exécutif sur l'IA sûre, sécurisée et digne de confiance (Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence). Ce décret exécutif vise à promouvoir le développement et l'utilisation de l'IA de manière sûre et responsable au niveau du gouvernement fédéral, à réglementer le développement et l'utilisation de technologies d'IA qui menacent la sécurité nationale, la santé et la sécurité, par le biais de ① l'obligation d'évaluer la sécurité de l'IA, ② l'établissement de normes de sécurité pour les outils d'IA, ③ la création de normes d'authentification de contenu, et ④ le renforcement de la protection de la vie privée. Le National Institute of Standards and Technology (NIST) créera le United States AI Safety Institute (US AISI) pour exploiter un cadre de gestion des risques liés à l'IA, y compris des directives, des outils et des benchmarks pour évaluer et atténuer les risques liés à l'IA.

Le Département de la sécurité intérieure des États-Unis a créé le Conseil de la sécurité et de la sûreté de l'IA (AI Safety and Security Board) en 2024, qui comprend 22 PDG d'entreprises d'IA américaines majeures telles qu'OpenAI, Anthropic, MS, Google, Nvidia, IBM, Adobe et AWS en tant que conseillers, ce qui a attiré l'attention. Cela démontre que le gouvernement américain cherche à renforcer la sécurité et la sûreté de la technologie de l'IA en collaboration avec les géants de la technologie et en s'appuyant sur leur expertise, plutôt que de les réglementer unilatéralement.

Récemment, l'UE a adopté la loi sur l'IA, obligeant de nombreuses entreprises américaines à déclarer le contenu utilisé dans le processus d'apprentissage de l'IA, à se conformer aux mesures de prévention des risques et limitant l'utilisation des systèmes d'identification biométrique à distance en temps réel. En réponse, les géants de la technologie cherchent des moyens d'y faire face, et le gouvernement américain s'efforce également de ne pas perdre la primauté dans le domaine de la réglementation de l'IA au profit de l'Europe. Les États-Unis ont soumis à l'ONU en mai 2024 une résolution visant à promouvoir des systèmes d'IA sûrs et dignes de confiance pour le développement durable (Seizing the opportunities of safe, secure and trustworthy artificial intelligence systems for sustainable development), qui a été approuvée par 143 voix pour, 9 contre et 25 abstentions. La résolution souligne les impacts néfastes de l'utilisation inappropriée ou malveillante de l'IA sur les droits de l'homme et les risques d'aggravation des inégalités et de la discrimination dus à des données biaisées, et appelle à une coordination des normes mondiales, mais elle n'est pas contraignante. La résolution appelle spécifiquement à la coopération internationale et à un consensus mondial pour le développement et la mise en œuvre sûrs de l'IA, au partage de la coopération et de la recherche et de la technologie entre les parties prenantes, au développement de réglementations aux niveaux national et international, à l'interdiction de l'utilisation abusive dans la conception, le développement, le déploiement et l'utilisation de l'IA, et au transfert de technologie et au soutien financier pour combler le fossé numérique entre les pays développés et en développement. Les États-Unis reconnaissent fondamentalement l'autoréglementation de leurs propres géants de la technologie et mettent en œuvre des politiques pour la compléter, tout en soulevant la nécessité de normes internationales par le biais de l'ONU pour contrer l'Europe qui dirige unilatéralement les normes internationales de l'IA.

La Chine cherche également à garantir la fiabilité de l'IA et à établir un système de certification par la présentation d'une série de principes et de directives. En mai 2019, elle a publié les « Principes de Pékin sur l'IA ». Les principes présentent des principes concernant le développement, l'utilisation et la gouvernance de l'IA qui poursuivent le bien-être humain, la diversité et l'inclusion comme valeurs fondamentales. Ils proposent 7 principes pour le développement de l'IA (utilisation pour l'humanité, poursuite d'objectifs justes, responsabilité, contrôlabilité des risques, éthique et transparence, diversité et inclusion, ouverture), 3 principes pour l'utilisation de l'IA (responsabilité de l'utilisation, droits de l'homme et gestion des données, formation) et 5 principes pour la gouvernance de l'IA (optimisation de l'emploi, harmonie et coopération dans l'écosystème de l'IA, réglementation appropriée, directives granulaires, élaboration d'une stratégie à long terme). Sur la scène internationale, elle a proposé une initiative de gouvernance mondiale de l'IA lors du Forum sur la coopération internationale « La Ceinture et la Route » en 2023, appelant tous les pays à avoir des droits et des opportunités égaux dans le développement de l'IA et s'opposant au monopole technologique et aux mesures coercitives unilatérales.

La Chine met l'accent sur l'égalité des droits et des opportunités pour tous les pays afin de contrer le monopole technologique des géants de la technologie américains, tout en fournissant des lignes directrices à ses propres entreprises d'IA pour établir des normes, tout en soulignant davantage son soutien aux entreprises d'IA nationales. Après que les entreprises chinoises ont été critiquées pour leur utilisation indiscriminée de la technologie de reconnaissance faciale, elles ont publié un projet de réglementation sur la gestion de la sécurité de l'application de la technologie de reconnaissance faciale. Estimant qu'il est urgent de bloquer la génération de fausses informations, le biais et la manipulation de l'opinion publique par l'IA générative, elles ont élaboré des mesures temporaires pour la gestion des services de génération d'intelligence artificielle. On peut constater que les normes ou réglementations en matière d'IA en Chine présentent un aspect quelque peu défensif.

Le Royaume-Uni a publié la Déclaration de Bletchley (Bletchley Declaration) lors du premier Sommet sur la sécurité de l'IA (AI Safety Summit) tenu à Bletchley Park en 2023, appelant à une réponse commune aux risques potentiels de l'intelligence artificielle. L'ordre du jour principal de la réunion était de rechercher et d'élaborer un consensus sur des mesures réglementaires rapides et appropriées pour garantir une IA centrée sur l'humain, digne de confiance et responsable. 28 pays, dont la Corée du Sud (Australie, Brésil, Canada, Chili, Chine, Union européenne, France, Allemagne, Inde, Indonésie, Irlande, Israël, Italie, Japon, Kenya, Arabie saoudite, Pays-Bas, Nigeria, Philippines, Rwanda, Singapour, Suisse, Turquie, Ukraine, Émirats arabes unis, Royaume-Uni, États-Unis), ont participé et se sont engagés à coopérer conjointement en matière de sécurité de l'IA. Le Royaume-Uni s'efforce de diriger des conférences internationales sur la sécurité de l'IA auxquelles participent les États-Unis, la Chine et les pays en développement, afin de contrer le développement et la diffusion de la technologie de l'IA centrés sur les États-Unis ou la Chine et de former une solidarité internationale plus représentative et solide.

En raison de la concurrence acharnée entre les pays concernant la technologie de l'IA et de leurs positions quelque peu divergentes sur les normes, des difficultés sont attendues dans l'émergence de normes ou d'une gouvernance internationalement acceptées. Cependant, le consensus sur la nécessité d'une gouvernance mondiale de l'IA pour garantir et gérer la sécurité et la fiabilité de l'IA, et pour réglementer les géants de la technologie, s'élargit, et des discussions sont en cours sur la forme d'organisation internationale existante qui serait la plus appropriée pour le domaine de l'IA. Un rapport récent compare des exemples tels que l'Organisation de l'aviation civile internationale (OACI), le CERN et l'AIEA pour le nucléaire et l'énergie atomique, le GIEC pour le changement climatique, et la BRI, le FSB et le GAFI pour la gestion des systèmes de paiement internationaux. Autrement dit, des organisations internationales existantes telles que celles gérant le nucléaire, l'aviation civile et les systèmes de paiement internationaux, qui peuvent exercer des fonctions d'échange d'informations, de promotion de la coopération, de surveillance et de coercition, sont proposées comme candidats appropriés pour la gouvernance mondiale de l'IA.

<Figure 9> Comparaison des types de gouvernance mondiale de l'IA

Source : Microsoft. 2024.

À ce jour, un petit nombre de grandes entreprises technologiques des pays développés ont dominé le développement et l'utilisation de l'IA, suscitant des inquiétudes croissantes quant au monopole des grandes entreprises technologiques au niveau national et à l'élargissement du fossé entre les pays développés et les pays en développement au niveau international. Ces circonstances, combinées à une prise de conscience accrue des risques liés à la sécurité et à la fiabilité posés par la technologie de l'IA, ont conduit les pays à élaborer des réglementations sur la technologie de l'IA, et des discussions sur les normes mondiales de l'IA ou la gouvernance sont en cours. La vitesse du développement et de l'utilisation de la technologie de l'IA dépasse de loin ces discussions, ce qui n'atténue pas l'incertitude entourant la technologie de l'IA. La concurrence et les divergences d'opinions entre les principaux pays concernant les normes de l'IA, ainsi que la technologie de l'IA elle-même, rendent difficile d'être optimiste quant à l'orientation des normes et de la gouvernance de l'IA. Cependant, alors que l'on prévoit une accélération continue du développement de la technologie de l'IA, les questions d'éthique, de fiabilité et de sécurité deviendront encore plus aiguës, et le fossé créé par la technologie de l'IA deviendra également un défi important que la communauté internationale devra relever ensemble. La recherche sur la direction du développement de la technologie de l'IA et sa gouvernance se déroulera dans le cadre d'interactions dynamiques, notamment la concurrence acharnée entre les grandes entreprises technologiques pour prendre la tête du développement de la technologie de l'IA, les efforts du gouvernement américain pour établir des normes de sécurité et de responsabilité de l'IA dans la mesure où ils soutiennent la suprématie de leurs propres grandes entreprises technologiques, les actions des gouvernements de l'UE et du Royaume-Uni qui cherchent à diriger les efforts internationaux d'établissement de normes de l'IA tout en contenant les grandes entreprises technologiques américaines, la Chine qui réagit en établissant des directives pour la gestion de la reconnaissance faciale ou de l'IA générative tout en contenant les grandes entreprises technologiques américaines et en soutenant activement ses propres entreprises d'IA, et la position du Sud mondial qui demande une attention au fossé de l'IA tout en critiquant les efforts d'élaboration de normes et de technologie de l'IA menés par les pays développés. ■

Bibliographie

Bae, Young-ja. 2022. "COVID-19 et économie numérique : perspectives des chaînes de valeur mondiales et du développement des pays en développement." EAI Working Paper. 9 février. https://www.eai.or.kr/...kor_workingpaper.

Birhane, Abeba. 2020. "Algorithmic Colonization of Africa." SCRIPTed 17, 2: 389. https://script-ed.org/?p=3888.

Draux, Hélène. 2024. "Research on Artificial Intelligence – the Global Divides." Digital Science, 4 janvier. https://www.digital-science.com/...divides/.

Huw, Roberts, Emmie Hine, Mariarosaria Taddeo, et Luciano Floridi. 2024. "Global AI Governance: Barriers and Pathways Forward." International Affairs 100, 3: 1275-1286. https://doi.org/10.1093/ia/iiae073.

Kemp, Simon. 2024. "Internet Use in 2024." Datareportal, 31 janvier. https://datareportal.com/...adoption

Khanal, Shaleen, Hongzhou Zhang et Araz Taeihagh. 2024. "Why and How Is the Power of Big Tech Increasing in the Policy Process? The Case of Generative AI." Policy and Society, puae012. https://doi.org/10.1093/polsoc/puae012.

Smith, Brad et Natasha Crampton. 2024. "Global Governance: Goals and Lessons for AI." Microsoft, 17 mai. https://blogs.microsoft.com/...ai/.

Stanford Human-Centered Artificial Intelligence (HAI). 2024. “Artificial Intelligence Index Report 2024.” https://aiindex.stanford.edu/...Report.pdf.

Maslej, Nestor, Loredana Fattorini, Raymond Perrault, Vanessa Parli, Anka Reuel, Erik Brynjolfsson, John Etchemendy, Katrina Ligett, Terah Lyons, James Manyika, Juan Carlos Niebles, Yoav Shoham, Russell Wald et Jack Clark. 2024. "The AI Index 2024 Annual Report." AI Index Steering Committee, Institute for Human-Centered AI, Stanford University, avril. https://aiindex.stanford.edu/report/.

Okolo, Chinasa. 2023. "AI in the Global South: Opportunities and Challenges Towards More Inclusive Governance." Brookings, 1er novembre. https://www.brookings.edu/...governance/.

CNUCED (Conférence des Nations Unies sur le commerce et le développement). 2023. « Rapport sur la technologie et l'innovation 2023 ». https://unctad.org/tir2023.

_________. 2020. « Rapport sur l'investissement dans le monde 2020 ». https://unctad.org/...2020.

Banque mondiale. 2020. « Rapport sur le développement dans le monde 2020 : Le commerce au service du développement à l'ère des chaînes de valeur mondiales ». https://www.worldbank.org/...wdr2020.

■ Bae Young-ja, Professeure de Relations Internationales à l'Université Konkuk.

■ Responsable et éditeur :Park Ji-soo, Chercheuse à l'EAI

    Contact et édition : 02 2277 1683 (ext. 208) | jspark@eai.or.kr