[Travaux conjoints Corée-Japon sur le Monde 2050] ⑦ Lignes directrices sur la sécurité et l'éthique pour la coopération en matière d'IA entre la Corée du Sud et le Japon

I. L'évolution rapide de l'IA et l'importance de relever les défis éthiques

Ces dernières années, l'évolution rapide de l'intelligence artificielle (IA) a transformé un large éventail de domaines sociétaux, de l'industrie à notre vie quotidienne. L'IA peut être considérée comme l'une des technologies les plus influentes sur la société humaine depuis la popularisation d'Internet dans les années 1990. En particulier, l'avènement de l'IA générative pourrait affecter de manière significative les processus de pensée humaine et les environnements de travail. Lorsque OpenAI a lancé ChatGPT le 30 novembre 2022, l'IA générative est devenue accessible au public. ChatGPT a atteint un million d'utilisateurs en une semaine (Altman 2022), et en deux mois, on estimait qu'il avait dépassé cent millions d'utilisateurs (Hu 2023).

ChatGPT présente une interface conversationnelle qui ressemble à une interaction humaine. Techniquement, il est construit en combinant un grand modèle linguistique (LLM) et l'apprentissage par renforcement à partir des retours humains. La technologie qui permet la génération de texte avancée de ChatGPT s'appelle le « Transformer », un système composé du mécanisme d'attention et de perceptrons multicouches (MLP). Introduit en 2017 par Ashish Vaswani et ses collègues chez Google dans « Attention is All You Need », le mécanisme d'attention extrait les informations nécessaires d'une série de mots, tandis que le MLP récupère le contenu pertinent appris à partir de données à grande échelle pendant le traitement. En prédisant itérativement le mot suivant le plus probable, les Transformers génèrent un texte cohérent.

Les LLM tels que ChatGPT sont de plus en plus intégrés dans notre vie quotidienne. LINE Yahoo, une entreprise Internet japonaise, est financée par une société holding conjointe de SoftBank du Japon et de NAVER de Corée du Sud, bien connue au Japon. NAVER a développé et exploite HyperCLOVA X, un LLM conçu pour comprendre la langue coréenne dans son contexte social. NAVER rapporte qu'HyperCLOVA X utilise 6 500 fois plus de données en langue coréenne que GPT-4 d'OpenAI, ce qui lui permet de refléter la culture, les normes sociales et les valeurs coréennes. HyperCLOVA X peut générer des réponses qui résonnent auprès des utilisateurs coréens, reflétant les normes sociales dans les sorties du modèle linguistique. Bien qu'HyperCLOVA X gère également l'anglais, le japonais et le chinois, son objectif principal sur des données coréennes de haute qualité garantit que les valeurs socioculturelles de la Corée sont intégrées dans son système. Comme l'illustre HyperCLOVA X, les LLM entraînés sur de vastes ensembles de données linguistiques ont tendance à refléter les connaissances et les valeurs contenues dans ces langues, y compris les normes éthiques des sociétés où ces langues sont utilisées.

Un défi courant avec les LLM est que leur contenu généré peut contenir des inexactitudes ou faire référence à des entités inexistantes, un phénomène connu sous le nom d'« hallucination ». Parce que les LLM prédisent le mot suivant le plus statistiquement probable, ils peuvent générer des combinaisons qui n'existent pas. Des erreurs peuvent également survenir si les données utilisées pour l'entraînement contiennent des inexactitudes. L'IA étant développée à l'aide de tels processus d'apprentissage, un certain degré d'erreur devient inévitable. Par conséquent, des interventions politiques mondiales sont nécessaires pour traiter les problèmes sociaux potentiels causés par l'IA.

Avant l'ère de l'IA générative, l'IA était utilisée pour des fonctions telles que la reconnaissance faciale et l'analyse des préférences des utilisateurs dans des applications vidéo comme YouTube ou TikTok afin de maximiser le temps de visionnage. L'IA est maintenant si omniprésente dans les logiciels quotidiens que nous avons atteint un point où nous ne pouvons pas toujours discerner si notre interlocuteur est humain ou IA. À mesure que l'IA progresse, il devient de plus en plus essentiel de la développer dans le respect des valeurs humaines, de la vie privée et de l'équité afin d'éviter les impacts négatifs sur la société humaine. Toutes les nations devraient coopérer pour résoudre les problèmes éthiques entourant l'IA. Cet article discutera des débats récents sur l'éthique de l'IA au Japon et examinera les possibilités de collaboration entre la Corée du Sud et le Japon dans le domaine de l'éthique de l'IA.

II. Risques de l'IA et développement des lignes directrices japonaises sur l'IA

Pour exploiter le potentiel de l'IA tout en atténuant ses risques, il est essentiel d'établir des lignes directrices qui garantissent une utilisation sûre et éthique des technologies d'IA. Ces lignes directrices fournissent des cadres aux développeurs, aux entreprises et aux décideurs politiques, promouvant la responsabilité, la transparence et la confiance du public. Au Japon, les lignes directrices sur l'IA jouent un rôle crucial pour garantir que l'IA s'aligne sur les valeurs et les priorités sociétales.

En avril 2024, le gouvernement japonais a publié les « Lignes directrices pour les opérateurs commerciaux d'IA (METI 2024) », qui comprennent six annexes détaillées conçues pour traduire les orientations principales en mesures pratiques. Ces lignes directrices servent de référence complète pour les différentes parties prenantes qui mettent en œuvre des initiatives liées à l'IA. Le gouvernement se considère comme ayant joué un rôle de premier plan dans les discussions mondiales sur les principes de l'IA – au sein du G7, du G20, de l'OCDE et d'autres forums internationaux – et estime que l'établissement de ces lignes directrices permet au Japon de promouvoir l'identification correcte des risques de l'IA, guidé par les tendances internationales et les préoccupations des parties prenantes. L'objectif ultime est de faciliter des mesures volontaires et pratiques dans la vie quotidienne.

Les Lignes directrices japonaises pour les opérateurs commerciaux d'IA intègrent et s'appuient sur les « Principes d'une société de l'IA centrée sur l'humain (2019) », les « Lignes directrices pour le développement de l'IA (2017) », les « Lignes directrices pour l'utilisation de l'IA (2019) » et les « Lignes directrices de gouvernance pour la mise en œuvre des principes de l'IA (2022) ». Les « Principes d'une société de l'IA centrée sur l'humain (2019) », formulés par le Conseil pour la stratégie d'innovation intégrée du gouvernement, visent à utiliser l'IA pour relever les défis mondiaux tels que les problèmes environnementaux, l'aggravation des inégalités et l'épuisement des ressources – une approche appelée « Société 5.0 ». Dans le Cinquième Plan de base pour la science et la technologie, la Société 5.0 est décrite comme une « société centrée sur l'humain qui équilibre le progrès économique avec la résolution des problèmes sociaux grâce à un système hautement intégré d'espace cybernétique et d'espace physique ». Ici, le gouvernement souligne l'harmonisation du développement économique avec la résolution des défis sociétaux.

Les idées centrales des Principes d'une société de l'IA centrée sur l'humain comprennent :

1. Respect de la dignité humaine – l'IA doit augmenter et améliorer les capacités humaines.

2. Diversité et inclusivité – permettre à des individus divers de poursuivre leurs propres formes de bonheur.

3. Durabilité – exploiter l'IA pour résoudre des problèmes tels que l'inégalité et la dégradation de l'environnement.

Sur la base de ces idées, les Principes exposent sept lignes directrices : (1) Principe centré sur l'humain, (2) Principe d'éducation et de littératie, (3) Principe de protection de la vie privée, (4) Principe de sécurité, (5) Principe de concurrence loyale, (6) Principe d'équité, de responsabilité et de transparence, et (7) Principe d'innovation. Le gouvernement japonais déclare que ces lignes directrices seront mises à jour périodiquement pour refléter les changements dans les tendances internationales et les nouvelles technologies.

Les Lignes directrices pour les opérateurs commerciaux d'IA mettent l'accent sur trois concepts clés :

1. Soutien aux efforts volontaires des entreprises,

2. Coordination avec les discussions internationales,

3. Clarté pour les lecteurs.

Elles visent à assurer l'efficacité et la légitimité par un examen répété par plusieurs parties prenantes – y compris les établissements d'enseignement et de recherche, la société civile et les entreprises privées – et fonctionnent comme un document évolutif qui continuera de se développer. Le gouvernement japonais recherche la cohérence entre la vision de la Société 5.0 et les principes de l'IA centrée sur l'humain, motivé en partie par les défis démographiques du Japon tels qu'un vieillissement rapide de la population et des pénuries de main-d'œuvre.

En 2023 et 2024, le gouvernement japonais a accéléré sa politique en matière d'IA. Un « Conseil de stratégie de l'IA », présidé par le professeur Yutaka Matsuo de l'Université de Tokyo, dirige les discussions gouvernementales. Le conseil a fixé un budget de 164,09 milliards de yens (une augmentation de 44 % par rapport à l'exercice précédent) pour les initiatives d'IA et a décidé de subventionner un tiers à la moitié des coûts des grandes entreprises pour étendre l'infrastructure des GPU (unités de traitement graphique) – une ressource critique pour l'IA. En 2023, le conseil a compilé les « Points de discussion intérimaires sur l'IA », axés sur les développements récents de l'IA générative. Ce rapport note l'affinité de longue date du Japon pour la technologie et l'IA, suggérant que malgré une stagnation économique prolongée, l'avènement de l'IA pourrait fournir un nouvel élan à la croissance. Le rapport identifie également sept risques principaux :

1. Fuite d'informations confidentielles et utilisation abusive de données personnelles : l'IA générative peut collecter des données d'interaction des utilisateurs et les utiliser pour de la publicité ciblée. De plus, lors de l'entraînement sur des données Internet, les systèmes d'IA risquent de collecter des informations personnelles de manière inappropriée.

2. Augmentation de la facilité et de la sophistication de la criminalité : l'IA générative peut faciliter les activités illégales, telles que la création de voix ou d'images réalistes de deepfake à faible coût, permettant potentiellement la fraude ou la production de drogues. Bien que le Code pénal et les lois anti-piratage du Japon puissent couvrir certains cas, les nouvelles infractions nécessitent de nouvelles mesures juridiques.

3. Perturbation sociale par la désinformation : l'IA générative peut produire et diffuser facilement de fausses nouvelles ou des informations biaisées, provoquant des troubles publics ou une interférence dans les processus démocratiques. Des outils pour détecter la désinformation et en limiter la propagation sont nécessaires.

4. Cyberattaques plus sophistiquées : les cyberattaques assistées par l'IA peuvent devenir plus avancées. L'IA générative peut aider à rédiger des courriels qui échappent à la détection, à usurper l'identité d'humains, voire à cibler les systèmes d'IA eux-mêmes.

5. Impacts sur l'éducation : l'utilisation de l'IA pour faire les devoirs ou rédiger des rapports peut nuire à la créativité des élèves. Pourtant, l'apprentissage personnalisé basé sur l'IA pourrait améliorer les résultats éducatifs. Le ministère de l'Éducation doit de toute urgence établir des lignes directrices et renforcer la littératie en matière d'IA.

6. Violations du droit d'auteur : le contenu généré par l'IA peut ressembler étroitement à des œuvres existantes, soulevant le potentiel d'une augmentation des violations du droit d'auteur. Le gouvernement devrait promouvoir la sensibilisation au droit d'auteur actuel et envisager une réglementation supplémentaire des sorties générées par l'IA.

7. Risque croissant de chômage : la capacité de l'IA générative à automatiser les tâches créatives, telles que la rédaction et la création d'images, pourrait entraîner des pertes d'emplois. Le gouvernement devrait étudier l'impact de l'IA sur l'emploi et promouvoir la requalification et la mobilité de la main-d'œuvre.

III. Stratégie nationale d'IA de la Corée du Sud

En 2019, le gouvernement sud-coréen a publié sa Stratégie nationale en matière d'IA, dans laquelle Choi Ki-yong, ministre des Sciences et des TIC, a souligné la réalisation d'une « IA centrée sur l'humain ». En 2020, le ministère des Sciences et des TIC et le Korea Information Society Development Institute ont introduit le « Cadre éthique national de l'IA », qui établit des normes de base et complètes que tous les membres de la société doivent observer lors du développement et du déploiement de l'IA (Korean Institute of Science and Design Information n.d.).

La valeur la plus élevée du Cadre est l'humanité, et sous trois principes fondamentaux – (1) Dignité humaine, (2) Bien public, et (3) Adéquation technologique – se trouvent dix exigences clés qui couvrent le cycle de vie de l'IA : (1) Garantie des droits de l'homme, (2) Protection de la vie privée, (3) Respect de la diversité, (4) Non-malfaisance, (5) Publicité, (6) Solidarité, (7) Gouvernance des données, (8) Responsabilité, (9) Sécurité et (10) Transparence.

En 2020, la Corée du Sud a également publié une Feuille de route IA contenant trente priorités, y compris des normes pour l'IA à haut risque. Notamment, une disposition discute de la possibilité d'accorder la personnalité juridique à l'IA. Le gouvernement a activement orienté le développement de l'écosystème de l'IA, le président Yoon Suk-yeol déclarant en avril 2024 que la Corée du Sud vise à devenir l'une des trois premières nations en matière d'IA. Étant donné que la Stratégie nationale d'IA de la Corée met l'accent sur l'« IA centrée sur l'humain », la direction fondamentale de l'éthique de l'IA coréenne ne diffère pas sensiblement de celle du Japon, suggérant qu'ils partagent un terrain d'entente suffisant pour la collaboration.

IV. Le rôle des approches basées sur les risques et le « Processus d'Hiroshima sur l'IA »

Les Lignes directrices japonaises pour les opérateurs commerciaux d'IA adoptent une approche basée sur les risques, qui consiste à identifier les préjudices sociétaux potentiels – tels que la discrimination ou la désinformation – dès le début et à évaluer leur gravité et leur probabilité. Des mesures sont ensuite prises en fonction du niveau de risque, avec une gestion continue des risques tout au long du cycle de vie de l'IA. Plusieurs parties prenantes participent à ce processus, et la transparence est soulignée. En adaptant les réglementations à différents niveaux de risque, les gouvernements visent à éviter d'entraver l'innovation par des lois trop restrictives, tout en maximisant les avantages sociaux de l'IA. Cette approche est largement acceptée au niveau international, y compris par l'OCDE et le G7, facilitant un consensus mondial.

Un effort diplomatique essentiel pour faire progresser la coopération internationale sur la sécurité et l'éthique de l'IA a été le « Processus d'Hiroshima sur l'IA (2023) » du Japon. Mené l'année précédant la finalisation par le Japon de ses Lignes directrices pour les opérateurs commerciaux d'IA, le Processus d'Hiroshima a été une étape clé vers l'établissement de lignes directrices internationales. Lors de la Réunion des ministres du numérique et des technologies du G7 d'avril 2023 (Réunion des ministres du numérique et des technologies du G7 2023), les participants ont adopté une déclaration ministérielle soulignant la « Gouvernance et l'IA responsables ». Ils ont réaffirmé que « les politiques et réglementations en matière d'IA devraient être centrées sur l'humain, respecter les droits de l'homme et les libertés fondamentales (y compris la protection de la vie privée et des données personnelles) conformément aux valeurs démocratiques, et être basées sur les risques et prospectives ».

En septembre 2023, la Déclaration des ministres du numérique et des technologies du G7 a en outre reconnu la nécessité de relever les risques posés par les progrès rapides de l'IA tout en exploitant leurs avantages. La Déclaration des dirigeants du G7 d'octobre 2023 sur le Processus d'Hiroshima sur l'IA (Ministère des Affaires étrangères du Japon 2023) souligne également les « opportunités innovantes » et le « potentiel de transformation » des systèmes d'IA de pointe, démontrant l'attention mondiale portée à l'IA générative à cette époque.

Le document publié dans le cadre du Processus d'Hiroshima sur l'IA, intitulé « Principes directeurs internationaux du Processus d'Hiroshima pour les organisations développant des systèmes d'IA avancés », (Gouvernement japonais 2023) commence par noter son objectif de promouvoir une IA sûre, sécurisée et digne de confiance dans le monde entier. Il souligne que « les organisations ne devraient pas développer ou déployer de systèmes d'IA avancés d'une manière qui sape les valeurs démocratiques, qui est particulièrement préjudiciable aux individus ou aux communautés, qui facilite le terrorisme, qui permet une utilisation criminelle, ou qui pose des risques substantiels pour la sécurité, la sûreté et les droits de l'homme ».

Le Processus d'Hiroshima sur l'IA met en évidence les valeurs démocratiques, les pratiques éthiques de l'IA, la gestion des risques et la coopération internationale. Cette initiative a contribué de manière significative en publiant un cadre directeur pour aborder l'évolution mondiale de l'IA. Une telle emphase sur les valeurs démocratiques pourrait servir de base à la coopération Japon-Corée du Sud en matière d'éthique de l'IA.

V. L'évolution de la politique de l'IA au Japon

L'environnement de développement de l'IA au Japon diffère de celui des grandes entreprises technologiques de style américain ou des entreprises privées réglementées par l'État en Chine. La « Stratégie technologique d'intelligence artificielle », (Cabinet Office, Gouvernement du Japon 2017) publiée par le gouvernement japonais en mars 2017, a noté que le Japon est à la traîne par rapport aux États-Unis et à la Chine en matière de publications académiques liées à l'IA, et a accordé la priorité à la création d'environnements de recherche et développement solides impliquant les secteurs gouvernemental et privé, ainsi qu'à la résolution de la pénurie urgente de talents en IA au Japon. La stratégie a classé le développement de l'IA en trois phases :

Phase 1 : Promotion de l'utilisation de l'IA basée sur les données dans des domaines spécifiques.

Phase 2 : Avancement de l'utilisation plus large des données et de l'IA au-delà des frontières des domaines individuels.

Phase 3 : Liaison de multiples domaines de manière complexe pour former un écosystème d'IA.

Elle a également esquissé trois approches principales pour cultiver les talents en IA :

1. Conception et mise en œuvre de programmes éducatifs pour former du personnel immédiatement déployable.

2. Encouragement de la recherche conjointe et des collaborations de développement de la main-d'œuvre entre les universités et l'industrie.

3. Renforcement des programmes grâce aux initiatives des institutions gouvernementales et de recherche.

Le Japon ne s'appuie pas principalement sur un écosystème de start-up de style américain alimenté par des investissements massifs en capital-risque. Au lieu de cela, son approche implique une collaboration étroite entre les universités, l'industrie et le gouvernement pour la recherche, le développement et la commercialisation de l'IA. En mai 2015, l'Institut national des sciences industrielles avancées et de la technologie (AIST) a créé le « Centre de recherche en intelligence artificielle ». Le professeur Junichi Tsujii, un expert de premier plan en traitement du langage naturel et en exploration de textes, a été nommé directeur fondateur. Tsujii a noté que, l'IA imprégnant tous les secteurs industriels, l'incapacité à suivre mettrait en péril des industries entières.

L'agenda de développement de l'IA du Japon reflète fortement les conditions sociales nationales. Selon la « Stratégie technologique d'intelligence artificielle », le Japon est en voie de connaître la première vague majeure de vieillissement rapide de sa population au monde. Tirer parti de l'IA pour transformer d'immenses données médicales et de soins en un « système de santé et de soins avancés de premier plan mondial » est un objectif majeur. D'ici 2030, plus de 40 % de la population japonaise sera âgée, et le gouvernement envisage une société où les gens resteront activement employés même à 80 ans. Ainsi, l'IA devrait résoudre des problèmes sociaux tels que le vieillissement de la population et les pénuries de main-d'œuvre. Les mêmes objectifs apparaissent dans les « Principes d'une société de l'IA centrée sur l'humain (2019) » du gouvernement, qui visent à utiliser l'IA pour résoudre les crises environnementales, les inégalités et l'épuisement des ressources. L'accent mis par le Japon sur la « centralité humaine » sous-tend ainsi son éthique de l'IA. Bien que les préoccupations de la Corée du Sud diffèrent dans une certaine mesure – par exemple, l'IA est liée aux capacités militaires en raison de défis démographiques – la Corée du Sud et le Japon partagent des préoccupations démographiques urgentes.

VI. Lignes directrices commerciales sur l'IA et normes éthiques pour le développement de l'IA

Anticipant les applications commerciales généralisées de l'IA, la Japanese Society for Artificial Intelligence (JSAI) a discuté de la formation d'un comité d'éthique dès 2014. À cette époque, Hitoshi Matsubara, alors président de la JSAI et professeur à la Future University Hakodate, a demandé à Yutaka Matsuo de l'Université de Tokyo d'envisager la création d'un tel comité. La première réunion du Comité d'éthique de la JSAI s'est tenue à l'Université de Tokyo en décembre 2014 (Japanese Society for Artificial Intelligence, Ethics Committee 2015).

Initialement, la JSAI a débattu s'il fallait l'appeler « Comité d'éthique » ou « Comité sur l'IA et la société future ». En fait, un Comité d'éthique de la JSAI existait depuis 2007 mais était devenu inactif. Sa réorganisation en 2014 a attiré une attention médiatique considérable. Notamment, le Comité d'éthique comprenait le romancier de science-fiction Satoshi Hase, illustrant l'approche large de la JSAI face aux défis futurs. En 2017, le Comité d'éthique a publié les « Lignes directrices éthiques de la Japanese Society for Artificial Intelligence » (Japanese Society for Artificial Intelligence 2017). Ces lignes directrices se concentrent sur l'éthique professionnelle des chercheurs, mais l'article 9 stipule que si l'IA « doit devenir un membre de la société ou son équivalent, elle doit adhérer aux mêmes lignes directrices éthiques que les membres de la JSAI », étendant ainsi les obligations éthiques aux artefacts d'IA eux-mêmes.

Une décennie plus tard, en 2024, le ministère des Affaires intérieures et des Communications et le ministère de l'Économie, du Commerce et de l'Industrie du Japon ont publié les « Lignes directrices pour les opérateurs commerciaux d'IA », fondées sur le principe gouvernemental de 2019 d'une « Société de l'IA centrée sur l'humain ». Également en 2019, le ministère des Affaires intérieures et des Communications (MIC) a publié les « Lignes directrices pour l'utilisation de l'IA » (Ministry of Internal Affairs and Communications 2019). Ce document note qu'en 2016, lors de la réunion des ministres des TIC du G7 (organisée par le Japon), le gouvernement japonais a proposé un projet initial de principes de développement de l'IA, et en 2018, les représentants du Japon ont présenté ses « Principes d'une société de l'IA centrée sur l'humain », son « Projet de lignes directrices pour le développement de l'IA » et son « Projet de lignes directrices pour l'utilisation de l'IA » au Groupe d'experts sur l'IA de l'OCDE. Le Japon soutient que la Recommandation de l'OCDE sur l'intelligence artificielle de 2019 s'aligne sur les principes et les lignes directrices japonais.

Les initiatives du secteur privé japonais en matière d'éthique de l'IA se sont accélérées depuis lors. En 2018, Sony Group a annoncé ses « Lignes directrices éthiques de Sony Group en matière d'IA » (Sony Group 2023), applicables à tous les dirigeants et employés impliqués dans le développement et l'utilisation de l'IA. En 2019, NEC Group a établi sa « Politique sur l'IA et les droits de l'homme » (NEC Group 2019). En 2021, Hitachi a formulé ses « Principes éthiques de l'IA », reflétant à la fois les discussions de l'OCDE et l'éthos de son activité d'innovation sociale.

En résumé, les cercles universitaires, les organismes gouvernementaux et les entreprises privées du Japon ont adopté une approche basée sur les risques, identifiant les domaines à haut risque et s'y concentrant. En ce qui concerne la réglementation, le Japon ne dispose pas d'une loi complète sur l'IA ; il s'appuie sur des lignes directrices émises par le gouvernement et des codes de conduite du secteur privé. Le Japon s'est jusqu'à présent abstenu d'adopter une législation spécifiquement destinée à l'IA, optant plutôt pour une approche de droit souple. Cependant, cette stratégie a légèrement évolué. S'appuyant sur les principes « d'équilibre entre la gestion des risques et la promotion de l'innovation » et de « coopération internationale », le gouvernement devrait soumettre un projet de loi en janvier 2025 qui permettra des enquêtes sur les opérateurs d'IA. Une approche de droit souple par opposition au « droit contraignant » plus strict de l'UE. L'UE, qui devrait appliquer son AI Act vers 2026, cherche à protéger les droits et libertés de l'homme en réglementant les données d'entraînement et en classant l'IA en quatre groupes – inacceptable, à haut risque, nécessitant de la transparence, et à risque minimal ou nul. Les systèmes à haut risque et nécessitant de la transparence sont soumis à des obligations contraignantes. Pendant ce temps, aux États-Unis, la Maison Blanche a publié un « Ordre exécutif sur le développement et l'utilisation sûrs, sécurisés et dignes de confiance de l'intelligence artificielle », appelant à des normes, des exigences de test, des mesures contre la discrimination algorithmique et la protection de la vie privée, tout en visant à favoriser l'innovation et la compétitivité.

En novembre 2024, la Commission des sciences, des TIC, de la radiodiffusion et des communications de Corée du Sud a approuvé la « Loi sur la promotion de l'industrie de l'intelligence artificielle et l'assurance de la confiance » pour débat parlementaire. Cette législation exigerait que les œuvres générées par l'IA soient étiquetées comme telles et imposerait des amendes allant jusqu'à 30 millions de won en cas de non-conformité. L'approche de la Corée du Sud semble plus alignée sur le droit contraignant de l'UE, imposant potentiellement des normes de sécurité strictes pour les systèmes d'IA. Cependant, en raison d'une déclaration de loi martiale en décembre 2024 et de la crise de destitution du président, le sort du projet de loi est incertain.

VII. L'avenir de la coopération entre la Corée du Sud et le Japon sur l'éthique de l'IA

En tant que deux nations démocratiques, la Corée du Sud et le Japon partagent des valeurs communes, notamment les concepts de « centré sur l’humain », de « diversité » et de « durabilité » au cœur de leurs principes éthiques en matière d’IA. La Corée du Sud clarifie ses engagements envers les droits de l’homme et le bien public par le biais de sa Stratégie Nationale pour l’IA et du « Cadre National d’Éthique de l’IA », tandis que le Japon fonde son approche sur les « Principes d’une Société de l’IA Centrée sur l’Humain » et les « Lignes directrices pour les opérateurs commerciaux d’IA », en employant une approche basée sur les risques, ancrée dans le consensus international. Les deux pays devraient participer activement aux discussions mondiales, par le biais de plateformes telles que le Processus d’Hiroshima sur l’IA, le G7 et l’OCDE, afin d’influencer et de s’aligner sur les normes internationales émergentes. En décembre 2024, le G7 est parvenu à un accord sur les aspects fondamentaux d’un cadre exigeant des développeurs d’IA qu’ils signalent les risques. La mise en œuvre de ce cadre est également prévue pour février 2025.

Sur la scène mondiale, la guerre en Ukraine et d’autres conflits ont inauguré l’utilisation de drones et d’autres nouvelles armes, suscitant des inquiétudes quant au rôle de l’IA dans la guerre moderne. Depuis un certain temps, la communauté internationale débat des risques liés aux systèmes d’armes létales autonomes (SALA), qui délèguent la prise de décision à l’IA. La Corée du Sud, confrontée à des tensions avec la Corée du Nord, a déployé des robots de surveillance le long de la Zone Démilitarisée (DMZ). Alors que son industrie de la défense prospère, la Corée du Sud fournit des armements, en particulier en Europe, qui se méfie de la frontière russe, et pourrait continuer à se développer dans ce domaine. En revanche, de nombreuses entreprises privées japonaises se sont retirées du secteur de la défense. Par conséquent, la Corée du Sud possède une expérience et une expertise plus concrètes en matière d’IA liée aux armes, ce qui lui permet de contribuer de manière significative au discours international sur l’éthique des systèmes d’armes équipés d’IA.

En février 2024, le Japon a créé l’Institut de la sécurité de l’IA, nommant Akiko Murakami comme directrice exécutive. Cet institut évalue les méthodes de sécurité de l’IA, établit des normes et facilite la coopération internationale du Japon. Le rapport 2024 du Conseil pour la stratégie d’innovation intégrée mentionne trois domaines clés à renforcer : (1) Stratégies intégrées pour les technologies critiques, (2) Collaboration mondiale, et (3) Amélioration de la compétitivité de l’IA tout en assurant la sécurité. Spécifiquement, le Japon vise à prendre la tête de la réglementation internationale de l’IA. Pour ce faire, le gouvernement prévoit de tirer parti stratégiquement des cadres bilatéraux et multilatéraux avec les alliés et les nations partageant les mêmes idées, ainsi qu’avec les partenaires de l’ASEAN, en coordination avec l’industrie et le monde universitaire. Du point de vue sud-coréen, ces efforts suggèrent des pistes de coopération plus approfondie avec le Japon.

En tant que pays voisins aux industries étroitement liées, la Corée du Sud et le Japon possèdent des atouts complémentaires dans les contextes technologiques et sociaux. Avec l’essor mondial de l’IA générative, la manière dont chaque pays intègre sa langue et ses normes socioculturelles dans les modèles d’IA deviendra une question clé, soulignant l’importance de la « souveraineté de l’IA ». Se distinguant des géants de l’IA que sont les États-Unis et la Chine, la Corée du Sud et le Japon peuvent collaborer pour souligner l’importance de la souveraineté nationale en matière d’IA, reflétant des normes socioculturelles distinctes et des préoccupations démographiques communes, notamment les faibles taux de natalité et le vieillissement de la population.

Les efforts conjoints entre la Corée du Sud et le Japon en matière d’éthique de l’IA pourraient aboutir à un écosystème collaboratif. Les pistes potentielles comprennent le perfectionnement des directives mutuelles et des normes techniques, le partage de données, la réalisation de recherches et développements conjoints, et le renforcement de la coordination dans les forums multilatéraux pour façonner les règles de gouvernance de l’IA. Une telle coopération accélérerait la réalisation d’une société axée sur l’IA, caractérisée par la « fiabilité », la « transparence » et la « responsabilité », renforçant ainsi la position de leadership des deux pays dans le discours international. Leurs valeurs démocratiques communes, l’accent mis sur les principes éthiques, les applications pratiques pour résoudre les défis sociaux et leur engagement actif dans l’établissement de normes internationales constituent une base solide pour une « société de l’IA centrée sur l’humain ». En travaillant ensemble, la Corée du Sud et le Japon peuvent présenter un modèle avancé d’éthique de l’IA à la communauté mondiale et ainsi contribuer à façonner un ordre international plus équitable. ■

Références

Altman, Sam. 2022. « ChatGPT Launched on Wednesday. Today It Crossed 1 Million Users! » X, 5 décembre. https://x.com/sama/status/1599668808285028353 (Consulté le 22 décembre 2024).

Cabinet Office, Government of Japan. 2017. Artificial Intelligence Technology Strategy 2017. https://www.ai-japan.go.jp/menu/learn/ai-strategy-1/75ddfd6ab65e8bcd6fe80e4676d902967c53ca4d.pdf (Consulté le 22 décembre 2024).

G7 Digital and Technology Ministers’ Meeting. 2023. Ministerial Declaration. 30 avril. Consulté le 22 décembre 2024. https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/efdaf817-4962-442d-8b5d-9fa1215cb56a/5c1391d9/20230519_news_g7_results_japanese_00.pdf.

Hu, Krystal. 2023. « ChatGPT Sets Record for Fastest-Growing User Base - Analyst Note. » Reuters, 1er février. https://www.reuters.com/technology/chatgpt-sets-record-fastest-growing-user-base-analyst-note-2023-02-01/. (Consulté le 22 décembre 2024).

Japanese Government. 2023. Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI Systems. https://wwwwww.cao.go.jp/cstp/ai/ai_senryaku/6kai/kokusaishishin.pdf. (Consulté le 22 décembre 2024).

Japanese Society for Artificial Intelligence, Ethics Committee. 2015. Objectif de la création du Comité d'éthique de la Société japonaise d'intelligence artificielle. https://www.ai-gakkai.or.jp/ai-elsi/about/purpose. (Consulté le 22 décembre 2024).

Japanese Society for Artificial Intelligence. 2017. Ethical Guidelines. https://www.ai-gakkai.or.jp/ai-elsi/wp-content/uploads/sites/19/2017/02/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E5%AD%A6%E4%BC%9A%E5%80%AB%E7%90%86%E6%8C%87%E9%87%9D.pdf. (Consulté le 22 décembre 2024).

Korean Institute of Science and Design Information (KISDI). n.d. Artificial Intelligence Standards (En coréen). https://ai.kisdi.re.kr/aieth/main/contents.do?menuNo=400029. (Consulté le 22 décembre 2024).

Ministry of Economy, Trade and Industry (METI). 2024. « AI Business Operators’ Guidelines (Version 1.0) (En japonais). » 19 avril. https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240419_3.pdf. (Consulté le 22 décembre 2024).

Ministry of Foreign Affairs of Japan. 2023. G7 Hiroshima Summit Outcome Documents (En japonais). https://www.mofa.go.jp/mofaj/files/100573465.pdf. (Consulté le 22 décembre 2024).

Ministry of Internal Affairs and Communications. 2019. AI Utilization Guidelines (En japonais). https://www.soumu.go.jp/main_content/000624438.pdf. (Consulté le 22 décembre 2024).

NEC Group. 2019. AI and Human Rights Policy (En japonais). https://jpn.nec.com/press/201904/images/0201-01-01.pdf. (Consulté le 22 décembre 2024).

Sony Group. 2023. AI Ethics Activities (En japonais). https://www8.cao.go.jp/cstp/ai/ningen/r5_1kai/siryo1.pdf. (Consulté le 22 décembre 2024).

■ Makoto Shiono est responsable du groupe Technologies émergentes et directeur de la gestion à l'Institut de géoéconomie, Maison internationale du Japon.

■ Composition typographique par Chaerin Kim, assistante de recherche

    Pour toute demande : 02 2277 1683 (poste 208) | crkim@eai.or.kr