【韩日联合研究：2050世界展望】⑦ 韩日人工智能合作的安全与伦理指南

一、人工智能的快速发展与伦理挑战应对的重要性

近年来，人工智能（AI）的飞速发展已深刻改变了从产业到日常生活的广泛社会领域。自20世纪90年代互联网普及以来，AI可以说是对人类社会影响最深远的技术之一。特别是生成式AI的出现，可能对人类思维过程和劳动环境产生重大影响。当OpenAI于2022年11月30日发布ChatGPT时，生成式AI开始面向公众开放。ChatGPT在一周内吸引了100万用户（Altman 2022），并在两个月内估计用户数量超过1亿（Hu 2023）。

ChatGPT具有类似人际互动的对话界面。从技术上讲，它是通过结合大型语言模型（LLM）和人类反馈强化学习（RLHF）构建的。实现ChatGPT先进文本生成的技术被称为“Transformer”，这是一个由注意力机制（Attention Mechanism）和多层感知器（MLP）组成的系统。Transformer由Google的Ashish Vaswani及其同事于2017年在“Attention is All You Need”一文中提出，其注意力机制从一系列词语中提取必要信息，而MLP在处理过程中从大规模数据中检索相关学习内容。通过迭代预测最可能的下一个词，Transformer能够生成连贯的文本。

像ChatGPT这样的大型语言模型正日益融入我们的日常生活。日本的互联网公司LINE Yahoo由日本软银（SoftBank）和韩国的NAVER（在日本广为人知）的联合控股公司出资成立。NAVER开发并运营着HyperCLOVA X，这是一个旨在理解韩国语社会语境的大型语言模型。NAVER报告称，HyperCLOVA X使用的韩语数据量是OpenAI的GPT-4的6500倍，因此它能够高度反映韩国的文化、社会规范和价值观。HyperCLOVA X能够生成与韩国用户产生共鸣的回应，并在语言模型的输出中反映社会规范。尽管HyperCLOVA X也处理英语、日语和中文，但其对高质量韩语数据的关注确保了韩国的社会文化价值观被嵌入其系统中。正如HyperCLOVA X所展示的，在海量语言数据集上训练的大型语言模型往往会反映这些语言所包含的知识和价值观，包括其使用社会中的伦理规范。

大型语言模型的一个普遍挑战是，其生成的内容可能包含不准确信息或提及不存在的实体——这种现象被称为“幻觉”。由于大型语言模型预测最有可能的下一个词，它们可能会生成不存在的词语组合。如果用于训练的数据包含不准确信息，也可能出现错误。随着人工智能通过此类学习过程进行开发，一定程度的错误是不可避免的。因此，需要全球政策干预来解决人工智能可能造成的社会问题。

在生成式AI时代之前，AI已被用于面部识别和分析视频应用（如YouTube或TikTok）中的用户偏好以最大化观看时间等功能。如今，AI已广泛应用于日常软件中，以至于我们有时无法分辨对话中的对方是人类还是AI。随着AI的进步，以尊重人类价值观、隐私和公平的方式开发AI，以防止对人类社会产生负面影响，变得越来越重要。所有国家都应合作解决AI相关的伦理问题。本文将讨论日本近期关于AI伦理的辩论，并探讨韩日两国在AI伦理领域合作的可能性。

二、人工智能的风险与日本AI指南的制定

为了利用人工智能的潜力并减轻其风险，制定确保人工智能技术安全和合乎伦理使用的指南至关重要。这些指南为开发者、企业和政策制定者提供了框架，促进问责制、透明度和公众信任。在日本，AI指南在确保AI符合社会价值观和优先事项方面发挥着关键作用。

2024年4月，日本政府发布了《人工智能经营者指南》（METI 2024），该指南包含六个详细的附件，旨在将主要指导转化为实际措施。这些指南为实施与AI相关的举措的各方利益相关者提供了全面的参考。日本政府认为自己在G7、G20、OECD和其他国际论坛上的人工智能原则全球讨论中发挥了主导作用，并相信制定这些指南使日本能够根据国际趋势和利益相关者的关切，促进对AI风险的正确识别。最终目标是促进日常生活中自愿、务实的措施。

日本的《人工智能经营者指南》整合并建立在《以人为本的人工智能社会原则》（2019年）、《人工智能开发指南》（2017年）、《人工智能利用指南》（2019年）和《实施人工智能原则的治理指南》（2022年）的基础之上。《以人为本的人工智能社会原则》（2019年）由政府的综合创新战略会议制定，旨在利用AI解决环境问题、日益加剧的不平等和资源枯竭等全球性挑战——这种方法被称为“Society 5.0”。在第五个科学技术基本计划中，Society 5.0被描述为“一个以人为本的社会，通过网络空间和物理空间的深度融合系统，平衡经济发展和社会问题的解决。”在此，政府强调经济发展与社会挑战解决的和谐统一。

《以人为本的人工智能社会原则》的核心理念包括：

1. 尊重人的尊严——AI应增强和提升人类的能力。

2. 多样性和包容性——使不同个体能够追求各自的幸福。

3. 可持续性——利用AI解决不平等和环境退化等问题。

基于这些理念，《原则》概述了七项指南：（1）以人为本原则、（2）教育和素养原则、（3）隐私保护原则、（4）安全原则、（5）公平竞争原则、（6）公平、问责和透明度原则，以及（7）创新原则。日本政府表示，这些指南将根据国际趋势和新技术的变化进行定期更新。

《人工智能经营者指南》强调三个核心概念：

1. 支持企业的自愿努力，

2. 与国际讨论协调，

3. 为读者提供清晰性。

这些指南旨在通过反复的多方利益相关者审查（包括教育和研究机构、公民社会和私营公司）来确保有效性和合法性，并作为一个不断发展的活文件发挥作用。日本政府寻求在Society 5.0愿景与以人为本的人工智能原则之间保持一致性，部分原因是日本面临人口结构挑战，如人口迅速老龄化和劳动力短缺。

在2023年至2024年期间，日本政府加速了其人工智能政策的制定。由东京大学松尾丰教授（Yutaka Matsuo）领导的“人工智能战略会议”主导着政府的讨论。该会议为人工智能项目设定了1640.9亿日元的预算（比上一财年增长44%），并决定补贴主要公司扩大GPU（图形处理单元）基础设施（关键的人工智能资源）成本的三分之一到二分之一。2023年，该会议汇编了《关于人工智能的讨论要点》，重点关注生成式AI的最新发展。该报告指出，日本长期以来对技术和人工智能情有独钟，并认为尽管经济长期停滞，但人工智能的出现可能为增长提供新的动力。报告还确定了七种主要风险：

1. 机密信息泄露和个人数据滥用：生成式AI可能收集用户交互数据并用于定向广告。此外，在互联网数据上进行训练时，AI系统存在不当收集个人信息的风险。

2. 犯罪的便利性和复杂性增加：生成式AI可以低成本地促进非法活动，例如创建逼真的深度伪造语音或图像，可能导致欺诈或毒品生产。虽然日本的刑法和反黑客法可能涵盖某些案件，但新兴犯罪需要新的法律措施。

3. 虚假信息造成的社会动荡：生成式AI可以轻松地制造和传播假新闻或有偏见的信息，导致公众骚乱或干预民主进程。需要有检测虚假信息和遏制其传播的工具。

4. 更复杂的网络攻击：AI辅助的网络攻击可能变得更加先进。生成式AI可以帮助编写逃避检测的电子邮件、冒充人类，甚至攻击AI系统本身。

5. 对教育的影响：使用AI完成家庭作业或撰写报告可能会阻碍学生的创造力。然而，基于AI的个性化学习可以提高教育成果。教育部必须紧急制定指南并提高AI素养。

6. 版权侵权：AI生成的内容可能与现有作品非常相似，增加了侵犯版权的可能性。政府应提高对现有版权法的认识，并考虑对AI生成的内容进行进一步监管。

7. 失业风险增加：生成式AI自动化写作和图像创作等创意任务的能力可能导致失业。政府应研究AI对就业的影响，并促进再培训和劳动力流动。

三、韩国的国家人工智能战略

2019年，韩国政府发布了其国家人工智能战略，其中科学技术信息通信部部长崔基永（Choi Ki-yong）强调实现“以人为本的人工智能”。2020年，科学技术信息通信部和韩国信息社会发展研究所推出了《国家人工智能伦理框架》，为所有社会成员在开发和部署人工智能时应遵守的标准设定了基本和全面的标准（Korean Institute of Science and Design Information n.d.）。

该框架的最高价值是“人类”，并在三个核心原则——（1）人类尊严、（2）公共利益和（3）技术适宜性——下，包含贯穿AI生命周期的十项关键要求：（1）保障人权、（2）隐私保护、（3）尊重多样性、（4）不伤害、（5）公共性、（6）团结、（7）数据治理、（8）责任、（9）安全和（10）透明度。

2020年，韩国还发布了包含30项优先事项的AI路线图，其中包括高风险AI的标准。值得注意的是，其中一项规定讨论了赋予AI法人资格的可能性。政府积极推动AI生态系统的发展，尹锡悦总统于2024年4月宣布韩国的目标是成为全球三大AI强国之一。鉴于韩国的国家人工智能战略强调“以人为本的人工智能”，韩国人工智能伦理的基本方向与日本没有显著差异，这表明两国在合作方面拥有足够的共同点。

四、基于风险的方法和“广岛AI进程”的作用

日本的《人工智能经营者指南》采用了基于风险的方法，该方法包括及早识别潜在的社会危害（如歧视或虚假信息），并评估其严重性和可能性。然后根据风险水平采取措施，并在整个AI生命周期中进行持续的风险管理。多个利益相关者参与此过程，并强调透明度。通过根据不同风险水平量身定制监管措施，政府旨在避免因过于严格的法律而阻碍创新，同时最大化AI的社会效益。这种方法在国际上被广泛接受，包括OECD和G7，促进了全球共识。

推动AI安全和伦理国际合作的一个关键外交努力是日本的“广岛AI进程（2023）”。在2023年4月举行的G7数字与技术部长会议（G7 Digital and Technology Ministers’ Meeting 2023）上，与会者通过了一项部长级宣言，强调“负责任的AI和AI治理”。他们重申，“AI政策和法规应以人为本，维护人权和基本自由（包括隐私和个人数据保护），符合民主价值观，并基于风险和面向未来。”

2023年9月，G7数字与技术部长声明进一步认识到在利用AI优势的同时应对其快速发展所带来的风险的必要性。2023年10月发布的关于广岛AI进程的G7领导人声明（日本外务省2023年）同样强调了前沿AI系统的“创新机遇”和“变革潜力”，这表明当时全球对生成式AI的关注。

在广岛AI进程下发布的题为《关于开发先进AI系统的组织的广岛进程国际指导原则》（日本政府2023年）的文件，开篇即指出其目标是促进全球范围内安全、可靠和值得信赖的AI。文件强调，“组织不应以破坏民主价值观、对个人或社区造成特别有害影响、助长恐怖主义、纵容犯罪滥用或对安全、保障和人权构成重大风险的方式来开发或部署先进AI系统。”

广岛AI进程强调民主价值观、伦理AI实践、风险管理和国际合作。这项倡议通过发布指导框架来应对AI的全球演变，做出了重大贡献。这种对民主价值观的强调可以为日韩在AI伦理领域的合作奠定基础。

五、日本AI政策的演变

日本的人工智能发展环境与美国式的科技巨头公司或中国国家监管的私营企业有所不同。日本政府于2017年3月发布的《人工智能技术战略》（日本政府内阁办公室2017年）指出，日本在人工智能相关的学术出版物方面落后于美国和中国，并将重点放在创建政府和私营部门参与的强大研发环境，以及解决日本紧迫的人才短缺问题上。该战略将AI的发展分为三个阶段：

第一阶段：促进特定领域的数据驱动型AI利用。

第二阶段：在个体领域界限之外推进更广泛的人工智能和数据使用。

第三阶段：以复杂的方式连接多个领域，形成人工智能生态系统。

该战略还概述了培养人工智能人才的三种主要方法：

1. 设计和实施教育项目，培养可立即部署的人才。

2. 鼓励大学与行业之间的联合研究和劳动力发展合作。

3. 在政府和研究机构的倡议基础上，进一步加强这些项目。

日本不主要依赖由巨额风险投资驱动的美国式初创企业生态系统。相反，其方法涉及大学、产业和政府在AI研究、开发和商业化方面的紧密合作。2015年5月，日本产业技术综合研究所（AIST）成立了“人工智能研究中心”。自然语言处理和文本挖掘领域的领军人物辻井润一（Junichi Tsujii）教授被任命为首任主任。辻井指出，随着AI渗透到所有工业领域，未能跟上步伐将危及整个产业。

日本的人工智能发展议程强烈反映了其国家社会状况。根据《人工智能技术战略》，日本正朝着经历世界上首次快速人口老龄化浪潮的方向发展。利用AI将海量的医疗和护理数据转化为“世界领先的先进医疗和护理系统”是一个突出的目标。到2030年，日本40%以上的人口将是老年人，政府设想一个人们即使到80岁也能积极就业的社会。因此，AI有望解决人口老龄化和劳动力短缺等社会问题。同样的目标也出现在政府的《以人为本的人工智能社会原则》（2019年）中，该原则旨在利用AI解决环境危机、不平等和资源枯竭问题。因此，日本对“以人为本”的关注支撑着其AI伦理。尽管韩国的担忧在某种程度上有所不同——例如，由于人口结构挑战，AI与军事能力相关——但韩国和日本都面临着紧迫的人口结构问题。

六、人工智能业务指南与AI开发的伦理标准

预见到AI广泛的商业应用，日本人工智能学会（JSAI）早在2014年就讨论成立伦理委员会。当时，JSAI主席、函馆未来大学教授松原仁（Hitoshi Matsubara）请求东京大学的松尾丰（Yutaka Matsuo）考虑成立这样一个委员会。JSAI伦理委员会的第一次会议于2014年12月在东京大学举行（日本人工智能学会伦理委员会2015年）。

起初，JSAI辩论是称其为“伦理委员会”还是“人工智能与未来社会委员会”。事实上，JSAI伦理委员会自2007年就已存在，但已停止活动。2014年其重新成立吸引了相当大的媒体关注。值得注意的是，伦理委员会包括科幻小说作家长谷敏司（Satoshi Hase），这表明JSAI对未来挑战采取了广泛的方法。2017年，伦理委员会发布了《日本人工智能学会伦理指南》（日本人工智能学会2017年）。这些指南侧重于研究人员的职业道德，但第九条规定，如果AI“将成为社会成员或其等同物，它必须遵守与JSAI成员相同的伦理准则”，从而将伦理义务延伸到AI制品本身。

十年后，即2024年，日本总务省和经济产业省发布了《人工智能经营者指南》，该指南植根于2019年政府的“以人为本的人工智能社会”原则。同样在2019年，总务省发布了《人工智能利用指南》（日本总务省2019年）。该文件指出，2016年，在日本主办的G7信息通信技术部长级会议上，日本政府提出了人工智能开发原则的初稿，并在2018年，日本代表在OECD AI专家组会议上介绍了其“以人为本的人工智能社会原则”、“人工智能开发指南草案”和“人工智能利用指南草案”。日本认为，2019年OECD关于人工智能的建议符合日本的原则和指南。

此后，日本私营部门在AI伦理方面的举措有所加快。2018年，索尼集团发布了适用于所有参与AI开发和使用的官员及员工的《索尼集团AI伦理指南》（索尼集团2023年）。2019年，NEC集团制定了其《AI与人权政策》（NEC集团2019年）。2021年，日立制定了其《AI伦理原则》，反映了OECD的讨论和公司“社会创新业务”的理念。

总而言之，日本的学术界、政府机构和私营企业都采取了基于风险的方法，识别高风险领域并加以关注。在监管方面，日本没有全面的AI法律；它依赖政府发布的指南和私营部门的行为准则。迄今为止，日本一直避免制定专门针对AI的立法，而是选择了一种软法方法。然而，这一战略已发生了一些转变。在“平衡风险管理与促进创新”和“国际合作”原则的基础上，政府计划于2025年1月提交一项法案，允许对AI运营商进行调查。这是一种软法方法，与欧盟更严格的“硬法”形成对比。欧盟计划在2026年左右实施其《人工智能法案》，旨在通过监管训练数据并将AI分为四类——不可接受、高风险、需要透明度以及风险极低或无风险——来保护人权和自由。高风险和需要透明度的系统将面临强制性义务。与此同时，在美国，白宫发布了“关于安全、可靠和值得信赖的人工智能开发和使用的行政命令”，呼吁制定标准、测试要求、反对算法歧视的措施以及隐私保护，同时旨在促进创新和竞争力。

2024年11月，韩国科学、信息通信、广播和通信委员会批准了《人工智能产业促进与信任保障法》供议会辩论。该立法将要求AI生成作品被标记为AI生成，并对不合规者处以最高3000万韩元的罚款。韩国的方法似乎更符合欧盟的硬法，可能强制要求AI系统具备严格的安全标准。然而，由于2024年12月宣布的戒严令和总统弹劾危机，该法案的命运尚不确定。

七、韩日两国在AI伦理领域合作的未来

作为两个民主国家，韩国和日本共享广泛的价值观——尤其是在其人工智能伦理原则核心的“以人为本”、“多样性”和“可持续性”等概念。韩国通过其国家人工智能战略和“国家人工智能伦理框架”阐述了对人权和公共利益的承诺，而日本则基于“以人为本的人工智能社会原则”和“人工智能运营商指南”，采用根植于国际共识的风险管理方法。两国都应通过广岛人工智能进程、七国集团（G7）和经济合作与发展组织（OECD）等平台，积极参与全球讨论，以影响和协调新兴的国际规范。2024年12月，七国集团就要求人工智能开发者报告风险的框架基本要素达成一致。该框架的实施也计划于2025年2月开始。

在全球舞台上，乌克兰战争和其他冲突催生了无人机和其他新型武器的使用，引发了对人工智能在现代战争中作用的担忧。国际社会长期以来一直在辩论致命性自主武器系统（LAWS）的风险，这些系统将决策权委托给人工智能。韩国面临与朝鲜的紧张关系，已在非军事区（DMZ）沿线部署了监视机器人。随着其国防工业的蓬勃发展，韩国向欧洲（对俄罗斯边境保持警惕）供应武器，并可能继续在该领域扩张。相比之下，日本许多私营公司已退出国防领域。因此，韩国在武器相关人工智能方面拥有更具体的经验和专业知识，能够为关于人工智能武装系统伦理的国际讨论做出重要贡献。

2024年2月，日本成立了人工智能安全研究所，任命村上明子（Akiko Murakami）为执行主任。该研究所负责评估人工智能安全方法、制定标准并促进日本的国际合作。2024年《综合创新战略会议报告》提到了加强的三个关键领域：（1）关键技术的综合战略、（2）全球合作、（3）在确保安全和保障的同时提高人工智能竞争力。具体而言，日本旨在主导人工智能的国际规则制定。为实现这一目标，政府计划与盟友及志同道合的国家以及东盟伙伴，并与产业界和学术界协调，战略性地利用双边和多边框架。从韩国的角度来看，这些努力为深化与日本的合作提供了途径。

作为拥有紧密联系的产业的邻国，韩国和日本在技术和社会背景下拥有互补的优势。随着生成式人工智能的全球兴起，每个国家如何将其语言和社会文化规范嵌入人工智能模型将成为一个关键问题——这个问题突显了“人工智能主权”的重要性。韩国和日本可以脱颖而出，与美国和中国这两个人工智能巨头区分开来，通过合作强调国家在人工智能领域主权的重要性，反映出独特的社会文化规范以及低生育率和人口老龄化等共同的人口担忧。

韩国和日本在人工智能伦理方面的共同努力可以产生一个协作生态系统。潜在途径包括完善相互的指导方针和技术标准、共享数据、进行联合研发以及在多边论坛中加强协调以塑造人工智能治理规则。此类合作将加速实现一个以“可信赖性”、“透明度”和“问责制”为特征的人工智能社会，并加强两国在国际话语中的领导地位。两国共同的民主价值观、对伦理原则的重视、解决社会挑战的实际应用以及积极参与国际规范制定，为“以人为本的人工智能社会”奠定了坚实的基础。通过共同努力，韩国和日本可以向国际社会展示一个先进的人工智能伦理典范，从而为塑造更公平的国际秩序做出贡献。■

参考文献

Altman, Sam. 2022. “ChatGPT Launched on Wednesday. Today It Crossed 1 Million Users!” X, December 5. https://x.com/sama/status/1599668808285028353 (Accessed December 22, 2024).

Cabinet Office, Government of Japan. 2017. Artificial Intelligence Technology Strategy 2017. https://www.ai-japan.go.jp/menu/learn/ai-strategy-1/75ddfd6ab65e8bcd6fe80e4676d902967c53ca4d.pdf (Accessed December 22, 2024).

G7 Digital and Technology Ministers’ Meeting. 2023. Ministerial Declaration. April 30. Accessed December 22, 2024. https://www.digital.go.jp/assets/contents/node/information/field_ref_resources/efdaf817-4962-442d-8b5d-9fa1215cb56a/5c1391d9/20230519_news_g7_results_japanese_00.pdf.

Hu, Krystal. 2023. “ChatGPT Sets Record for Fastest-Growing User Base - Analyst Note.” Reuters, February 3. https://www.reuters.com/technology/chatgpt-sets-record-fastest-growing-user-base-analyst-note-2023-02-01/. (Accessed December 22, 2024).

Japanese Government. 2023. Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI Systems. https://wwwwww8.cao.go.jp/cstp/ai/ai_senryaku/6kai/kokusaishishin.pdf. (Accessed December 22, 2024).

Japanese Society for Artificial Intelligence, Ethics Committee. 2015. 日本人工智能学会伦理委员会设立目的。 https://www.ai-gakkai.or.jp/ai-elsi/about/purpose. (Accessed December 22, 2024).

Japanese Society for Artificial Intelligence. 2017. Ethical Guidelines. https://www.ai-gakkai.or.jp/ai-elsi/wp-content/uploads/sites/19/2017/02/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E5%AD%A6%E4%BC%9A%E5%80%AB%E7%90%86%E6%8C%87%E9%87%9D.pdf. (Accessed December 22, 2024).

Korean Institute of Science and Design Information (KISDI). n.d. Artificial Intelligence Standards (In Korean). https://ai.kisdi.re.kr/aieth/main/contents.do?menuNo=400029. (Accessed December 22, 2024).

经济产业省（METI）。2024年。“人工智能经营者指南（1.0版）（日语）”。4月19日。https://www.meti.go.jp/shingikai/mono_info_service/ai_shakai_jisso/pdf/20240419_3.pdf. (Accessed December 22, 2024).

Ministry of Foreign Affairs of Japan. 2023. G7 Hiroshima Summit Outcome Documents (In Japanese). https://www.mofa.go.jp/mofaj/files/100573465.pdf. (Accessed December 22, 2024).

Ministry of Internal Affairs and Communications. 2019. AI Utilization Guidelines (In Japanese). https://www.soumu.go.jp/main_content/000624438.pdf. (Accessed December 22, 2024).

NEC Group. 2019. AI and Human Rights Policy (In Japanese). https://jpn.nec.com/press/201904/images/0201-01-01.pdf. (Accessed December 22, 2024).

Sony Group. 2023. AI Ethics Activities (In Japanese). https://www8.cao.go.jp/cstp/ai/ningen/r5_1kai/siryo1.pdf。(2024年12月22日访问)。

■ 塩野誠是国际日本文化中心地缘经济研究所新兴技术组负责人兼管理总监。

■ 排版由金彩麟，研究助理

    垂询请致：02 2277 1683 (分机号 208) | crkim@eai.or.kr