[韩日联合研究“世界2050”系列] ⑥ 韩国与日本的通用人工智能（AGI）与科学合作

一、引言与动机

1. 人工智能对科学日益增长的影响及通用人工智能（AGI）的潜力

人工智能与科学研究的交叉领域代表了现代科学史上最有希望的前沿之一。随着人工智能（AI）系统在数据分析和实验设计等领域展现出日益复杂的能力，我们正站在科学方法论根本性变革的门槛上。通用人工智能（AGI）的出现有望彻底改变我们进行科学研究的方式，并深化我们对自然现象和技术可能性的根本理解（Mitchell 2024）。

DeepMind：“人工智能，以及最终的通用人工智能（AGI），有潜力推动历史上最伟大的变革之一。通过解决我们这个时代一些最艰巨的科学和工程挑战，我们正在努力创造能够推动科学进步、改变工作方式、服务不同社区并改善数十亿人生活的突破性技术。”（Google DeepMind n.d.）。

近年来，人工智能的能力取得了前所未有的突破。大型语言模型在科学文献分析和知识综合方面展现出卓越的能力。多模态人工智能系统在跨越不同科学领域的复杂模式识别方面显示出潜力。科学人工智能应用加速了从药物开发到材料科学，从气候建模到粒子物理学等领域的发现。这些进展表明，AGI有可能在以前被认为不可能的领域催化科学进步。

2. 韩日两国在AGI发展中的合作必要性

韩日两国在AGI发展中的战略合作至关重要，其重要性不容低估。两国都拥有独特的优势和能力，可以推动全球AGI研发取得重大进展。这种合作由几个关键因素驱动：互补的技术优势、共同的区域挑战以及联合的研究能力。

首先，日本以精密工程和机器人技术闻名的先进工业基础，与韩国充满活力的技术产业，特别是在半导体和数字基础设施领域，形成了互补。这种技术协同作用为AGI的发展奠定了坚实的基础。

其次，两国都面临着相似的社会挑战，包括需要创新医疗解决方案的快速老龄化人口、需要复杂监测和缓解策略的环境问题，以及在快速变化的全球格局中需要智能电网解决方案和高效资源管理的能源安全问题。

最后，两国的研究生态系统提供了互补的优势。日本在基础研究和长期科学项目方面实力雄厚。韩国在技术商业化和快速部署方面具有敏捷性。联合研究基础设施能够与全球规模竞争。

二、现状分析

1. 韩国人工智能政策与国际合作现状

1) 韩国的人工智能战略

韩国的人工智能战略可分为两大主轴：建立法律和制度基础，以及实施具体的人工智能发展政策。

首先，在法律和制度基础方面，《国家战略技术发展特别法》于2023年9月颁布，为包括人工智能在内的国家战略技术的系统性发展奠定了法律基础。该法案涵盖了国家战略技术的选择与管理、基本计划的制定、政策支持机构的指定、战略研究项目和专业研究机构、鼓励挑战性研发以及建立区域技术创新中心等全面内容。此外，2023年9月发布的《数字权利宪章》提出了人工智能时代数字秩序规范的基本方向。该宪章围绕五个基本原则构建：保障数字环境中的自由和权利，确保公平的准入和均等的机会，实施安全可靠的数字社会，促进基于自主和创造力的数字创新，以及增进人类福祉。

在具体的人工智能发展政策方面，具有代表性的是《超大规模人工智能竞争力提升计划》和《国家人工智能实施计划》。《超大规模人工智能竞争力提升计划》侧重于扩大基础设施，包括韩国文本数据建设、核心硬件/软件开发支持以及新研发项目的推广。特别是，该计划旨在通过法律、医学、心理咨询、文化艺术和学术研究五个领域的超大规模人工智能应用服务开发，实施“超大规模人工智能五大旗舰项目”。

《国家人工智能实施计划》从公共福利、产业竞争力、政府系统和日常生活四个方面着手。在公共福利方面，旨在通过对弱势群体的社会关怀、医疗辅助人工智能和育儿平台来提高公民的生活质量。在产业竞争力方面，通过超大规模人工智能旗舰项目支持专家工作效率的提高和整体产业人工智能的应用。在政府系统方面，提高了灾害响应、水质管理和统计分类自动化等领域的行政效率。在日常生活方面，促进了全民人工智能素养的提高和人工智能标准化。

作为这些努力的延伸，预计到2024年底将颁布《人工智能基本法》并启动人工智能安全研究所，这将进一步加强人工智能发展的制度基础。

2) 韩国的人工智能国际合作战略

韩国的国际人工智能合作主要集中在与美国和欧盟等志同道合国家的双边合作，以及在新兴技术论坛中争取领导地位和影响力。

在人工智能领域，韩国通过主办2024年5月的全球人工智能安全峰会，展现了其在建立安全和包容性人工智能发展的全球监管领导力方面的承诺。此外，韩国于2024年9月启动了由韩国和美国顶尖研究人员组成的全球人工智能前沿实验室，开启了两国之间的具体合作。该项目汇集了两国顶尖学者和研究人员，在基础人工智能、可信赖人工智能和医疗保健人工智能领域开展全球人工智能研究与开发，目标是取得世界领先和世界首创的研究成果。

2. 日本人工智能政策与国际合作现状

1) 日本的人工智能战略

日本政府于2019年发布了“人工智能战略”，旨在实现“社会5.0”。该战略在2017年发布的“人工智能技术战略”的基础上进行了扩展，涵盖了人才、产业、社会和治理等领域，超越了单纯的技术范畴。该战略基于三个原则——尊严、多样性与包容性以及可持续性——在人才、产业、技术开发和国际合作四个领域提出了战略目标。

审视该战略的主要内容，在人才方面，旨在培养适应人工智能时代的人力资源并吸引全球人才。重点在于人工智能的产业化应用以及确保全球领导力。此外，还致力于通过以日本为主导的国际研究、教育和社会基础设施网络建设，建立实现可持续社会和加速实现可持续发展目标的技术体系。

为实现这些目标，在教育和研究等“未来基础建设领域”以及促进社会、产业和公共部门的人工智能利用和数据基础设施建设等“产业和社会基础建立领域”确定了实施任务。随后，通过“人工智能战略2021”和“人工智能战略2022”，针对新兴问题和技术发展提出了后续措施。值得注意的是，在“人工智能战略2022”中，增加了人工智能驱动的灾害和流行病危机应对技术基础设施的建设，以加强新冠疫情后的国家韧性。

此外，日本于2019年通过了“人工智能社会原则”，提出了七项原则。它们包括以人为本、教育和素养、隐私保护、安全、公平竞争、公平/透明以及创新。这些原则旨在促进生活在人工智能社会中的所有公民的责任感和参与度。

2) 日本的人工智能国际合作战略

日本的人工智能国际合作主要集中在美国。值得注意的例子包括由华盛顿大学、筑波大学、卡内基梅隆大学和庆应大学发起的1.1亿美元人工智能研究合作项目，该项目得到了英伟达（NVIDIA）、安谋（Arm）、亚马逊（Amazon）和微软（Microsoft）等全球公司的支持。

在人工智能伦理领域，两国同意相互支持人工智能安全研究所的建立，并加强在人工智能安全标准、方法和评估方面的合作。特别是，双方同意在官方政府内容的认证和标记以及相关技术和标准的开发方面进行合作，以减少人工智能生成内容带来的风险和损害。

在研究机构层面，正在开展各种合作，包括日本产业技术综合研究所（AIST）与英伟达（NVIDIA）之间的人工智能和量子技术合作，美国能源部与日本文部科学省（MEXT）之间的高性能计算和人工智能项目协议，以及美国阿贡国家实验室与日本理化学研究所（RIKEN）签署人工智能科学合作谅解备忘录。

3. 科学研究中的AGI现状与AGI驱动的科学

目前，AGI在科学研究中的应用现状既显示出显著的进展，也存在巨大的发展机遇。本节分析了AGI能力现状及其对科学研究方法的影响。

谷歌列出的“人工智能推动科学发展的九种方式”如下（Google 2024）：

1. 攻克了50年来的“大挑战”——蛋白质结构预测

2. 前所未有地详细展示人脑，支持健康研究

3. 通过准确的洪水预报挽救生命

4. 更早地发现野火，帮助消防员更快地扑灭它们

5. 更快、更准确地预测天气

6. 推进数学推理的前沿

7. 利用量子计算准确预测化学反应性和动力学

8. 加速材料科学发展，为更可持续的太阳能电池、电池和超导体带来潜力

9. 向核聚变和清洁能源的广泛应用迈出有意义的一步

“人工智能助力科学”领域最有前景的方向如下（Wang et al. 2023）：科学人工智能如下（Wang et al. 2023）：

1. 天气预报，

2. 电池设计优化

3. 核聚变反应堆的磁约束控制

4. 化学合成路径规划

5. 微分方程的神经求解器

6. 水电站选址规划

7. 合成电子健康记录生成

8. 粒子碰撞中的稀有事件选择

9. 生物医学序列的语言建模

10. 高通量虚拟筛选

11. 假设空间导航

12. 超分辨率3D活细胞成像

13. 符号回归

根据Wang等人（2023年）的说法，人工智能在科学研究过程的多数环节中不可或缺，包括优化参数和功能、自动化数据收集、可视化和处理流程、探索广阔的候选假设空间以形成理论，以及生成假设和估计其不确定性以在不同领域提出相关实验。

[图1] 学习科学数据的有意义表征

来源：（Wang et al. 2023）。

目前，在各个基础科学领域都在进行同步的努力，以克服人工智能固有的局限性，包括可解释性和模型性能提升。正如深度学习是基于神经元运行原理而建立的，各种研究计划也在持续进行中：

1. 基于神经科学和生命科学的全面研究，开发新颖的人工智能架构，

2. 基于各种物理、数学和统计理论，构建更准确、高效、稳定和可解释的模型，

3. 通过与先进工程研究的融合，扩展人工智能的应用领域，例如提高人工智能人形机器人的能力。

一个关键点是，美国和中国在通用人工智能（AGI）用于科学研究和科学研究用于通用人工智能（Science for AGI）方面，比其他国家保持着显著的领先地位。这表明，领先国家（如美国、中国）与其它国家之间在人工智能和科学研究能力方面存在的巨大差距将继续扩大。

这种不断扩大的差距很可能演变成创新差距，进而可能导致国家在经济增长和繁荣、社会发展和安全等多个维度的国家竞争力出现全面分化。

三、共同挑战

1. 人力资本

由于严峻的人口结构挑战：生育率下降、人口老龄化、STEM领域入学率低以及博士和博士后人才资源不足，韩国和日本在人工智能和前沿科学领域的人才培养方面都面临着重大挑战。韩国和日本不仅在薪酬和待遇方面不如美国和中国等全球大型科技公司和领先的人工智能国家，难以吸引人才，而且还面临着严重的人才流失问题。

高水平人才的培养和留用在通用人工智能和科学研究领域都至关重要。然而，韩国和日本两国在人才培养和引进方面都面临困难，不仅在各自领域如此，在两个领域交叉的融合区域，在人才培养和引进方面面临的挑战更大。

2. 数据

通用人工智能的一个关键组成部分是获取高质量的基础数据。虽然韩国和日本在先进制造业和科学研究方面保持着强大的竞争力，但与发达国家和企业相比，他们在复杂科学数据集的数量和质量方面仍然存在相对不足。

随着未来通用人工智能朝着基于多样化数据形式的多模态智能发展，数据的多样性、体量和复杂性变得越来越重要。然而，由于人口等固有的限制因素，两国在克服其不利地位方面都面临困难。在此背景下，出现了几个关键挑战：解决日益临近的原始数据短缺问题、管理合成数据生产和管理，以及可能通过双边合作来弥补数据不足。

3. 基础设施与资金

大型语言模型的训练和前沿科学研究的开展，不仅需要卓越的人力资本和高质量的数据，还需要大量资金投入支持的先进基础设施。

人工智能数据中心，每个数据中心需要大量价值超过30,000美元的人工智能芯片，是人工智能训练的基础，此外还有包括电力基础设施在内的各种关键硬件组件。同样，先进的科学研究需要高性能的实验设备和大规模的基础研究设施，这需要大量的资本投资。

因此，大多数前沿人工智能研究都集中在少数能够承受如此巨大资源需求的科技巨头公司。在基础科学研究领域，知名大学与其他机构之间的差距正在呈指数级扩大。虽然美国和中国都在进行大量的政府和企业投资以确保人工智能的竞争力，但可以合理地认为，没有其他国家能够在企业层面或国家层面实现科学研究和人工智能投资的有意义的规模经济。

4. 国际治理碎片化

除了人才、数据、基础设施和资金方面的挑战外，当前国际人工智能合作中最严峻的挑战是由于中美战略竞争导致全球人工智能和科学生态系统的碎片化。

整个人工智能和科学研究生态系统比以往任何时期都需要更严格的安全合规性，涵盖从联合研究和资源共享到人才交流、技术转让和商业化等所有阶段。此外，美国的出口管制和对外投资审查等机制，不仅削弱了中美之间人工智能和科学研究交流的势头，也严重影响了主要中等强国之间的国际合作。

虽然这种全面加强人工智能和科学研究的安全措施可能被认为是国家安全所必需的，但它普遍降低了全球合作研究的效率和研究生产力。此外，这为大多数必须通过国际合作来补充其国内创新生态系统的国家（少数超级大国除外）创造了一个异常和扭曲的环境。尽管中美科技合作协议已于2024年12月在有限领域得到延长，但在最关键的人工智能领域的分离很可能会使国际科技合作的挑战性格局进一步复杂化（Gilbert and Mallapaty 2024）。

四、合作项目

1. 中长期通用人工智能愿景对接

加强两国之间多层次的政策愿景协调，应是有效促进韩日两国在通用人工智能用于科学研究（AGI for Science）和科学研究用于通用人工智能（Science for AGI）方面的合作的首要任务，并以2050年为长远目标。

韩国提出了“科技创新2045”，日本提出了“社会5.0”作为国家长远愿景。有必要共同探索合作机会，以实现两国通过这些长远愿景所追求的理想未来。例如，两国愿景在老龄化人口、环境污染、气候变化、疾病控制、自然灾害和数字化转型等领域都提出了明确的目标，因此迫切需要探索韩日人工智能用于科学研究的合作，作为实现这些目标的方法。

在最高层面完成联合项目探索后，有必要在各级（包括部委、机构、研究机构、公司和大学）设计并制度化具体的行动计划、路线图和旗舰项目。此外，这些长期合作所需的预算需要以灵活和可持续的方式进行设计。

最后，两国之间长期的通用人工智能用于科学研究和科学研究用于通用人工智能的合作愿景，应积极地与两国公民社会进行沟通和共鸣。目前，两国公民都对过度技术发展带来的社会影响表示担忧，前沿技术领域的国际合作需要更透明地向伙伴国家公民传达其必要性、合法性和安全性。

1. 愿景对接：联合政策框架开发、联合研究路线图、协调投资策略、定期高层对话、监管协调、联合合规框架、联合预测机制、联合探索委员会

2. 公民社会：教育项目、社会影响评估、透明度倡议、文化交流项目

2. 代际传承的通用人工智能用于科学研究和科学研究用于通用人工智能项目

促进韩日两国长期通用人工智能用于科学研究和科学研究用于通用人工智能合作最具代表性的任务之一是设计一个两国之间的代际传承项目。该项目超越了仅仅提供更长时间的研究资助。它支持两国核心研究小组的全周期合作（规划、设计、实施），以及关键研究成果的联合商业化和核心人才的协同培养。

此外，从长远来看，我们需要确定对私营部门来说风险极高的重大挑战性研究课题。两国应支持可能改变世界、具有更高失败可能性的突破性研究，而不是支持成功率高但仅能略微改善世界的现有研究。

目前，除少数例外，韩国和日本的大学都有强制退休年龄，资深研究人员长期积累的研究成果常常在没有得到妥善传承的情况下丢失或外泄。为了改进这一体系，我们应该支持杰出学者退休后的活动，并通过让他们与将继承其专业知识的新晋年轻人才对接，促进两国之间的代际合作。

1. 超人类智能系统：超越人类智力和体能限制，将先进人工智能与机器人能力相结合，增强人机交互能力

2. 下一代高性能与环保基础设施：超高速处理能力、超低功耗系统、超低碳排放基础设施

3. 面向生命延长的前沿人工智能模型（后Transformer时代）：具有非凡性能、无复杂风险且对解决生命延长等重大挑战的数据依赖性较低的通用人工智能模型

3. 后可持续发展目标时代的通用人工智能

最后，韩日两国需要共同设计项目，探讨如何在当前可持续发展目标（SDGs）于2030年结束后，利用通用人工智能实现后可持续发展目标。近期衡量人工智能对可持续发展影响的研究表明，除性别平等和国际合作外，所有领域都显示出非常积极的影响。然而，如果我们未能解决当前各种限制和依赖性，比现有能力强大得多的通用人工智能的出现可能会对我们未来的可持续发展目标产生更大的负面影响。

[图2] 人工智能对可持续发展目标的影响

来源：（Vinuesa et al. 2020）。

因此，韩日合作应着眼于弥补现有“人工智能用于可持续发展目标”领域出现的各种副作用，并预测和解决未来“通用人工智能用于可持续发展目标”时代可能出现的问题。在此过程中，需要解决的问题应分为全球性挑战和区域性挑战。

1. 面向未来重大挑战的通用人工智能：开发可预测和预防流行病、气候变化、生物多样性丧失和自然灾害等全球性挑战以及人工智能不平等问题的解决方案。

2. 人工智能在应对区域性挑战方面的应用：开发解决方案，以应对因人口老龄化和低生育率导致社会服务（如医疗保健、教育和交通）方面出现的阶层与地区之间的社会经济两极分化问题。■

参考文献

Gilbert, Natasha, and Smriti Mallapaty. 2024. “美中签署新的科学协议——但有严格限制。” Nature.

Google. 2024. “9 Ways AI Is Advancing Science.” Google Blog，2024年11月18日。 https://blog.google/technology/ai/google-ai-big-scientific-breakthroughs-2024/。

Google DeepMind. n.d. “Our Mission: Build AI Responsibly to Benefit Humanity.” DeepMind. https://deepmind.google/about/。

Mitchell, Melanie. 2024. “Debates on the Nature of Artificial General Intelligence.” Science 383(6689): eado7069.

Vinuesa, Ricardo, et al. 2020. “人工智能在实现可持续发展目标中的作用。” Nature Communications 11(1): 233.

Wang, Hanchen, et al. 2023. “Scientific Discovery in the Age of Artificial Intelligence.” Nature 620(7972): 47-60.

■ Seoin Baek 是汉阳大学ERICA校区的助理教授。

■ 排版由 金彩琳（Chaerin Kim） 担任研究助理

    垂询请致：02 2277 1683 (分机号 208) | crkim@eai.or.kr