[AI与新文明标准特别报告] 序言

一、为何是AI？

近现代人类文明正面临严峻挑战，包括以中美战略竞争为中心的大国地缘政治对抗、保护主义蔓延和供应链分裂背景下的全球化逆转与自由主义国际经济秩序的大混乱、气候危机与传染病/卫生危机、核扩散及核恐怖可能性增大、失控的技术竞争等。若人类像现在一样，无法摆脱狭隘的国家利益追求的泥沼，并持续大国中心阵营对抗，整个地球可能面临灭绝的危机。

在这些未来变化的核心，是人工智能(Artificial Intelligence: AI)。AI可被定义为“赋能技术”和“能力放大器”，扮演着决定其他技术变化和能力的赋能技术或元技术的角色。因此，它在加速自身创新速度的同时，也可能加剧现有问题或为问题提供新的突破口。AI与核武器、武器系统结合可能带来破坏性后果，或围绕AI技术生态系统的掌控引发大国主导的世界经济分裂，加速全球不平等。在国内，预计将导致大型科技公司(Tech Giant)垄断体系加剧、劳动力市场失衡与失业、威权主义体制巩固、围绕特定价值观或信念、目标的社会分裂等。另一方面，通过AI技术创新最大化经济效益，也可能为环境或卫生等看似不可持续的问题提供解决线索。从这个角度看，AI技术的发展方向是决定未来人类社会存续与繁荣的主要基础变量。

东亚研究院(East Asia Institute: EAI)的研究团队正在系统性地分析作为未来世界秩序变化核心变量的AI技术创新所带来的军事安全领域和政治经济领域的宏观变化过程。这项工作将分为中美AI军事化与武器化竞争、AI商业模式的创造与全球供应链构建竞争、大型科技企业垄断影响力的扩大及政府-企业关系变化、以及针对AI技术监管的集体应对等几个方面进行分析。本项目旨在提出未来世界秩序变化的几种情景，并最终寻求建立一个能够反映大国以及多方利益相关者立场的全球共治体系，以控制和管理AI技术的破坏性影响。

二、AI的技术特征是什么？

作为尖端技术，AI具有独特的性质。首先，由于AI技术模仿人类智能的特性，其滥用的灾难性后果是广泛的，并且随着其发展到通用人工智能(Artificial General Intelligence: AGI)、超人工智能(Super Artificial Intelligence: SAI)等阶段，存在技术失控这一根本性问题。其次，人工智能兼具“收益/创新性”和“危机”两个方面。尽管存在AI军事化、滥用、失控的危机，但由于其收益和创新性，控制和监管变得困难。第三，人工智能领域存在国家、个人、企业、社会团体等多种利益相关者(multi-stakeholderism)。因此，仅靠国家主导的监管、控制难以塑造和控制人工智能技术发展的未来。第四，气候变化/环境危机、核战争、传染病/卫生危机等国际政治危机需要集中于防止各领域灾难的合作，但人工智能对个人、社会、国家、地球所有层面，以及军事、经济、意识形态、政治等所有领域都产生革命性影响，因此在监管、控制、建立新的全球共治体系方面存在多层性、包容性、复杂性问题。最后，AI技术的未来，以及技术将引发的个人、社会、国家、国际政治的变化过程，尚处于起步阶段。它具有难以预测中长期未来变化的无限潜力和爆炸性。

三、AI引发的军事和经济秩序变化

本研究团队认为，在今后中美“去风险化”(de-risking)竞争的背景下，围绕AI的军事利用和AI商业化模式的构建，中美两国将展开激烈角逐，AI生态系统也将随之分裂。此外，在这样的竞争中，美国将在基础设施、计算能力、基础模型、应用程序等方面占据主导地位，但由于激烈竞争的余波，追求通过技术创新解决问题的加速主义者的声音将在中美等主要国家的政策圈中获得更大的影响力。

在中美等主要国家间的AI技术竞争中，政治经济层面将出现分裂，经济集团化的可能性也将提高，技术、产业、经济、政治等所有层面都可能发生多方面、多层次的竞争和冲突加剧。此外，在现有经济相互依存关系因集团化而失去抑制武力使用的效果的情况下，AI军事利用可能引发的潜在问题（例如，核捆绑与双重用途、因黑箱问题导致的意外升级与战争爆发）将显现出来，在台湾、朝鲜、南海等印太地区的战略引爆点上发生实际武力冲突及战争的可能性将大大增加。

在此过程中，全球南方国家将面临与发达国家相比前所未有扩大的政治、经济、社会差距，并可能陷入数据、经济、技术依赖及政治不稳定。同时，其脆弱的安全体系可能被恶意利用，导致国家重要基础设施和金融系统遭受攻击，引发严重不稳定。此外，引领AI竞争的大型科技公司可能通过市场垄断、掌控劳动力市场并导致大规模失业、数据偏见及侵犯隐私、挑战国家权力等方式，成为无法控制的新霸权势力。因此，如果当前的AI竞争态势持续下去，人类将在不久的将来面临非常严重危机。

四、未来情景与新文明标准

如果AI军事化、经济分裂、AI滥用案例激增，乃至AI对人类的支配风险成为现实，未来的世界秩序将如何展开？本研究表明，未来的秩序将呈现出AI技术驱动的变化与既有秩序的动态相互作用的复合形态（图1）。

<图1> AI在各领域的发展与未来秩序转换情景

这将表现为：(1)在缺乏全球领导力的背景下，大国、新兴国家等主权竞争导致国际规范和秩序（路径1）、制度陷入混乱，出现分裂、对立突出的国际体系；(2)大国间影响力竞争、技术霸权、战略优势争夺，以及在一定程度上基于对全球挑战的合作而实现相互共存的体系（路径2）；(3)国家、非国家行为者通过民主的、多维度的参与，建立包容性的、复合性的全球共治体系（路径3）。本特别报告系列将提出上述情景的背景逻辑和理论，并最终探索构建符合未来新文明标准的全球秩序的设计蓝图。■

■ 金阳圭_EAI高级研究员。首尔大学政治外交学系讲师。

■ 孙烈_EAI院长。延世大学国际学研究生院教授。

■ 全在成_EAI国家安保研究中心所长。首尔大学政治外交学系教授。

■ 河英善_EAI理事长。首尔大学名誉教授。

■ 负责人及编辑:朴智秀, EAI研究员

    咨询及编辑: 02 2277 1683 (ext. 208) | jspark@eai.or.kr