[中美经济战争与韩国的选择系列] ⑥ 中美战略竞争下的军事人工智能的政治经济
编者按
全在星 EAI国家安全研究中心所长(首尔大学教授)分析称,中美战略竞争正以军事人工智能技术为中心不断深化,并已扩展至军事安全领域。作者建议,在尚未就人工智能技术应用达成共识性规范的情况下,为应对日益激化之中美军事人工智能战略竞争,韩国应在推进自主人工智能技术研发的同时,密切关注围绕军事人工智能的国际政治经济环境的变化。
一、人工智能带来的机遇与风险
在第四次工业革命技术中,人工智能(Artificial Intelligence,以下简称AI)作为支撑所有技术的基础性元技术,必将在广泛领域引发巨大变革。AI已在军事和民用技术领域引发革命性变化,正以前所未有的速度快速发展,其技术发展方向也难以预测。在AI技术发展前景不明的情况下,若再叠加强国间的地缘政治竞争这一变量,AI技术究竟会成为人类的福祉还是祸害,也难以估量。
AI正在军事的各个领域引发巨大变革。它是未来战争格局的关键技术领域之一,与量子计算、生物技术、太空和网络技术等并列。美国和中国在激烈的战略竞争中,处于AI技术创新竞争的领先地位,并努力引导未来战争朝着有利方向发展。目前,虽然美国在传统军事领域和AI的多个领域被认为领先于中国,但中国在短时间内取得了巨大的军事技术发展,并正通过在AI智能战争领域进行大规模投资,努力在未来超越美国(Luo 2022)。AI技术问题与中美经济关系紧密相连,并必然成为未来中美战略竞争格局的诸多变量之一,其根基在于军事安全领域。
另一方面,如果国际社会未能就AI的未来发展方向达成合作,AI可能给人类带来巨大的危害(Bremmer and Suleyman 2023, 102-105)。AI技术与其他领域不同,无法由政府和军队单方面主导,许多企业和经济行为者正走在AI开发的前沿。快速发展的AI技术难以仅凭国家间的协议加以控制,并且对AI技术本身的研究仍显不足。例如,关于AI是否会发展到通用人工智能(artificial general intelligence: AGI)并超越人类控制,拥有自主控制能力,或者是否会拥有主观意识并改变对AI的基本看法等问题,目前仍缺乏充分的认识。
关于AI的监管,由于各国利益不同,国家与企业立场各异,因此在监管和控制方面需要不同于过去在核武器或气候变化等领域所做的努力的资源和共识。虽然在建立新领域所需监管机制方面已开始初步努力,但若中美AI竞争等强国地缘政治竞争成为主导逻辑,AI可能给全人类带来巨大挑战(Kissinger and Allison 2023)。
身处中美地缘政治竞争漩涡中心的韩国,不仅在中美军事竞争中,也在AI竞争中面临着出口管制和投资限制等经济领域的诸多变化。对于在半导体生产领域占有一定重要性的韩国而言,如何预测未来形势并如何应对,是一个极其重要的问题。
二、人工智能与未来战争
未来战争将以AI增强技术,特别是全自主武器系统的使用为特征,而率先掌握这些技术的国家将在军事安全乃至整个战略竞争中占据有利地位。军事AI的发展速度非常快,例如美国空军的“皇家僚机”无人机或无人机,已能在无人干预的情况下识别、跟踪和攻击目标。近期,在加沙、利比亚、纳戈尔诺-卡拉巴赫、乌克兰等冲突地区自主杀伤性武器系统的使用,也引发了重要的法律、伦理和道德问题。AI增强的军事技术将如何改变战争的本质和动态,目前尚不明确。一些对军事目的AI使用最为担忧的人,甚至提到了“AI末日”(AI apocalypse)的末世论,即机器发展到能够统治世界的程度。
未来国际政治将很大程度上受到AI在多大程度上以及出于何种目的影响未来战争的影响。采用AI增强的军事技术的方式,可能因决策层级(战术或战略)和人类干预类型(人类或机器)而异。各国将通过优化算法,在战场上执行战术作战,或执行战略决策程序以支持整体战争目标。
首先,在战术层面,这些技术可以通过快速分析战场上分散的传感器收集的大量数据,生成比敌方更快的目标,从而提高现场指挥官的成功率。这可以通过大大缩短“从传感器到武器的反应时间”来实现。美国国防部的“利马特遣队”(Task Force Lima)和“梅文项目”(Project Maven)是AI应用的实例。
在战略层面,AI增强的军事技术可以辅助政治和军事领导人设定主要目标。也就是说,它可以帮助协调包括物资和人员在内的有限资源的组合和同步。甚至可能出现新的能力,在制定战略方向和国家战略等方面取代人类在未来军事行动中的作用。
根据人类因素的介入和监督类型进行分类,各国可以调整AI增强军事技术的授权监督或控制类型。这是通过加强人类对技术的监督,并赋予其在决策中的更大权力来设计的。这类系统通常被称为半自主系统,意味着它们在人类的控制之下。大多数美国武器系统,如通用原子能公司的MQ-9“死神”无人机,都是目前AI增强武器系统运作的方式。
各国也可以设计AI增强的军事技术,同时减少人类的监督。这类系统是无人干预的,杀手机器人是典型的例子。在这类应用中,人类仅对目标决策进行有限的监督。
将AI应用于军事安全的情况进行梳理,可以根据AI的决策层级和人类监督类型将战争分为四种类型。第一,国家可以在人类监督下,利用AI增强的军事技术做出战术决策。第二,各国可以利用AI增强的军事技术,在最大限度减少人类干预和机器监督的情况下做出战术决策。第三,在战略决策层面,这是机器控制最大化的类型,AI增强的军事技术被赋予强大的权力,塑造国家间战争的轨迹。利用人工智能进行的战争,将使国家能够在时间和空间上获得并保持对敌方的优势,从而左右战争的整体结果。最后,这是在保持对AI增强军事技术的人类监督的同时,利用算法优化战略决策,试图攻击和利用对方弱点的战争。这种被称为算法决策支持系统的战争模式,其目的是通过算法执行关键支持任务,同时保持整体人类监督。在这种战争中,可以通过实时威胁预测来预测敌方可能的行动路径,识别最可行、可接受和合适的战略,并定制物流等关键战争功能,以确保军队在竞争性作战环境中获得并保持主动权(Lushenko 2023)。
AI将在军事安全领域的几乎所有层面得到应用。从后勤和物资采购等行政工作到战争执行的战略决策,AI已经并在未来将会在很大程度上得到应用。民主与威权主义的政治体制也是一个重要变量。允许多大程度的人类干预,以及如何设定公民社会在AI运行中的作用,将改变军事AI的运行环境。军事AI是战争问题,而战争的胜败关系到国家命运,因此,战争执行的效率可能比AI运行的伦理和道德责任更受重视。在目前缺乏AI运行的国际共识或国际规范的情况下,各国AI运行很可能呈现竞争态势。
三、围绕军事人工智能的中美竞争
1. 中国发展军事人工智能的战略
目前,中美战略竞争已从经济领域扩展到军事安全领域。在军事竞争方面,美国在常规武器、核力量和AI力量等方面领先于中国。在此优势基础上,美国的对华战略目标是保持对华压倒性军事优势,同时防止战略竞争演变为军事对抗,在经济领域保持合作,巩固基于自由民主优越性的意识形态基础,并加强与盟友和战略伙伴的关系(Krepinevich 2024, 103-111)。另一方面,中国在常规力量方面正以极快的速度追赶,尤其是在人工智能力量方面,中国正全力以赴,以期超越美国(Flournoy 2023, 102-106)。
2017年,中国宣布了到21世纪中叶将人民解放军建设成为世界一流军队的目标,以克服军队能力不足的问题,并将中国牢固确立为世界主要军队之列。这一目标是中国共产党领导人认为,中国正在走向世界舞台中心,并代表着为确立中国在全球所有重要国力要素中的领先地位而采取的多方面目标中的军事组成部分。中国认为,世界一流的人民解放军在力量和声望上将超越其他国家军队,特别是美军,并阻止其他国家阻碍中国追求国家目标。
考虑到后来者的优势,中国在采用军事AI等新技术方面可能比美国处于更有利的地位。美国目前在隐形飞机、航空母舰和精确制导弹药等领域享有的优势,从长远来看可能反而不利,因为支撑当今军事优势的稳固的商业和政治利益,将成为美国未来向AI驱动的军事技术范式转型的障碍。中国在2007年至2017年间将军费增加了两倍,并将技术置于首要地位,普遍认为目前的许多平台和方法已经过时,必须更换。美国仍然比中国在国防开支上更多,但其大部分支出被锁定在现有项目中。这些遗留项目的存在,与从零开始投资新方法相比,处于不利地位(Huang and Drexel 2023)。
中国将军事能力的技术发展视为成为世界一流军队的必要条件。为了在未来冲突中取得成功,中国指出,解放军在实现世界一流军队转型的同时,必须关注技术变革,并提高在“信息化、智能化战争”中获胜的能力。中国认为AI将成为经济和军事力量未来的基础,并于2017年7月发布了《新一代人工智能发展规划》(AIDP)。中国军方领导层认为,AI智能战争的到来,意味着一场堪比20世纪机械化和信息化革命的军事技术革命。在武器系统中应用AI,已成为近年来中国军事改革的中心,并无疑将成为建设世界一流军队的关键方面。
中国共产党领导层认为,AI是一项革命性技术,具有快速提升人类能力之外的各种战争能力,如搜索、数据处理和目标定位的潜力。中国军方领导人和AI工程师都认识到AI的应用在战争中不可避免,并相信早期采用AI进行军事应用,将为中国军队“跨越式发展”超越美国军事力量提供机会。
数十年来,中国军队一直在磨练其在利用现代信息技术进行战争中的非对称能力和战略。最近,他们一直在研究如何利用人工智能和其他技术在战时决策和流程中获得决定性优势。据了解,军方领导人一直在开发“混合智能”的概念,即通过使用脑机接口等技术来融合人类和机器的智能。可以看出,这一概念正在通过包括旨在通过脑机集成促进人类能力增强的项目在内的新计划来实现,例如使用武器的“智能自主性”来行使指挥权。除了在自主军用机器人中使用人工智能外,中国似乎还对人工智能在军事指挥决策中的能力感兴趣。这是有理由认为中国的战略是一个雄心勃勃的计划,即从人类监督的战场转向日益自主的人工智能驱动的战争。其方向是减少人类的干预,以最大限度地发挥人工智能在未来战争中的军事应用,正如我们在前面所探讨的。
与对AI的高度关注相匹配,中国共产党也在加大对AI的投资。为了成为AI领域的领导者,中国计划将政府在AI开发方面的总支出每年增加27%,到2026年达到270亿美元。中国的民营AI企业名义上并非国有企业,但中国共产党在许多企业中都设有有影响力的党组织。
中国在近代化过程中曾是西方帝国主义的对象,但它展现出在第四次工业革命中占据优势并走向未来世界领导者的决心。在此过程中,可以说中国正全力以赴地为AI整体以及军事AI奠定政治和经济基础。
2. 中国的军民融合战略及其优缺点
众所周知,人工智能技术是在政府、军队、商业部门的民用技术以及大学和研究机构的知识相结合的生态系统中发展的。美国在政府努力的同时,也充分利用了硅谷的创新技术环境以及主要大学的人工智能研究,形成了世界上最强大的人工智能创新生态系统。中国也正在加速适应其威权体制的人工智能发展(Scharre 2023)。
中国的国防技术创新越来越依赖于民营企业和大学的贡献,这得益于中国的军民融合(MCF: Military-Civil Fusion)战略。军民融合战略是中国在太空、网络空间、深海等领域以及人工智能和量子信息科学等战略技术领域追赶并超越美国的议程中的一个非常重要的组成部分(Muhammed and Vieira 2022, 85-102)。
根据最近的解放军采购合同,大多数AI设备供应商是2010年后成立的非政府部门的中国技术企业。其中包括2016年成立的安怀信科技股份有限公司(Anwise Global Technologies),该公司主要服务于军事航空航天和电子工业,并已发展成为中国最大的智能设备制造商。2015年成立的人工智能企业深圳市Realis多媒体科技有限公司(简称Realis),为解放军官兵开发了可进行多人训练的AI虚拟现实训练室。中国人民解放军战略支援部队(PLASSF)在寻求AI合作伙伴方面处于特别有利的地位,因为它致力于执行算法构建、卫星星座管理、潜在攻击的电子战等高AI应用潜力的任务组合。
国家主导的投资者也乐于提供资金。中国前瞻性的监控系统为与政府合作的早期AI企业提供了海量数据,供其进行实验和开发技术。这有助于中国成为AI应用领域的全球领导者。通过这种方式,中国政府积累了管理AI开发经验,并加速了在计算机视觉等特定AI领域的创新,这些领域能够通过AI实现图像和视频数据的收集和分析。中国政府高度重视计算机视觉在监控和军事应用中的作用。中国大力支持计算机视觉的再研究,中国机构的研究人员撰写了超过三分之一的计算机视觉和视觉监控研究论文,使其成为在计算机视觉和政府机构应用方面产出研究最多的国家(Fedasiuk et al. 2022)。
民营AI企业也与中国军队合作,有时甚至通过影响全球市场来发挥作用。无人机制造商大疆(DJI)通过在物体检测和导航中应用机器学习工具,实现了76%的商用无人机全球市场份额。
在中国军队和民营AI企业合作开发AI技术的同时,规避国际制裁也是一个重要方面。中国的许多企业继续以民营非政府技术企业的名义运营,以规避因支持敌对国家军队而可能面临的审查和制裁。根据安全新兴技术中心(CSET)的研究,在已确认的273家中国解放军AI设备供应商中,截至2021年,只有8%(22家)被列入美国的出口管制和制裁体系。其中许多企业在发展过程中依赖美国的科技进步和部分美国资本。
AI技术运行需要半导体,而半导体生态系统的关键部件很多都由美国及其伙伴控制。根据CSET在2020年对中国军队公开采购记录的分析,在97个AI芯片中,几乎所有芯片都由美国芯片公司设计,如英伟达(NVIDIA)、赛灵思(Xilinx,现为AMD的一部分)、英特尔(Intel)和微芯(Microchip)。几乎所有的AI模型都通过图形处理单元(GPU)进行训练,GPU是能够训练复杂AI模型的高性能芯片。截至2022年9月,美国的两个GPU供应商英伟达和AMD占据了中国国内GPU市场的95%,并为包括军事在内的中国AI发展提供关键芯片。
正如后面将要讨论的,随着2022年10月拜登政府对华实施半导体出口管制,以及中国获取美国先进芯片的途径受到限制,中国的AI发展呈现出放缓的趋势。美国限制措施的实施促使许多中国企业扩大了规避制裁的活动,结果是动员了数千名中间商,通过走私将英伟达等世界顶级半导体运往中国,从而扩大了规避制裁的活动。
与此同时,来自美国的资本也促进了中国军事AI技术企业的发展。这包括与硅谷风险投资公司红杉资本(Sequoia Capital)有关联的资金,如红杉资本中国基金。尽管红杉资本中国基金目前正进行分拆,并计划在2024年3月前将其中国业务与美国和欧洲业务分离并更改品牌,但红杉资本中国基金仍在吸引美国大学捐赠基金和慈善信托的投资。红杉资本中国基金是EverSec的早期投资者之一,EverSec为中国军队提供基于AI的开源数据挖掘和信息技术支持。2021年11月,解放军战略支援部队与EverSec签订了关于AI驱动的“网络威胁智能检测与预警平台”的合同。此外,高盛(Goldman Sachs)也于2020年投资了中国最大的AI企业之一——第四范式(4Paradigm)。
在大型语言模型(Large Language Models: LLM)领域,中国企业正积极引进国际AI科学家,以增强中国的AI LLM能力。中国AI驱动的国防技术发展曾因对特定战争场景的训练数据访问受限以及AI工程师短缺而受到延误。中国在计算机视觉领域的发展,部分得益于其全国性的监控计划,为AI企业提供了数百万个用例,使其能够开发和测试AI计算机视觉技术的实际应用。
由此可见,中国正以国家总体战的形式,通过长期规划发展军事AI。在此过程中,竞争对手,特别是美国的科技和半导体进口至关重要,中国正竭尽全力在维持这些进口的同时,开发自身的AI能力。在日益增长的对华AI制裁下,中国能否保持超高速追赶者的地位,目前尚不清楚。中国在多个领域拥有发展AI的基础。特别是,在威权体制下,海量数据将极大地促进AI的发展。但就军事领域而言,军事AI开发所必需的创新实地军事数据确实有限。中国几乎不参与海外冲突来直接测试AI,因此在开发、训练和改进AI驱动的战争能力方面的数据有限,这也是中美军事安全竞争中中国面临的局限性之一。
中国政府安装了广泛的人工智能系统来监控、审查和限制新疆居民的行为,为包括中国AI发展前沿的许多企业在内的中国监控产业综合体提供了丰富的资金、数据和运营经验。然而,根据应用领域不同,数据的可用性必然受到限制。通常情况下,获取针对商业客户或国内监控目标的训练数据比获取针对敌方目标的数据要容易得多,尤其是在己方武器系统和传感器不在敌方射程之内的情况下。美国最成熟的国家安全AI应用是在人工智能分析卫星侦察图像等领域。在和平时期,卫星拍摄了大量俄罗斯和中国军队的照片,这些照片可以被人类专家标记为训练数据。训练数据是机器学习AI系统学习的数据,训练算法和训练数据的组合决定了AI系统如何学习识别图像内容。
尽管中国可能在人脸识别方面拥有国内监控应用或商业应用的数据优势,但与实际军事运行相关的数据与军事应用的相关性有限。对于精确导弹瞄准或自主无人机导航等一些军事AI应用,中国相对于美国的数据优势非常低。
四、拜登政府的对华人工智能技术管控战略
1. 美国在尖端技术领域的对华技术管控战略
虽然中美在军事人工智能领域的创新竞争是为了在未来战争中取得优势,但这种竞争已在经济政策的各个领域展开。习近平政府上任后不久,发布了“中国制造2025”计划,旨在将中国建设成为先进科学国家。尽管中国在技术、科学和尖端产业方面未能超越美国,但在电池、太阳能以及量子通信和人工智能领域表现突出。这些发展并非源于中国在科学创新和生态系统方面的优势,而是源于中国制造过程中的创新。中国政府鼓励企业在太阳能产业等未来重要产业领域进行无序竞争,并通过技术创新和成本节约获得了国际竞争力。这种创新将持续下去,中国在尖端技术和月球无人探测器着陆等太空产业领域也有可能表现突出(Wang 2023)。
美国一直试图通过对华技术管控来维持其优势。美国对华出口管制和投资限制将带来何种结果,是一个非常重要的问题。美国认为,中国通过非法窃取美国及西方企业的核心科学、制造技术或强制技术转让来追求经济发展。美国认为,限制这些不公平的经济行为,并控制中国的技术创新,是未来中美地缘经济竞争中取得优势的途径(Horowitz et al. 2022, 101-103)。
然而,认为中国仅是吸收美国和西方技术而发展起来的观点并不全面。美国和西方在科学、知识和技术创新方面领先,并以此保持经济优势是事实。但必须关注中国创造自身经济发展战略的方面。例如,苹果公司从2007年开始在中国生产零部件,最初依赖中国工人的简单零部件组装,但后来中国工人在更复杂的零部件生产和组装中的作用逐渐增大。最初在价值链中占比极小的中国企业,现在贡献了近四分之一。
中国经济发展的确在很大程度上得益于中国政府的补贴和对企业的支持政策,但通过大规模制造过程获得的知识和管理体系,以及无序竞争带来的效果也是重要因素。中国企业利用廉价劳动力,并最大化利用从西方学到的管理和知识管理体系,创造了中国特色的制造业创新体系。这种创新是长期过程和竞争的结果,与美国在科学、知识创新和生态系统方面的进步形成鲜明对比。这表明,未来中国有可能在美国的制裁下实现自主AI发展(Danzman and Kilcrease 2022)。
2. 美国在人工智能领域的对华技术管控战略
要在AI领域取得领先,需要科学研究能力和人才、政府和军队的资源及高效战略、民营部门的创新技术开发和企业绩效,以及作为人工智能技术硬件的半导体生产能力。美国和中国在人工智能竞争中各有不同的优势,美国尤其在半导体领域加强了对中国的施压战略。
最初于20世纪50年代和60年代为导弹制导系统发明的半导体,如今已驱动所有家用电器,但其起源可以追溯到国防系统。半导体在战争中至关重要,正如乌克兰在与俄罗斯的战争中发挥巨大作用的“标枪”反坦克导弹,以及帮助乌克兰通信保持在线的“星链”低轨道卫星网络等例子所示。未来,军队将比现在需要更多的半导体,并且将面临一个根本性挑战:与民用经济一样,应用AI需要巨大的计算能力。
要阻止中国的军事AI革命,不仅要阻止美国半导体销售,还要阻止中国自行生产或替代购买。为了切断中国的替代途径,拜登政府正在利用美国在全球半导体供应链关键节点的技术优势,阻止中国获取半导体设计软件、制造设备和设备组件,这些都是美国技术至关重要且几乎不可替代的输入领域。
中国对进口半导体依赖程度很高,其进口额几乎与每年进口石油的金额相当,而且大部分必须从商业竞争对手乃至地缘政治对手国家进口。考虑到荷兰ASML公司计划在未来一到两年内推出下一代EUV光刻设备,追赶半导体产业意味着追赶的不是现状,而是人类历史上速度最快的竞争。目前,能够生产先进材料所需化学物质的企业大多集中在日本少数几家,而半导体设计软件的生产由三家公司垄断,制造领域也存在类似的集中度。
特别是,中国在AI领域半导体方面无法满足国内需求是众所周知的。目前用于训练AI系统的半导体严重短缺,据称英伟达(NVIDIA)生产了近90%的供应量。据估计,目前用于训练OpenAI系统等人工智能系统的芯片,对人工智能的未来起着绝对关键的作用,其价值已达1万亿美元。
在此背景下,2022年10月7日,拜登政府继8月份的《半导体和科学法案》之后,公布了对华半导体遏制战略。美国发布的规定禁止向中国出口生产18纳米以下DRAM、128层以上NAND闪存、14纳米以下逻辑芯片(非存储芯片)的半导体设备和软件。美国阻止了销售AI领域企业构建最强大计算集群所需的最快数据共享的AI训练芯片。这项规定使得全球最大的芯片制造商英伟达无法向中国企业销售其最强大的AI训练芯片H100和A100。
英伟达在中国市场占其总销售额的30%以上,它迅速开发了替代产品H800和A800,这些产品可以在集群内与其他芯片以每秒400千兆字节的速度通信,而不是之前规定标准每秒600千兆字节,以规避美国的控制。虽然H800和A800比最先进的芯片慢,但它们仍然可用于构建强大的AI应用程序。据报道,包括字节跳动(拥有TikTok)、百度、阿里巴巴、腾讯在内的中国科技公司在规定发布后订购了价值50亿美元的H800芯片。
一年后的2023年8月9日,拜登政府发布了一项行政命令,通知并可能禁止美国人在半导体和微电子、量子信息技术、AI系统等领域对中国进行特定投资。至此,美国得以继续推行此前讨论的对A800的出口管制。美国政府还限制了英伟达向某些中东国家出口,指出其在关键技术开发方面与中国密切合作。另一个目标是云计算市场,美国政府正在考虑阻止中国企业访问亚马逊网络服务(Amazon Web Services: AWS)和微软Azure(Microsoft Azure),这些服务在全球范围内提供强大的计算能力。这是因为担心这些服务可能被用于规避出口管制措施,此外,据报道,现有的半导体设备出口管制也将进行更新。
五、美国对华人工智能遏制战略的未来
半导体是世界上最复杂的供应链之一,需要多边应对。美国对华量子政策的成功需要建立多边体系,其中存在重要的考虑因素。首先,欧洲在半导体贸易中的关键作用。中国在发展半导体方面的主要障碍之一是获取荷兰ASML等先进光刻技术和测试设备,美国与荷兰的贸易管制谈判需要强大的压力。然而,这种压力未来可能不再可行。随着中国与欧洲,特别是德国的经济关系日益深化,大规模贸易关系可能促使欧洲重新评估其是否与美国的优先事项一致。如果美国对欧洲安全承诺发生变化,例如候选人在2024年美国大选前暗示的减少在乌克兰的驻军或削减在北约中的作用,这种变化可能会加速。
其次,作为技术创新变量,美国和台湾在半导体生产,特别是先进半导体生产方面的技术优势,是全球力量平衡的重要因素。随着被称为“摩尔定律”的先进制造商晶体管集成度增长能力的放缓,中国获得了缩小差距的机会。尽管西方被认为领先十多年,但未来的突破可能会改变力量平衡。正如华为新款手机中采用的7纳米芯片所示,中国企业作为创新主体仍在不断发展。
第三,在下一代技术的执行能力方面,虽然三星、英特尔和台积电在下一代3D半导体技术方面处于领先地位,但中国竞争对手如中芯国际确实是熟练的追赶者。3D半导体是历史上最复杂的器件,虽然不能保证中国以外的公司能够成功扩大产量,但如果复杂性和成本的增加导致技术进步放缓,那么政府支持的中国公司可能会更容易实现这一目标。
第四,就清洁能源生产要素而言,考虑到人工智能所需的巨大能源需求,例如充电能力和冷却,美国及其盟友在没有中国支持的情况下可能难以满足这些数据中心的能源需求。中国生产了全球四分之三的太阳能电池,并且率先推出了第四代核反应堆技术。
最后,就资源方程式而言,美国在镓和锗等半导体生产必需的材料方面严重依赖中国企业。美国主要企业认为,实现半导体生产所需资源的脱钩至少需要十年时间。这可能成为美国半导体生产的潜在障碍,因为中国已经开始对关键材料实施出口管制(Brill 2023)。
在此背景下,随着拜登政府扩大国家安全贸易和投资工具的范围,盟友是否会采纳这一议程成为一个重要问题。到目前为止,美国的盟友和战略伙伴国家大体上都与美国的对华经济战略保持一致。在美国宣布单方面出口管制后,它与日本、荷兰和韩国等被纳入半导体工作组“Fab4”的国家结盟。欧盟委员会主席乌尔苏拉·冯德莱恩(Ursula Gertrud von der Leyen)呼吁欧盟自行采取相应措施,以示对美国的声援。作为半导体设备和材料强国的日本,已宣布自2023年7月起对包括先进半导体光刻和清洗设备在内的23种产品实施出口管制措施。荷兰此前也宣布加强出口管制。中美半导体争端尤其在2023年5月中国当局以安全风险为由禁止购买美国美光公司的半导体产品后进一步加剧。在美国限制先进半导体设备出口并将中国国有半导体企业YMTC列入出口管制名单后,中国也开始对包括镓和锗在内的30种产品实施出口管制,从而引发了围绕半导体的两国紧张关系。
美国试图在2023年5月于广岛举行的G7峰会上确定海外投资审查的优先事项。各国领导人的声明指出:“我们认识到,为应对海外投资带来的风险而制定的适当措施,可能对补充现有的出口和海外投资的靶向控制措施至关重要,并且我们可以共同努力,保护我们的敏感技术不被用于威胁国际和平与安全的方式。” 欧盟于2023年6月发布的经济安全战略中,也包括了防止对拥有敏感技术的欧盟企业进行过度投资、对可能被军事使用的产品实施出口管制以及防止第三方收购欧盟关键基础设施或企业等措施。
未来,旨在遏制中国人工智能发展的多边体系将继续加强。与此同时,中国将加快自主生产,并努力规避制裁以实现自身的人工智能发展。在这种情况下,哪些技术应该被控制,以及控制到何种程度,是否能够持续地与盟友和伙伴达成一致,将成为一个问题。与盟友和伙伴的控制协调并非总是易事,对于许多成熟的技术及其供应链而言,需要更广泛的国家政策协调才能有效减缓中国的获取。对于新兴技术而言,协调问题更加复杂,因为商业和潜在国防应用的发展方向尚不明确,相关产业将如何发展,哪些国家在这些技术上拥有最大的能力或障碍,以及技术成熟度控制应在哪个阶段进行,都还不清楚。
例如,韩国、日本和台湾等东亚主要国家各自维持着审查制度,并且每个司法管辖区都维持着强大且高度全球化的技术生态系统。尽管如此,美国推行的制度非常独特,要让盟友参与此类制度需要共同努力、政治上密集的进程以及领导人之间大量的时间投入。
更大的问题是,即使将当前的美国出口管制和投资限制与多边出口管制以及美国盟友和伙伴的投资审查制度相结合,是否足以阻止美国和外国的技术、专业知识和资本流入中国国防部门。这是因为中国的军民融合战略给维持出口管制带来了许多挑战,而技术进步的速度以及新技术的研发和所用供应链的全球化加剧,也使控制和限制政策变得更加复杂(O’Dea 2023)。
中国企业由于出口管制制定和执行缓慢,得以开发出规避方法。例如,2023年3月,《澳大利亚金融评论》报道称,中国语音识别公司iFlytek(于2019年被列入实体清单)通过租用配备先进英伟达芯片的云计算服务器来训练人工智能模型,从而规避了购买美国先进芯片的限制。2023年9月,美国出口管制的主要目标华为发布了搭载中国最先进的芯片制造商中芯国际生产的7纳米芯片的智能手机Mate 60。7纳米制造工艺是一个相对复杂的工艺,这表明中芯国际的技术进步速度超出了预期,或者它能够规避出口管制。此外,在中国百度于2023年10月在北京举行的一次活动中,中国大型搜索引擎公司百度发布了其最新版本的语言模型“文心一言4.0”,其性能据称可与ChatGPT的人工智能模型相媲美。百度表示,它使用了数万个芯片来训练文心一言4.0,最终确认使用了英伟达芯片。根据2023年的规定,美国政府虽然没有点名H800芯片,但该芯片被广泛认为是新规制的潜在目标(Wired 2023年10月17日)。
最终,美国的出口管制将在遏制技术向中国转移方面面临一系列挑战。首先,出口管制是一种临时解决方案,虽然可以延缓中国获取和开发关键技术,但无法完全阻止。其次,以最终用户为中心的方针需要大量资源来追踪代表中国军方的新兴公司的扩散。此外,用于识别这些公司的所有权和交易数据可能不准确或无法获得。第三,在许多技术领域,美国没有足够的供应链控制权来单方面实施有效的管制。第四,现有的制度侧重于防扩散而非限制两用技术的转移,并且由于需要所有成员国的同意,多边协调也存在困难。
六、韩国的政策挑战
人工智能与大国战略竞争,特别是与在人工智能技术领域处于领先地位的中美之间的战略竞争相结合,使得人类的未来更加不确定。如果美国和中国以外的人工智能技术领先的先进国家未能制定共同规范,并卷入中美战略竞争的逻辑中,那么未来的全球安全环境很可能会进一步恶化。目前,中美两国在人工智能技术发展所需的各个领域展开激烈竞争,这种竞争在演变成中美战略竞争的整体逻辑中的军事对抗之前,应朝着制定共同的国际规范和制裁制度的方向发展。重要的是,要努力确保美国及其盟友目前对中国拥有的优势,不遵循单纯的军事制裁逻辑,而是在技术差距的机遇窗口内,能够达成人工智能的共同监管制度。2023年11月,在中美两国元首于旧金山亚太经济合作组织(APEC)峰会期间举行的会晤中,讨论了人工智能的军事用途,这可以被视为进一步发展了国际社会对人工智能的担忧和努力。
韩国制定了人工智能技术的整体自主发展计划,在发展韩美技术联盟的同时,加强了与西方国家的合作,并加强了政府与企业之间的关系,在继现有的内存半导体技术之后,大力推进了广泛的人工智能政策,以进一步发展国际上不可或缺的技术(裴英子2023;尹正贤2023;金相培2022)。这些努力今后仍需继续。特别是,在以美国为首的对华经济遏制政策加速推进的过程中,努力确保韩国的经济利益不受损害将至关重要。在人工智能技术方面,尽管美国和欧盟加强了对华制裁,但韩国半导体产业目前似乎并未受到太大影响。这是因为三星电子在中国运营着闪存工厂,SK海力士运营着DRAM和闪存工厂,但两家公司都不生产人工智能半导体(Choi 2023)。然而,未来韩国在扩大人工智能技术创新范围时,有必要考虑不断变化的地区政治因素。
更重要的是,需要密切关注人工智能军事技术扩张及其引发的政治经济环境变化可能产生的多方面影响。韩国未来的挑战包括:第一,了解中美战略竞争和人工智能竞争将如何联系起来,以及围绕朝鲜半岛的军事安全环境将如何变化至关重要。美国正在通过半导体领域遏制中国以促进人工智能竞争,并在深化双边遏制的同时,不断发展多边体系。然而,与此同时,中国正通过各种努力规避制裁,并加速自主技术开发。这种竞争最终将加速军事人工智能的整体发展,并且中美军事安全竞争的格局也将发生变化。如果人工智能的战术和战略应用加速,对朝鲜半岛安全环境将产生何种影响,需要进行具体研究。特别是,中美军事竞争正在全面升级为核武器竞争,并且利用太空技术和人工智能技术进行的核武器竞争正变得更加活跃。核武器在20世纪受到相互保证毁灭原则的制约,但在新的环境中是否可能以不同的战略进行运作,这是一个非常重要的问题。考虑到目前中美在包括台湾在内的整个亚洲地区的军事竞争存在潜在的冲突升级可能性,有必要始终考虑人工智能驱动的核战争的可能性。
第二,确保韩国军事创新所需的军事供应链至关重要。韩国在推进自主人工智能开发的过程中,不仅要确保半导体,还要维持研究人员、矿产资源、电力等创新生态系统,并以此为基础发展韩国的军事力量。韩国提出了“军事创新4.0”基本计划,其核心是应对跨越所有领域、融合无人机复合作战以及超连接、超融合的智能化战争。为此,通过适时获得基于第四次工业革命科学技术的尖端力量,培养人工智能科技强军。为此,确保人工智能开发的经济供应链至关重要。在中美技术竞争中,全球供应链正在重组,韩国需要努力重新设计可持续的军事供应链。在韩美同盟发展为产业同盟、技术同盟的趋势下,在保持与战略伙伴国家的广泛战略合作的同时,必须重视管理,确保这些努力不会恶化与中国等主要贸易伙伴的关系。
第三,需要进行规范性努力,以防止中美战略竞争军事化,特别是具有毁灭性影响的人工智能军事化。如前所述,G7国家已经发布了关于人工智能开发的非约束性行为准则。11月初,英国举办了人工智能安全峰会,28个国家代表团承诺合作管理人工智能的风险。12月初,欧盟议员就人工智能法案达成政治协议,这是一项旨在减轻技术风险和制定全球监管标准的开创性立法。这些努力讨论了广泛的人工智能开发,但特别迫切需要讨论军事人工智能,包括自主杀伤性武器系统。韩国应加倍努力,为我们自身的安全以及具有毁灭性影响的人工智能军事应用制定国际标准。■
参考文献
金相培。2022年。“非接触时代数字平台竞争:中美技术霸权竞争的复合地缘政治。”东亚研究院。《[EAI工作论文]后新冠危机时代世界政治经济秩序系列②》。2022年2月8日。
裴英子。2023年。“2023年中美技术竞争展望与韩国技术外交战略。”东亚研究院。《韩国外交2023展望与战略》第8期。
尹正贤。2023年。“军事人工智能技术的创新与国际规范限制:安全与责任平衡的启示。”《济州和平研究所政策论坛》第2023-04期。
Bremmer, Ian and Mustafa Suleyman. 2023. “The AI Power Paradox: Can States Learn to Govern Artificial Intelligence—Before It’s Too Late?” Foreign Affairs. September/October. 102-5.
Brill, Jonathan. 2023. “America’s Shaky Semiconductor Supremacy Over China.”Forbes. https://www.forbes.com/sites/jonathanbrill/2023/12/20/americas-shaky-semiconductor-supremacy-over-china/?sh=12b773071aca
Choi, Jasmine. 2023. “US-China Semiconductor War Enters ‘Round 2.’”Business Korea. https://www.businesskorea.co.kr/news/articleView.html?idxno=202813
Danzman, Sarah Bauerle and Emily Kilcrease. 2022. “The Illusion of Controls: Unilateral Attempts to Contain China’s Technology Ambitions Will Fail.”Foreign Affairs. December 30.
Fedasiuk, Ryan, Karson elmgren, and Ellen Lu. 2022. “Silicon Twist: Managing the Chinese Military's Access to AI Chips.”Center for Security and Emerging Technology. June.
Flournoy, Michèle A. 2023. “AI Is Already at War: How Artificial Intelligence Will Transform the Military.”Foreign Affairs. November/December. 102-6.
Horowitz, Michael C., Lauren Kahn, and Laura Resnick Samotin. 2022. “A Force for the Future: A High-Reward, Low-Risk Approach to AI Military Innovation.”Foreign Affairs. May/June.101-3.
Huang, Sihao and Bill Drexel. 2023. “China Goes on the Offensive: in the Chip War What the United States Should Do to Keep Its Lead.” Foreign Affairs. October 11.
Kissinger, Henry A. and Graham Allison. 2023. “The Path to AI Arms Control: America and China Must Work Together to Avert Catastrophe.”Foreign Affairs. October 13.
Krepinevich, Andrew F. Jr. 2024. “The Big One: Preparing for a Long War With China.”Foreign Affairs. January/February. 103-1.
Luo, Shuxian. 2022. “Addressing Military AI Risks in U.S.–China Crisis Management Mechanisms.”China International Strategy Review 4.2: 233-47.
Lushenko, Paul. 2023. “AI & the future of WARFARE.”Bulletin of the Atomic Scientists. https://thebulletin.org/2023/11/ai-and-the-future-of-warfare-the-troubling-evidence-from-the-us-military/
Muhammed, Can and Alena Vieira. "The Chinese Military-Civil Fusion Strategy: A State Action Theory Perspective." The International Spectator. 57.3 (2022): 85-102.
O’Dea, Ann. 2023. “How the chip war and the future of AI are inextricably linked.”Silicon Republic. https://www.siliconrepublic.com/future-human/chip-war-semiconductors-supply-tech-geopolitics-chris-miller.
Scharre, Paul. 2023. “America Can Win the AI Race: It Has the Resources—Now It Needs a Plan.”Foreign Affairs. April 4.
Wang, Dan. “China’s Hidden Tech Revolution: How Beijing Threatens U.S. Dominance.” Foreign Affairs. March/April 2023
Wired. 2023. “The US Just Escalated Its AI Chip War With China.” https://www.wired.com/story/the-us-just-escalated-its-ai-chip-war-with-china/
■ 全在成_东亚研究院国家安保研究中心所长,首尔大学教授。
■ 负责人及编辑: 李周妍_EAI研究员
咨询:02 2277 1683 (分机 205) | jylee@eai.or.kr
*本文为使用 AI 从韩语原文翻译而来,部分译文或语感可能存在偏差。