[人工智能时代的地缘政治] ⑫ AI竞赛与国际规范的危机？ 自主致命武器系统的治理竞赛的动力学与挑战

I. AI战争的到来与AI自主致命武器系统规范

尽管对于AI对军事革命的影响是激进还是渐进存在观点差异，但对于未来战场上AI的军事使用将成为决定性因素这一点，普遍没有异议。[1] AI的军事使用本身也是一个现实问题。2026年1月，在美国执行逮捕委内瑞拉马杜罗总统的特种作战过程中，Palantir公司似乎使用了Anthropic公司的AI模型Claude。[2] 俄乌战争，以及2026年2月28日美国和以色列攻击伊朗后爆发的伊朗战争，都表明AI在防空系统、无人机、指挥控制系统等全方位军事应用已全面展开。[3]

随着AI在战场上的广泛应用，在加强AI军事应用能力的同时，关于AI正当军事使用的价值和规范的冲突也成为现实问题。2026年2月，美国国防部与Anthropic公司在AI军事使用问题上矛盾激化。Anthropic是唯一一家获得军方秘密系统使用许可的AI模型公司，并于2025年7月与美国国防部签订了价值2亿美元的合同。然而，在委内瑞拉马杜罗总统的逮捕行动之后，Anthropic公司就Claude在行动中的使用情况向Palantir公司进行询问，从而引发了与国防部的冲突。[4]

这是因为Anthropic公司坚持其AI模型Claude的使用原则，即不能用于大规模监视美国公民，也不能用于无人干预杀伤的武器，这与国防部积极推动AI军事应用的方针相冲突。在2月27日，即美国攻击伊朗前夕，特朗普总统在其社交媒体上宣布将Claude从所有联邦机构中移除，[5]国防部也于2月24日，在国防部长皮特·海格斯（Pete Hegseth）发出警告后，于3月4日正式将Anthropic列为供应链风险企业。[6]美国国防部还坚持认为，Anthropic公司的伦理限制“过于狭隘”，并且“考虑到军事行动的法律复杂性和战场现实，从一开始就不可能执行”。[7]

美国国防部与Anthropic公司在AI军事使用问题上的冲突，不能仅仅视为美国国防部与一家AI公司之间的合同问题。狭义上，这是AI伦理开发和使用偏好企业的立场和影响力可能减弱的事件，从AI模型竞争的角度来看。这不仅影响到希望与美国政府签订合同的亚马逊网络服务（Amazon Web Service）或英伟达（Nvidia）等AI生态系统内外的其他公司，也迫使希望与这些公司签订合同的其他国家政府和企业重新考虑与Anthropic的合作。

然而，更严重的问题在于，美国国防部与Anthropic公司的冲突是决定AI相关战场未来形态的军事AI发展方向的一种“压力测试”。[8] 这也是在军事AI的开发和使用中，确立“能做什么”与“应该做什么”、“结果逻辑”（logic of consequence）与“适当性逻辑”（logic of appropriateness）、为争夺胜利而进行的非道德开发与伦理和负责任的开发及使用这两种极端之间的路径选择过程。特别是，Anthropic公司拒绝允许使用AI的两个领域之一就是完全自主武器，这表明美国国防部与Anthropic公司的冲突与当前国际社会为制定法律而正在讨论的利用AI的自主致命武器系统（Lethal Autonomous Weapons System：以下简称LAWS）的治理竞争密切相关。[9]

II. AI LAWS治理竞赛：原则与差距

全球AI治理竞争呈现出偏好企业友好型 접근方式的美国、偏好政府主导型 접근方式的中国，以及倡导权利中心型 접근方式的欧盟之间的竞争态势。[10] 2023年，欧盟发布了根据AI使用可能带来的风险区分监管和禁止程度的《欧盟AI法案》。美国拜登政府也于2022年10月发布了《AI权利法案蓝图》，并于2023年10月发布了《关于安全、可靠和可信的AI开发和使用的行政命令14110》，在很大程度上反映了欧盟倡导的权利中心型 접근方式。然而，随着特朗普第二任期政府的上台，其上任第一天就撤销了行政命令14110，并发布了“星际之门计划”等，将方向转向了放松管制和营造有利于企业创新的环境。与此同时，受2025年1月中国DeepSeek-R1发布等事件的影响，一直倡导权利中心型 접근方式的欧盟，在数字规范讨论中也正朝着推动AI能力发展和技术创新的方向转变。2025年11月20日，欧盟甚至发布了“数字简化方案”，将原定于2026年8月生效的《欧盟AI法案》的实施推迟至2027年12月，并放宽了个人信息保护规定。最终，尽管AI治理竞争似乎正朝着基于“布鲁塞尔效应”的欧盟权利中心型 접근方式收敛，但近期，美国和中国之间为争夺AI竞争的先发优势而展开的规范竞争态势日益增强，而非致力于伦理和负责任的AI开发和使用。

然而，在安全领域，即LAWS治理，AI相关的规范竞争最为尖锐和紧迫，[11]其讨论中呈现出的规范竞争态势与AI治理的规范竞争态势存在显著差异。与美国、中国、欧盟等主要行为者之间立场明确的AI治理竞争不同，在LAWS治理竞争中，在LAWS的全面禁止和监管、全面允许的频谱中，美国和中国等技术领先国并非各自主张不同的规范，而是表现出默契的合作，以确保当前正在进行的LAWS治理朝着有利于竞争的方向结束。

与在各种国际组织和多边协商机制中碎片化进行的AI治理讨论不同，目前LAWS治理讨论的中心是联合国特定常规武器公约（Convention on Certain Conventional Weapons，以下简称CCW）的LAWS政府间专家组（Group of Governmental Experts on LAWS，以下简称LAWS GGE）。美国、中国等主要国家都已表明立场，认为UN CCW GGE是讨论LAWS治理最合适的论坛。例如，美国在2025年9月与包括韩国在内的主要盟友和友好国家一起强调，“联合国CCW是讨论LAWS最合适的论坛”。[12]奥地利、智利、法国、德国、意大利、巴基斯坦、西班牙、乌拉圭、巴西等来自拉丁美洲和欧洲的39个国家也表示支持，认为LAWS GGE的讨论为全球LAWS治理的发展奠定了充分的基础。[13]

联合国秘书长古特雷斯强调，应在2026年前在《特定常规武器公约》（CCW）框架内制定关于致命自主武器系统（LAWS）的治理规则。各缔约方也在努力实现目标，即在2026年第七次审查会议前，建立一个基于缔约方共识的LAWS治理体系。尽管受到美国和以色列对伊朗袭击的冲击，各缔约方仍在努力达成共识并取得最终成果，例如于2026年3月2日至6日在日内瓦举行了2026年第一次会议。[14]

在LAWS政府专家组（GGE）讨论初期，俄罗斯是反对全面禁止和监管LAWS最强烈的国家。然而，包括美国、中国、英国、以色列、印度、澳大利亚、日本在内的主要国家，特别是许多技术领先国家，也明确表示倾向于允许而非监管LAWS。韩国也属于此类。另一方面，在技术上可能落后于LAWS使用的国家则倾向于全面禁止LAWS，警惕使用和扩散能够独立于人类控制执行致命杀伤力的武器系统。例如，非洲54个国家在2018年发表声明，呼吁建立具有法律约束力的制度来禁止使用LAWS。与此同时，包括欧盟在内的奥地利、荷兰、西班牙、挪威、法国、德国、意大利等许多国家推行了“双层 접근”（two-tier approach）。他们的立场是，由于LAWS也必须遵守现有的国际法，如国际人道法，因此必须全面禁止违反国际人道法的行为，并在此之外的领域讨论严格监管的方法。

关于LAWS的全面禁止、全面允许和双层 접근的治理竞争，在关于LAWS的治理方面，随着关于必须遵守现有国际人道法的原则性共识的达成，对双层 접근的支持迅速扩大。[15]在2019年LAWS GGE通过关于使用LAWS的11项实施原则的过程中，明确了在适用LAWS时必须遵守国际人道法，在致命杀伤时必须有人类介入并维持人类责任，在使用新技术时必须遵守国际法义务，并且禁止阻碍技术和平发展。此外，2024年12月2日，联合国大会通过了一项基于双层 접근的决议，呼吁全面禁止使用LAWS。包括在双层 접근方面略显犹豫的美国在内的大多数联合国会员国（166个国家）都投了赞成票。[16]联合国秘书长古特雷斯、红十字国际委员会等国际组织也明确表示支持双层 접근，认为必须完全禁止没有人类有意义介入和控制的自动攻击，并对LAWS的使用对象和范围施加限制。

在此基础上，在2025年第二次会议之后，以主席名义起草并分发给各缔约方的滚动文本，包含了关于适用国际人道法的原则的以下内容。[17]首先，滚动文本包含一项条款，规定国际人道法完全适用于LAWS的使用和发展（见附录2，第3条）。此外，基于双层 접근，明确规定在现有武器系统和武力使用方面，国际人道法禁止的行为也必须在LAWS中被禁止（见附录3，第1、2条）。[18]因此，滚动文本包含一项条款：“任何情况下，禁止使用会导致本质上过度伤害或不必要痛苦，或本质上无差别使用，或不符合国际人道法的LAWS。”此外，还明确规定，LAWS的使用必须遵守比例原则和预防原则，并且在任何情况下都不得以平民或民用财产为目标。在2026年3月举行的第一次会议上，收集了各缔约方对此的意见，大多数缔约方明确表示同意主席关于适用国际人道法的滚动文本内容。[19]

综上所述，通过审视LAWS GGE正在进行的讨论进程，可以认为在关于适用国际人道法、双层 접근等LAWS治理的宏观框架方面，已取得相当大的进展。然而，尽管在适用国际人道法方面达成了原则性共识，但如何适用国际人道法来监管LAWS，即国际人道法的具体适用和遵守方法等问题，仍然存在激烈的争论。

法国、德国、丹麦、芬兰等许多欧洲国家主张，在难以根据国际人道法进行监管的领域，有必要禁止LAWS，并明确规定LAWS使用的时空限制。[20]荷兰籍主席罗伯特·因登·博施（Robert in den Bosch）的滚动文本也详细提出了符合国际人道法的LAWS使用的条件。文本中附加了详细条件，例如，LAWS不仅应仅用于军事目标或限制LAWS的数量，而且在负责任的指挥体系下，任务的关键参数，如攻击目标的类型、持续时间、地缘政治范围等，不应在没有适当人类判断和控制的情况下（由人工智能）自主更改。[21]还明确规定，自主运行的LAWS数量也应受到限制，并且应能够通过自毁等方式及时禁用。[22]此外，滚动文本明确提醒，关于LAWS的责任归属，根据国际人道法，交战责任可归属于国家、冲突方和个人，但不能归属于武器系统，[23]这意味着，由LAWS造成的后果的责任不能归属于人工智能。

另一方面，美国、韩国、澳大利亚、加拿大等国虽然同意在LAWS使用中适用国际人道法的原则，但对过度监管可能不当限制LAWS防御体系表示担忧，并认为国际社会应在技术创新和军事需求之间找到平衡点。[24]此外，虽然原则上同意禁止以平民为目标的LAWS使用，但对“任何情况下”禁止以平民为目标的LAWS使用的条款表示担忧，并建议遵循《日内瓦公约第一附加议定书》第51条关于平民部门应获得一般性保护免受军事行动危险的内容。关于限制LAWS使用数量，他们强调此类限制不符合国际人道法，并主张删除该条款。中国也认为过于细致的规定可能会削弱就LAWS治理达成共识的可能性，并试图防止对AI LAWS的过度监管。[25]

主要国家在适用国际人道法的范围和方式上的分歧，导致了在LAWS GGE的核心目标之一——缔结关于LAWS的新条约的必要性方面，主要国家之间存在差距。许多欧洲国家、非洲国家和“全球南方”国家倾向于缔结新的LAWS条约或禁止LAWS的条约，因为这可以使关于LAWS使用和开发的相当程度的监管法律化。相反，美国、中国、俄罗斯、以色列、韩国、日本等国对缔结关于LAWS的单独国际条约持否定态度。特别是美国认为，就LAWS治理而言，仅凭现有的国际人道法就足以进行监管。这与美国国防部强调“合法使用”而非“正当使用”AI军事应用的态度是一致的。如果不存在作为判断违法与否依据的“法律”本身，那么“在违反规范而非法律的情况下限制AI的军事使用”就意味着要最大限度地减少对包括AI LAWS在内的AI军事使用的限制。

结果，目前LAWS全球治理竞争的性质，与其说是中美竞争，不如说是技术领先国家与弱小国家之间规范冲突的性质更为强烈。在对AI LAWS将在未来军事安全秩序中带来决定性优势的信念和危机感中，[26]技术领先国家甚至对适用国际人道法的最低限度约束都感到负担，而许多后发国家和弱小国家则强烈希望缔结单独的LAWS条约或禁止条约，以缩小LAWS差距（这与冷战后欧盟集中于规范权力有些相似）。此外，在缔结关于LAWS的新条约的立场上的差距，也体现在围绕LAWS概念定义、人类介入和控制等细节的规范竞争中。

Ⅲ. LAWS GGE的主要议题

在2026年3月举行的2026年第一次会议上，与会国维持了关于适用国际人道法的原则性共识，并决定继续努力缔结关于LAWS的具有法律约束力的新条约。[27]然而，在LAWS的概念定义、人类判断的必要性及程度等主要议题上，仍然存在相当大的差距。本文将为了分析技术领先国家（如美国和中国）与欧盟、“全球南方”国家之间在主要议题上的治理竞争动态，重点关注LAWS的概念定义问题和人类判断与控制问题。[28]

1) LAWS的概念定义

LAWS GGE的主要议题之一是关于LAWS概念定义的问题。这也是LAWS治理讨论的出发点。尽管关于什么是LAWS的概念定义仍然不明确，但这将极大地影响国际人道法所规范的一般原则的适用方式和范围。在2026年第一次会议上，关于LAWS的概念定义和核心属性，尤其出现了两个争议点。一是LAWS的核心属性是否应包含“识别”功能，二是“致命性”应如何定义。

首先，在LAWS的定义中是否包含目标识别功能，是与保护平民以及区分平民与战斗员（或民用设施与军事目标）等国际人道法的核心要素密切相关的问题。这也是一个现实问题，因为像以色列的“薰衣草”（Lavender）系统等，已经在实际战场上利用AI进行自动目标识别。

一些国家主张，在定义LAWS的概念时，应排除识别功能。他们的立场是，如果将LAWS的自主过程或属性定义为“识别（identify）-选择（select）-交战（engage）”，那么识别是选择的前提条件，并且内在地包含在选择过程中，因此无需单独注明。[29]出于完全不同的原因，也有国家主张排除识别功能。他们指出，在定义LAWS时包含识别功能，不仅会产生将LAWS治理对象范围过窄的负面效应，还可能制造潜在的漏洞。[30]例如，如果识别的全部或部分过程由人类执行，则存在被主张为非LAWS的风险。

另一方面，德国、法国等欧盟国家，以及韩国、日本等国提出了相反意见，认为识别和选择是完全不同的独立功能和阶段，并坚持在LAWS的概念定义中应包含识别功能。[31]这是因为，在LAWS攻击目标的过程中，包含识别功能更为明确，并且能够提高与区分战斗员和非战斗员原则等国际人道法的符合性。[32]此外，他们还表示担忧，如果LAWS的定义不包含识别功能，那么与其他武器系统的区分度可能会减弱。

在双方对LAWS概念定义中是否包含识别功能存在分歧的情况下，2025年5月根据2025年第一次会议的结果起草的滚动文本，提议将LAWS定义为“在没有用户干预的情况下选择目标并进行交战的武器系统和技术组件的集成组合”。[33]这是在LAWS的概念定义中，删除了之前包含的“识别”功能的概念定义，主席评价这是LAWS概念定义方面2025年第一次会议上最重要的变化。[34]还强调，排除识别功能是为了尽量减少LAWS条约的潜在漏洞，同时避免过于限制性的方法。[35]

然而，在2025年第二次会议后分发的12月18日滚动文本中，识别功能再次被包含在LAWS的概念定义中。[36]此外，为了消除包含识别功能可能引发潜在漏洞的担忧，作为一种对策，在附件条款中包含了“即使是人类设定目标限制的情况也”包含在LAWS内。[37]尽管中国等国对此类附加条款持反对立场，但包括美国在内的许多国家都表示有必要增加附加条款。在2026年的第一届会议上，关于这些附加条款的讨论和修订工作仍在继续，但似乎已就包含识别信息的条件性规定达成一致。[38]

与此不同，“致命性”的包含问题仍然是主要国家意见冲突的核心争论点。这是因为需要决定，在致命性自主武器系统（LAWS）GGE上讨论的监管和治理是否应仅针对具有或导致致命杀伤能力的自主武器系统（AWS），还是应针对所有形式的自主武器系统。如果是前者，那么导弹拦截系统、近程防御武器、主动防御系统等可能会被排除在监管范围之外，这使得问题更加敏感。杀伤或破坏的程度应被视为致命性的问题，也是存在很大分歧的争论点。

奥地利、瑞士等欧盟国家明确反对在LAWS的定义中包含“致命性”一词。他们认为，由于现有国际人道法中不存在“致命性”的概念，因此在以适用国际人道法为原则的LAWS治理中也不应附加“致命性”的条件。[39]此外，他们还指出，致命性是武器的效果和交战的结果，而不是武器系统的特性。他们还对包含致命性可能导致部分LAWS脱离治理范围表示担忧。[40]

另一方面，美国、中国、俄罗斯、韩国等国主张应包含“致命性”。俄罗斯强调，致命性自2016年联合国特定常规武器公约（CCW）政府专家组（GGE）开始讨论LAWS以来一直是核心特性，并且是明确讨论和治理对象的概念。中国则强调，致命性要求应在滚动文本中明确规定。美国也强调，LAWS GGE的任务是关于致命性自主杀伤武器系统。关于致命性的含义，美国、中国、俄罗斯等国的偏好与欧盟等国的偏好存在冲突。首先，2025年5月分发的议长滚动文本将致命性定义为“造成人员死亡的能力（the capacity to cause death to a person）”。[41]虽然也存在不直接导致死亡，但可能造成伤害或物体损坏的情况，但解释是，与其仅仅关注结果，不如应关注是否具备致人死亡的能力。这种对致命性的定义被评价为一种建设性努力，旨在弥合那些主张禁止和监管所有自主武器系统而非致命性自主杀伤武器系统，以及那些主张仅监管与杀人直接相关的“致命性”情况下的自主武器系统使用之间的差距。[42]

另一方面，美国主张应将“致命性”改为“以致命武力（with lethal force）”。例如，美国强调，自主性（autonomy）应基于功能或任务来理解，而与是否包含支持自主功能特定技术或能力无关，并强调自主性最终是武器系统的能力，因此与无差别武器等国际人道法禁止的武器系统不同。[43]也就是说，立场是关注行为的结果，而不是武器系统的属性或能力。韩国和印度也对美国的这一意见表示赞同。

考虑到这些意见，最近分发的2025年12月滚动文本在对讨论对象LAWS的定义中，包含了“致命性”一词，同时新增了一个附加条款（第1条B款），规定“即使LAWS可以以非夺取生命的方式使用，例如破坏物体或造成损害，或造成人员伤害，也不能排除在LAWS的范畴之外”。这也是试图反映欧盟等反对包含致命性的国家的偏好。事实上，瑞士、巴西、爱尔兰等国表示，新增的附加条款是一个现实的折衷方案。[44]美国则认为附加条款是不必要的。

2) 人类判断与控制

在LAWS GGE中，有意义的人类控制和判断的必要性及范围也成为激烈争论的对象。[45]巴西、墨西哥等许多国家强调人类控制的重要性，主张应将其作为独立条款包含在内，以确保遵守国际人道法和明确责任归属，并明确其作为LAWS治理条约的核心要求。德国、奥地利等国则认为，在人工智能时代，国际人道法要有效运作，必须在动用武力时有人类判断的参与。欧盟也强调，人类判断和控制应适用于LAWS的整个生命周期，包括开发、部署和使用。此外，他们批评GGE on LAWS迄今为止的讨论为了最大限度地包容各国的不同意见，制定了过于低水平的折衷方案，并主张不应再退让讨论的起点——滚动文本。[46]联合国、国际红十字委员会（ICRC）等国际组织也强调，人类控制应作为LAWS的核心功能明确规定，并主张在使用LAWS时，除了时空限制（如明确的使用时间和地理范围）外，还应具备在紧急情况下由人类中断或禁用LAWS的控制能力。

另一方面，美国、中国、日本明确表示反对将人类控制作为独立条款列出，认为人类控制只是遵守国际人道法的手段。美国对明确包含可能产生法律义务的人类控制条件持否定态度。此外，他们还提出，不能确信人类的判断一定优于人工智能的自主判断，人工智能的自主判断反而可能更有利于实现保护平民的国际人道法目标。[47]

在本届会议上，关于LAWS的人类干预和控制问题，正围绕是否包含“符合情境的人类判断和控制（context-appropriate human judgement and control）”及其表述方式展开争论。支持明确包含的方面强调，在符合情境的人类判断和控制的表述下，为了遵守区分原则、比例原则和攻击预防原则等国际人道法核心原则，必须对LAWS进行人类判断和控制，“符合情境的人类判断和控制”的表述是缩小主要国家在LAWS人类控制程度问题上已有立场差距的机制。[48]例如，保加利亚、丹麦、法国、德国等欧洲国家强调，在LAWS讨论中，关于人类因素重要性的共识正在显现，并主张，迄今为止在LAWS讨论中涉及的“充分的”、“适当的”、“有意义的”等表述都可以包含在“符合情境的人类判断和控制”的表述中。[49]

此外，他们解释说，“符合情境的”是指根据武器种类、计划的任务、操作环境和条件等情况考虑人类干预和控制的水平和类型，而人类判断是指在开发和使用LAWS时，根据国际人道法（如区分原则、比例原则、预防原则）发起交战时人类行使判断。[50]

对此，美国强调，“符合情境的人类判断和控制”难以被视为有意义的人类控制，而且“适当的”一词是无法判断是否违反国际人道法的模糊标准。此外，他们明确表示反对将禁止没有情境适宜的人类判断和控制的LAWS解释为禁止所有像“发射后不管”系统那样自主运行、无需人类干预的自主武器系统。[51]此外，美国提出，用“操作员（operator）”一词代替“人类用户（human user）”更为恰当。[52]他们解释说，这不仅明确了武器系统人类直接控制的特性，而且是军事和法律术语。此外，美国等国主张不应使用“人类用户”等包含“人类”一词的表述。他们解释说，国际人道法也只使用“用户”一词，而不包含“人类”一词，因为用户理应是人类。此外，他们还表达了对“人类用户”可能被解释为存在非人类用户的担忧。[53]日本则对“符合情境的人类判断和控制”应作为遵守国际人道法使用LAWS的手段，而不是其本身成为条件表示担忧。[54]韩国也提出了与美国、日本相似的意见，并表达了对先前表述“为遵守国际人道法，需要人类判断和控制”的偏好。[55]此外，中国也表达了需要明确“适当的”含义的客观标准的担忧。[56]

在此担忧下，关于“情境适宜性”条件的标准，一些国家主张在AI LAWS的指挥链中，除了法律考量（legal consideration）外，还应明确伦理考量（ethical consideration）。例如，巴西、秘鲁、古巴等国认为，伦理考量符合2023年GGE报告的指导原则和马尔腾斯条款（Martens Clause），因此必须予以保留。对此，日本、以色列等国指出，各国尚未就“伦理考量”达成普遍的伦理标准，主张删除该措辞。[57]

四、LAWS治理前景与启示

LAWS治理是未来世界秩序发展的重要变量之一，并且在构建快速发展的AI军事使用和开发相关的全球治理框架方面具有紧迫性和重要性。为此，目前的LAWS GGE正在加紧工作，以期在2026年得出最终结论。[58]然而，尽管在符合国际人道法的LAWS开发和使用原则性共识、LAWS定义共同点等方面取得了有意义的进展，但LAWS GGE要达成其目标成果似乎并不容易。特别是，许多国家偏好的硬法形式成果，例如作为UN CCW附加议定书的LAWS条约或禁止公约，其签署的可能性不大。

第一个原因是，UN CCW需要缔约国全体一致同意。目前，在LAWS定义中包含致命性问题、人类控制方式问题、禁止LAWS开发问题等LAWS GGE主要议题上，主要国家之间的立场和偏好差距仍然很大。然而，协调的机会仅限于定于9月第一周举行的2026年第二次会议以及在此之前由主席主导的几次非正式磋商。因此，要达成所有缔约国都能接受的协议文本似乎很困难。

第二个原因是，美国和中国等领先的AI技术国家不希望达成LAWS条约。特别是，美国对全球LAWS治理的消极认知和偏好，与其对自身曾引领的基于规则的自由主义国际秩序的批评和否定、对制度性支持的削弱、财政支持的减少、规范领导力的丧失等对国际组织、国际法和普遍人权规范的自我破坏性做法有关。[59]这与国际关系中法律和原则（如国际法）的影响力减弱的国际政治去法律化或规范危机担忧加剧有关。[60]然而，即使LAWS GGE最终达成协议的可能性不大，理解和分析LAWS GGE的讨论过程仍然是必要的。原因也有两个。第一个原因是，全球治理必须始终考虑到变化来理解。

也就是说，需要考察行为者倡导何种价值观和规范，以何种方式将其公开化，并通过与哪些行为者建立关系来试图使其偏好的规范在国际社会被接受和制度化等动态过程。第二个原因是，LAWS GGE的讨论可能会在UN CCW框架之外继续进行。反坦克地雷禁约是在加拿大等主要国家及非政府行为者对UN CCW讨论进展缓慢感到失望后，在渥太华聚集并开始讨论，独立于CCW，最终被纳入CCW第二议定书。集束弹药禁约也是在UN CCW讨论未能取得进展后，挪威、新西兰等主要国家及非政府行为者在奥斯陆聚集并通过宣言，在CCW框架外开始讨论并最终达成。LAWS治理也很有可能以类似方式进行。特别是考虑到渥太华条约和奥斯陆条约都是在CCW讨论进展相对缓慢的情况下，在CCW之外进行的讨论在一年左右的相对短时间内就达成了条约签署。因此，也有必要为今年内可能在LAWS GGE框架外进行的讨论做好准备。[61]也就是说，需要考察行为者主张何种价值和规范，以何种方式将其公开化，并通过与何种行为者建立关系，来使其偏好的规范在国际社会中被如何接受和制度化。第二个理由是，关于自主致命武器系统（LAWS）政府专家组（GGE）的讨论有可能在《特定常规武器公约》（CCW）的框架之外继续进行。关于禁止杀伤人员地雷的公约，在《特定常规武器公约》讨论进展缓慢的情况下，加拿大等主要国家及非政府行为者聚集在渥太华，独立于《特定常规武器公约》开始讨论，并最终缔结了该公约，并作为《特定常规武器公约》的第二议定书得以确立。关于集束弹药的禁止公约，在《特定常规武器公约》讨论未能取得进展的情况下，挪威、新西兰等主要国家及非政府行为者聚集在奥斯陆，通过了宣言，并在《特定常规武器公约》框架之外开始讨论，最终缔结了该公约。自主致命武器系统（LAWS）的治理也很有可能以类似的方式进行。特别是考虑到《渥太华公约》和《奥斯陆公约》在《特定常规武器公约》中进展相对缓慢的讨论，在《特定常规武器公约》之外进行后，在一年左右相对较短的时间内就完成了条约的缔结。因此，也需要为今年内自主致命武器系统（LAWS）政府专家组（GGE）框架之外的讨论做好准备。

那么，韩国应如何应对和制定在CCW框架外可能出现的LAWS治理讨论的策略呢？首先，应与韩国在AI治理方面的偏好和战略保持一致。此外，考虑到韩国现实中需要参与美国主导的AI生态系统，以及作为分裂国家的现实、日益加剧的军备竞赛压力下的安全环境等因素，韩国在包括LAWS在内的军事AI使用方面也有相当大的需求。同时，考虑到由于同盟国和友好国家美国政策变化的长期化可能性等因素，全球安全秩序和规范体系正经历转型期的巨大变化。为了克服转型期的危机，与各种立场相似的国家加强合作也至关重要，因此不应放弃中等强国规范外交战略。韩国在反坦克地雷禁约通过渥太华进程被法制化时，考虑到朝鲜半岛的特殊性，未能成为《渥太华条约》的缔约国，但已表达了原则上赞成禁止反坦克地雷的意愿。因此，必须积极参与在LAWS GGE内外进行的LAWS治理讨论过程。■

[1]薛仁孝. 2026. “人工智能军事创新的发展态势展望：关于创新速度的两种观点与美中案例研究.” 《EAI工作论文》, 1月27日.

[2]Ramkumar, Amrith and Keach Hagey, and Vera Bergengruen. 2026. "Pentagon Used Anthropic’s Claude in Maduro Venezuela Raid."Wall Street Journal, February 15. https://www.wsj.com/politics/national-security/pentagon-used-anthropics-claude-in-maduro-venezuela-raid-583aff17.(最终检索日期：2026年4月5日)。

[3]Amaral, Nilza. 2026. "The Iran War Highlights the Creeping Use of AI in Warfare."Chatham House. March 27. https://www.chathamhouse.org/2026/03/iran-war-highlights-creeping-use-ai-warfare.(访问日期：2026年4月5日)；Brown, Michael. 2026. "The First AI War: How the Iran Conflict is Reshaping Warfare."Forbes. March 30. https://www.forbes.com/sites/mikebrown/2026/03/30/the-first-ai-war-how-the-iran-conflict-is-reshaping-warfare/ .(访问日期：2026年4月5日)；Hammad, Noor. 2026. "The Proliferation of AI-enabled Military Technology in the Middle East."IISS Charting Middle East. April 2. https://www.iiss.org/online-analysis/charting-middle-east/2026/04/the-proliferation-of-ai-enabled-military-technology-in-the-middle-east/.(访问日期：2026年4月5日)。

[4]Frenkel, Sheera and Julian E. Barnes. 2026. "Defense Dept. and Anthropic Square Off in Dispute Over AI Safety."New York Times, February 18. https://www.nytimes.com/2026/02/18/technology/defense-department-anthropic-ai-safety.html.(访问日期：2026年4月5日)。

[5]Ramkumar, Amrith. 2026. "Trump Administration Shuns Anthropic, Embraces OpenAI in Clash Over Guardrails."Wall Street Journal, February 27. https://www.wsj.com/tech/ai/trump-will-end-government-use-of-anthropics-ai-models-ff3550d9.(访问日期：2026年4月5日)。

[6]Metz, Cade, Julian E. Barnes, and Sheera Frenkel. 2026. "Pentagon Officially Notifies Anthropic it is a 'Supply Chain Risk'."New York Times, March 5. https://www.nytimes.com/2026/03/05/technology/anthropic-supply-chain-risk-defense-department.html .(访问日期：2026年4月5日)。

[7]Dorsey, Jessica, Elke Schwarz, Ingvild Bode, Zena Assaad, and Neil Renic. 2026. "The Pentagon/Anthropic Clash over Military AI Guardrails."Opinio Juris. February 26. https://opiniojuris.org/2026/02/26/the-pentagon-anthropic-clash-over-military-ai-guardrails/.(访问日期：2026年4月5日)。

[8]Dorsey, Jessica, Elke Schwarz, Ingvild Bode, Zena Assaad, and Neil Renic. 2026. "The Pentagon/Anthropic Clash over Military AI Guardrails."Opinio Juris. February 26. https://opiniojuris.org/2026/02/26/the-pentagon-anthropic-clash-over-military-ai-guardrails/.(访问日期：2026年4月5日)

[9]由于人工智能已成为致命自主武器系统（LAWS）治理讨论的核心要素，因此全球致命自主武器系统（LAWS）治理的成果也为我们审视全球人工智能治理的未来形态提供了契机。

[10]文容日. 2024. “是趋同还是同型异构？欧盟、美国、中国数据隐私立法的比较分析。”《国际地区研究》28 (2)。

[11]联合国裁军事务厅（UN Office of Disarmament Affairs）将人工智能在科学技术和军事领域的应用、武装无人系统、信息通信技术安全、太空、导弹以及公民社会与军备控制等问题，与致命自主武器系统（LAWS）一同列为新的挑战。参见联合国裁军事务厅网站。https://disarmament.unoda.org/en. (最终检索日期：2026年4月5日)。

[12]UN CCW/GGE.1/2025/WP.7（美国等国联合意见书）。

[13]UN CCW/GGE.1/2025/WP.8（39国联合声明）。

[14]参见2026年3月7日下午会议期间主席的开幕发言。第一届会议期间举行的会议视频也可在官网上查阅。https://meetings.unoda.org/ccw-/convention-on-certain-conventional-weapons-group-of-governmental-experts-on-lethal-autonomous-weapons-systems-2026.(最终检索日期：2026年4月5日)

[15]Perrin, Benjamin. 2025. "Lethal Autonomous Weapons Systems & International Law: Growing Momentum Towards a New International Treaty."American Society of International Law Insights 29 (1).

[16]明确表示反对该决议的国家仅有俄罗斯、白俄罗斯和朝鲜三国。同时，中国是该决议的15个弃权国之一。这表明中国对关于致命性自主武器系统（LAWS）监管的讨论持否定立场。除中国外，参与该决议投票的弃权国还有爱沙尼亚、斐济、印度、伊朗、以色列、拉脱维亚、立陶宛、尼加拉瓜、波兰、罗马尼亚、沙特阿拉伯、叙利亚、土耳其和乌克兰（联合国大会第A/RES/79/62号决议，2024年12月2日）。

[17]UN CCW/GGE.1/2025（截至2025年5月12日的修订滚动文本）。

[18]UN CCW/GGE.1/2025。

[19]2026年3月初举行的联合国特定常规武器公约政府专家组（GGE on LAWS）第一届会议的主要内容可在4月1日发布的议长总结中查阅{UN CCW GGE.1/2026.WP.2https://docs-library.unoda.org/Convention_on_Certain_Conventional_Weapons_-Group_of_Governmental_Experts_on_Lethal_Autonomous_Weapons_Systems_(2026)/CCW-GGE.1-2026-WP.2.pdf .(最终检索日期：2026年4月5日)}。

[20]UN CCW/GGE.1/2025/WP.4。

[21]UN CCW/GGE.1/2025/WP.9, Box 3。

[22]UN CCW/GGE.1/2025/WP.9, Box 3。

[23]UN CCW/GGE.1/2025/WP.9, Box 3。

[24]UN CCW/GGE.1/2025/WP.6。

[25]2026年3月3日下午会议。https://webtv.un.org/en/asset/k1y/k1ywe5vjyq。(最终检索日期：2026年4月5日)

[26]Garcia, Eugenio. 2024. "Conclusions: Charting the Challenge of AI IR."International Studies Review 26 (2); 车泰书. 2026. “人工智能革命与共和主义安全理论：无政府状态与等级制的双重难题再现，”《EAI工作论文》，2月3日。

[27]2026年3月7日下午会议。https://webtv.un.org/en/asset/k1m/k1m35gbktf。(最终检索日期：2026年4月5日)

[28]在2026年第一届会议期间，另一个存在较大分歧的议题是禁止开发（development）致命性自主武器系统（LAWS）。目前的滚动文本涉及禁止使用（employ）LAWS，而将此替换为禁止开发（development）LAWS，成为了核心争议点之一。巴西、墨西哥、挪威、巴基斯坦、古巴等主张在开发阶段禁止的国家认为，应遵循1975年生效的《禁止生物武器公约》（Convention on the Prohibition of the Development, Production, and Stockpiling of Bacteriological(Biological) and Toxic Weapons and on Their Destruction: BWC）以及1997年生效的《禁止化学武器公约》（Convention on the Prohibition of the Development, Production, Stockpiling and Use of Chemical Weapons and on Their Destruction: CWC）等禁止非人道武器使用的既有条约先例。相反，美国、韩国、日本、以色列、英国、澳大利亚等主要国家则指出开发（development）的含义和范围等问题模糊不清，并主张应遵循国际人道法，因为国际人道法本质上是规范“使用”的。中国则持应留给国家自主决定的立场，而欧盟内部则出现分歧，法国支持禁止开发，但德国和瑞典等国则持条件反对立场，未能展现出一致的立场。

[29]UN CCW/GGE.1/2025/WP.9.（截至2025年5月12日的滚动文本）。

[30]UN CCW GGE on LAWS 滚动文本-2025年12月18日版本。第3页。

[31]UN CCW GGE on LAWS 滚动文本-2025年12月18日版本。第3页。各国的立场可在第一届会议视频中查阅。

[32]UN CCW/GGE.1/2026/WP.2。

[33]“an integrated combination of one or more weapons and technological components, that can select and engage a target, without intervention by a human operator in the execution of these tasks.” {UN CCW/GGE.1/2025/WP.9 (截至2025年5月12日的滚动文本)}。

[34]UN CCW/GGE.1/2025/WP.9.（截至2025年5月12日的滚动文本）。

[35]UN CCW/GGE.1/2025/WP.9. (2025年5月12日滚动文本)。

[36]联合国常规武器公约/政府专家组关于致命自主武器系统的滚动文本-2025年12月18日版本

[37]第1条A款内容如下：“人类操作员设定目标参数的事实，并不排除该系统被定性的可能性。”

[38]UN CCW/GGE.1/2026/WP.2.

[39]参见2026年3月2日下午会议奥地利发言。

[40]参见2026年3月2日上午会议爱尔兰发言。

[41]UN CCW/GGE.1/2025/WP.9. (2025年5月12日滚动文本)。

[42]UN CCW/GGE.1/2025/WP.9. (2025年5月12日滚动文本)。

[43]UN CCW/GGE.1/2025/wp.6.

[44]参见2026年3月2日上午会议（爱尔兰和瑞士）、3月5日上午会议（巴西）的发言。

[45]在关于致命自主武器系统的治理讨论初期，曾有声音强烈要求禁止以人类为目标的致命自主武器系统。其主张是，由不包含道德判断和伦理决策的机械计算和判断来决定人类生死，是对人类尊严的根本侵犯。然而，目前在致命自主武器系统政府专家组的讨论中，针对所谓“杀手机器人”等反人类系统的禁令已不在主要议题之列。这也是公民社会等团体强烈批评的部分。

[46]参见2026年3月2日上午会议、3月3日上午会议期间欧盟、奥地利、德国的意见。

[47]参见2026年3月3日上午会议、3月4日上午会议期间美国的意见。

[48]UN CCW/GGE.1/2025/WP.9.

[49]UN CCW/GGE.1/2025/WP.4.

[50]UN CCW/GGE.1/2025/WP.4.

[51]参见2026年3月4日下午会议期间美国的意见（intervention）。

[52]例如，美国提出操作员是指能够激活、控制或监视致命自主武器系统的人员，单纯下达命令的指挥官不应被视为操作员（参见UN CCW/GGE.1/2025/WP.6；2026年3月3日上午会议美国意见）。

[53]参见2026年3月3日上午会议美国意见。

[54]参见2026年3月3日上午会议日本意见。

[55]参见2026年3月3日上午会议韩国意见。

[56]参见2026年3月2日上午会议中国意见。

[57]参见2026年3月3日上午和下午会议。

[58]主席表示，将在4月份向各国分发本届第一期会议内容修订后的滚动文本，并将在定于8月31日至9月4日举行的第二期会议上对此进行讨论。他还明确表示，将为促进意见协调而举行非正式的会议间磋商。参见2026年3月7日下午会议主席发言。

[59]Cordell, Rebecca and Alex Dukalskis. 2025. "Authoritarianism, Global Politics, and the Future of Human Rights." International Organization 79; Reeder, Bryce. 2025. "The Future of United Nations Peacekeeping in a Fragmenting World." International Organization 79.

[60]例如，美国宣布不接受作为国际人权制度的重大发展和成果的2025年首次联合国普遍定期人权审议，实际上美国接受的普遍定期人权审议被推迟到2026年下半年{Human Rights Watch. 2025. “US Skips UN Periodic Rights Review.” November 7. https://www.hrw.org/news/2025/11/07/us-skips-un-periodic-rights-review.(最后检索日期：2026年4月5日)。

[61]Avant, Deborah, Martha Finnemore, and Susan Sell, eds. 2010. Who Governs the Globe? Cambridge Studies in International Relations. Cambridge: Cambridge University Press.

■作者：文容日_首尔市立大学国际关系学教授。

■ 负责与编辑：林宰炫_EAI 研究员

    咨询：02 2277 1683 (分机 209) | jhim@eai.or.kr