联合国人工智能治理的分化:美俄联手阻挠与欧洲人类控制宣言的裂痕
总体摘要
2026年9月联合国大会周期间,人工智能治理分化为三条路径:美中双边协议、美俄阻挠武器体系规范、中等国家与欧盟的非约束性宣言。作为安理会常任理事国和核拥有国的美国与俄罗斯,尽管动机各异,但在不愿将军事人工智能运用裁量权束缚于条约义务这一点上利益趋同;这表明在新兴·非传统安全领域,人工智能军事利用的规范竞争可能在大国主导下被掏空。同样的“人类控制”原则,在日内瓦指战场上的目标决定,在白宫·安理会渠道则指前沿模型开发控制,由此形成的并非向单一治理的趋同,而是分工式固化结构。欧洲22国的宣言意在实现非拥有国主导的污名化效应,但由于产业界遵从信号不明,其更可能趋近于核不扩散式的拥有国俱乐部模式,而非渥太华公约模式。曾倡导REAIM首尔峰会的韩国缺席此次宣言,留下了同盟考量、产业培育与监管话语的张力、议题区分三种解读;为维持其作为规范倡导国的信誉,韩国需要参与SIPRI式非正式实务渠道,并对军事·民用人工智能议题进行分离应对。
I. 议题形势分析
联合国人工智能治理的分化:美俄联手阻挠 vs 欧洲人类控制宣言
1. 议题背景及经过
2026年9月第81届联合国大会举行的一周内,纽约同时划出了围绕人工智能治理的三条平行线[17]。导火索是意大利日报《共和国报》援引《华盛顿邮报》进行的报道[1]。报道称,美国与俄罗斯共同阻挠了旨在强制人工智能武器体系的目标决定须有人类介入的国际限制的引入[1]。具体而言,一项要求由人类而非计算机对人工智能提议的目标作出最终打击决定的条款最终流产[1]。
此次阻挠协作并非一次性事件。EAI的分析将其界定为“特朗普政府对人工智能国际监督的怀疑论与俄罗斯对西方主导的多边规范的不信任相结合的产物”[3]。评价认为,作为安理会常任理事国和核拥有国的两国在军控规范领域一直共享的结构性位置此次再次发挥了作用[3]。同一时期,德国外交部长约翰·瓦德富尔在联合国大会讲台上敦促对人工智能进行监管,并与俄罗斯外交部长拉夫罗夫另行会晤[4]。欧洲等22国为填补规范空白而发表的人类控制原则宣言,正是对这一阻挠局面的回应[3]。
同一周,华盛顿还有另一条轨道在推进。特朗普总统与习近平主席举行首脑会谈后,白宫宣布双方就建立有关人工智能事故的双边对话渠道和通报体系达成一致[7][14]。随后9月23日,安理会上演了萨姆·奥尔特曼等人工智能企业负责人亲自出席、在“维护国际和平与安全”议题下进行通报的罕见场面[16][6]。这场由法国自8月起筹备的会议,处于Anthropic首席执行官达里奥·阿莫迪的人工智能减速论帖子从硅谷扩散为国际议题的潮流之上[6]。
2. 当前形势
三条路径互未趋同,正并行固化。美中轨道通过首脑间协议新设了事故通报渠道,下一轮定于11月举行[7][14]。卡塔尔媒体Geo新闻评价此次华盛顿峰会“没有突破、流于仪式”,但仍将人工智能沟通渠道的新设列为具体成果[14]。相反,美国外交关系协会(CFR)指出,该协议与其说是竞争缓和的信号,不如说是“竞争对手突然呼吁克制”的悖论性场面[8]。
美俄轨道呈现出在日内瓦等武器体系监管谈判场合集中阻止有约束力条款的态势[1][3]。其特点在于,它并非安理会通报会或白宫峰会那样的显性外交事件,而是以在谈判桌上阻挠特定条款引入的消极方式运作。包括欧洲在内的中等国家轨道,则是试图以非约束性宣言而非正式多边规范来填补这一空白[3]。在同一联合国大会讲台上,新加坡外交部长维文更进一步,公开提议制定关于人工智能安全的联合国框架公约并创设新的国际组织[10][15]。他强调,“要求安全暂停为时已晚”,但需要“能够设置安全装置和标准的新制度”[10]。
中等国家内部立场也出现分化。卢旺达总理恩森吉尤姆瓦在联合国大会人工智能治理讨论中指出:“不开发前沿人工智能的国家不应简单地相信他国开发的系统在本国人口和条件下也能安全运行”,并批评不具备人工智能测试条件的国家正被排除在讨论之外[12]。卡内基国际和平基金会建议,德国、印度等中等国家若依赖美国或中国,将面临被切断的风险,即使无法自主拥有前沿能力,也应构建“突破能力(breakout capacity)”[11]。
3. 主要行为体及立场
美国表现出双重态度。一方面与俄罗斯共同阻挠武器体系监管条款的引入[1][3],另一方面又与中国开展新设人工智能事故通报渠道的合作[7][14]。两条轨道的共同点在于,都倾向于回避通过多边机构形成有约束力的规范,而以双边或少数大国间渠道来管理议题。卡内基国际和平基金会将此概括为“谁有权为人工智能装上护栏”的问题,并指出应弥补现有危机沟通努力的局限,跟上前沿人工智能的发展速度[2]。
俄罗斯在保持对西方主导的多边规范的结构性不信任的同时,虽与美国在战略竞争格局中对立,却在维持军事人工智能运用裁量权这一点上利益一致[3]。拉夫罗夫外长在同一届联合国大会上就乌克兰战争发表“欧洲正在阻碍和平”的言论,延续了与西方的紧张关系[1];这暗示人工智能规范阻挠协作处于更广泛的对西方不信任基调的延长线上。
包括德国在内的欧洲22国试图以人类控制原则宣言填补规范空白,但该宣言不具约束力[3][4]。瓦德富尔外长与拉夫罗夫会晤并同时在大会发表演讲[4],体现了欧洲在维持与俄罗斯双边渠道的同时又不放弃多边规范形成的双重战略。新加坡提出联合国框架公约和新设国际组织这一更具制度化的替代方案,在中等国家中采取了最积极的立场[10][15]。中国在安理会通报会上对前沿人工智能合作表示认同,同时在国家安全部层面又将美国人工智能模型界定为单独的安全威胁,并行着双轨路线[6]。韩正国家副主席在大会演讲中批评单边军事行动,称“大国应遵守规则”[4];这可以解读为中国在人工智能军事化讨论中试图以大国责任论夺取规范话语主导权的尝试。
4. 核心争点
最根本的争点在于,“人类控制”这一相同表述在各轨道指向不同对象。在美俄阻挠轨道中,人类控制指战场上的目标决定权限[1];在欧洲宣言和新加坡的框架公约构想中,则意味着前沿模型开发阶段的安全装置[3][10]。两种用法虽使用相同词汇,规制对象和履行主体却完全不同,这一事实使人难以判断:此种分化究竟是规范沿多条路径扩散的过程,还是大国将有约束力的争点分离至双边渠道、以回避多边舞台压力的结构。
第二个争点是中等国家宣言的实效性。在缺少大国和主要人工智能企业的情况下通过的非约束性宣言,究竟会像核不扩散体制的IAEA式核查模式那样运作,还是像渥太华公约那样仅凭污名化效应获得规范力,目前尚无定论[2][3]。SIPRI于9月9日至10日召集国防·外交部门官员、产业界、红十字国际委员会、北约、联合国裁军研究所相关人士,围绕军事人工智能的合法开发与运用举行非正式对话[5],这表明在正式条约轨道受阻的情况下,各方正在探索实务层面的替代渠道。
第三个争点是中等国家内部的非对称性。德国、新加坡等在规范形成中发声的国家,与卢旺达等原本就不具备核查能力而被排除在讨论之外的国家之间存在鸿沟[11][12]。这表明中等国家联合体并非捆绑于单一利益关系,并提出了一项课题:即使韩国参与志同道合国家宣言,也必须区分自己站在何种性质的中等国家集团之中。
II. 议题深度分析
联合国人工智能治理的分化:美俄联手阻挠 vs 欧洲人类控制宣言
议题深度分析
1. 根本原因:安理会常任理事国的非对称利益结构
美俄协作的根源并非意识形态上的亲和性,而是结构性位置的一致。两国都是安理会常任理事国,同时又是核拥有国。在冷战时期的军控谈判中,这两种地位也始终共同发挥作用。在相互确保摧毁体制下,美苏一直采取双重战略:反对禁止核武器使用本身的规范,同时在防止扩散方面开展合作。同样的模式在人工智能武器体系中重演。目标决定的人类介入义务化会制约运用裁量权,两国都没有让渡这一裁量权的动机[1][3]。
特朗普政府的动机与俄罗斯的动机在性质上不同。美国方面是对国际监督本身的怀疑论。卡内基国际和平基金会将其概括为“谁有资格为人工智能装上护栏”的问题[2]。在本国企业掌握技术优势的情况下,没有理由同意外部机构制定运用标准——这是美方的盘算。俄罗斯方面则是对西方主导的多边规范本身的不信任[3]。乌克兰战争后,俄罗斯在联合国框架内配合西方设计的规范的先例寥寥无几。这与拉夫罗夫外长在同一周联合国大会上发表“欧洲正在阻碍和平”言论的语境属于同一性质的结构[1]。两国只是出于不同原因得出了相同结论。若将这一阻挠协作解读为“同盟”,则是误读。
更根本的原因在于,“人类控制”一词在不同论坛指向不同对象。在日内瓦武器体系谈判中,该词指战场上的目标决定;在源自白宫的美中协议和安理会通报会中,则指前沿模型的开发控制[7][14][16]。两个议题的监管对象、利益相关方、执行机构均不相同。同一原则以不同语法被使用,导致表面上看似单一的人工智能治理讨论,实际上分裂为互不相容的三条轨道。
2. 结构性背景:三轨分工与权力非对称
将三条轨道叠加,便显现出一种分工结构。美中双边轨道是首脑与企业CEO同席的高级别渠道[7][14]。奥尔特曼亲自出席安理会通报会的场面正是这一结构的象征[16][6]。其方式是国家行为体与企业行为体混杂,建立无约束力的沟通渠道。美俄阻挠轨道则相反,可见度低,以在谈判场合使特定条款流产的消极方式运作[1][3]。这是一条无需宣传成果、反而隐藏更为有利的轨道。中等国家·欧盟宣言轨道出自这两者的缝隙。德国外长在与拉夫罗夫会晤后随即在联合国讲台上敦促人工智能监管的场面说明了这一点[4]。虽无约束力,但参与门槛也低。
在这一结构中,权力被非对称地分配。越是有约束力的争点,大国越将其拉入双边渠道。中等国家只能在大国让出的位置上制定规范。卢旺达总理恩森吉尤姆瓦在联合国人工智能治理讨论中发言称“不应简单地相信非本国开发的系统在本国人口和条件下也能安全运行”,这段话最直接地揭示了这种非对称[12]。卡内基国际和平基金会对德国、印度等中等国家的分析也从另一角度指出了同一问题:中等国家无法独自构建前沿人工智能,而依赖美国或中国则会暴露于被切断的风险[11]。
经济结构也支撑了这种分化。前沿模型开发能力集中于美国和中国的少数企业,军事人工智能运用能力同样集中于美俄两国。中等国家和欧盟在规范宣言中所能扮演的角色是核查与污名化,而非对技术本身的控制。新加坡外长维文在提议制定联合国框架公约和创设“新的国际组织”的同时,又断言安全暂停本身已经“为时过晚”,这一发言无异于自己承认了上述局限[10][15]。
3. 历史先例比较:渥太华公约与NPT·IAEA模式的岔路口
报告提出的问题可归结为两个截然相反的军控先例。其一是渥太华禁雷公约。该公约在美国、俄罗斯、中国等主要军事大国缺席的情况下缔结。尽管如此,评价认为其在给非签约国使用地雷的行为打上国际污名方面取得了相当程度的成功。这是由中等国家与公民社会联盟主导、大国缺席非但未损害条约正当性反而使其道德格局更加鲜明的案例。
其二是《不扩散核武器条约》与IAEA模式。该体制没有拥有国俱乐部的自愿参与和接受核查便无法运作。正如朝鲜案例所示,核心当事国一旦脱离核查体制,机制本身的实效性便会急剧下降。人工智能武器体系规范更接近这两个先例中的哪一个,目前尚无定论。但迄今为止的进展发出了更接近IAEA模式的信号。中等国家宣言虽标榜“IAEA式核查机构构想”,但本应成为核查对象的美国、俄罗斯、中国却全部缺席,这一事实本身就预示了该宣言的结构性局限。
中国的应对在这一岔路口暗示了第三种选择。中国不参与西方主导的多边机制,而是并行构建世界人工智能合作组织(WAICO)这一独立的替代制度[9]。这与冷战时期不结盟运动或上海合作组织的成立过程类似。其战略是:不全盘反对现有机制,而是通过平行的替代机构分散规范形成的主导权。与此同时,中国呈现出双重结构:在安理会通报会上表明“大国应遵守规则”的原则性立场[4],而在国家安全部层面则运作将美国人工智能模型界定为安全威胁的单独轨道[6]。大国脱离多边机制的方式并非只有一种:美国以怀疑论、俄罗斯以拒绝、中国以构建替代制度,各自走着不同的路径。
4. 核心变量:分化还是再趋同?
决定未来走向的变量可归纳为三个。
第一是美中双边渠道的制度化水平。如果在定于11月举行的第二轮中,事故通报体系具备了实质性运用规则[7],该渠道很可能固化为事实上的人工智能安全治理标准。相反,若通报渠道停留在象征性水平,中等国家宣言的空间反而会扩大。
第二是SIPRI式非正式实务协商机制能否扩展。国防部、外交部官员与产业界、红十字国际委员会、北约、联合国裁军研究所共同参与的9月闭门对话[5],暗示了一条在正式条约谈判受阻之处实现实质性规范形成的替代路径。这类非正式渠道是发展为有约束力的协议,还是止步于对话本身,将成为分水岭。
第三是中等国家宣言能否产生污名化效应。关键在于,22国宣言能否像渥太华公约那样,达到对非签约国的行为施加国际成本的程度,还是止步于一纸宣言。截至目前,美国和俄罗斯均未受该宣言约束,继续在谈判场合阻挠条款,因此污名化效应产生的迹象并不明显[1][3]。
*本文为使用 AI 从韩语原文翻译而来,部分译文或语感可能存在偏差。
本报告由 EAI 研究员策划,基于 AI 辅助的精细研究,并由 EAI 研究员最终撰写的深度分析报告。