超级智能AI监管与国际治理争议激化：英国案例与韩国的应对战略

总体摘要

尽管英国议会多数议员施加了跨党派压力，但内阁办公厅仍拒绝引入“紧急停止开关”。这并非政治上的倒退，而是基于分散部署的商用AI模型无法进行物理控制的实务判断。联合国人权事务高级专员将AI定义为生存威胁，并敦促国际规范化，但中美技术霸权竞争抑制监管速度的结构性制约依然存在。未来12至18个月，规范真空期长期化的可能性最高，国际规范的早期趋同应被视为小概率事件。韩国需要优先完善国内制度，同时采取双重战略，为参与小概率的早期趋同局面下的多边讨论奠定基础。

I. 议题状况分析

超级智能AI监管与国际治理争议激化：议题状况分析

1. 议题背景及经过

此次事件的引爆点是2026年9月的英国议会。超过70名上下两院议员致信文化、媒体和体育大臣安迪·伯纳姆，要求其支持禁止开发超级智能（ASI）[1]。签名者名单非同寻常，包括15名前内阁大臣、前内阁办公厅负责人罗宾·巴特勒、工党左翼约翰·麦克唐奈在内的朝野资深议员异口同声[1]。这被解读为并非特定党派提出的问题，而是整个威斯敏斯特政界的跨党派担忧。

事件的直接导火索是AI业界内部人士的警告。Anthropic团队负责人公开发文称“真心相信AI可能杀死全人类”，此言论刺激了英国议员[5]。工党议员达伦·琼斯以此为据，向联合国和经合组织发出公开信，要求介入“超级智能的不安全开发”[5]。《连线》杂志将此局面定义为“AI的混乱之夏”，并报道了英国政界在整个夏季接连推出应对法案的背景[5]。工党议员亚历克斯·索贝尔在下议院提交相关法案也发生在同一时期[5]。

这一趋势并非英国独有的例外现象。在韩国国内，东亚研究院（EAI）工作论文系列早已指出，“人工智能的飞速发展正在军事、安全、政治、外交、经济、社会等所有领域引发革命性变化”[7]。中美技术霸权竞争是抑制安全监管速度的结构性因素这一点，也已通过国内社论指出。《韩民族日报》指出，“尽管业界和专家们不断发出类似的担忧声音，但旨在减缓开发速度的监管动向却毫无进展，这是因为中美不愿在关乎未来霸权的人工智能开发竞争中退让”[8]。英国议会要求禁止超级智能，可被视为在这种结构性停滞中寻求政治突破的尝试。

2. 当前状况

英国政府的回答是拒绝。内阁办公厅未接受引入法律上的“紧急停止开关”以在紧急情况下强制停止危险AI的要求。BBC报道称，内阁办公厅表示“英国不能简单地关闭AI”[13]。《每日晨报》也报道了同样的事实，并明确指出内阁办公厅是统管AI安全事务的部门[11]。也就是说，安全政策的主管部门自己以技术和行政上的可行性为由，对强硬的监管方案划清了界限。这形成了议会多数派的政治要求与行政部门的实务判断正面冲突的格局。

同一时期，联合国层面也发出了警告。联合国人权事务高级专员福尔克尔·蒂尔克在人权理事会发表演讲时警告说，AI可能成为“对人类的生存威胁”[15][16][17]。他反问道：“AI治理的必要性已得到广泛承认，但行动在哪里？”，并表示拖延只对大型科技公司及其所有者有利[15]。蒂尔克在即将开始其第二个任期之际，要求为确保AI安全提供“铁一般的保证”[16][17]。这一发言与英国议会内部关于禁止超级智能的争议在时间上重合，形成了国家层面的监管尝试与联合国层面的规范化要求同时浮现的局面。

《韩民族日报》社论提出的NPT（《不扩散核武器条约》）类比在当前局面下起到了象征性的参照作用[8]。其逻辑是，应将《不扩散核武器条约》作为囊括大国的框架来抑制核武器扩散的先例，应用于AI的规范化。但目前尚不存在将此比喻转化为实际条约形式的制度路径。斯德哥尔摩国际和平研究所（SIPRI）专家于6月参加了在日内瓦举行的联合国军事领域AI相关首次非正式磋商[6]，这一事实表明多边讨论尚处于起步阶段。同时，这也意味着当前仍是与形成有约束力的规范相去甚远的初期探索局面。

3. 主要行为体及立场

英国议会跨党派团体是向行政部门施压的主体。由前内阁大臣和朝野资深议员共同签署的信函具有很大的政治分量[1]。但他们所要求的由英国主导国际运动，并非英国单方面可以实现的目标。考虑到英国的AI产业规模和国际谈判能力，这更接近于一种象征性的领导力要求。

英国政府（内阁办公厅）的立场是同时考虑监管的实效性和产业竞争力。以“不能简单地关闭”为由拒绝“紧急停止开关”[13]，可以解释为技术上难以统一控制分散、复制的AI系统的实务判断，以及英国不愿损害本国AI产业国际竞争力的产业政策考量相叠加的结果。

联合国人权事务高级专员办事处扮演着为规范形成提供道德正当性的角色。蒂尔克的发言更接近于施加政治压力，而非有约束力的措施[15][16][17]。联合国裁军研究所（UNIDIR）、联合国裁军事务厅（UNODA）与斯德哥尔摩国际和平研究所（SIPRI）共同主办的军事AI讨论[6]，表明人权框架和军事安全框架正在联合国内部并行推进。

Anthropic等前沿AI企业内部人士是监管争议的最大催化剂，这颇具讽刺意味。他们公开警告自家技术的危险性[5]，反而刺激了政界的立法尝试。这也可以解读为企业通过先发制人地主导安全性话语，从而在监管设计过程中确保发言权的策略。

美国与中国虽然未在本次争议的表面出现，但构成了结构性背景。正如《韩民族日报》所指出的，两国的霸权竞争是放松监管压力的根源[8]。布鲁金斯学会的简报资料诊断称，经过G7峰会、联合国等一系列AI峰会，中美差距反而进一步拉大[12]。在这种结构下，英国或联合国所要求的国际规范化，若无中美两国的实际参与，其效果很可能有限。

4. 核心争议点

第一个争议点是风险的实体性。关于10%的人类灭绝概率数字[1]是经过验证的科学推断，还是话语上的修辞，尚无共识。这种不确定性是政界的强硬应对与行政部门的审慎论调产生分歧的根本原因。

第二个争议点是监管手段的现实性。英国政府正面指出了像“紧急停止开关”那样建立明确控制点的方式，与分散部署的AI系统的技术特性之间的差距[13]。这个问题不仅限于英国，而是所有国家层面的监管尝试都将同样面临的结构性制约。

第三个争议点是国际规范化的路径。NPT类比[8]的前提是囊括大国。但在当前的中美竞争格局下[8][12]，两国自愿减缓开发速度的动机很弱。联合国人权事务高级专员办事处的道德施压[15][16][17]和斯德哥尔摩国际和平研究所（SIPRI）等专业机构的军事AI讨论[6]是规范形成的种子，但通往有约束力条约的政治路径尚不明朗。

第四个争议点是话语的政治性。企业内部人士的警告究竟是真实的风险评估，还是在监管设计过程中确保发言权的战略定位，难以区分。这一点是包括韩国在内的中等强国在参与国际讨论时必须审视的部分。如果不能辨别风险话语的政治性，就有可能将监管设计的主导权让给前沿企业和强国。

II. 议题深度分析

超级智能AI监管与国际治理争议激化：议题深度分析

1. 根本原因分析

此次事件的根本原因是技术风险评估与政治应对之间的时间差。Anthropic内部人士的公开警告所触发的，并非风险是否真实存在，而是政界对风险叙事的反应速度[5]。《连线》杂志原封不动地转述了议员达伦·琼斯的逻辑，即无论这一警告是“营销夸大还是真实灭绝威胁的前兆”，政府都应介入[5]。也就是说，在确定风险真伪之前，就已形成了要求采取政治行动的结构。这是典型的政治责任规避优先于风险验证的模式。

企业内部分裂也是根本原因的一个方面。Anthropic研究员雅各布·科克森的辞职和埃文·赫宾格提出的10%灭绝概率言论，揭示了即使在前沿AI开发公司内部，也未就安全性达成共识。一直将安全作为首要价值的企业，自己将内部警报声暴露于外，这一事实反证了监管当局可供参考的客观风险标准从一开始就不存在。

此外，产业结构性诱因也交织其中。中美之间的AI霸权竞争是制约安全监管引入速度的根本条件，这一点在国内社论中也早有指出。诊断认为，“旨在减缓开发速度的监管动向之所以毫无进展，是因为中美不愿在关乎未来霸权的人工智能开发竞争中退让”[8]。英国议会要求禁止超级智能，是违背这一国际竞争格局的单一国家层面的尝试，因此从一开始就注定会陷入实效性争议的结构之中。

2. 结构性脉络

政治结构：立法部门与行政部门的脱节

英国议会内的跨党派联合在政治上是罕见的。15名前内阁大臣、前内阁办公厅负责人罗宾·巴特勒、工党左翼约翰·麦克唐奈以及保守党、自民党、苏格兰民族党（SNP）的资深议员共同签署的信函，是超越党派的压力[1]。然而，实际负责AI安全政策的内阁办公厅并未接受。BBC报道称，内阁办公厅表示“英国不能简单地关闭AI”[13]。这是一种立法部门的政治象征行为与行政部门的技术性、执行性现实判断相脱节的结构。“紧急停止开关”这一概念本身在提出时就未预设分散部署的商用AI模型无法进行物理控制，从这一点来看，英国政府的拒绝与其说是政治上的倒退，不如说更接近于承认实务上的局限。

这种脱节也是AI监管所面临的普遍困境。布鲁金斯学会指出，中等强国在中美之间被迫做出选择的结构本身就是一种经济和地缘政治风险[9]。英国正处于试图在美中两大强国之间引领规范，与保护本国产业竞争力之间寻求平衡的境地，而拒绝“紧急停止开关”可以解释为将这一平衡点向产业方倾斜的决定。

安全结构：与军事领域的关联

联合国层面的讨论并不局限于人权领域。斯德哥尔摩国际和平研究所（SIPRI）的专家们于6月参加了在日内瓦举行的联合国军事领域AI相关首次非正式磋商[6]。此次磋商由联合国裁军研究所、联合国裁军事务厅和联合国人权事务高级专员办事处共同主办，这表明蒂尔克高级专员的此次警告并不仅限于人权理事会的发言，而是与裁军和安全轨道相连接[6]。也就是说，超级智能风险争议已超越了民用聊天机器人的安全性问题，正在与自主致命武器系统等军事AI应用的规范真空问题在同一脉络下进行讨论。东亚研究院（EAI）工作论文系列也曾专门探讨“自主致命武器系统治理竞争的动向与挑战”，这暗示了民用和军事两个轨道的规范讨论实际上源于同一根源[7]。

经济结构：监管延迟的受益者问题

蒂尔克高级专员直接指出，“拖延只对大型科技公司及其所有者和助力者有利”[15]。这一发言将AI安全监管争议重新定义为利益分配问题，而不仅仅是单纯的技术风险评估。监管真空期越长，领先企业的市场支配力就越巩固，这种结构性激励的存在，解释了为何前沿企业偏好自我监管，而对引入具有法律约束力的国际规范持消极态度。在美国对外关系委员会（CFR）对350名专家进行的问卷调查中，各方一致认为“没有人准备好控制即将到来的AI能力”[2]。虽然对准备不足存在共识，但这意味著对于由谁以及如何填补这一空白，尚无共识。

3. 历史先例及类似案例比较

《韩民族日报》社论提出的比较轴是《不扩散核武器条约》（NPT）。社论主张，“就像成功阻止了无节制核扩散危机的《不扩散核武器条约》一样，别无他法，只能引入一个广泛涵盖主要大国的国际规范”[8]。然而，这一比较存在根本性的不对称性。核武器的开发主体限定为国家，且获取核材料本身就是极高的准入门槛；而前沿AI的开发主体是民营企业，由计算资源和数据这些相对易于获取的要素构成。NPT式核查机制所前提的“谁拥有什么”的物理核查，在技术上难以适用于AI。这也与英国政府拒绝“紧急停止开关”的逻辑相通。核武器可以被物理封存和拆除，但分散部署且通过开源渠道流通的AI模型，并非一个可以用单一开关关闭的对象。

另一个比较轴是气候变化国际机制。《巴黎协定》体系之所以采用自愿承诺（NDC）而非有约束力的减排义务，是主权国家抵制损害本国产业竞争力的有约束力规范的结果。在AI治理讨论中也观察到类似的模式。英国拒绝“紧急停止开关”，中美回避监管竞争，都是将本国产业和安全利益置于国际规范之上的选择。但与气候变化不同的是，AI风险的爆发时间和规模甚至没有科学共识，从这一点来看，应认为当前仍处于连《巴黎协定》水平的最低承诺体系都尚未形成的初期阶段。

布鲁金斯学会整理的G7和联合国首脑级会议连续召开的态势，与冷战时期军备控制谈判的初期局面有相似特征[12]。中美两国各自联合阵营展开规范竞争的格局，有可能重演缓和时期之前美苏军备控制谈判在相互不信任中长期陷入僵局的模式。但不同的是，冷战时期的军备控制以双边谈判为中心，而AI规范讨论则是由英国议会、联合国人权事务高级专员、G7、个别企业等在不同轨道上同时提出问题，谈判主体本身是碎片化的。

4. 议题发展的核心变量

第一个变量是中美竞争格局的强度。布鲁金斯学会评价称，2026年夏季连续举行的AI峰会反而凸显了中美之间的差距和分歧[12]。只要两国将确保技术优势置于规范竞争之上，由英国或联合国主导的禁止超级智能的讨论就难以发展成为有约束力的多边规范。

第二个变量是英国内部立法部门与行政部门冲突的走向。议员亚历克斯·索贝尔向下议院提交的法案是否能通过，以及内阁办公厅将提出何种实务性监管方案作为“紧急停止开关”的替代方案，将是关键[5][13]。如果政府只是一味拒绝而没有替代方案，跨党派的议会压力有可能再次加强。

第三个变量是联合国轨道的制度化与否。蒂尔克高级专员的警告是会停留在人权理事会层面的言辞，还是会像斯德哥尔摩国际和平研究所（SIPRI）参与的军事AI非正式磋商那样，发展成为实质性的多边协商机制，将是分水岭[6][15]。如果联合国裁军研究所、裁军事务厅、人权事务高级专员办事处共同主办的磋商能够常态化，这可能成为讨论引入NPT式国际规范的初期制度性基础。

第四个变量是企业内部分裂是否会扩散。如果源自Anthropic的警告和研究员辞职事件蔓延到其他前沿企业，产业界自我监管逻辑的可信度可能会急剧下降。在这种情况下，不能排除要求政府介入的政治压力将超越英国，扩散到美国和欧盟的可能性。

从韩国的立场来看，这四个变量的组合决定了中等强国应对战略的窗口。正如布鲁金斯学会所指出的，包括韩国在内的中等强国面临着在中美之间被迫做出选择的结构性脆弱性[9]。在超级智能风险话语更多地被当作政治修辞而非实际技术验证来消费的潮流中，韩国在规范形成的初期阶段参与进来，介入验证标准的设计讨论，相比于事后接受强国制定的规范，更能确保有利地位。