← 返回 · ← 首页 · ← 返回列表

AI人类控制言论与美中AI安全合作机制讨论

全在晟 EAI院长，首尔大学教授
朴志恩东亚研究院（EAI）研究员

分类: 当前关注
发布日期: 2026年9月25日

总括摘要

在9月24日的华盛顿会谈中，习近平主席提到AI必须在人的控制之下，而特朗普总统则表示双方一致认为不需要新的监管，然而这更像是双方国内政治的姿态，而非具有实质约束力的规范性成果。在会谈前两天，纽约讨论了设立AI热线以便在发生AI事故时相互通知，但这仅是国家安全危机管理渠道，并不意味着商业AI合作的扩大。白宫主导的合作轨道与国会和监管机构主导的施压轨道已经分开运作，领导人之间的象征性共识很难阻止半导体和AI出口管制等个别监管的持续。中国试图将安全讨论作为全球规则制定权的手段，而美国则仅在维持对华竞争优势的框架内处理安全问题，因此双方所追求的目标本质上是不同的。韩国政府和企业不应将此次会谈过度解读为关系改善的信号，而应在安全关联领域与商业领域分开应对，同时参与美中二元格局之外的多边规范轨道。

I. 议题情况分析

AI '人类控制'言论与美中AI安全合作机制讨论：议题情况分析

1. 议题背景及经过

在今年5月北京举行的特朗普-习近平峰会中，双方领导人已达成关于启动AI相关政府间对话的共识^[3]^[9]。9月24日的华盛顿会谈是这一共识的后续措施^[3]^[9]。特朗普总统亲自表示为白宫国宾晚宴做了准备，这与习近平主席时隔11年再次访问白宫的象征性意义相吻合^[10]^[9]。

在会谈前，美国内部首先传出了对AI安全的产业发展警告。9月12日，Anthropic首席执行官达里奥·阿莫代伊发表文章称“领先的研究机构应故意放慢模型能力扩展的速度”^[17]。OpenAI的山姆·奥特曼和SpaceX的埃隆·马斯克也迅速表示赞同^[17]。然而，特朗普总统在两天后将AI灾难的担忧称为“骗局”，并反驳称，唯有中国对此反对感到高兴^[17]。这一言论显示出美国政府仅在维持对华竞争优势的框架内处理安全讨论^[3]。

与此同时，中国内部也确认了风险意识的增强。中国国家安全部负责人曾罕见地警告称，AI技术可能威胁到中国共产党本身的统治合法性^[8]。这表明北京在对外拒绝美国主导的速度控制要求的同时，内部却采取了必须管理风险的双重态度^[6]。

2. 当前情况

在峰会前四天的星期天晚上，纽约JP摩根大通总部举行了两国高级官员之间的实务协商。美国方面由财政部长斯科特·巴森特和贸易代表詹姆森·格里尔出席，中国方面则由副总理何立峰带领的团队参加^[7]^[18]。在此次会议上讨论的所谓“AI热线”，即在AI事故对国家安全构成威胁时相互通知的“通知机制”^[18]。阿尔贾兹拉报道称，这是特朗普总统准备直接向习近平主席提出的建议^[18]。

在峰会当天，习近平主席在白宫国宾欢迎仪式上表示，中美两国应共同努力确保AI不脱离人类的控制。同时，他也承认两国在这一技术上存在激烈竞争的事实^[4]。悉尼晨锋报报道称，习近平主席在发表上述言论时，向特朗普施加了中国企业扩大进入美国市场的压力^[10]。习近平主席表示：“合作将使两国共同受益，而对抗将使两国共同失利”，并提到“实现中华民族伟大复兴与使美国再次伟大是可以共同实现的”，直接引用了特朗普总统的政治口号^[10]。特朗普总统在欢迎演讲中表示，将与习近平主席讨论安全、技术和超级智能等紧迫问题，并称当天的决定将影响数十年的和平与繁荣^[1]。随后，特朗普总统确认双方在AI新技术方面达成一致认为不需要新的监管。

日本朝日新闻指出，此次会谈中AI成为最大焦点的背景是，技术的快速发展引发的“失控”担忧在美中两国均在加剧^[12]。然而，朝日认为两国在安全保障方面实际能够走多近仍然不明朗^[12]。

EAI分析认为，尽管存在表面上的合作姿态，但“‘安全’一词承载着不同的政治目的，难以形成实质性的规范共识”^[3]。特朗普政府“仅在维持对华竞争优势的框架内处理安全讨论，直接拒绝了行业发展速度控制的要求”，而中国则“通过官媒评论提出共享安全定义权和对美国企业适用同等标准的先决条件”^[3]。这意味着技术风险讨论实际上转变为“全球规则制定权的问题”^[3]。

3. 主要行为者及立场

白宫·特朗普总统仅在维持对中竞争优势的框架内接受AI安全讨论。对于行业发展速度控制的警告，采取了通过建立“AI力量”这一安全组织来回应，而非加强监管^[6]。特朗普总统在联合国大会演讲中表示拒绝旨在控制AI的“全球主义者计划”，并将AI重新定义为“超级智能”，重申了美国优先的立场^[15]。同时，他试图利用在纽约实务协商中确认的“通知机制”提案作为峰会的筹码，以保持安全风险管理层面的最低沟通渠道^[18]。

习近平主席·中国政府强调AI必须在人类控制之下的原则，强调合作的必要性，但将美国方面的扩散监管和护栏要求视为阻碍自身AI产业发展的企图^[5]。大西洋理事会认为，北京领导层虽然有其AI安全的担忧，但并未明确提出与美国进行安全合作的路径^[5]。从国家安全部的内部警告来看，中国领导层的风险意识被视为与对外合作姿态无关，而是体现在体制稳定性的问题上^[8]。

何立峰副总理·中国经济团队在纽约协商中作为通知机制讨论的实务伙伴出现。这表明贸易和关税谈判轨道与AI安全讨论在同一渠道并行处理^[7]^[18]。

美国大型科技·AI行业则表现出与政府间谈判无关的独立行动。Anthropic、OpenAI和SpaceX高管的速度控制要求与白宫的竞争优先政策相对立^[17]。这些企业的首席执行官们也被报道大规模出席了峰会国宾晚宴，这表明产业界在美中关系管理中有独立的利益考量^[16]。

EAI分析指出“白宫的合作轨道与FCC等监管机构和国会的施压轨道已经分开运作，即使在峰会中达成象征性共识，半导体和AI出口管制等个别监管仍可能持续”^[3]^[6]。同时，“在台湾问题成为结构性红线的情况下，AI安全对话可能被视为峰会的附属成果”^[3]^[6]。

4. 核心争议

第一个争议是‘安全’的定义权。美国将安全视为扩散控制和护栏建设的问题，而中国则从安全定义本身的共同决策权和对美国企业适用同等标准的问题入手^[3]。只要这一间隙没有缩小，即使达成通知机制等实务性渠道，也很可能停留在信任建设水平的信息交换上^[9]。

第二个争议是政府间合作叙事与个别监管措施的分离。即使白宫强调合作，FCC等监管机构和国会层面的对中施压仍将作为独立轨道持续存在^[3]^[6]^[9]。美国企业希望以收益分配的方式托管中国AI模型的商业行动也在与政府叙事无关的情况下进行，政府、产业和国会之间的立场差异已经结构化^[9]。

第三个争议是美中双边谈判是否会取代多边治理讨论。在联合国大会上，22个国家通过了AI应“在人的指导、监督和控制下”进行的共同声明^[14]，但如果美中峰会在此之前达成双边的‘热线’协议，其他国家在规则制定过程中可能会被排除在外^[15]。经济时报指出，这可能成为“不给其他国家发言权的两大国之间的交易”^[15]。

第四个争议是军事AI控制的范围。布鲁金斯学会提出，双方领导人应达成协议，决定相对方的核指挥控制通信(NC3)或关键基础设施的网络攻击由人而非AI来决定^[11]。这将成为检验‘人类控制’原则是否能够超越民用AI风险，扩展到军事安全领域的试金石。

II. 议题深度分析

AI '人类控制'言论与美中AI安全合作机制讨论：议题深度分析

1. 根本原因分析

习近平主席选择“在人的控制下”这一表述的背景中包含双重考量。对外而言，可以塑造出与对AI风险漠不关心的特朗普政府形成对比的负责任大国形象。对内而言，正如中国国家安全部负责人罕见地警告的那样，AI技术可能威胁到中国共产党统治的合法性，这种危机感是真实存在的^[8]。AI对治理体系的潜在威胁源于与西方安全话语不同的体制稳定性这一中国特有的问题意识。

特朗普总统表示“新监管不必要”的共识源于其政治需要，旨在平息美国内部产业界的压力。在Anthropic阿莫代伊提出速度控制要求后，OpenAI和SpaceX也表示赞同，特朗普总统则将其称为“骗局”，并反驳称“对AI和数据中心的反对只有中国在高兴”^[17]。这一言论本身显示出美国的AI安全讨论并非监管哲学的问题，而是被视为对中竞争叙事的一个子类别。EAI分析指出，“特朗普总统仅在维持对华竞争优势的框架内处理安全讨论，并直接拒绝了行业发展速度控制的要求”^[3]。最终，尽管双方使用相同的“安全”一词，实际上所针对的问题却截然不同。

2. 结构性背景

从政治结构来看，白宫的合作轨道与美国国会和监管机构的施压轨道自始至终是分开运作的。EAI报告指出，“白宫的合作轨道与FCC等监管机构和国会的施压轨道已经分开运作，即使在峰会中达成象征性共识，半导体和AI出口管制等个别监管仍可能持续”^[3]。也就是说，领导人之间的共识并不能约束行政部门下的出口管制体系或国会立法的结构。

在经济结构中，美中两国大型科技公司的商业动机与政府叙事无关地运作。EAI指出，“美国企业希望以收益分配的方式托管中国AI模型的案例显示，产业界的商业动机与政府叙事是分开的”^[9]。美国大型科技CEO大规模出席峰会晚宴也显示出这种商业利益直接介入外交舞台的结构^[16]。

在安全结构中，‘安全’的定义权本身就是竞争对象。大西洋理事会指出，“北京将美国对扩散和护栏的质疑视为阻碍中国AI发展的企图”^[5]。EAI也分析称，“中国通过官媒评论提出共享安全定义权和对美国企业适用同等标准的先决条件，并试图将技术风险讨论转变为全球规则制定权的问题”^[3]。这意味着安全对话并非规范讨论，而是规则制定主导权争夺的延续。再加上台湾问题这一结构性红线的重叠，AI安全对话“很可能被视为峰会的附属成果”^[3]^[6]。

3. 历史先例及类似案例比较

此次华盛顿会谈中的AI对话是对今年5月北京峰会达成的政府间对话渠道的后续措施^[3]^[9]。自5月达成共识以来，官媒对美的批评基调保持不变，已确认领导人之间的共识与实务执行之间的间隙^[9]。此次“热线”讨论也可能重复同样的模式。

与冷战时期美苏核危机管理体系的比较也提供了启示。布鲁金斯学会提出，特朗普-习近平两位领导人应达成协议，决定相对方的核指挥控制通信系统或关键基础设施的网络攻击由人而非AI来决定^[11]。这表明此次AI通知机制并非全面规范共识，而是防止意外事故升级的最低限度装置。不同于冷战时期热线在相互确保毁灭的明确恐惧平衡下运作，AI领域的威胁性质和临界点本身则不明确。

与2023年旧金山APEC峰会的比较也有效。EAI指出，“当时是为了修复因侦察气球事件而紧张的关系，而此次则是以5月访华的先行峰外交为基础，强调关系管理的连续性”^[6]。即此次会谈的性质不同于危机后的关系恢复，而是对已进行的对话渠道的制度化尝试。然而，即使是制度化尝试，如果未能形成实质性的规范共识，仍难以摆脱2023年以来反复出现的象征性共识与个别监管持续的模式。

4. 议题发展的核心变量

第一个变量是美国内部产业界与行政部门之间的紧张关系走向。Anthropic提出的速度控制要求是否会以一次性事件结束，还是会扩大为产业与政府之间的持续冲突，将左右美国的AI安全政策基调^[17]。

第二个变量是中国内部风险意识的扩散速度。国家安全部负责人的警告是否仅仅是例外发言，还是会反映在北京的AI政策整体上，将影响中国在对外谈判中将‘安全’作为实质议题的动机^[8]。

第三个变量是通知机制的制度化是否成功。在纽约实务协商中讨论的通知机制是否能在峰会后进入具体的运营规则和负责组织的阶段，还是仅停留在宣言性共识，是关键^[7]^[18]。EAI预计该渠道“很可能停留在信任建设水平的信息交换的双轨常态化路径”^[9]。

第四个变量是与台湾问题等安全议题的关联程度。如果半导体出口管制、稀土供应链问题在AI安全对话之外的独立轨道上持续加剧，峰会中达成的象征性共识将难以超越谈判的名分^[3]^[16]。

第五个变量是美中双边协议是否会压倒多边治理讨论。在联合国大会上，22个国家通过了AI应“在人的指导、监督和控制下”进行的声明^[14]，在此背景下，美中两国的“强国交易”可能会将其他国家排除在决策之外^[15]。在这种情况下，包括韩国在内的中等国家将只能处于美中协议的接受者位置。

III. 最终推荐应对方案

AI '人类控制'言论与美中AI安全合作机制讨论：综合应对方案

1. 综合判断及推荐应对方案

此次华盛顿会谈中达成的AI相关共识更接近于政治姿态，而非规范性成果。习近平主席的“人类控制”言论与特朗普总统的“新监管不必要”表述为双方提供了国内政治的名分。尚未确认具有实质约束力的共识。

核心判断是双轨结构在会谈后仍将保持不变。白宫主导的合作轨道与国会和监管机构主导的施压轨道已经分开运作^[3]^[9]。领导人之间的象征性共识无法改变这一结构。EAI分析指出，“即使在峰会中达成象征性共识，半导体和AI出口管制等个别监管仍可能持续”^[3]。韩国企业和政府不应将此次会谈结果过度解读为关系改善的信号。

推荐应对方案是分开应对安全关联领域与一般商业领域的双元体系。AI热线等政府间通知机制^[18]仅是国家安全层面的危机管理渠道，并不意味着商业AI合作或技术标准整合。混淆这两个层面将导致政策判断的扭曲。

2. 短期/中期/长期执行计划

短期（3个月内）集中于信息收集和原点确认。确认美国商务部工业安全局(BIS)对中国的半导体和AI出口管制清单在会谈后是否有变动。同时对比中国官媒在会谈前后对美的论调是否实际发生变化。EAI指出，“中国在对话共识与否的情况下，仍表现出官媒对美的批评论调的双重性”^[9]。这一双重性是否持续将是初步判断的依据。对同时与美中双方签订供应链和云合同的国内AI企业，重新审查合同条款中是否存在安全例外条款。

中期（6个月至1年）是调节美国AI标准和认证体系纳入速度的时期。美国可能将其AI安全框架作为对盟国的扩散战略，而中国则可能建立独立的标准轨道。韩国应在不提前纳入任何一方标准的情况下，保持国内AI安全评估体系的独立性，同时并行观察双方动态。在此期间，评估美国的安全组织化动向^[6]，如“AI力量”的新设是否会实际政策执行，或仅停留在象征性宣布。

长期（1年以上）是转向参与多边规范形成的阶段。像联合国大会上22个国家通过的AI人类控制声明^[14]一样，存在在美中二元格局之外形成的多边轨道。经济时报指出，美中双边谈判可能导致“排除其他国家的两大国交易”^[15]。韩国需要积极参与这一多边轨道，确保不受美中二元格局的规范形成空间。

3. 监测指标及触发点

第一个指标是AI热线实务后续措施的情况。纽约会谈中讨论的通知机制^[7]^[18]是否具体化为运营规则和负责机构，或者在会谈结束后变得模糊不清。如果在90天内未安排后续实务协商，则可判定为象征性共识。

第二个指标是美国半导体和AI出口管制清单的实际变动。如果与峰会共识无关，BIS实体清单中增加或排除中国企业的动向，将成为合作轨道与施压轨道分离结构的实证依据。

第三个指标是中国国家安全部及官媒的AI相关言论基调。国家安全部负责人的体制威胁警告^[8]是否重复，或仅停留在一次性发言。若重复，则表明北京内部的风险意识可能会转化为实际政策（例如：对本国AI企业的安全性监管加强）。

第四个触发点是台湾相关紧张局势的重新点燃。在台湾问题已成为“结构性红线”的情况下^[3]，若该问题再次浮出水面，可能导致包括AI安全对话在内的所有合作轨道同时紧缩。在这种情况下，安全关联领域的风险需立即上调。

第五个指标是美国大型科技对华业务的动向。是否扩大以收益分配方式托管中国AI模型的尝试^[9]，将显示出与政府叙事无关的商业动机的强度。

4. 摘要结论

此次会谈确认的是美中两国希望保持通过AI进行沟通渠道的意愿，而非实质性的规范共识。习近平主席的“人类控制”言论与特朗普总统的监管豁免提及源于各自不同的国内政治需求，指向的方向并不一致。像AI热线这样的危机管理机制是有意义的，但仅限于安全领域。韩国政府和企业应将此次会谈视为建立双元风险管理体系的时机，而非关系正常化的信号，并应集中精力持续检查美国监管机构的个别措施。同时，也应并行参与多边规范形成空间。