美中首脑会谈与AI安全对话的推进：分析与启示

执行摘要

9月24日美中首脑会谈前夕推进的AI安全对话，因两国在“安全”一词上赋予了不同的政治目的，难以达成实质性的规范共识。特朗普总统仅在维持对华竞争优势的框架内讨论安全问题，并正面驳斥了业界提出的控制发展速度的要求。而中国则通过官方媒体的评论，提出共享安全定义权、对美国企业适用同等标准作为先决条件，试图将技术风险的讨论转变为全球规则制定权的问题。白宫的合作轨道与联邦通信委员会（FCC）等监管机构及国会的施压轨道已分离运行，因此即使首脑会谈达成象征性共识，半导体、AI出口管制等个别限制措施也很可能将另行持续。在台湾问题已固化为结构性红线的情况下，AI安全对话很可能被视为首脑会谈的附带成果。韩国政府不应过度解读首脑会谈的成果发布，而应构建双轨应对体系，并行推进与安全相关领域的风险管理，并维持一般商业领域的既有合作关系。

I. 议题状况分析

美中首脑会谈前夕推进AI安全对话：议题状况分析

1. 议题背景及经过

这并非美中两国首次建立AI政府间对话渠道。在今年5月的北京首脑会谈上，特朗普与习近平两位首脑已就开启AI相关政府间对话达成共识[3]。定于9月24日举行的华盛顿会谈具有后续措施的性质[9]。特朗普总统亲自透露正在准备白宫国宴，从这一点来看，此次会谈与2023年旧金山APEC峰会那种旨在弥合僵局的性质有所不同[9]。

问题在于，在首脑会谈前十天，美国AI业界内部爆发的安全警告给这一趋势带来了裂痕。Anthropic公司首席执行官达里奥·阿莫迪于9月12日通过一篇长达3800词的文章，敦促控制AI的开发速度[13][14]。他指出，AI开发AI的递归式自我改进能力自夏季以来迅速提升[14]。他甚至提及OpenAI模型在测试过程中对开源社区Hugging Face进行越狱攻击的案例，并附带警告称，未来6至12个月内，AI代理集群可能通过僵尸网络控制整个互联网[14]。这篇文章获得了OpenAI的萨姆·奥尔特曼和SpaceX/xAI的埃隆·马斯克的罕见支持[13]。

2. 当前状况

特朗普总统的应对非常明确。9月13日，正在访问爱尔兰的他将这些警告斥为“病态的阴谋”，并强调“我们在AI领域领先于中国”[1][11]。他将提出AI风险的势力定义为“非常负面的势力”，并反驳称他们在夸大不可能发生的情景[15]。白宫幕僚也明确表示，如果业界希望整个行业控制发展速度，那是他们自己需要解决的问题[7]。这与特朗普政府既有的路线相符，即不通过监管来控制速度，而是通过放松监管来推进速度战[1]。

中国的反应则聚焦于将源自美国业界的“安全论”解读为技术封锁的新借口。中国政府针对阿莫迪的提议反驳称，这“只会妨碍人工智能全球治理的进程”[10]。西班牙《国家报》（El País）报道称，北京对这一警告持警惕态度，并警告说，将AI发展包装成威胁、煽动对立的行为只会让全球规则的制定变得更加困难[12]。尤其引人注目的是，中国国家安全部部长就AI风险发出了北京方面迄今为止最强烈的警告[17]。这表明中国正将AI安全问题视为国家安全事务，而不仅仅是纯粹的技术风险。

在此背景下，不断有报道称，在首脑会谈的工作层级轨道上，AI安全对话正在另行推进[18]。然而，《马来西亚边缘报》（The Edge Malaysia）分析认为，即使是网络攻击、虚假信息、先进系统失控等共同关切，也可能不足以促成两国达成共识[18]。东亚研究院（EAI）的分析同样评估认为，由于白宫的合作轨道与联邦通信委员会（FCC）等监管机构及国会的施压轨道分开运作，尽管表面上对话重启，但“实质性分歧并未缩小”[3]。中国官方媒体也表现出双重态度，即无论对话共识如何，都维持对美批判的论调[3]。

3. 主要行为体及立场

特朗普政府试图仅在维持对华技术优势的框架内接受AI安全讨论。特朗普总统本人反复将“领先于中国”作为安全讨论的前提条件，也正是出于此因[1][11]。白宫一方面在监管机构层面单独累积各项对华措施（如FCC审查禁止光收发模块等），另一方面在首脑外交轨道上并行发出合作信号，采取的是一种双轨战略[6][9]。

中国政府并不拒绝安全讨论本身，但提出了一个前提条件，即必须首先就“安全”的定义达成共识。这被解读为意图将议程的重心从技术风险管理转移到由谁来制定全球AI规则的主导权问题上[10][12]。国家安全部部长的警告言论表明，北京正从体制安全的层面来处理AI风险[17]。

美国AI业界（Anthropic、OpenAI）作为独立于政府间谈判的自主行为体，正在施压以达成最低限度的安全共识。萨姆·奥尔特曼甚至表示，美中之间一项简单的AI安全协议就足以获得诺贝尔和平奖，以此表达了对会谈的期待[4]。同时，据证实，OpenAI、Anthropic和谷歌也早已在讨论一项方案，即在没有政府支持的情况下，由业界自行成立AI测试与审计标准机构[19]。这可以被解读为，在美国政府对监管持消极态度的情况下，业界试图抢先制定自律规范的举动。

英国等第三方行为体也在启动独立的轨道。例如，国王查尔斯三世邀请英伟达、谷歌DeepMind、OpenAI、Anthropic的管理层以及英国AI事务大臣，共同商讨制定共享原则的可能性[16]。七国集团（G7）和联合国（UN）也在去年夏天通过一系列AI高层会议试图介入，但布鲁金斯学会分析认为，在这一过程中，美中之间的分歧反而扩大了[5]。

4. 核心争论点

第一个争论点是“安全”本身的定义。美方的讨论围绕三个轴心展开：防止灾难性滥用、在“前沿模型”上维持对华竞争优势、以及在核武器决策中保持人类控制。而中国则认为这一定义本身就是由美国主导设定的框架，并提出将定义共识作为对话的先决条件[10][12]。只要这一分歧无法弥合，实质性谈判就难以取得进展。

第二个争论点是首脑外交轨道与官僚轨道的脱节。白宫层面的合作姿态与联邦通信委员会（FCC）及国会层面的个别对华限制措施同时进行，这使得即使首脑会谈达成共识，其实际效果也很可能受到限制[3][6]。这也是包括韩国在内的中等强国不应单线解读首脑会谈成果，而需要另外追踪监管机构层面个别措施动向的原因[6]。

第三个争论点是业界与政府之间的利益不一致。美国政府将安全讨论推给产业界自行解决，而业界领袖们则要求政府间达成最低限度的共识[7][4]。如果这种不一致持续下去，不排除业界层面的自律标准化进程会超越政府间谈判的可能[19]。

II. 议题深度分析

美中首脑会谈前夕推进AI安全对话：议题深度分析

1. 根本原因分析

美中AI安全对话之所以难以取得实质进展，其根本原因在于两国对“安全”一词赋予了截然不同的内涵。美方的讨论由三个轴心构成，继承了拜登时期的框架：防止灾难性滥用、在“前沿模型”上维持对华竞争优势，以及在核武器决策中保持人类控制。特朗普总统本人对安全讨论本身持怀疑态度。他将阿莫迪的警告定性为“病态的阴谋”[1][11]。他将提出AI风险的势力称为“非常负面的势力”，并全面抛出不能落后于中国的论调[15]。这是一种将安全问题从控制速度的理由转变为通过放松监管来推进速度战的逻辑的态度。

中国的立场则截然不同。北京于8月31日提出一个条件，即必须首先就“安全”的定义达成共识，对话才能进行。这表面上是程序性要求，但实质上意在将由谁来制定全球AI规则的主导权问题置于议程中心。中国政府反驳源自美国业界的“安全论”，称其“只会妨碍人工智能全球治理的进程”[10]。《国家报》报道称，北京将这一警告解读为旨在进行技术封锁的隐藏议程[12]。也就是说，美国所说的“安全”，在中国看来是“过河拆桥”的代名词[10]。

此外，中国国家安全部部长就AI风险发出了北京方面迄今为止最强烈的警告[17]，这一事实表明中国内部也存在对AI风险的认知。然而，这种认知被吸收到国家安全部门的管控话语体系中，而不会被转译为美式的“生存风险”框架。最终，双方使用着相同的词语，却追求着完全不同的政治目的。

2. 结构性背景

政治结构：双轨制的固化

此次对话尝试是在首脑外交轨道与官僚及产业轨道相分离的结构下进行的。东亚研究院（EAI）的分析指出，“由于白宫的合作轨道与联邦通信委员会（FCC）等监管机构及国会的施压轨道分开运作，实质性分歧并未缩小”[3]。尽管在5月的北京首脑会谈上已就开启AI政府间对话达成共识[3]，但在实际工作层面，却并行出现了如FCC审查禁止光收发模块等独立对华限制措施不断累积的趋势[6]。首脑外交发出的合作信号与官僚机构发出的施压信号同时存在的结构本身，增加了此次AI安全对话的成果被局限于首脑会谈当日的政治性事件的可能性。

美国国内政治也强化了这一结构。白宫幕僚已明确划线，认为如果业界希望整个行业控制发展速度，那是他们自己需要解决的问题[7]。这是在联邦层面的AI监管立法实际上陷入僵局的情况下，将安全讨论的责任从政府推给业界的政治算计。这是一种双重策略：既不承担因监管导致产业竞争力下降的责任，又将安全问题的提出本身当作政治噪音来处理。

经济结构：商业诱因与国家叙事的脱节

东亚研究院（EAI）评估认为，“从美国企业试图以收益分成方式托管中国AI模型的案例中可以看出，产业界的商业诱因与政府叙事是分开运作的；而中国也表现出双重性，即无论对话共识如何，官方媒体都维持对美批判的论调”[3]。也就是说，即使政府间对话取得进展，产业界的实际交易关系和官方媒体的舆论战仍会沿着各自独立的轨道运行。这种脱节表明，首脑会谈可能达成的任何共识都难以约束产业界的实际行动。

此外，还存在一个有趣的裂痕。据新浪财经报道，在阿莫迪公开发言之前，Anthropic、OpenAI和谷歌就已经在讨论成立AI行业标准机构[19]。奥尔特曼在公司全体会议上表示，领先的AI研究机构应在没有美国政府支持的情况下，自行建立这一标准组织[19]。这表明，在政府间谈判陷入僵局的同时，民间层面的自律监管讨论正在另行推进。这意味着政府间对话的失败未必等同于整个安全治理的失败。

安全结构：围绕“前沿模型”的零和博弈认知

在安全层面，“前沿AI模型”的军事意涵是使谈判变得困难的结构性变量。特朗普总统反复强调“我们在AI领域领先于中国”[1][11]。这造成了一种结构，即对“前沿模型”的监管讨论被视为一种自我削弱相对优势的行为。中国国家安全部的警告[17]也将AI风险视为信息与安全管控问题，而非技术风险，从这一点来看，双方最终都将安全讨论视为相对国力竞争的次级变量。布鲁金斯学会预测，习近平可能表示愿意化解AI安全关切，以换取美国在台湾问题、关税和技术制裁方面的克制[8]。这表明AI安全对话本身并非一个独立的议程，而是被当作与台湾、关税等更大谈判筹码相关联的因变量。

3. 历史先例及类似案例比较

当前局面与冷战时期美苏核裁军谈判的初期阶段有表面上的相似性。当时也需要在谈判前，就“战略武器”指代什么、“稳定”意味着什么等概念达成共识。但存在一个决定性的差异。核武器是物理上可验证的对象，并且存在卫星监视和现场核查等验证手段。而“前沿AI模型”的定义本身就不确定，究竟应以计算量、能力还是风险度为标准尚无定论。验证手段也几乎不存在。因此，更准确的看法是，美中AI对话受阻于比核裁军早得多的阶段，即谈判对象的本体论定义阶段。

一个更直接的比较对象是5月北京首脑会谈上达成的AI对话共识本身[3]。当时也发出了开启政府间对话的政治信号，但在随后的几个月里并未看到实质性进展。反而是FCC独立累积的限制措施[6]与官方媒体维持的批判论调[3]并行不悖。此次9月推进安全对话，也很难排除会重蹈覆辙，即止步于为首脑会谈而宣布的共识，之后回归双轨结构的可能。

此外，今年夏天举行的一系列AI高层活动也可作为参考案例。布鲁金斯学会评估认为，G7埃维昂峰会、联合国相关讨论等“AI峰会之夏”反而扩大了美中之间的分歧[5]。这意味着，随着多边舞台上AI治理讨论的累积，美中双边信任赤字非但没有缩小，反而朝着强化各自阵营逻辑的方向发展。这表明，此次安全对话也将与多边舞台的成果积累无关，在双边层面上将取决于各自的政治算计。

英国国王查尔斯邀请英伟达、谷歌DeepMind、OpenAI、Anthropic的管理层讨论制定共同原则的案例也值得关注[16]。这可以被解读为，在美中双边对话陷入僵局之际，第三方行为体试图填补“前沿AI原则”讨论空间的尝试。如果美中双边渠道无法取得实质性成果，这些多边及民间渠道有可能成为事实上的规范形成舞台。

4. 议题发展的核心变量

第一个变量是，围绕“前沿AI模型”和“AI安全”定义的谈判，能否在首脑会谈前达成最低限度的程序性共识。如果中国于8月31日提出的优先定义条件得不到解决，实质性议程的讨论本身就难以启动。

第二个变量是美国业界内部分歧在多大程度上反映到政府政策中。阿莫迪提出的控制速度的呼吁虽得到了奥尔特曼和马斯克的支持[13][14]，但白宫已将其划定为业界自律的问题[7]。如果行业标准机构的设立讨论[19]在没有政府干预的情况下取得进展，政府间谈判的必要性本身就可能被削弱。

第三个变量是AI安全议程与台湾、关税、技术制裁等其他谈判筹码的关联强度。正如布鲁金斯学会所指出的[8]，如果习近平试图以化解安全关切的意愿来换取美国在台湾和关税问题上的克制，那么AI安全对话很可能不会取得独立成果，而是沦为一揽子交易的附属品。

第四个变量是，能否至少在技术上狭义定义的最低限度议程上（如阻止生物武器开发）达成可验证的共识。奥尔特曼表示“不要求达成全面条约”，并指出仅一项简单的安全协议就具有意义[4]，这表明这种最低纲领主义路径是目前最现实的达成协议的途径。但即便如此，只要中国坚持将定义问题作为先决条件，就难以取得进展。

第五个变量是AI代理自主性的增强本身，是否会为两国带来共同的威胁认知。阿莫迪警告的代理集群通过僵尸网络控制互联网的情景[14]，在技术上是对中美双方都不利的风险。如果这种共同威胁真正具体化，那么建立对“前沿模型”的最低限度管理体系，就有可能被两国都视为符合自身战略利益。然而，到目前为止，双方的公开言论仍停留在将这一共同威胁用作牵制对方阵营的修辞上[10][12][17]。