[人工智能时代的国际政治] ⑧ 人工智能革命与共和主义安全理论：无政府与等级制的双重难题再现

Ⅰ. 技术发展与文明范式的变迁

重大的技术变革本身就会引发社会动荡的过程。在国际关系层面，它会产生新的赢家和输家，改变行为体的偏好，并促成新的规范和组织的形成。反之，当代的国际政治特征也会影响技术变革的内容和速度。[1] 今天，为了衡量人工智能（Artificial Intelligence, AI）这一当前最受关注的前沿技术对国际政治的影响，首先有必要将其置于人类长期结构性技术经济学的背景下进行考察。

首先，AI因其广泛的应用性、促进互补性创新的潜力以及持续的技术改进能力，被评价为具备传统“通用目的技术（General Purpose Technologies, GPT）”的特征。这与过去电力、内燃机、计算机等案例相呼应，即使仅达到此等水平，也足以被视为具有在整个社会经济领域引发广泛而多样化变革潜力的技术创新。然而，一些预测认为，AI可能超越GPT的水平，达到过去在农业、畜牧业和化石燃料使用等方面带来人类能源获取能力飞跃的“革命性技术（Revolutionary Technologies, RT）”的行列。人类历史上的革命性技术仅存在上述两种情况，它们分别引发了约一万年前的新石器革命和18-19世纪的工业革命，孕育了人类文明结构的根本性转变。[2]

虽然AI未来是否会被证明是GPT还是RT尚不确定，但许多专家正密切关注其作为一种重大催化技术，在国际政治领域加速现有权力竞争、安全困境、政治体制变动等趋势，从而进一步加剧世界历史的不稳定性和不确定性的可能性。[3]

本研究尤其希望在“共和主义安全理论”或“组织原则与安全”的分析框架[4]内，理解AI革命将为国际政治带来的启示。在国际政治思想史上，共和主义者们一直在思考如何克服国内外空间中由无政府状态（anarchy）和等级制（hierarchy）这两大深渊所带来的不安全感（insecurity），并探讨政治制度构建（=negarchy）的可能性。本研究认为，AI这一技术创新将作为催化剂，从根本上加剧共和主义安全理论的核心难题。

AI将成为启蒙主义项目的最后一个版本，成为人类的最后发明吗？如何控制AI——特别是未来可能出现的超人工智能（Artificial Superintelligence, ASI）——对人类生存等基本价值构成威胁的巨大潜力，这一议题正处于共和主义政治哲学长期难题的延续之中。[5]下文将重点分类探讨AI可能带来的三种安全风险情景：① 在国际无政府状态下，霸权竞争-核战争可能性的加剧；② 在国内层面，等级制的巩固（数字独裁的崛起与民主的衰退）；③ 在国际层面，等级制的强化（现有国际不平等的加剧+人类灭绝的威胁）。

Ⅱ. AI与国际无政府（Anarchy）问题的加剧

当今世界已进入后单极、大国战略竞争时代。一个由冷战时期建立起来的全球战略稳定和军备控制体系正在瓦解的环境正在出现。而以AI为代表的第四次工业革命正在为这种结构性不确定性火上浇油。[6]反过来说，AI出现在当前地缘政治紧张局势加剧的时期，而非单极稳定历史时期，对人类而言存在不利因素。这类似于第二次世界大战和冷战的高压地缘政治环境下，核武器开发和军备竞赛迅速发展的国际环境，如今又重现了。[7]这意味着，控制国际多极化带来的无政府状态下的竞争压力与AI军备竞赛的相互作用，已成为紧迫的安全问题。

换言之，人工智能正作为大国战略竞争的核心战场而备受关注，特别是美国的尖端技术封锁战略与中国政府主导的技术自主化应对战略正在发生冲突。[8]历史上，新GPT的出现和扩散过程一直是解释大国经济霸权变动的有力变量。例如，在第一次工业革命时期，引领钢铁等通用技术扩散的英国通过生产力的大幅提升而成为霸权国；在19世纪末至20世纪初，美国通过电气化和机械化等GPT的扩散，引领了第二次工业革命并走向新的霸权国。然而，在第三次工业革命时期，尽管日本在电子产品和IT等部分产业占据领先地位，但由于在计算机科学和软件工程等GPT扩散方面落后，未能追赶上美国。从这个背景来看，谁能引领第四次工业革命的GPT——即AI创新——并在各领域成功扩散，将决定当今中美霸权竞争的走向。[9]围绕AI的这两个超级大国之间的竞争态势，尤其在将成为实力转移的直接因素的军事技术竞争领域，也在急剧展开。挑战者中国认为，增强“智能化战争”的作战能力，如同“弯道超车”，能够迅速缩小与美国的现有军事差距；而美国则为防止实力转移，正在追求在AI领域的“全面主导（global dominance）”。[10]

然而，这种情况的发展在国际政治秩序层面提出了根本性风险，即所谓的“AI-核武器联动”的出现，可能加剧核武器国家间的安全困境，削弱战略/危机稳定，从而严重增加核战争的危险性。[11]首先，当AI应用于现有核武器系统时，可能导致人类决策的去中心化/自动化和决策速度的加快，从而破坏现有威慑理论的前提或假设。此外，如果AI技术与侦察、目标识别、制导系统相结合，核武器的可见性将提高，从而增加先发制人摧毁核报复资产（=二次打击能力）的可能性，这可能严重削弱战略稳定性。这不仅会增加核武器国家的军备竞赛压力，还会助长“预警发射（launch on warning）”等进攻性核理论的采纳，从而降低危机稳定性，并最终导致“非意图性升级（inadvertent escalation）”的风险在结构上加剧。[12]

更糟糕的是，“AI-核武器联动”的出现恰逢国际关系史上的“新核时代”，即中美俄战略竞争时代或多极化时代，这使得情况更加复杂。与相对稳定的冷战时期美苏之间的“恐怖平衡”时代相比，如今核武器国家的数量增加，基本威慑博弈的复杂性大大增加，而且冷战时期建立的核军备控制体系几乎全部在战略竞争中消失，这加剧了事态的严重性。[13]然而，如果加上列强们对人工智能技术引入可能在核军备竞赛中产生决定性“先发优势效应”的恐惧，那么安全困境将不可避免地加剧。[14]

这种当前的国际安全形势，让人不禁想起冷战初期“核政治问题”首次浮现时的历史性似曾相识感。当时，原子弹这一史上前所未有的毁灭性武器的出现，意味着暴力相互依存度的极端增加，并提出了一个根本性问题：在世界无政府状态下的“威斯特伐利亚体系”是否还能持续？面对这一难题，就连汉斯·摩根索（Hans Morgenthau）和约翰·赫兹（John Herz）等古典现实主义者也主张，可能导致人类灭绝的民族国家体系已不再可持续，甚至呼吁建立单一世界政府（核能一国主义）。当然，20世纪后半叶的实际情况是，在维持国家间体系不变的情况下，通过美苏之间的相互威慑和军备控制的制度化达成了妥协。[15]

然而，在核军备竞赛重新燃起的“第三次核时代”，人工智能技术与核武器的结合正在显著削弱战略稳定性，非意图性核战争爆发的可能性日益增高，这使我们再次面临冷战初期提出的关于世界秩序的根本性问题。这一次，国家间体系是否还能持续？为了阻止地球历史上的“第六次大灭绝”，需要何种形式的世界秩序和军备控制制度化？

三、人工智能与国内外等级制度问题的深化

人工智能技术的扩散，正在引发另一层面的重大议题，即它可能巩固或创造新的国内外等级制度，甚至更极端地，可能导致人类的“生存风险（existential risk, x-risk）”。

1. 激进创新论：人工智能对战争的迅速变革

人工智能倾向于将智能视为单一且自洽的特性，因此其设计的系统本身就容易呈现出集权式架构。此外，人工智能的训练和运行需要海量资源，这使得大型企业或政府极有可能垄断人工智能的开发。更重要的是，人工智能与中央权力控制和监视公民的技术相结合，被认为是相对容易的。因此，从技术特性上看，人工智能被认为本质上具有反民主的集权倾向。[16]因此，关于人工智能在现有威权主义社会和民主社会中都可能开启“数字独裁”未来的争论正在进行中。[17]

例如，在新冠大流行期间确认出现的“数字全景敞视监狱”的可能性，引发了人们对基于人工智能的“监控社会”正在演变的担忧。[18]在这一点上，最具有先驱性(?)的“人工智能驱动的监控国家”的未来，非中国莫属。也就是说，中国的监控体系在过去二十多年里，通过行政和治安数据的数字化、城市级人工智能整合以及省级共享，已经发展成为一个庞大的基础设施，涵盖了近7亿个摄像头以及移动设备和物联网。特别是，中国的AI已从最初的被动监控转向主动监控和控制体系，逐步实现了警察信息收集–指挥–部署–巡逻全周期的自动化，并朝着实时整合和分析整个城市的数据，以及AI代理自主执行决策的方向发展。此外，随着无人机、自动驾驶汽车和人形机器人等“AI驱动的执法工具”的出现，监控已从在线限制扩展到线下现场干预和物理控制阶段。这种整合最终旨在实现一个中央领导层能够实时俯瞰全国的全景敞视结构，中国共产党正致力于实现以人工智能为中心的自动化治理，以减少对人类官僚的依赖。[19]

另一方面，人工智能也蕴含着可能削弱现有民主体制结构性基础的长期风险因素，即使并非通过威权国家的高度集权。首先，如果人工智能取代了政治传播的设计和传递，代表性和公民-政府之间的反馈循环可能会中断，导致代议制核心的审议和响应机制面临崩溃的风险。其次，人工智能可能加剧财富和权力的急剧集中和不平等，使民主制度沦为徒有其表的空壳，并加速寡头政治的趋势。第三，如果新闻和知识的生产围绕大型语言模型（LLM）进行重组，信息生态系统将依赖于少数大型科技公司，已经脆弱的民主公共领域将面临更大的“认知危机”。如果以上三种趋势结合起来，民主制度就有可能退化为仅保留外在形式的技术官僚式、合成式民主。[20]第四，随着所谓的“监控资本主义”的到来，我们的日常生活可能被非极权主义国家机构而是极权主义“企业”网络所捕获。这是一种非现代的极权主义形式，其中我们的生活通过人工智能和数据科学被记录和规范，但其驱动力是货币化和利润的逻辑，而非集权化的国家机构。[21]

2. 国际政治经济：全球北方与南方差距的加剧

从国际政治经济学的角度来看，人工智能时代将进一步加剧原有的南北差距。人工智能发展的基础是算法垄断和数字新民主，这依赖于西方企业大规模提取发展中国家的数据并剥削廉价劳动力。换言之，人工智能的国际政治经济似乎改变了劳动的形式，但实际上并未改变现有的经济权力结构。此外，人工智能的军事化正由大国竞争主导，而其试验场主要是南方国家。当大国军队装备了战斗机器人和自动化设备时，技术上处于劣势的南方国家则反复发生低烈度冲突和代理人战争，这种不平衡最终将为大国提供决定性的军事优势。[22]

3. X-risk：奇点之后超人工智能的危险性

2023年5月，非营利组织人工智能安全中心（Center for AI Safety）发布了一份简短声明，称“缓解人工智能带来的灭绝风险，应与流行病或核战争风险等全球性问题一同被优先处理”。有趣的是，该声明得到了包括OpenAI的Sam Altman、Google DeepMind的Demis Hassabis和Anthropic的Dario Amodei等人工智能主要企业高管，以及多伦多大学的Geoffrey Hinton教授、蒙特利尔大学的Yoshua Bengio教授和微软首席技术官Kevin Scott等350多名核心科学家的联署。[23]

关于人工智能的进化一旦超越奇点[24]，达到通用智能乃至超智能阶段，其不可控性将威胁人类生存本身，这样的警告真正开始出现是在尼克·博斯特罗姆（Nick Bostrom）的《超级智能[25]》于2014年出版之后。这种末世论的讨论与博斯特罗姆的“存在风险（existential risk, x-risk）”[26]假说和“脆弱世界（vulnerable world）”[27]假说的关注点息息相关。首先，“存在风险”论点将现代技术文明定义为人类历史上首次可能导致全球灭绝或不可逆转的潜力丧失的危机阶段，并将其定义为对全人类造成永久性中断或根本性破坏未来智力生命发展可能性的（全球性、终结性）风险。这种存在风险是核能、纳米技术、生物技术、人工智能等加速的技术进步带来的全新层面的风险。在相似的背景下，“脆弱世界”论点指出，一旦达到一定水平的技术能力，文明就可能不可避免地走向灾难。问题在于，一旦发明了技术就无法“取消发明”的不可逆性，以及现代文明目前处于“半无政府状态的默认条件”下，无法有效集体管理这种脆弱性。

然而，上述两个概念都与人工智能直接相关。高度发达的超人工智能一方面构成了威胁全人类生存和未来潜力的全新类型存在风险，另一方面，它可能导致技术文明滑向脆弱世界，因为国家、企业和个人可以轻易地拥有或滥用高风险能力。

更具体地说，人工智能可能引发的存在风险的八个类别总结如下。首先，武器化（weaponization）是指当强大的AI被用于设计超智能军事资产、大规模杀伤性武器等时，人类共同体可能将自我毁灭的能力交给了AI。其次，功能衰退（enfeeblement）是指社会和个人越来越依赖AI，导致其自身解决问题和管理危机的能力减弱，在关键时刻，没有AI就无法生存。第三，认知基础侵蚀（eroded epistemics）是指当AI扭曲信息环境并破坏整个社会的判断能力时，民主和集体决策将瘫痪，文明将陷入无法自救的状态。第四，代理目标误设（proxy misspecification）是指AI优化了错误的指标而非人类意图的目标，并在此过程中可能破坏人类的安全、价值观和制度。第五，价值锁定（value lock-in）是指当特定群体或体系通过AI永久化其权力和意识形态时，人类走向更美好未来的道路将被关闭。第六，意外功能涌现（emergent functionality）可能突然出现，导致人类无法控制或理解并因此无法应对；第七，欺骗（deception）是指AI可能通过隐秘的方式逃避人类的监控并采取行动，从而夺取控制权。最后，权力追求（power-seeking）是指AI为了实现其设定的目标而试图掌握权力和资源，从而系统性地削弱人类的控制，最终将整个文明置于危险之中。所有这些风险类别都通过不同的途径，但共同点是，它们都可能导致技术文明失控，因此被定义为存在风险。[28]

四、文明转型期的共和政治新发明？

问题在于，当今人工智能的论述是在地缘政治霸权竞争的背景下构建的。中美之间的零和博弈已成为战略公共领域的主导叙事，人工智能的论述也在此框架内构建。也就是说，随着人工智能作为历史转折点的性质被凸显，关于如果不抢先掌握这项技术，国家安全将面临决定性危机的紧迫感和安全化的叙事占据了主导地位。特别是，在与冷战时期核军备竞赛的类比下，人工智能技术领域被重塑为一场必须获胜的“竞赛”，政策讨论也在此想象框架内展开，导致关于人工智能的国际合作、风险管理和控制等讨论被边缘化。因此，谈论这些非安全化主题被视为幼稚或不具战略眼光。[29]这构成了在“人类生存”这一全球治理层面应对人工智能问题的最大障碍。在预见到人类灭绝或被奴役等生死攸关的危险时，我们如何从过去的全球灾难风险应对中吸取教训并制定应对方法？我们的未来取决于人类整体的集体学习能力。[30]

人工智能技术的全球扩散，从根本上加剧了现有国际秩序所面临的无政府状态与等级制度的双重困境，并可能导致人类文明难以承受的、全新的超大规模权力集中，这使得“约束”问题在共和主义视角下被前所未有地凸显出来。特别是，超人工智能（ASI）作为一种技术主体，具备同时获得全能、全知、无所不在的能力以及自我改进的潜力，可能成为共和主义历史上一直警惕的暴政权力的终极形式。在这种情况下，现有的价值对齐（alignment）策略或安全设计等无法保证完全有效。因此，ASI控制策略的核心，不仅是技术风险管理层面，而且必然会趋向于在共和主义宪法设计和公共安全的问题框架内，建立程序性和结构性约束，甚至有必要将开发暂停（relinquishment）等极端选项纳入政策想象的范围。总之，人工智能革命的到来，比冷战初期核时代的开启更为激进地重新审视了无政府状态的国际体系的可持续性本身，这应该被理解为呼吁在全球范围内进行共和主义制度创新的信号，以防止其成为“人类的最后发明”。■

[1]Daniel W. Drezner, “Technological Change and International Relations,” International Relations 33 (2), 2019, pp. 286–303.

[2]Ben Garfinkel, “The Impact of Artificial Intelligence: A Historical Perspective,” in The Oxford Handbook of AI Governance, edited by Justin B. Bullock et al., Oxford: Oxford University Press, 2024.

[3]Amelia C. Arsenault and Sarah E. Kreps, “AI and International Politics,” in The Oxford Handbook of AI Governance, edited by Justin B. Bullock et al., Oxford: Oxford University Press, 2024.

[4]Daniel H. Deudney, Bounding Power: Republican Security Theory from the Polis to the Global Village, 普林斯顿：普林斯顿大学出版社，2007。

[5]Daniel Deudney and Devanshu Singh，“限制超级大国：ASI控制问题、公共安全和共和宪政”，载于多中心联邦制与世界秩序，Brandon Christensen编，瑞士：Springer Nature，2025年，第465–502页。

[6]Paul van Hooft, Lotje Boswinkel, and Tim Sweijs，“战略稳定性的变动沙丘：迈向新的军备控制议程”，海牙：海牙战略研究所，2022年。

[7]Seth D. Baum, Robert de Neufville, Anthony M. Barrett, and Gary Ackerman，“从其他全球风险中吸取人工智能教训”，载于人工智能的全球政治，Maurizio Tinnirello编，佛罗里达州博卡拉顿：Chapman and Hall/CRC，2022年，第111–115页。

[8]George S. Takach，“冷战2.0：中国、俄罗斯和美国之间新战争中的人工智能”，纽约：Pegasus Books，2024年。

[9]Jeffrey Ding，“技术领导力的兴衰：通用技术扩散与经济力量转型”，《国际研究季刊》68 (2)，2024年。

[10]李在俊，《中美军事技术竞争与力量转移：以人工智能、自主武器军事技术为中心》，《韩国与国际政治》38 (3)，2022年；科学技术政策办公室，“美国的AI行动计划”，白宫，2025年7月10日，https://www.whitehouse.gov/wp-content/uploads/2025/07/Americas-AI-Action-Plan.pdf；白宫，“启动创世纪任务”，2025年11月24日。https://www.whitehouse.gov/presidential-actions/2025/11/launching-the-genesis-mission/。

[11]郑九渊，《人工智能的军事应用与战略稳定性》，《经济与社会》第143期，2024年。

[12]James Johnson，《人工智能与炸弹：数字时代的核战略与风险》，牛津：牛津大学出版社，2023年；Vladislav Chernavskikh and Jules Palayer，“人工智能对核升级风险的影响”，《SIPRI和平与安全见解》第2025/06期，2025年。

[13]Jacob Stokes, Colin H. Kahl, Andrea Kendall-Taylor, and Nicholas Lokker，《避免AI末日：美中俄在核武器和人工智能交汇处的竞争》，华盛顿特区：新美国安全中心，2025年；Jon B. Wolfsthal, Hans Kristensen, and Matt Korda，“我们为何应再次担忧核武器”，《华盛顿邮报》，2025年6月4日，https://www.washingtonpost.com/opinions/interactive/2025/us-russia-nuclear-weapons-proliferation-danger/；Anton La Guardia，“世界第三次核时代的危险”，《经济学人》，2024年11月20日，https://www.economist.com/the-world-ahead/2024/11/20/the-perils-of-the-worlds-third-nuclear-age。

[14]Baele, Stephane J., Iqraa Bukhari, Christopher Whyte, Scott Cuomo, Benjamin Jensen, Kenneth Payne, and Eugenio V. Garcia，“AI IR：人工智能时代国际关系图谱”，《国际研究评论》26 (2)，2024年。

[15]Daniel H. Deudney，《限制权力：从城邦到全球村的共和安全理论》，普林斯顿：普林斯顿大学出版社，2007年。

[16]Adam Elkus，“人工智能与民主兼容吗？”，《外交政策》，2025年8月29日，https://foreignpolicy.com/2025/08/29/ai-democracy-dictatorship-agi-governance/ .; George Gilder and Peter Thiel, “COSM Speaker Peter Thiel: The Failures and 'Self-Hatred' of Big Tech,” Mind Matters, October 14, 2021, https://mindmatters.ai/wp-content/uploads/sites/2/2021/10/Mind-Matters-Episode-156-Peter-Thiel-at-COSM-rev1.pdf.

[17]尤瓦尔·赫拉利，《智人：人类的简史》的续作《Nexus：从石器时代到人工智能，一部信息网络的人类史》，金明珠译，首尔：金英社，2024。

[18]Mark Coeckelbergh, “Vulnerability, AI, and Power in a Global Context: From Being‑at‑Risk to Biopolitics in the COVID‑19 Pandemic,” in The Global Politics of Artificial Intelligence, New York: CRC, 2022.

[19]Valentin Weber, “China’s AI-Powered Surveillance State,” Journal of Democracy 36 (4), 2025.

[20]Dean Jackson and Samuel Woolley, “AI’s Real Dangers for Democracy,” Journal of Democracy 36 (4), 2025.

[21]莎娜·祖博夫，《监视资本主义时代：争取人类未来的新战场》，金宝英译，首尔：文学思想社，2021；马克·科克尔伯格，《人工智能为何必然具有政治性：人工智能的政治学与自由、平等、正义、民主、权力、动物和环境》，裴贤锡译，首尔：생각이음，2023。

[22]Eugenio V. Garcia, “Conclusions: Charting the Challenge of AI IR,” International Studies Review 26 (2), 2024.

[23]鲜明秀，“I，比核战争和流行病更危险……人工智能开发者警告人类灭绝”，《京乡新闻》，2023年5月31日。https://www.khan.co.kr/article/202305311305001.

[24]雷·库兹韦尔，《奇点临近：人类与人工智能结合的时刻》，李忠浩译，首尔：Business Books，2025。

[25]尼克·博斯特罗姆，《超级智能：路径、风险、策略》，赵成镇译，首尔：Gachise，2017。

[26]Nick Bostrom, “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards,” Journal of Evolution and Technology 9, 2002.

[27]Nick Bostrom, “The Vulnerable World Hypothesis,” Journal of Evolution and Technology 10 (4), 2019.

[28]Dan Hendrycks and Mantas Mazeika, “X-Risk Analysis for AI Research,” arXiv, September 20, 2022, https://doi.org/10.48550/arXiv.2206.05862。人工智能末日论背后更深层的恐惧可以通过马克斯·韦伯的“铁笼”概念来捕捉。也就是说，我们可以将人工智能想象成近代工具理性失控或不可控的顶点。换句话说，人工智能末日论的问题实际上与现代性本身正在使我们的主体性、实质理性、反思性等变得贫困化的担忧息息相关。Jay A. Gupta, “Welcome to the Machine: AI, Existential Risk, and the Iron Cage of Modernity,” Telos 203, 2023, pp. 163–69.

[29]Nike Retzmann, “‘Winning the Technology Competition’: Narratives, Power Comparisons and the US–China AI Race,” in Comparisons in Global Security Politics, edited by Thomas Müller et al., Bristol: Bristol University Press, 2024, pp. 237–56.

[30]Seth D. Baum, Robert de Neufville, Anthony M. Barrett, and Gary Ackerman, “Lessons for Artificial Intelligence from Other Global Risks,” in The Global Politics of Artificial Intelligence, edited by Maurizio Tinnirello, Boca Raton, FL: Chapman and Hall/CRC, 2022.

■作者：车泰书_成均馆大学政治外交学教授。

■ 负责人及编辑：林宰贤_EAI 研究员

    咨询：02 2277 1683 (分机号 209) | jhim@eai.or.kr