[ADRN 简报] 运用人工智能加强韩国民主

背景：人工智能与数字时代的民主危机

人工智能（AI）已从单纯的计算工具演变为深刻影响人类日常生活、公共话语和政治决策的普遍力量。生成式人工智能的出现和向自主式人工智能的加速转型标志着当代治理的一个关键时刻。对于拥有世界一流数字基础设施和充满活力的公民社会的韩国而言，人工智能技术的传播已然不可逆转。2025年首尔市居民调查显示，公众对人工智能的态度呈现出鲜明的二元性（首尔市政府2025）。一项关于公众对社会安全潜在威胁看法的调查显示，深度伪造、人工智能生成的假新闻和个人数据泄露被视为最严重的威胁，但与此同时，公众也压倒性地支持实施人工智能驱动的公共服务，包括福利盲点检测和定制化政策平台。

学术界和政策界关于人工智能（AI）与民主之间联系的讨论，历来以一种技术悲观主义、以监管为中心的范式为特征，主要关注与监控资本主义、算法偏见和选举操纵相关的潜在危害。尽管这些担忧 valid，但仅仅关注风险缓解已不再足够。为了确保民主制度的持续活力，必须进行范式转变，从无条件的悲观主义转向积极的制度设计，以利用人工智能的民主化潜力。这种转变必须伴随着健全的保障措施的制定，以减轻人工智能对民主制度构成的潜在威胁。

为了系统地分析人工智能的影响，本简报区分了民主治理的两个层面。程序性民主以规范权力获取和转移的制度规则为基础。这些规则包括选举、法治和行政公平。实质性民主则将重点从程序规则转移到结果，引发关于公民是否拥有有意义参与、自主判断、持续审议和经济社会平等的必要条件的问题。在接下来的讨论中，作者将借鉴Jungherr（2023）的研究，将这些要素映射到三个分析层面：个体层面（自治）、群体层面（平等）和制度层面（选举）。应注意的是，系统层面（政治体系间的竞争）已被排除，因为它超出了分析范围。

对选举公正性的威胁：程序性民主岌岌可危

程序性民主的基石是选举制度，它通过公平透明的程序促进政治权力的获取和转移。生成式人工智能对这一基础构成了直接且日益增长的威胁。深度伪造技术的出现开启了一个新的时代，即大规模自动化生产高度逼真的虚假音频和视频，有可能扭曲选民的认知，损害候选人的声誉，并侵蚀公众对选举结果的信任（Hong 2024）。这种威胁的严重性并非仅仅是推测性的，而是切实存在的。在最近的全罗南道-光州地区联合初选中，韩国当局查获了1600起利用人工智能生成的深度伪造进行的非法竞选活动，从而证明了生成式人工智能可能被用作加速真相认知危机（Hankookilbo 2026）的工具。

对选举制度完整性的第二种威胁通过一种不同但同样腐蚀性的渠道出现：政治融资。选举制度的民主合法性基于这样一个前提：所有公民都以大致平等的条件参与，并且获取和转移政治权力的过程由选票而非财富决定。当来自科技行业的巨额、无法追溯的资本流入竞选活动时，选举过程的完整性就从根本上被破坏了。其结果是向寡头政治的漂移，在这种状况下，决定谁当选以及谁的利益得到治理的是财政资源，而不是公民的聚合偏好（Jackson and Woolley 2025）。在韩国，与美国等国家相比，禁止公司和组织政治捐款的法律更为严格，从而减轻了相关风险。然而，应注意的是，制度防火墙并非坚不可摧。公司通过“捐款拆分”（jjogaegi huwon）规避法律，这是一种将资金分配到一系列小额个人捐款中的策略，从而逃避侦查。

政策建议：维护程序性民主

首要的政策建议是建立一个“公共利益人工智能防御基础设施”。最近的技术进步使韩国在选举公正性领域取得了重大进展。为应对最近的地方选举，内政安全部（MOIS）和国立科学搜查研究院（NFS）已开始部署先进的“人工智能深度伪造检测模型”。该创新模型集成了全局流分析和局部伪影检测，据韩联社2026年报道，准确率达到了惊人的97%。选举管理机构应积极采用类似技术，并强制要求对所有人工智能生成的政治内容实施数字水印和内容来源标准。韩国中央选举委员会已禁止在选举日前90天内使用人工智能（AI）生成的深度伪造内容进行竞选活动。该禁令涵盖了与真实内容无法区分的合成音频、图像和视频（韩国中央选举委员会2025）。

第二项建议涉及政治融资监管。根据国际民主和选举援助研究所（International IDEA）（2026）的数据，世界各地的选举机构已开始采用人工智能（AI）审计。例如，英国选举委员会正在探索使用光学字符识别（OCR）和自然语言处理（NLP）来扫描财务发票并识别违规行为，而墨西哥国家选举委员会已实施了近乎实时的支出监测。鉴于韩国容易受到YouTube上传播的数字和算法辅助的竞选内容的影响，韩国中央选举委员会（NEC）必须优先实施这些举措。通过算法分析对隐藏的财务模式进行监督，有可能减轻间接的公司影响，并重振公众对选举公正性的信心。

第三项建议呼吁实施专门的“选举公正性人工智能模型”，以应对保障整个选举过程的更广泛挑战。在当前的选举背景下，从国内欺诈到外国实体策划的虚假信息，协调一致的跨境威胁日益普遍。这些威胁有可能使零散的防御措施失效（Hong 2024）。该模型的功能将是能够实时持续监控和分析异常数据模式。这种能力将使该模型成为一个全面的预警系统，象征着对民主韧性的承诺，而不仅仅是技术升级。

实质性民主：个体与群体层面

1. 现状与风险：自治与平等

虽然建立程序性机制至关重要，但其本身并不足够。实质性民主提出了一个问题：公民是否真正拥有自我治理和在平等条件下参与的能力。人工智能（AI）构成的潜在危险以两种截然不同但又相互关联的方式显现。在个体层面，人工智能有能力削弱认识论能动性和自主判断。在群体层面，它则加剧了参与和代表性方面现有的结构性不平等。

1.1 个体层面：自治的侵蚀

实质性民主以“自治”原则为基础，该原则认为公民拥有做出自主政治决策所需的必要信息和独立判断。人工智能（AI）对自治的潜在威胁并非通过公开胁迫，而是通过更隐蔽地侵蚀促进真正自治的认识论条件。

第一个机制涉及通过算法塑造侵蚀个体的信息自主权。人工智能的出现导致了前所未有的信息洪流，但推荐算法的设计并非以促进真相为导向。相反，这些算法被设计用来吸引注意力。其结果是算法将个体引导至他们已经同意的内容，从而形成过滤气泡，使公民免受反驳证据的影响。此外，这些算法为了最大化参与度而推送政治对手的煽动性内容，从而加剧了回声室效应。问题的关键不在于公民接收有偏见的信息，这种现象自政治诞生以来一直存在。算法策展的运作特点是其不可见性和广泛性，导致民主审议基础的共享事实现实逐渐被侵蚀。

第二个机制是逐渐转向技术官僚主义。民主建立在一种刻意的信任之上，即相信普通公民的分布式判断比任何专家的集中权威更具合法性。在人工智能的背景下，这种现象尤为突出，因为对系统的固有信任可能成为一种压力来源。随着人工智能系统在预测复杂趋势方面展现出卓越的能力，一种深刻的认识论转变被引发。是否允许普通公民决定人工智能驱动的优化过程的时间点，这个问题本身似乎是合理的。然而，技术官僚主义并非通过胁迫产生；相反，它以效率的诱人逻辑为特征。当政治被概念化为一个优化问题时，公民审议显得不合理，随着权力从选民转移到未经选举的技术官僚精英手中，民主自治逐渐被侵蚀（König 2023）。

1.2 群体层面：加剧不平等

在群体层面，核心价值是实质性平等，它不仅仅意味着“一人一票”的原则。它还包括平等获得政治发言权、代表权和公共资源的机会。人工智能在这一背景下的结构性后果尤为重要，但它们常常不被看见，因为它们加剧了现有的社会分歧，而不是产生新的分歧。

人工智能加剧不平等的最初两个机制源于一个共同的结构性问题，因此必须结合起来理解。机器学习模型是在历史数据集上训练的，即那些正式且系统地参与歧视的社会记录。这种偏见表现为一种矛盾的可见性不平衡模式，即同一边缘化群体可能同时在某些数据集中缺席，而在另一些数据集中过度存在。人口群体在公共服务训练数据中的代表性不足是一个重大问题，可能导致系统性地被排除在福利、就业和金融服务之外。算法模型无法识别和服务这些群体，导致系统性偏见和边缘化。这种不可见性可能导致系统性地被排除在人工智能驱动的公共服务之外，或在自动化招聘过程中受到歧视性对待。相反，历史上被边缘化的群体在某些数据集（如犯罪记录）中往往过度代表。这种过度代表意味着他们不成比例地受到人工智能辅助的预测性警务或判决的不利后果的影响。此外，他们容易受到有偏见的选区划分影响，这可能对他们的政治代表性和影响力产生重大影响。

第三个机制通过经济运作。与前两个机制不同，这个特定的担忧涉及人工智能（AI）影响民主参与的物质条件的方式。随着企业越来越多地采用人工智能驱动的自动化，这导致了工人失业、劳动力议价能力下降以及收入缩减，从而破坏了对实质性民主的维持至关重要的社会经济基础。与以往的自动化趋势不同，当前的浪潮以其广泛的覆盖范围为特征。虽然自动化历来影响体力劳动，但生成式人工智能现在也对白领和知识型职业构成了威胁。2023年好莱坞编剧罢工就体现了这一点，它凸显了生成式人工智能不仅可能扰乱劳动力市场，还可能扰乱创意产业。人工智能（AI）产生的繁荣集中在少数技术专家手中，这可能通过形成一个相互强化的循环来加剧经济和政治不平等。那些拥有影响人工智能（AI）发展所需资源的人往往获得不成比例的政治影响力。相比之下，那些被取代的人不仅经历了收入损失，还经历了经济安全所能促进的公民地位的损失。

2. 克服风险并利用人工智能促进实质性民主

如果放任不管，人工智能的当前轨迹将继续重塑民主社会，从而集中信息权力，缩小政治判断的范围，并固化现有的不平等。然而，这种轨迹并非不可避免。使人工智能成为实质性民主潜在威胁的技术能力，在不同的制度条件下，可以成为加强民主的资源。在这种情况下，人工智能将从认知操纵、技术官僚统治和结构性不平等的工具，转变为赋权、包容和增强审议的民主基础设施。

2.1 恢复个体自治

这项调查的第一步是确定算法过程对认识论能动性的扭曲不受约束的条件。影响数百万公民消费内容的推荐算法是不透明的，其运作方式不受公众审查或民主监督。为了解决这些问题，政府必须强制执行算法透明度要求，并强制对主要数字平台进行定期、独立的外部审计。然而，仅有透明度不足以促进真正的审议；它只能识别问题，而不能建立建设性对话的必要条件。在这种背景下，公民科技（Civic Tech）成为一个关键实体。政府可以将其重新用作增强审议的工具，而不是利用人工智能（AI）来操纵偏好。台湾的vTaiwan倡议提供了一个特别有启发性的例子，该倡议利用Pol.is算法。该倡议绘制了公众论点的图景，对各种立场进行聚类，识别跨党派的一致意见，并找出“大致共识”，同时边缘化有毒的交流（Yang 2026）。与商业算法最大化参与的模式不同，后者优先考虑情感参与，vTaiwan的架构则促进理性交流，从而重建了自治所需的认识论条件。

这项调查的第一步是确定算法过程对认识论能动性的扭曲不受约束的条件。影响数百万公民消费内容的推荐算法是不透明的，其运作方式不受公众审查或民主监督。为了解决这些问题，政府必须强制执行算法透明度要求，并强制对主要数字平台进行定期、独立的外部审计。然而，仅有透明度不足以促进真正的审议；它只能识别问题，而不能建立建设性对话的必要条件。在这种背景下，公民科技（Civic Tech）成为一个关键实体。政府可以将其重新用作增强审议的工具，而不是利用人工智能（AI）来操纵偏好。台湾的vTaiwan倡议提供了一个特别有启发性的例子，该倡议利用Pol.is算法。该倡议绘制了公众论点的图景，对各种立场进行聚类，识别跨党派的一致意见，并找出“大致共识”，同时边缘化有毒的交流（Yang 2026）。与商业算法最大化参与的模式不同，后者优先考虑情感参与，vTaiwan的架构则促进理性交流，从而重建了自治所需的认识论条件。

2.2 确保群体层面平等

由于人工智能（AI）通过累积的架构性偏见而非单一的歧视行为来延续结构性不平等，因此，第一和第二项群体层面的政策应对措施必须同时解决干预的时机和方向。关于干预时机，政府必须从事后检测模式转向事前人权审计模式。这些评估在任何人工智能系统应用于公共服务之前进行细致的评估。它们旨在在歧视性模式大规模机械化之前识别和纠正它们。此外，它们旨在将平等、非歧视和透明度等民主价值观嵌入到初始设计阶段，而不是作为事后才解决的道德愿望。可解释人工智能（XAI）使公民社会和独立审计机构能够持续审查人口群体是如何被分类和对待的，从而使算法问责成为一种持续的民主制衡，而不是一种追溯性演习（Marque et al. 2024; Maeng 2024）。

第三项群体层面的建议应对人工智能带来的最具政治争议的威胁：劳动力市场重组，它将经济收益集中在少数精英手中，同时取代了使该进步成为可能的劳动者的劳动。显而易见，经济安全是政治参与的基础要素。因此，那些收入和议价能力下降的个人，其自我治理的能力也同时受到物质上的削弱。政策必须在两个不同的节点进行干预，才能有效解决这个问题。首先，政府有责任激励企业围绕人机互补的概念来设计人工智能系统。这包括增强和重新分配人类任务，而不是全面取代人类劳动力。其次，政府必须分配资源用于在所有职业领域（从蓝领制造业到白领知识工作）开发人工智能素养和再培训计划。同时，他们应探索再分配机制，例如对前沿人工智能开发的“风险税”，并将这些税收用于建立普遍的社会安全网（Elbaum and Mallaby 2026）。基本原则是明确的：如果人工智能取得的生产力进步是集体获得的，借鉴公共研究、基础设施和公民的劳动，那么它产生的财富就必须被民主地分配。

结论

本简报探讨了人工智能（AI）对程序性民主和实质性民主日益增长的威胁，以及这些威胁在韩国如何展开。在程序层面，有意义的应对措施正在进行中：为应对最近的地方选举而实施的人工智能深度伪造检测技术，标志着人们对人工智能对选举公正性构成的风险的认识不断提高。然而，在实质性民主方面，进展仍然受到限制。解决认识论能动性侵蚀、技术官僚主义漂移和结构性不平等加剧问题的政策仍主要停留在讨论阶段。这种差异的存在归因于两个结构性因素。韩国人工智能的发展主要由产业利益驱动，这些利益优先考虑技术进步而非民主治理。人工智能的快速发展已经超出了社会有效监管其影响的能力，导致技术进步速度与社会监督之间存在差距。大韩民国人工智能行动计划显示出一种双重倾向，在促进人工智能发展和采用方面表现强劲，但在解决其民主影响方面相对较弱。

尽管如此，仍有谨慎乐观的理由。2026年3月，总统国家人工智能战略委员会成立了新的人工智能民主小组委员会，负责保护民主价值观和促进包容性人工智能。这是一个重要的发展，但必须区分制度创建和制度有效性之间的概念。韩国政府有责任将该小组委员会的任务转化为具有约束力和可执行的义务。未能这样做将导致众所周知的失败模式：构建复杂的治理框架，同时允许行业驱动的人工智能发展不受阻碍地进行。

在应对这一挑战的民主国家中，韩国在建立民主人工智能治理的先驱模式方面处于独特地位。以下三个优势支持这一论点：第一，拥有世界一流的数字基础设施；第二，拥有数字素养高、公民参与度高的公民；第三，具备快速制度创新的能力。为了制定一个技术先进且民主合法的治理框架，韩国应整合vTaiwan等审议平台，并设计包容性的人工智能驱动公共服务。通过这样做，韩国将能够成为该地区急需领导力的可信全球领导者。

这场军事对抗的后果远远超出了韩国的国界。在亚洲，数字威权主义的出现——一种以人工智能驱动的监控、算法社会控制和集中信息管理作为政治统治工具的治理模式——预示着一种日益可出口的新治理趋势。然而，这种模式目前缺乏可与之匹敌的民主替代方案。正是在这个节点上，韩国的机会转化为责任。如果韩国成功开发出一种既以人为本又技术先进的“人工智能促进民主”框架，它将展示出具有深远区域意义的东西：技术进步和民主价值观并非相互冲突，而是相辅相成的。在一个这种主张日益受到质疑的地区，韩国体现这一示范的能力可能成为其最具影响力的民主出口。■

参考文献

Elbaum, Sebastian and Sebastian Mallaby. 2026. “人工智能三难困境：如何监管一项革命性技术。”Foreign Affairs. February 13.
https://www.foreignaffairs.com/united-states/ai-trilemma.

Hankookilbo. 2026. "1,600 Illegal Deepfake Campaign Violations Detected in Jeonnam-Gwangju (In Korean)." March 31.
https://www.hankookilbo.com/news/article/amp/A2026033111070004376.

Hong, Seokhan. 2024. “人工智能对选举的风险及规范性应对（韩文）。”Public Law 53 (2): 185–213.

International IDEA. 2026. Harnessing Artificial Intelligence to Enhance Political Finance Oversight. Stockholm: International IDEA.

Jackson, Dean and Samuel Woolley. 2025. "AI's Real Dangers For Democracy." Journal of Democracy 36 (4): 139–150.

Jungherr, Andreas. 2023. "Artificial Intelligence and Democracy: A Conceptual Framework." 社会与媒介 9 (3): 1–14.

König, Pascal D. 2023. "公民对民主的认知及对人工智能在政府和政治中应用的看法。" European Journal of Political Research 62 (4): 1280–1300.

Marques, Marta Sofia, Maria Anastasiadou, and Vitor Santos. 2024. "为服务民主应用可解释人工智能技术框架。" Transforming Government: People, Process and Policy 18 (4): 638–656.

中央选举委员会。2026年。“关于政治关系法部分修正案（2023年12月20日全体会议通过）：关于深度伪造、女性候选人推荐补贴及相关事项的规定（韩文）。”
https://www.nec.go.kr/site/nec/ex/bbs/View.do?cbIdx=1130&bcIdx=196646.

首尔特别市。2025年。2025年首尔调查。首尔：首尔特别市。

总统国家人工智能战略委员会。2026年。韩国人工智能行动计划（2026–2028年）。首尔：总统国家人工智能战略委员会。

Yang, JiSoo. 2026. “人工智能驱动的共识形成与高冲突政策治理：对vTaiwan机制的分析（韩文）。” The Korean Journal of Political Science 34 (1): 1–25.

韩联社。2026年。“地方选举中的深度伪造检测：人工智能系统甚至可以识别生成式人工智能操纵（韩文）。” 3月10日。 https://www.yna.co.kr/view/AKR20260310090151530.

Yun, Soo-Jeong. 2021. “人工智能与民主（韩文）。” Journal of Constitutional Court Research 8 (2): 3–27.

■
林成学是首尔市立大学教授。

■ 编辑：任宰炫，研究员

    垂询：02 2277 0746 (分机号 209) | jhim@eai.or.kr