[ADRN问题简报] 韩国的民主主权人工智能倡议：全球社区可转移的模式

引言：人工智能主权为何对民主至关重要

人工智能的地缘政治已进入决定性阶段。随着大型语言模型（LLMs）、自主代理和人工智能集成防御系统的扩散，谁控制人工智能的核心决定因素——数据、算力、模型权重和对齐价值观——的问题，已与政治主权和民主合法性的问题密不可分。

几十年来，自由民主国家将数字基础设施外包给少数硅谷平台公司。其代价如今已显而易见：算法激进化、认知碎片化以及“认识论殖民化”，即外国设计的人工智能系统在未经民主同意的情况下，悄悄地将特定的世界观强加给国家公众。

韩国的应对措施独具特色。韩国没有进口人工智能基础设施或竞逐商业主导地位，而是开辟了第三条道路：将主权人工智能作为一种民主制度——将民主价值观嵌入人工智能训练，建立公共算力基础设施，保障模型权重的权利，并制度化公民监督。

韩国已在其《人工智能基本法》（2024/2026）中将这些承诺法典化——这是现存最全面的国家人工智能治理框架之一。其成果是一个可全球转移的模式，尤其适用于寻求摆脱硅谷技术自由主义和中国国家人工智能威权主义的中间力量民主国家。

民主的利害关系：人工智能与政治参与危机

在考察韩国模式之前，必须理解主权人工智能旨在应对的民主威胁。学者们日益记录到人工智能优化系统与民主审议之间存在的结构性张力。

宋庆浩（Song Kyungho, 2025）指出，后人工智能治理中存在一个结构性转变——“政治的技术化”，即人工智能将政治重新配置为计算优化问题。这表现为三种危险的典型模式：“招魂模型”（AI模拟政治人物以分裂话语）；“功利主义机器”（AI政策引擎以牺牲民主问责制为代价最大化效率）；以及“哲学王模型”（基于AGI的治理，使人类政治能动性在结构上变得多余）。

每种典型模式都体现了一种“参与悖论”：技术表面上扩大了公民参与，但实际上却取代了真正的政治能动性。公民成为数据点；审议成为优化；问责制消解于算法黑箱之中。

这种结构性威胁因主要技术企业家的意识形态项目而加剧。彼得·蒂尔（Peter Thiel）对民主问责制的自由主义式逃避，埃隆·马斯克（Elon Musk）的政府效率部（DOGE）技术官僚式国家管理模式，以及亚历山大·卡普（Alexander Karp）的技术共和国愿景，都指向同一个结论：民主审议是一种需要被工程化消除的低效率。法雷尔和纽曼（Farrell and Newman）对“数字封建主义”的诊断恰当地描述了其结果——私人人工智能基础设施在缺乏民主合法性的情况下运作，形同主权（Farrell and Newman, 2023）。

对于韩国而言，作为一个地处朝鲜人工智能赋能的影响力行动前沿，并在地缘政治上卷入中美科技竞争的前沿民主国家，这些威胁并非抽象。它们是生存性的。因此，韩国的主权人工智能模式不仅是一种政策偏好，更是一种战略必需。

韩国主权人工智能框架：架构与制度

自2016年以来，韩国的人工智能治理框架经历了三个不同的阶段，每个阶段都在前一基础之上增加了新的制度能力。

（1）第一阶段：伦理基础（2016-2020年）

2016年的AlphaGo事件激发了韩国对人工智能治理的意识。作为回应，政府成立了人工智能伦理研究委员会，该委员会于2018年3月发布了《首尔公约》（Seoul PACT）——韩国首个国家人工智能伦理指南。2020年的《国家人工智能伦理指南》将其阐述为一个多层次的框架，以三个核心原则为基础：

表1.韩国《国家人工智能伦理指南》（2020年）的三项核心原则及关键要求

（2）第二阶段：制度架构（2020-2025年）

在这一伦理基础上，韩国构建了一个分层制度架构。《人工智能基本法》于2024年12月通过，并于2026年1月全面生效，是该框架的核心，包含三项关键的制度创新。

第一是国家人工智能战略委员会。该委员会由总统主持，由内阁部长和民间专家组成，既是人工智能政策的咨询机构，也是决策机构。在2025年政府更迭后，随着人工智能竞争力成为最高国家政策优先事项，委员会的权力得到加强。

第二是韩国人工智能安全研究所（AISI）。韩国于2024年11月成立了该研究所，成为全球第六个设立国家人工智能安全研究所的国家。韩国AISI作为国家人工智能安全中心，承担七项法定职能：风险定义与分析、安全政策研究、评估标准制定、安全技术标准化、国际合作、前沿人工智能安全保障以及其他总统令规定的职能。

如图1所示，AISI的独特贡献在于其风险映射方法——一个三维分析框架（MECI：互斥但集体完备），该框架沿着风险行为者、人工智能生命周期阶段和缺陷领域这三个维度映射风险，然后将应对措施分配给负责的部委。这超越了传统的风险分类，走向了动态、可操作的风险治理。

图1.金（Kim, 2026）提出的韩国AISI风险映射方法

第三是人工智能政策中心。该中心负责制定全面的人工智能政策，并至关重要的是，推动建立和传播国际规范。这一职能明确地将韩国定位为全球人工智能治理中的规范输出者，而不仅仅是规范接受者。

（3）第三阶段：K-AI倡议与主权模型开发

K-AI倡议代表了韩国最雄心勃勃的主权人工智能项目：开发一个具有全球竞争力的LLM，将韩国的价值观和民主进程直接嵌入其技术核心——特别是其权重。该倡议启动时有十五家企业联合体申请，其中五支团队于2025年8月被选中——Naver Cloud、Upstage、SK Telecom、NC AI和LG AI Research。在2026年1月的初轮评估淘汰了Naver Cloud和NC AI后，剩余的三家联合体（LG AI Research、SK Telecom和Upstage）目前正在进行第二阶段的测试，最终评估定于2026年12月进行，并将于2027年选出两名决赛选手。在此整个过程中，韩国AISI会进行安全性和可信度评估以及性能评估。

K-AI倡议的理论框架（拟议框架，尚未实施的政策）基于民主人工智能架构的五个支柱：

表2.K-AI倡议的五层民主人工智能架构（拟议框架）

民主对齐：韩国的独特贡献

可以从“民主对齐”（Democratic Alignment）的视角来评估韩国的人工智能政策。这一概念抓住了韩国人工智能政策的一个真正导向：谁来决定哪些价值观被嵌入人工智能系统，以及通过什么过程。虽然大多数国家的人工智能战略都侧重于安全或竞争力，但韩国的《国家人工智能伦理指南》（2020年）和《人工智能基本法》（2026年）都将民主合法性和公民参与置于治理的基本考量之中。本节将阐述该导向的规范性细则，区分已编纂的条款与提议或期望。

(1) 民主化人工智能：公民陪审团作为对齐机制[1]

韩国提出的民主化人工智能架构中最具创新性的要素是，用民主协商过程取代封闭式标签决策——目前这些决策由人工智能公司中的少数承包商做出。“民主化强化学习人类反馈（RLHF）”涉及随机选取的公民陪审团，其协商判断会反映在人工智能奖励函数中，从而解决一个根本性的民主赤字：前沿人工智能模型中嵌入的价值观是由私营行为者决定的，缺乏民主问责制。韩国提出的框架将实现这一过程的民主化。人工智能基本法第27条为这一目标提供了一部分立法基础，要求科学技术信息通信部在制定伦理原则时收集社会各界的意见——但这远未达到此处提出的具有约束力的公民陪审团机制。

更广泛的方法已有先例。台湾的pol.is平台吸引了近1200万公民参与人工智能辅助的协商（Tang, 2025），人工智能在此过程中充当了谷歌DeepMind研究人员所称的“协商调解者”，而非决策者。哈贝马斯机器实验表明，人工智能辅助的协商可以产生比人类促进者产生的共识声明在清晰度、公平性和代表性方面更高的评价。韩国本身已通过国民议会（2023年）试点协商式民意调查，为将此类机制扩展到人工智能治理提供了国内制度基础。

(2) 程序延迟作为民主保障[2]

与大型科技公司追求效率的逻辑——将协商摩擦视为需要消除的开销——相反，本分析认为“程序延迟”应作为民主人工智能治理的结构性特征，并借鉴人工智能基本法中已嵌入的人工监督要求。在此框架下，公共领域中的人工智能生成决策必须经过人类协商和批判性审查。

这一原则尤其适用于“认识论”领域：人工智能对国家历史的解读、安全评估、司法判决和政策建议。并非说人工智能在这些领域是错误的，而是说民主合法性无论人工智能的准确性如何，都需要人类的协商。从这个角度来看，韩国人工智能基本法第32条要求的人机环（human-in-the-loop）监督不应被视为官僚障碍，而应被视为一种制度机制，通过确保高风险的自动化决策被合法地暂停以进行人类协商判断，从而实现“程序延迟”。

在这三个组成部分中，公民监督在已颁布的法律中拥有最强的基础。人工智能基本法（第27-29条）建立了一个多层级的监督结构，本分析将其扩展为三个操作层面。标记为“[已编纂]”的项目反映了已生效的规定；标记为“[拟议]”的项目反映了作者建议的超出当前法律的扩展：

• 攻击性红队[已编纂—第29条，AISI授权]：系统性地对抗性测试人工智能模型的偏见和潜在的威权主义滥用，并将结果公之于众。韩国AISI已通过其双重用途CBRN-E特别工作组和深度伪造检测研究投入实际运作。此处提出的扩展是，红队发现的结果不仅应提供给政府各部门，还应提供给公众。

• 自我监管伦理委员会[已编纂—第28条]：人工智能基本法授权公司、大学和研究机构组建私营自主人工智能伦理委员会，负责核实合规性、调查人权关切并进行伦理教育。这些委员会必须包括能够评估伦理和社会有效性的外部成员，并且不得仅由单一性别组成。拟议扩展：允许独立的公民社会组织——而不仅仅是机构行为者——拥有进行同等监督的地位，并使调查结果接受监管部门的后续处理。

• 可审计沙盒[拟议—尚未编纂]：外部审计员拥有访问内部模型结构和训练数据的权限，以核实技术故障或侵犯人权的行为，同时平衡商业秘密保护。人工智能基本法（第40条）授予科学技术信息通信部要求提供数据和检查人工智能运营商的权力，但这是一种政府权力，而非公民社会权利。此处提出的“可审计沙盒”概念将把同等的访问权限——在适当的保密保护下——扩展到独立研究人员和公民社会组织，使韩国的做法更接近欧盟人工智能法中关于高风险系统第三方审计的规定。

总而言之，这三个层面——一个已完全编纂，一个部分编纂，一个拟议——代表了一个发展轨迹，而非一个已完成的架构。韩国的人工智能基本法为公民参与人工智能治理奠定了制度基础；这里的提议主张深化这些基础，朝着一个公民是人工智能问责制的主动参与者，而不仅仅是免受人工智能危害的保护对象的模式发展。韩国现有规定与全面民主对齐框架之间的差距是一个可衡量的立法挑战——可以通过具体的政策行动来解决。

国际层面：韩国作为规范输出国

韩国的主权人工智能框架具有明确的国际雄心。《人工智能基本法》设立了人工智能政策中心，其任务是“促进国际规范的建立和传播”。韩国AISI参与了国际AISI网络（10个国家），并与法国、美国、波兰、新加坡和东盟伙伴签署了谅解备忘录——这反映了韩国作为全球人工智能治理中等强国规范创业者的战略定位。

(1) 中等强国的优势

韩国的中等强国地位是当前人工智能格局中的一项治理资产。与美国或中国不同，韩国在提议国际人工智能标准时不会引发霸权焦虑，同时拥有独特的非对称技术信誉：世界领先的硬件能力与快速发展但尚未达到前沿水平的软件栈相结合。

在硬件方面，韩国的地位毋庸置疑。三星和SK海力士合计占据了全球高带宽内存（HBM）生产的主导地位——这是驱动全球人工智能加速器的关键组件——截至2026年，SK海力士约占HBM市场的57%（CNBC 2026.4）。两者均已确认成为英伟达下一代Vera Rubin架构的供应商，而韩国的DRAM和先进封装能力在中短期内被广泛认为是不可替代的。

在软件方面，情况更为复杂。包括LG的EXAONE、Naver的HyperClova X和Upstage的Solar系列在内的韩国大型语言模型（LLM）在多语言基准测试中表现出竞争力，并且K-AI倡议的目标是达到前沿模型性能的95%。然而，这些模型目前的规模远低于领先的美国前沿系统，国内GPU基础设施仍严重依赖进口的英伟达硬件。韩国的LLM能力最好被描述为快速发展而非达到前沿水平——这是诚实的治理倡导必须承认的一个区别。

这种不对称性是信誉的来源，而非弱点。韩国不寻求主导全球人工智能；它寻求负责任地治理人工智能，同时建立本土能力。其结果是一种“科技外交”影响力，其运作方式不同于传统大国政治：韩国可以召集对话，而华盛顿或北京都无法在不引发战略怀疑的情况下主持这样的对话——这在印太地区尤其有价值，因为日本、澳大利亚和东盟成员国等伙伴寻求能够保护技术主权而不迫使它们在中美竞争中选边站的治理框架。

这种定位已不再仅仅是雄心勃勃的。2026年5月，韩国政府通过启动全球人工智能中心（Global AI Hub）正式确立了其作为多边人工智能召集者的角色——这是一项与九个联合国机构（劳工组织、移民组织、国际电信联盟、开发计划署、环境规划署、难民署、儿童基金会、世界粮食计划署、世界卫生组织）和五个多边开发银行（世界银行、亚洲开发银行、美洲开发银行、欧洲复兴开发银行、中美洲银行）签署的联合倡议。该中心以“人工智能惠及所有人，人工智能解决全球挑战”的愿景为指导，旨在整合分散的国际人工智能能力到一个共享的基础设施平台，从而能够协调应对气候变化、公共卫生、粮食安全、被迫流离失所和劳动力转型等问题。至关重要的是，该中心于2026年5月21日在首尔签署的《联合声明》明确将该倡议定位为参与组织的共同塑造的协作能力，而非韩国主导的项目，并邀请更多联合国实体随着时间的推移加入。这种架构体现了区分韩国国际人工智能战略的“横向伙伴关系”逻辑：韩国作为召集者和资助者，而非规范霸主。

(2) 三种可转移的框架

韩国的模式为伙伴民主国家提供了三种不同的框架。第一种——人工智能安全——提供了防止“认识论殖民”的具体机制：“认知盾”框架确保了对模型权重的国家主权控制，建立了反映国内价值观的国家语料库，并建立了红队能力以识别人工智能驱动的影响行动。第二种——人工智能伦理——构成了一个全面的民主对齐架构：韩国的十项要求伦理框架、“民主化RLHF”模型和程序延迟原则，明确旨在区分基于工程的安全与规范治理。第三种——技术标准——推进了国际“可审计沙盒”标准、中心辐射式（Hub-and-Spoke）互操作性规范以及与欧盟和日本伙伴共同开发的开源基础模型，旨在防止单一来源垄断，同时促进学术界、非政府组织和中小企业社区的特定领域人工智能发展。

(3) 战略联盟：超越捐助者-接受者动态

韩国国际人工智能战略的一个显著特点是其强调“超越传统捐助者-接受者动态的横向和战略伙伴关系”。与领先国家输出预包装治理解决方案的技术转让模式不同，韩国的方法基于真正的共同生产——在不同发展阶段的伙伴之间共享制度设计、相互问责和互惠学习。

这种导向已在韩国的多边参与中显现。在研究层面，韩国与国际AISI在深度伪造、多文化人工智能测试和风险识别等领域进行合作——作为平等伙伴，而非接受者。在政策层面，韩国与澳大利亚、日本和英国共同参与“硅盾倡议”（Pax Silica Initiative），以及在“芯片联合承诺”（Chips Joint Undertaking）框架下与欧盟-韩国进行联合半导体研究，表明在人工智能供应链安全和半导体韧性方面的多边参与。在标准层面，韩国正与欧盟和日本伙伴共同开发开源基础模型组件，并与东盟成员国分享其人工智能安全评估框架。

横向伙伴关系的逻辑也适用于本报告中的治理框架。三种可转移的框架——人工智能安全韧性、民主对齐和多元化技术标准——在与伙伴民主国家共同开发时，比作为已完成的韩国模式输出，更有可能获得国际关注。韩国最可信的角色是规范创业者和召集伙伴，而非规范霸主。2026年5月启动的全球人工智能中心——一个由韩国主办、联合国共同塑造的平台，汇集了九个国际组织和五个多边开发银行，以“人工智能惠及所有人，人工智能解决全球挑战”为愿景——是迄今为止该横向伙伴关系逻辑在制度上最具体的体现。

将此转化为具体行动需要三个优先事项。首先，韩国应加速AISI国际网络的扩张——特别是面向非洲、拉丁美洲和南亚的中等强国民主国家——将韩国定位为与美国-英国-欧盟轴心并列（而非附属）的全球人工智能安全能力建设的共同领导者。其次，韩国应在联合国教科文组织、经合组织和联合国框架内积极工作，将其《人工智能基本法》和AISI作为成员国的参考模型，借鉴欧盟《人工智能法》的国际影响力的先例。第三，韩国应与日本和澳大利亚就人工智能供应链安全、硬件信任框架和模型完整性标准开展联合研究——该领域三国联合的专业知识构成了印太地区对全球人工智能规范制定的独特可信贡献。

韩国国际人工智能战略的最终衡量标准不是签署的谅解备忘录的数量或发布的框架文件。而是本报告所述的治理架构——民主对齐、公民监督、合作主权——是否会成为其他中等强国民主国家借鉴和发展的参考点。

可转移性：条件与制约

虽然韩国的模式具有真正的可转移价值，但采用需要根据具体情况进行调整。成功的转移需要三个条件：

(1) 制度先决条件

韩国的模式建立在数十年来打下的基础上：拥有能够对人工智能进行有意义监管的成熟公民社会；拥有能够执行可审计沙盒规定的健全法治；以及在公共部门（韩国人工智能研究所）和私营部门（三星、SK海力士、Kakao、Naver）的技术能力。缺乏这些基础的民主国家在试图复制整个框架之前，需要投资于机构能力建设。

(2) 政治先决条件

韩国的人工智能治理在历届政府更迭中都保持了跨党派的连续性，这反映了一种基本共识，即人工智能治理是一个国家安全问题，而非党派问题。在人工智能治理存在政治争议的民主国家——即反对党可能为了竞争优势而系统性地破坏人工智能安全法规——将面临实施韩国模式的结构性障碍。

(3) 模块化采用

对于那些无法立即实施韩国全部框架的民主国家，建议采用模块化采用方法。优先模块包括：

• 立即（第1-2年）：采纳韩国的十项要求人工智能伦理框架；建立具有国际合作任务的国家人工智能安全研究所；颁布基本的可审计沙盒规定。

• 中期（第2-4年）：开发符合民主价值观的国家人工智能语料库；建立面向学术界和中小企业的公共GPU访问计划；建设公民社会人工智能审计能力。

• 长期（第4年以后）：开发具有民主化RLHF机制的主权基础模型；与伙伴民主国家建立国际互操作性标准；建设中心辐射式多元化人工智能生态系统。

结论

未来十年人工智能治理的核心问题不仅仅是技术问题——而是政治问题。它关系到谁来控制日益渗透到政治话语、公共管理、安全决策和文化认同中的人工智能系统的嵌入价值观。答案将决定人工智能是成为民主自决的工具，还是威权控制的引擎。

韩国的“民主化主权人工智能倡议”提供了一个引人注目的答案：人工智能系统应实现民主对齐、公民治理、技术主权和国际可转移性。这不是乌托邦主义——而是一个韩国近十年来一直在构建的具体制度架构，并且现在已编纂在《人工智能基本法》中。

该模式并非完美无缺。韩国的民主化人工智能愿景在某些领域超出了当前的技术能力；公民社会监督机制仍处于初级阶段；商业人工智能竞争力和民主对齐之间的紧张关系仍未解决。但这些是工程和制度上的挑战——是可以解决的。概念框架是健全的，制度架构是确立的，政治意愿是存在的。对于在日益被威权国家人工智能和不负责任的私人人工智能所主导的人工智能格局中导航的全球民主社会而言，韩国的模式代表了一种民主的第三条道路，使其不仅是韩国的成就，也是全球公共产品。■

参考文献

Bae, Hackyoung. 2026. "主权人工智能与韩美合作". Seattle: The National Bureau of Asian Research.

安全与新兴技术中心 (CSET)。2025年。“人工智能发展与信任建立框架法（英文译本）”。华盛顿特区：乔治城大学。

CNBC. 2026. "SK Hynix Posts Record First-Quarter Profit as Memory Prices Climb." April 23. "https://www.cnbc.com/2026/04/23/sk-hynix-posts-record-first-quarter-profit-as-memory-prices-climb.html". (Accessed: April 23, 2026)

Coeckelbergh, Mark. 2024. "Why AI Undermines Democracy and What to Do About It". Hoboken: Wiley.

Draudt-Véjares, Darcie 和 Seungjoo Lee。2026年。“在大国阴影下治理人工智能：韩国对大国人工智能竞争的战略应对”。华盛顿特区：卡内基国际和平基金会。

Farrell, Henry and Abraham L. Newman. 2023. "Underground Empire: How America Weaponized the World Economy". New York: Henry Holt.

Karp, Alexander C. and Nicholas W. Zamiska. 2025. [技术共和国。纽约：企鹅兰登书屋。

Kim, Myung-Joo. 2026. "韩国的人工智能治理方法：减轻风险并确保人工智能安全。" 西雅图：美国国家亚洲研究局。

韩国先驱报。2025年。“LG、SKT、Naver等五家公司入选韩国主权人工智能计划。”8月4日。https://www.koreaherald.com/article/10337170。（访问日期：2025年8月4日）

韩国先驱报。2026年。“韩国主权人工智能计划因‘从零开始’规则而受挫。”1月20日。https://www.koreaherald.com/article/10590538。（访问日期：2026年2月20日）

Landemore, Hélène. 2023. "利用人工智能促进更具包容性的民主。"财经与发展 60, 4: https://www.imf.org/en/Publications/fandd/issues/2023/12/fostering-more-inclusive-democracy-with-AI-landemore。（访问日期：2026年1月24日）

科学技术信息通信部（大韩民国）。2020年。“国家人工智能（AI）伦理准则。”首尔：KISDI。

科学技术信息通信部（大韩民国）。2024年。“人工智能基本法。”首尔：国会。

Schaake, Marietje. 2024. 科技政变：如何拯救民主免受硅谷侵害。普林斯顿：普林斯顿大学出版社。

Song, Kyungho. 2025. "人工智能之后民主：技术可能性与参与悖论。"立法与政策 17, 2: 39–72。

Tang, Audrey. 2025. "数字集体智能是否仍然是民主的未来？" 在第四届韩民族人民与数字论坛上发表。韩国首尔。

Tessler, M. H., Michiel A. Bakker, Daniel Jarrett, Hannah Sheahan, Martin J. Chadwick, Raphael Koster, Georgina Evans, Lucy Campbell-Gillingham, Tantum Collins, David Sumers, Edward Hughes, Anton Novikov, Kris Cao, Ilia Shumailov, Silvia Chiappa, Matthew Botvinick, and Christopher Summerfield. 2024. "人工智能可以帮助人类在民主审议中找到共同点。"科学 386, 6719。https://doi.org/10.1126/science.adh2889。

Thiel, Peter. 2009. "一个自由主义者的教育。"Cato Unbound。4月13日。https://www.cato-unbound.org/2009/04/13/peter-thiel/education-libertarian/。（访问日期：2026年3月13日）

[1]“民主化人类反馈学习”（Democratic RLHF）和本节所述的公民陪审团机制是作者的政策建议，并非现行韩国法律的规定。没有任何官方政府文件——包括《人工智能基本法》、《国家人工智能伦理准则》或K-AI倡议框架——将公民陪审团指定为人工智能训练的组成部分。此处提出的建议是韩国现有公民参与导向的规范性延伸，并以国际审议民主先例为基础。

[2]“程序延迟”作为一个明确的原则并未出现在韩国官方文件中。然而，其基本原理——即高风险公共领域的人工智能生成输出必须经过强制性人工审查——已在《人工智能基本法》中得到部分体现。第32条要求高影响力人工智能的提供者建立和运行人工管理和监督机制，并向受影响方解释人工智能产生的相关结果。这一法定的监督机制为本文所述更广泛的“程序延迟”概念提供了法律依据。

■ 李钟镇是首尔大学和平与统一研究所的高级研究员。

■ 编辑：林宰贤，研究助理

    垂询请致：02 2277 0746 (分机号 209) | jhim@eai.or.kr