[ADRN 简报] 韩国的民主人工智能治理方略

引言

人工智能对民主的颠覆性影响范围广泛，包括深度伪造、认知外包、民主制度中的选举操纵，以及威权政权中的全景式监控。Ovadya 认为，可以通过“民主集中制和民主分散制”来避免专制集权和无法治理的分散主义的末日景象，这得益于四项创新：小型公众审议、人工智能增强决策、第三方参与式治理和平台民主。[1]

虽然这种旨在同时推进人工智能创新和民主治理的方针是合理的，但当前关于人工智能对民主影响的讨论大多集中在程序层面，常常忽视了人工智能在连接公民需求与公共服务方面的潜力。人工智能辅助的政府创新在改善服务提供方面仍有很大空间。如果实施得当，人工智能辅助的公共治理有助于在财富不平等日益加剧的时代缩小服务差距。本简报探讨了韩国如何应对公众对实质性民主和合法程序性民主的双重需求。

韩国近期人工智能政策举措

韩国通过了《人工智能发展与信任建立框架法》，通常被称为《人工智能基本法》。该法于 2024 年 12 月 26 日由国会通过，2025 年 1 月 21 日正式颁布，并于 2026 年 1 月 22 日生效。

《人工智能基本法》建立了一个全面的监管框架，既促进人工智能产业发展，又加强安全、道德标准和用户保护，特别是针对高风险人工智能系统。该法规定设立总统委员会作为国家人工智能“指挥塔”，设立专门的人工智能安全研究所，并要求政府每三年制定一项人工智能总体规划，以增强国家竞争力。根据该法，人工智能生成的内容必须清晰标注——包括通过水印——“高风险”人工智能系统的开发者和运营商必须采取适当的安全措施，同时还要采取产业发展措施，如研发资助、训练数据构建和人工智能产业集群的指定。

该法的监管范围延伸至影响韩国境内用户或市场的外国人工智能系统。没有在韩国设立分支机构的外国人工智能公司，如果达到某些门槛——例如在韩国的日均用户超过一百万或产生可观的国内收入——则必须指定一名本地代理人。科学技术信息通信部（MSIT）有权调查违规行为，并可处以最高 3000 万韩元（约合 22,000 美元）的行政罚款或发出纠正令。

这标志着从自愿性指导方针转向强制性遵守人工智能伦理。此前于 2020 年 12 月由第四次工业革命总统委员会通过的《国家人工智能（AI）伦理指南》，基于三个基本原则：尊重人的尊严、社会共同利益和技术的正当使用。[2] 这些指导方针依赖于保障和自我监管机制，有意避开了被认为不适合快速变化的技术环境的僵化法律规范。过度监管阻碍产业增长的担忧也是一个因素。然而，《人工智能基本法》的通过使韩国成为第一个对高风险人工智能实施强制性监管的国家，而欧盟的《人工智能法案》仍在推迟全面实施。

自李在明总统于 2025 年 5 月上任以来，韩国的人工智能政策一直追求两个目标：培育具有国际竞争力的人工智能产业，以及促进对人工智能社会的信任。2025 年 9 月 8 日成立的总统人工智能国家战略委员会设有八个部门，拥有正式的决策和执行权——这比前任政府下的仅具咨询性质的委员会有了显著提升。2025 年 12 月，该委员会公布了一项初步的韩国人工智能行动计划，包括 12 个战略领域和 98 项具体任务，最终版本预计于 2026 年发布。尽管该行动计划全面且雄心勃勃，但与人工智能产业发展和公共部门人工智能转型（AX）相比，它在民主方面的关注相对较少，但仍然反映了一种独特的人工智能社会愿景。

人工智能基本社会

韩国的人工智能治理方针使用信任、透明、问责和包容等术语，而非“民主”本身，这反映了对人工智能治理价值观的一种特定表述。各国如何治理人工智能以保护或创新民主，自然各有不同。

“人工智能基本社会”（ABS）是李总统的总体人工智能政策愿景：一个包容性的数字能力社会，所有公民——无论年龄、职业、地区或社会经济背景——都能理解和利用人工智能。该行动计划将 ABS 描述为一种新的社会契约，承诺政府建立一个“人人共享人工智能”平台，使公民能够轻松理解人工智能和人工智能驱动的变革，直接体验其应用，并将人工智能自然地融入日常生活。还提议实施一项全国性的人工智能能力转型项目，提供基本人工智能能力的标准模型，并确保公平获得人工智能学习机会。[3]

字面上讲，“基本社会”是指通过社会服务权和加强的社会安全网来保障公民基本生计的社会。[4] 在此背景下，ABS 是一个强调公平获得人工智能辅助社会服务的概念。该行动计划在该部分下为 24 个政府部门分配了 16 项任务。一项“人人共享人工智能基本社会综合计划”，将于 2026 年第二季度完成，“旨在提高公民生活质量和加强社会安全网，同时将人工智能民主、技术伦理和社会包容的原则融入劳动力、福利、教育、金融、文化、安全和环境七个关键领域。”[5] 实施措施包括：将公益数据和人工智能的法律地位制度化；将公共部门 AX 预算的 10-20% 分配给公益人工智能；设定社会创新领域的最低私营部门参与水平；将政府项目与人工智能社会企业挂钩；建立公私学数据治理；以及建立公益数据伦理审查程序。[6]

科学技术信息通信部将于 2027 年第四季度前启动人工智能基本社会试点项目，并确定必要法律和制度改革，到 2030 年第一季度启动人工智能民主、普惠金融和气候风险管理等全国性服务。这一进程还将促进公益数据的获取和开放访问，以及参与式治理机制的建立。

人工智能辅助的公共领域

韩国政府还提议创建一个人工智能辅助的公共领域，以加强代表性并帮助在人工智能时代实现程序性民主的合法化。Kreps 和 Kriner 在三个关键领域确定了人工智能对民主的威胁：代表性、问责制和信任。[7]Altman 强调了对直接民主的风险，认为人工智能驱动的“水军”宣传可能扭曲基层运动并破坏公共论坛的审议。与具有高法律和后勤门槛的传统参与机制不同，人工智能辅助的论坛可以在最少的监督下创建，使得公民更难信任日益增多的此类空间。[8] 因此，政府主导的、具备强大可信度保障的人工智能公共论坛值得认真探索。

该行动计划提议创建人工智能公共论坛和实验性公民实验室。其中写道：“泛政府人工智能公共论坛应作为一个多方利益相关者协作平台，收集有关人工智能转型带来的风险和机遇的数据，并确定讨论的关键议程项目。同时，它应使专家、利益相关者和政府官员能够与公民共同审议，并将这些讨论转化为具体的政策措施。”[9]

韩国在数字参与机制方面有着良好的记录——包括民意调查、新政策倡议、评估、公民监察员制度和请愿。政府主导的人工智能论坛可以通过访问公共数据和多方利益相关者在共享数字空间内的参与，从根本上改变这种公民参与模式。同时，必须仔细设计以解决参与公民之间的潜在代表性差距，特别是在党派和代际方面。指定非党派非政府组织作为这些公共论坛的协调“指挥塔”——由政府基础设施和公共数据支持——可能是一种可行的方法。

人工智能治理的国际合作

尽管关于人工智能的益处和危害进行了广泛讨论，但尚未存在全球性的人工智能治理框架。2024 年 9 月，联合国人工智能问题高级别咨询机构发布了其最终报告《为人类治理人工智能》，建议采取七项措施作为灵活敏捷的治理方法。[10] 到目前为止，进展甚微。人工智能治理结构在不同论坛中仍然分散，缺乏应对人工智能快速发展和部署所需的连贯性。

目前主导全球格局的有三种模式。美国推行一种由私人创新和企业自我监管驱动的市场导向模式，反映了其更广泛的市场导向监管理念。欧盟则采取了一种以人权和民主价值观为基础的全面监管方法，其典范是 2024 年推出的世界首个全面《人工智能法案》。相比之下，中国遵循一种以技术民族主义为根基的政府主导模式，优先考虑政治稳定和社会控制，同时在特定领域和用例中对人工智能进行监管。

对于许多亚洲民主国家来说，这些模式都不完全适用。与美国或中国不同，它们既没有主要的全球人工智能公司，也无法独立投入足够的资本来建立完整的人工智能生态系统。同时，它们渴望发展国内人工智能能力并获得先进技术，但——与欧盟类似——仍然高度关注人工智能部署带来的社会风险。这种技术抱负与风险意识的结合使它们处于结构性差异化的位置。因此，核心挑战不是在美国、欧盟或中国模式之间进行选择，而是开发一种能够调和技术获取与健全保障措施的替代框架。在印太地区，这需要将现有指导方针转化为制度化合作，加强区域对话，并与全球治理进程接轨。

1. 人工智能外交

作为领先的半导体制造商和先进的数字社会，韩国积极参与全球人工智能合作。它于 2024 年 5 月主办了以安全、创新和包容为重点的“首尔人工智能峰会”。峰会宣言承认人工智能治理框架之间互操作性的重要性，并呼吁创建或扩大人工智能安全研究所、研究项目和监管机构。它还呼吁保护民主价值观、法治、人权和基本自由，并弥合国家之间和国家内部的人工智能和数字鸿沟，以推进联合国可持续发展目标。[11]

韩国也开始将人工智能合作纳入其双边伙伴关系。在李总统 2026 年 3 月 2 日对新加坡进行国事访问期间，两国政府分享了 ABS 愿景，并表示有意推进“人工智能合作框架”。虽然人工智能合作已成为国际伙伴关系中的常见要素，但韩国需要确定更集中的合作领域，因为优先事项将不可避免地因伙伴国家的经济发展水平和数字基础设施而异。

印度-日本人工智能倡议在这方面提供了一个有用的模型。通过 2026 年 1 月启动的日印人工智能战略对话得到加强，该倡议侧重于创建值得信赖的人工智能生态系统，推进大型语言模型（LLM），并支持初创企业以对抗技术垄断并促进安全合乎道德的人工智能使用。其核心是共同制定“值得信赖的人工智能”的国际标准，这些标准基于个人数据保护、算法透明度和消除偏见等原则——这与美国大型科技公司或中国的方法不同。该倡议还具有地缘政治意义，可能成为在日益加剧的技术竞争中出现的“第三个人工智能集团”。[12]

随着日本在人工智能伦理和民主规范方面取得进展——正如广岛进程所反映的那样，该进程为人工智能开发组织制定了国际指导原则——韩国应通过具体的运作框架来丰富 ABS 概念，使其超越宏大愿景。人工智能相关的外国援助计划可以作为运作该框架的重要途径。韩国还需要加强与东盟的人工智能合作。2025 年，东盟扩展了其《人工智能治理与伦理指南》，纳入了九项关于生成式人工智能风险的建议，将自己定位为潜在的区域规范制定者。[13] 然而，要使这一框架成为一个可行的治理模式，它必须融入包括韩国、日本和台湾等主要人工智能参与者的更广泛的区域合作之中。凭借其在人工智能基础设施和硬件方面的优势，韩国非常适合帮助填补这一空白。

2. 人工智能对外援助

该行动计划设想了一个“人工智能基本社会全球联盟”——一个汇集政府、产业、学术界和公民社会的开放协作平台——以连接人工智能伦理、可信度和公平性方面的国际标准；建立包容性的数据治理；扩大公共人工智能能力；并促进全球联合项目。“该联盟旨在为韩国成为人工智能基本社会模式的全球中心做出贡献……这是一项战略外交举措，通过探索一种民主的、以公共利益为导向的、以增长为驱动的人工智能发展战略，向国际社会展示韩国的‘人工智能时代 K-民主与增长’模式。”[14]

为将这些计划转化为具体项目，韩国国际合作机构（KOICA）于 2026 年 2 月与韩国信息社会振兴院（NIA）签署了一项谅解备忘录，提供“人人共享人工智能”的官方发展援助（ODA）。在先前合作的基础上——包括派遣信息技术志愿者队伍、就发展合作项目提供咨询以及专家咨询服务——修订后的协议将范围显著扩大到人工智能领域。这两个机构计划在以下方面进行合作：在国际发展合作中推广人工智能伦理；为发展中国家提供人工智能政策和监管框架方面的专家咨询支持；共享国内和国际网络与信息；以及推广机构出版物。

为使这些计划有效，韩国的全球愿景必须转化为具体的民主模式，这些模式能够适应各种当地情况。由于许多发展中国家的民主制度运作不力，需要明确的保障措施来确保以人工智能为重点的官方发展援助真正支持民主治理。同时，“人工智能时代 K-民主”的概念仍然定义不清。将人工智能仅仅视为韩国数字活跃公民文化的一种延伸，可能会忽视其在‘全球南方’更具变革性——也可能更具颠覆性——的影响。

结论

Shany 提出的《人工智能权利法案》概述了七项关键权利：获得人工智能系统的权利；免受人工智能有害使用的隐私相关保护的权利；免受算法偏见和不公平待遇的权利；算法透明度和可解释性的权利；不受算法操纵的权利；由人类决策和人际互动的权利；以及对人工智能系统使用造成的损害追究责任的权利。[15]

韩国的“人工智能为所有人”愿景与访问人工智能系统的权利高度契合，尽管算法透明度和问责制问题仍未得到充分探讨。该国在缩小人工智能接入差距和提高公共服务有效性方面的优势明显。在已经能够实现公民参与政策制定的相对成功的数字治理基础上，韩国目前正迅速扩展人工智能辅助服务在公民与政府互动中的应用。

在政治两极分化日益加剧的背景下，人工智能辅助的公共论坛也可能产生负面影响，加剧政治对抗。与此同时，旨在扩大参与的人工智能平台可能有助于缓和公众讨论，并为解决社会问题做出贡献。因此，加强公民审议能力的努力不仅应包括政府，还应包括公民自身和其他私营部门的行为者。

韩国在负责任人工智能方面的国际合作也值得关注。虽然其多边倡议正在扩大，但可以通过更侧重区域的合作来加以补充。与日本、新加坡和台湾的合作可能特别有前景。在与全球南方国家接触时，韩国的人工智能相关官方发展援助（ODA）也应明确人工智能援助如何支持民主制度——超越技术合作和培训交流。■

[1]Aviv Ovadya. 2023. "Reimagining Democracy for AI." Journal of Democracy 34 (4): pp. 162-170.

[2]AI Ethics Communication Channel. N.d. "The National Guidelines for AI Ethics." https://ai.kisdi.re.kr/eng/main/contents.do?menuNo=500011.

[3]Presidential Committee on National AI Strategy. 2025. "ROK AI Action Plan." December. p. 127.

[4]Lee, Jae-myung. 2025. "People Sovereignty Government, Basic Income or Basic Society." Le Monde Diplomatique Korean Edition. August 5. https://www.ilemonde.com/news/articleView.html?idxno=21018. (Accessed: February 10, 2026)

[5]Presidential Committee on National AI Strategy. 2025. "ROK AI Action Plan." December. p. 129.

[6]Presidential Committee on National AI Strategy. 2025. "ROK AI Action Plan." December. p. 130.

[7]Kreps, Sarah and Doug Kriner. 2023. "How AI Threatens Democracy." Journal of Democracy 34 (4). pp. 122-131.

[8]Altman, David. 2026. "The AI Democracy Dilemma." Journal of Democracy 37 (1). pp. 32-44.

[9]Presidential Committee on National AI Strategy. 2025. "ROK AI Action Plan." December. p. 132.

[10]七项建议是：建立一个类似IPCC的独立国际人工智能科学小组，提供权威的、基于科学的评估；发起一个半年度的政府间和多方利益相关者人工智能治理政策对话，分享最佳实践并促进对人工智能治理实施的共同理解；创建人工智能标准交流平台，汇集来自国家和国际标准制定组织、科技公司以及民间社会和国际科学小组的代表；创建人工智能发展网络，协调区域和全球人工智能能力建设工作，并提升公职人员的人工智能治理能力；创建全球人工智能基金，以遏制人工智能鸿沟；创建全球人工智能数据框架，概述用于人工智能训练数据全球治理的数据相关定义和原则；并在联合国秘书处内设立人工智能办公室。联合国。无日期。“人工智能治理以造福人类：最终报告。”https://www.un.org/sites/un2.un.org/files/governing_ai_for_humanity_final_report_en.pdf.

[11]大韩民国外交部。2024年。“首尔人工智能峰会参会者关于安全、创新和包容性人工智能的首尔宣言。”5月21日。https://www.mofa.go.kr/eng/brd/m_5674/view.do?seq=321007。峰会还提出，通过与联合国及其机构、G7、G20、经济合作与发展组织（OECD）、欧洲委员会以及全球人工智能伙伴关系（GPAI）等其他国际倡议的合作，加强人工智能治理方面的国际合作。会议回顾了广岛人工智能进程“之友”小组、更新的OECD人工智能原则、最近通过的联合国大会决议“抓住安全、可靠和值得信赖的人工智能系统带来的可持续发展机遇”，以及2024年9月未来峰会前夕的全球数字契约。

[12]Kurihara, Toshihiko 和 Sukirt Kaur。2026年。“印日人工智能合作。”社会与经济进步中心，Executive Policy Brief. January. https://csep.org/wp-content/uploads/2026/01/INDO%E2%80%93JAPANESE-COLLABORATION-ON-ARTIFICIAL-INTELLIGENCE.pdf.

[13]ASEAN Secretariat. 2025. "Expanded Guide: AI Governance and Ethics – Generative AI." https://asean.org/wp-content/uploads/2025/01/Expanded-ASEAN-Guide-on-AI-Governance-and-Ethics-Generative-AI.pdf.

[14]Presidential Committee on National AI Strategy. 2025. "ROK AI Action Plan." December. p. 135.

[15]Shany, Yuval。2025年。“白皮书：制定国际人工智能人权法案的必要性与可行性。”牛津大学人工智能伦理研究所。11月。https://afp.oxford-aiethics.ox.ac.uk/sitefiles/white-paper-professor-yuval-shany.pdf.

■
李淑贞是东亚研究所的杰出研究员和成均馆大学的杰出教授。

■ 编辑：林宰铉，研究员

    联系方式：02 2277 0746 (分机号 209) | jhim@eai.or.kr