[假新闻与民主系列] ③ 应对虚假信息：国际监管趋势与韩国的应对方案

1. 引言

“假新闻”（fake news）一词，随着掌权者越来越多地攻击批评他们的反对者“散布假新闻”的案例增多，在国际社会已不再使用。取而代之的是“虚假信息”（disinformation）一词。虚假信息的词典释义是“故意且常常是隐秘地传播的虚假信息（美联社词典）”。它区别于因夸大其词或单纯失误而产生的虚假信息。通常将仇恨言论（hate speech）或嘲讽性言论也置于言论自由范畴内，不视为虚假信息。虚假信息因存在歪曲或捏造信息（通过虚假照片或视频，或毫无根据的主张）的“意图”，而区别于单纯的误报（misinformation）。联合国教科文组织（UNESCO）将虚假信息表述为“为伤害个人、社会群体、组织或任何国家而故意制造的虚假信息（UNESCO 2018）”。欧盟（European Union）将虚假信息定义为“为欺骗或出于经济或政治利益而进行的虚假或误导性陈述，这可能对公众造成损害（European Commission）”。两者都通过加入“意图”和“损害”等词语来区分于现有的单纯误报。然而，由于意图难以辨别，虚假信息和误报这两个词语在语境中也常常不加区分地使用。假新闻仅限于“新闻”，因此只是虚假信息的一部分。但由于在韩国“假新闻”一词在立法动议或时事报道中仍被广泛使用，因此在此将根据语境同时使用这两个词语。

在威权主义国家，虚假信息主要被用作破坏政治反对派合法性或作为“排斥政治”的工具，针对种族或宗教少数群体。在此层面上，“网络自由”（online freedom）或“互联网自由”（internet freedom）等术语主要用于保护民主免受数字威权主义侵害的含义。自由之家（Freedom House）报告称，网络自由在过去13年里持续下降，威权政府不仅像以往一样封锁特定的社交媒体应用或互联网服务，还利用生成式人工智能（Generative Artificial Intelligence）传播虚假信息或加强审查。报告指出，47个威权政府利用人工智能编造句子、声音、图像等来操纵或误导舆论，21个国家强制或鼓励在数字平台上使用机器学习（machine learning）来压制政治反对派或少数派的声音（Funk, Shahbaz, and Vesteinsson 2023）。

虚假信息在民主国家也广泛存在。在这种情况下，政府并非虚假信息的主要来源，而是政治两极分化的社会。这是个人言论自由在民主社会中得到充分利用，但一些个人YouTube博主或社交媒体用户为了信念或金钱而制造或传播虚假信息的形式。这种形式的虚假信息在政治两极分化的社会中盛行。甚至连本应科学的气候变化或传染病等信息，也因政治意识形态的不同而产生不同的真伪解读。社交媒体用户在“我正确”的信念下，以确认偏误的方式获取或分享信息，从而助长了虚假信息的传播。与此不同的是，在特定信息被认知为虚假或夸大，但由于政治两极分化结构而存在的社会中，人们也可能出于支持自己政党的动机而传播虚假信息（Peterson and Iyengar 2021）。无论心理状态如何，当舆论和网络两极分化时，虚假信息往往会产生协同效应并扩散（Törnberg 2018）。也就是说，回声室效应（Echo Chamber）不仅局限于同质的小型网络，还具有向与这些网络有弱连接的同阵营网络扩散的媒介特性。

虚假信息的研究在个人和社会结构两个层面都寻找影响因素。调查显示，那些对特定议题态度之外，政治兴趣较高或经常使用社交媒体的人，也更倾向于传播虚假信息（Morosoli et al. 2022）。试图寻找社会影响而非个人影响的研究，则关注那些存在极端意识形态并损害民主韧性（resilience）的结构性因素。例如，依赖社交媒体或替代媒体而非传统媒体的社会，或存在民粹主义（populist）政党的社会，都有助于虚假信息的传播（Humprecht et al. 2023）。

另一方面，在民主社会中，外国干预舆论操纵的现象更为普遍。与威权主义国家不同，这些社会对信息流动持开放态度，因此不会阻止来自外国的信息。然而，随着2020年美国大选期间俄罗斯干预选举的暴露，美国开始从国家安全角度应对来自外国的虚假信息。虚假信息也可能被用作针对全球受众的舆论战，例如在乌克兰战争的案例中。因此，西方的开放社会正试图从安全政策的角度应对来自俄罗斯或中国等威权强国的虚假信息传播。

虚假信息尤其倾向于在选举期间泛滥。据《纽约时报》报道，今年有83个国家将举行选举，全球一半人口将投票，这是前所未有的政治之年（Hsu et al. 2024/1/9）。为此，去年以来，Meta、YouTube、X等公司已开始加强团队建设，并加强了防止与选举相关的虚假信息传播的保护措施。联合国教科文组织（UNESCO）对虚假信息在选举中的危害表示担忧，并于2023年9月对今年有选举的16个国家（不包括韩国）的8000名选民进行了调查。调查显示，在发达国家，依赖电视和社交媒体获取信息的比例分别为55%和37%，但在人类发展指数（Human Development Index, HDI）得分较低的欠发达国家，这一比例分别为37%和68%，社交媒体的依赖比例更高。然而，认为虚假信息会产生负面影响的比例在大多数受访国家中都很高，无论其发展程度如何。特别是，85%的受访者对虚假信息在今年选举中的影响表示担忧（UNESCO 2023）。韩国人同样认为虚假信息问题严重。根据东亚研究所2024年1月的调查，81.4%的韩国人同意假新闻的严重性，60%的人认为自己也可能被假新闻欺骗。

根据上述UNESCO的报告，16个国家的公民认为政府（89%）和社交媒体平台公司（91%）在选举期间应强力应对虚假信息或仇恨言论。然而，监管虚假信息并非易事。难以查明制造或传播这些信息的人或社交媒体用户。因此，加强对在传播虚假信息中起决定性作用的社交媒体平台公司的责任，是最常被提出的处方。或者，也常常通过媒介素养（media literacy）公民教育来努力让互联网用户自行辨别虚假信息。此外，过度偏向监管可能会损害数字沟通方式带来的有益信息共享和民主化联结，因此也有不少人主张谨慎监管。例如，加强以实证为基础的研究，以衡量虚假信息监管的合法性、规定和效果，或者从更广阔的信息生态系统层面进行研究的意见（Wanless and Shapiro 2022; Green et al. 2023）。

因此，在应对虚假信息的需求与过度监管可能带来的弊端之间寻求平衡变得至关重要。为了思考韩国应采取何种监管方向，我们首先来考察一下近期的国际监管趋势。

2. 国际监管动向

2020年国际电信联盟（International Telecommunication Union: ITU）和联合国教科文组织宽带委员会的报告将数字虚假信息的生命周期（life cycle）划分为煽动者（Instigators）、代理人（Agents）、信息（Messages）、中介者（Intermediaries）、目标与解读者（Targets/Interpreters）（IAMIT），并将对此的11种应对措施分为以下4类：1）旨在识别虚假信息的应对措施（监测与事实核查（monitoring and fact-checking）、调查）；2）针对制造者和传播者的应对措施（立法与政策应对、国内与国际反虚假信息（counter-disinformation）宣传活动、选举特定应对（electoral-specific responses））；3）针对制造和传播机制的应对措施（策展式应对（curatorial responses）、技术算法应对、去货币化应对）；4）针对虚假信息宣传活动目标受众的应对措施（伦理与规范应对、教育应对、赋权与可信度标记（empowerment and credibility labelling）应对）（Broadband Commission 2020）。

上述分类是以行为者为中心的应对体系，而郑世勋则侧重于应对方式，将其分为法律监管、自主监管、事实核查、素养（literacy）教育，并对它们的范围、主体及优缺点进行了比较（郑世勋 2017）。

<表1> 按应对方案分类的虚假信息应对措施比较

在上述应对类别中，美国和欧洲已开始更全面地采取法律和政策措施，以应对虚假信息的制造者和传播机制。这是因为它们共同认识到数字虚假信息会加剧政治两极分化，阻碍应对疫情，并增加来自俄罗斯等外国的影响力干预选举和安全威胁。然而，欧洲致力于在言论自由权和虚假信息监管之间寻求平衡的立法和政策制定，而美国则侧重于建立行政部门内部的机制，以早期应对来自外国的虚假信息。

2.1 欧盟的应对

欧盟于2022年10月颁布了《数字服务法》（Digital Services Act: DSA）和《数字市场法》（Digital Market Act: DMA）。前者旨在保护在线基本权利和言论自由，后者旨在加强欧洲单一市场内的数字创新、增长和竞争力。截至2024年2月，成员国已指定各自的数字服务协调员（Digital Services Coordinator）以协调成员国之间的政策（European Commission）。

欧盟的DSA旨在防止在线非法和有害活动以及错误信息的传播。该法旨在创造一个用户安全、基本权利得到保护、平台环境公平开放的局面。DSA的监管对象包括在线中介者和平台，涵盖市场、社交网络、内容共享平台、应用商店等。它采取一种重新定义用户、平台和政府当局之间角色的方法，并将公民置于中心（European Commission）。欧盟委员会从各利益相关者群体的角度解释了该法的宗旨。对公民而言，旨在更好地保护基本权利，赋予其控制权和选择权，并特别通过减少非法内容暴露来强力保护在线儿童。对数字服务提供者而言，旨在提供法律确定性和适用于整个欧盟的统一规则，并为欧洲初创企业或中小企业扩大规模提供便利。对使用数字服务的商业行业而言，旨在通过平台促进对整个欧盟市场的准入，并为打击非法内容提供者提供公平的竞争环境。对整个社会而言，旨在实现对系统平台的民主控制和监督，并减少操纵或错误信息等系统性风险。

DSA根据在线生态系统内的角色、规模和影响力，将监管对象分为四类，并适用不同级别的监管。第一类是拥有相当于欧盟4.5亿人口10%以上，即平均每月用户数达到4500万的“超大型在线平台和搜索引擎”（Very large online platforms, VLOPs）和“超大型在线搜索引擎”（Very large search engines, VLOSEs）。第二类是连接卖家和消费者的在线市场、应用商店、合作经济平台、社交媒体平台等“在线平台”（Online platforms）。第三类是提供云和网络托管服务的“托管服务”（hosting services）。第四类是提供互联网接入和域名注册等网络基础设施的“中介服务”（intermediary services）。

监管的核心是VLOPs和VLOSEs。欧盟委员会要求在线平台公司在2023年2月17日前提交用户数量（这些公司每六个月需更新并报告用户数量），并在此基础上于4月指定了17家公司为VLOPs和VLOSEs。如果这些公司的用户数量在一年内低于每月平均4500万的标准值，该公司将被排除在指定之外。主要办事处设在这些公司所在成员国的国家将从2024年2月17日起承担协调员的角色。例如，对于每月平均有1.04亿欧洲用户使用的在线平台AliExpress，由于由Alibaba Netherlands运营，荷兰政府将承担协调员的角色。对于每月平均分别有3.64亿欧洲用户和4.17亿欧洲用户使用的Google Search和YouTube，由于由Google Ireland Ltd.运营，爱尔兰政府将承担协调员的角色（European Commission）。

被指定为VLOPs和VLOSEs的公司必须在4个月内遵守以下规定。首先，它们必须向当局和用户提供联系方式，报告违法行为，提供用户友好的条件，并对宣传、推荐系统或内容调整决定保持透明。其次，指定公司必须考虑其社会影响力，识别、分析和评估与其服务相关的系统性风险。特别是，必须关注非法内容；言论自由和新闻自由、多元化、歧视、消费者保护、儿童权利等基本权利；公共安全和选举过程；性别暴力（gender-based violence）、公共卫生、未成年人保护、身心健康等风险。第三，一旦识别出风险并向欧盟委员会报告以进行监督，这些公司必须采取措施来降低这些风险。具体而言，包括更改设计或更改服务功能或推荐方式。这些公司可以通过投入更多资源来加强平台内部能力，以便更好地识别系统性风险。第四，被指定为VLOPs或VLOSEs的公司必须建立内部控制功能，以有效识别和降低风险；至少每年进行一次独立的审计；与欧盟委员会和当局共享其数据，以便监督和评估其是否遵守DSA；允许研究人员访问平台数据，以便检测、识别和理解系统性风险；提供不基于用户个人资料的推荐系统作为替代方案；公开积累的宣传内容。如果未能遵守这些义务，将从2024年2月17日起面临高达其全球收入6%的罚款。

需要注意的是，DSA仅针对非法内容，而不监管在线恐吓、骚扰、非非法仇恨言论等有害内容。这是为了避免关于什么是“有害内容”的争议，并避免限制自由的在线言论。对于有害但非非法的信息，则通过加强平台公司的透明度和责任感来间接应对，使其过滤内容。Calabrese指出，英国议会正在审议的《在线安全法》（Online Safety Bill）因可能损害言论自由而谈判陷入僵局，这表明严格的法律制定非常困难。正如所担心的那样，匈牙利等威权国家制定了可判处最高5年监禁的法律来惩处虚假信息传播，试图压制批评政府的声音，因此加强刑事处罚等监管措施反而可能助长民主的倒退。DSA的制定有望在加强大型平台公司的问责制方面取得成效，因为区域内国家将进行合作。此外，欧盟成员国也正在通过国内法应对虚假信息。法国和德国多年前就制定了针对选举相关虚假信息或仇恨言论的监管规定，奥地利、保加利亚、立陶宛、马耳他、罗马尼亚、西班牙等其他欧洲国家也正在引入应对虚假信息的监管措施。

2.2 美国的应对

美国的做法似乎更侧重于在行政部门内部建立应对虚假信息的机制，而非制定全面的法律。自2016年美国大选俄罗斯干预以来，法律和制度开始朝着建立监督体系的方向进行整顿。2017年，美国国会跨党派通过了《反外国宣传和虚假信息法》（Countering Foreign Propaganda and Disinformation Act），在国务院内设立了全球参与中心（Global Engagement Center, GEC）。2017年秋季，联邦调查局（FBI）设立了“外国影响力应对小组”（Foreign Influence Taskforce），2018年，国土安全部（Department of Homeland Security）设立了“外国影响力与干预应对小组”（Countering Foreign Influence and Interference Taskforce）及其相关部门（Foreign Influence and Interference Bureau），并于2022年增设了“虚假信息委员会”（Disinformation Board）。此外，国防部也新设了“影响力与认知管理办公室”（Influence and Perception Management Office）。由于类似组织在各部门如雨后春笋般涌现，要求加强相互协调和制定统一战略的声音日益高涨，因此，在美国情报机构的最高领导机构——国家情报总监办公室（Office of the Director of National Intelligence, ODNI）内，于2022年9月新设了“外国恶意影响应对中心”（Foreign Malign Influence Center, FMIC）。FMIC不仅应对针对美国选举的虚假信息，还应对针对美国国内舆论的虚假信息。该中心在情报机构层面支持国务院GEC，后者负责应对来自俄罗斯、伊朗等国的虚假信息（Klippenstein 2023/5/5）。[1]

美国国务院GEC的活动侧重于俄罗斯的虚假信息（U.S. Department of State）。例如，GEC的特别报告《巴西克里姆林宫虚假信息报告》指出，克里姆林宫利用公开或非公开的网络来操纵信息和传播反民主的威权主义意识形态。例如，巴西的新抵抗运动（New Resistance），属于联合虚假信息网络（Syncretic Disinformation Network, SDN）[2]以及Fort Russ News (FRN)和联合研究中心（Center for Syncretic Studies, CSS）等组织，虽然表面上是巴西本土产生的组织，但实际上是由俄罗斯的宣传人员扶植壮大的。这些组织传播俄罗斯哲学家亚历山大·杜金（Aleksandr Dugin）的新纳粹意识形态，试图联合极右翼和极左翼势力，破坏民主稳定，并派遣战士支持俄罗斯入侵乌克兰（U.S. Department of State 2023）。《纽约时报》称，GEC努力在克里姆林宫的虚假信息扩散到社会之前加以阻止，因为一旦谎言传播开来，就更难应对了（Myers 2023/10/16）。

从上述美国的应对措施可以看出，虚假信息主要针对外国，特别是俄罗斯政府及其关联的全球网络。也就是说，应对的重点是国家安全而非国内舆论，因此，为了收集、监控和控制来自特定国家的信息，在相关部门设立了执行组织。韩国也日益认识到来自外国的虚假信息正在流入，并且处于与朝鲜对峙的状况，因此有必要从安全角度审视美国的应对体系。

3. 韩国应对虚假信息的历程

3.1 近期应对动向

对于假新闻等虚假陈述行为，法律规定了多种限制，其中代表性的非刑事监管包括《媒体调解法》中的规定和民事损害赔偿。此外，刑事处罚包括名誉损害罪和《公职选举法》中的虚假事实公开罪。由于分散的法律制裁难以应对，因此在2018年曾有过关于假新闻的两项立法尝试（后文将详述）。最近，由于针对总统和知名政治家或公职人员的假新闻危害日益严重，开始出现监管以往未被现有刑事处罚规定所涵盖的虚假陈述的动向。

迄今为止，互联网媒体和传统报纸的互联网报道一直受到《媒体调解法》的管辖。随着李东官就任广播通信委员会（以下简称“放通委”）委员长，放通委宣布将立法推进对散布虚假信息的媒体采取“一击出局”措施。放通委表示将扩大通信审议对象，首次正式对互联网新闻的虚假信息进行审议，并着手修改相关法规。放通委于2023年9月初启动了根除假新闻专项小组，并于18日发布了“根除假新闻推进方案”。其核心内容是与广播通信审议委员会（以下简称“放审委”）及国内外门户/平台运营商（Naver、Kakao、Google、Meta）共同成立假新闻应对官民协商体，构建基于放审委和运营商之间自主监管的快速通道（fast track）。假新闻快速审议的快速通道运作程序如下。首先，放审委在网站（www.kocsc.or.kr）上运营“假新闻举报”专用窗口（9.21~），接收假新闻发生案例。放审委判断是否需要快速审议（委员长或三分之一的在任委员同意即可指定为快速审议议题），并在必要时以书面形式请求运营商合作自主监管。接到请求的运营商在审查内容后，对相关内容标示“放审委正在对假新闻进行快速审议”的标识，或采取删除或屏蔽等措施。

尽管有这些监管动向，但放审委的员工们却反对运营该中心，主要理由是担心侵犯媒体自由或造成双重监管。在野党和批评性媒体也以侵犯媒体自由为由进行了批评。最终，放审委接受了关于因区分快速审议和一般审议导致工作延迟的批评，于去年年底终止了该中心，并原则上将所有民事投诉均进行常时快速审议，将工作分配给整个放审委来维持（姜汉德 2023/12/21）。上述应对措施基本上是自主监管方式，尚未出现新的法律监管动向。

3.2 第20届国会关于假新闻的立法动向

3.2 2020年国会关于假新闻的立法动向

据称，在第20届国会（2016年5月 - 2020年5月）期间，共讨论了43项与虚假信息相关的法案。其中，有3项是新设法案：《关于构成和运营假新闻对策委员会的法律案》、《关于防止假新闻流通的法律案》、《关于促进媒体教育的法律案》，其余均为修订法案。只有关于“深度伪造”（deepfake）的《关于性暴力犯罪处罚等的特例法》和《信息通信网利用促进及信息保护等相关法律》的修订案获得通过（金汝罗 2020）。然而，由朝野议员分别提出的针对整个假新闻的两项主要法案因国会任期届满而作废。

尽管因国会任期届满而作废，但有必要审视朝野主导的两项新设法案。2018年4月5日，执政党共同民主党议员朴光温等29人提出了《防止假新闻流通的法律》，不久后，即5月9日，在野党自由韩国党议员姜孝尚等15人提出了《关于构成和运营假新闻对策委员会的法律》。

《防止假新闻流通的法律》是一项禁止网站用户传播假新闻，并规定网站运营者有义务防止假新闻流通的法律案。该法案将假新闻定义为：1）根据《媒体调解及受害者救济等相关法律》第2条第12款，被媒体认定为不属实的报道信息；2）根据《媒体调解及受害者救济等相关法律》第7条，被媒体调解委员会认定为不属实的信息；3）被法院判决认定为不属实的信息；4）被中央选举管理委员会要求删除的关于虚假事实公开、地区/性别歧视和侮辱的信息。也就是说，被定义为假新闻的信息是根据现有法律被视为非法的虚假信息。

该法案的主管公共机构是放通委，规定该委员会应公布假新闻内容并制定防止流通的基本计划。网站用户不得在互联网上传播侵犯他人权利的信息，如假新闻，因传播假新闻等给他人造成损害的，应向受害者承担损害赔偿责任，制造侵犯他人权利信息（如假新闻）的，处以5年以下有期徒刑或5000万韩元以下罚款。另一方面，网站运营者应防止假新闻在互联网上传播，并制定处理用户删除假新闻请求的程序，如不采取措施阻止假新闻流通，将处以超额罚款。如果用户对网站运营者处理删除假新闻请求的结果提出异议，由广播通信委员会进行判断，网站运营者应向广播通信委员会提交关于防止其网站上“假新闻”流通的报告。该法案是一项具有惩罚性规定的监管法，对非法传播假新闻的个人处以监禁或罚款，对不采取措施阻止假新闻流通的网站运营者处以超额罚款。该法案将网站运营者笼统地涵盖在内，并未区分大型平台公司和中小型网站。

另一方面，《关于构成和运营假新闻对策委员会的法律》在第1条中明确规定，其法律目的是通过规定构成和运营假新闻对策委员会的基本事项，来防止假新闻的流通，保护因假新闻而受损的名誉、权利或其他法益。该法案将“假新闻”定义为“为政治或经济利益而在报纸·互联网、报纸·广播或信息通信网中生产的虚假或歪曲内容的信息，且根据《媒体调解及受害者救济等相关法律》第2条第15款属于媒体报道或易被误认为媒体报道的内容”，其范围比共同民主党提出的法案更有限。

该法案的核心是新设一个由国务总理领导的“假新闻对策委员会”，以综合、系统地推进防止假新闻流通的政策。委员会将由1名委员长和约30名委员组成，其中政府方面委员包括科学技术信息通信部部长、文化体育观光部部长、广播通信委员会委员长、媒体调解委员会委员长、广播通信审议委员会委员长等，以及由大韩律师协会、韩国报业协会、韩国记者协会等12个民间团体推荐的人士组成。

假新闻对策的主管机构分为两部分：报纸、互联网报纸、互联网新闻服务中的假新闻及其流通防止政策由文化体育观光部部长负责；信息通信网和广播中的假新闻及其流通防止政策由广播通信委员会委员长负责。这些主管机构应每三年制定一次各自领域内防止假新闻流通政策的领域计划，并提交给假新闻对策委员会。然后，该委员会将综合提交的领域计划，制定并确定假新闻对策基本计划。假新闻流通防止法规定了假新闻的删除请求、对假新闻删除等处理结果的异议申请、损害赔偿、超额罚款等，而假新闻对策委员会法则作为行政组织法，采取委员会制度，并包含横向合作体系和民间参与。

除这两项法案外，第20届国会还提交了信息通信网法修正案以应对假新闻。自由韩国党在2018年7月也以党论形式提出了信息通信网法修正案（由金成泰议员代表提出，109名党籍议员参与），规定门户网站等服务提供者有义务持续监控假新闻的流通情况，对流通假新闻者处以7年以下有期徒刑，对未进行监控者处以5年以下有期徒刑等处罚。民主党在第21届国会即2021年曾推动了名为“假新闻受害者救济法”的媒体调解法修正案。其核心是规定媒体若因故意或重大过失进行虚假/歪曲报道，可处以最高5倍于损失额的惩罚性损害赔偿。国民力量党则批评称“这是扼杀媒体对政权进行健全批评的行为”。

迄今为止，所有旨在应对虚假信息的立法或修订都因争议而未能成功。执政党提出的法案被在野党以政治目的为由反对，或以侵犯言论自由为由反对。政权更迭后，逻辑颠倒，反对党提出的法案。另一方面，市民团体普遍批评监管动向并表示反对。

3.3 立法问题点

从上述情况来看，制定关于假新闻的新法律之所以困难，原因如下。第一，应对虚假信息被政治化，难以达成政治共识。在政界，执政党提出的法案通常被在野党以政治目的为由反对，政权更迭后立场发生变化，在野党也以同样的逻辑反对前执政党的法案。这种党派性做法阻碍了政治共识，导致假新闻应对法案的制定屡屡搁浅。另一方面，市民团体虽然普遍认为假新闻危害严重，但在监管方面，则以可能导致过度监管而侵犯言论自由和新闻自由为由持反对立场。

第二，法律层面的争议也使得制定应对虚假信息的法律变得困难。刑事监管一旦过度，就有可能侵犯宪法保障的言论和出版自由。关于虚假事实的诽谤罪，其部分构成要件“诽谤目的”也不明确；《公职选举法》中的虚假事实公开罪因法定刑下限过高，实际上强制了当选无效，存在违反过度禁止原则的问题。对此，崔承弼主张，现行的刑事处罚规定和新 추진的法案都应朝着在最大限度保障言论和出版自由的同时，保护国民人格权、社会秩序和国家安全等多种宪法价值的方向进行改进（崔承弼 2020）。

第三，即使制定了应对虚假信息的新法律，在法律执行手段方面也难以确保实效性。公共机构在追踪制造和传播虚假信息的社交媒体用户方面，在技术能力或资源方面存在不足。因此，各国政府倾向于通过官民合作或诱导行政来加强平台企业过滤虚假信息的责任。

然而，根据东亚研究所2024年1月的调查，37.2%的受访者表示在过去6个月内曾在社交媒体或其他在线平台上遇到过疑似由外国传播的与选举或国内政治相关的假新闻或虚假信息，这表明来自海外的虚假信息已不再是别人的事。那么，我们来看看关于虚假信息的舆论。

4. EAI舆论调查中显示的假新闻监管舆论

东亚研究所2024年1月调查结果如下，可供设计应对虚假信息的政策参考。

与世界各国人民一样，韩国人中约八成认为虚假信息问题严重，半数人表示曾直接接触过假新闻。“您在最近6个月内是否直接收到或看到过您判断为假的报道？”的回答中，“有”的比例为44.6%，比“没有”（55.4%）低了9个百分点。韩国言论振兴院2021年实施的《2021社交媒体用户调查》中，对于“您使用的社交媒体上是否接触过您判断为虚假或假新闻/时事信息？”的问题，77.2%的人回答“是”。3 东亚研究所的调查结果比言论振兴院的调查结果低很多，原因是否在于“最近6个月”这一条件的限制尚待考证。在直接收到假新闻的经历中，68.0%的人回答“通过门户网站、Facebook、Kakao等互联网”，这表明韩国与世界上许多其他国家一样，将社交媒体视为假新闻的传播渠道。对于假新闻经历者判断其虚假或假新闻的原因（可复选），回答“内容与已知事实或常识不符”（65.3%）、“来源不明确”（43.2%）、“标题过于刺激”（36.5%）、“发布者或信息源不可信”（35.7%）、“与其他来源信息内容不同”（33.2%）等比例较高，而“其他用户的反应负面”（6.3%）或“浏览量高”（4.5%）等原因比例较低。即使接触到假新闻，消极应对也比积极应对更普遍。回答“没有特别应对”（48.2%）、“屏蔽发布假新闻的账号”（32.5%）、“告知他人假新闻的真伪”（25.3%）、“举报发布假新闻的账号”（16.8%）。不作为或屏蔽账号等消极应对措施的数量是告知或举报的积极应对措施的两倍左右。

那么，关于应对虚假信息或假新闻的舆论如何呢？第一，认为应处罚虚假信息者占多数，认为应谨慎考虑言论自由者占少数；年龄越大，处罚意见越强。“虽然存在问题，但试图处罚假新闻可能会限制言论自由，因此不应监管”这一观点的同意者仅为18.4%，不同意者为58.6%（23%的人认为“一般”，持中立态度）。也就是说，认为应监管的意见比不应监管的意见重三倍。按年龄层来看，40岁以上的中老年层认为需要监管，而20-30多岁的人认为必要性相对较低（认为需要监管的同意比例：18-29岁46.0%，30多岁48.2%，50多岁54.9%，60多岁69.8%，70岁以上72.4%）。

<表2> 因为可能限制言论自由，所以不应监管

第二，当询问不同意识形态倾向的YouTube博主、政治家、媒体在假新闻中的责任程度时，政党性显现明显，年龄层之间也存在一定差异。总体而言，人们认为YouTube博主比媒体和政治家负有更大责任。在“完全没有责任”、“不太有责任”、“一般”、“有一定责任”、“非常有责任”这5个量表上提问，回答“有一定责任”和“非常有责任”的比例合计，保守派YouTube博主（67.9%）和进步派YouTube博主（65%）相似。然而，按年龄层来看，认为保守派YouTube博主责任更大的想法在40-50多岁人群中更为强烈，而认为进步派YouTube博主责任更大的想法在60-70多岁人群中更为强烈。但是，民主党支持者中有81.4%认为保守派YouTube博主责任更大，而国民力量党支持者中只有50.9%持相同看法。反之，认为进步派YouTube博主在假新闻中负有更大责任的比例，国民力量党支持者中高达82.2%，而民主党支持者中只有46.1%认为责任更大。

对于执政党政治家和在野党政治家，回答“责任很大”的总比例分别为53.1%和54.8%，相差不大。然而，对于执政党政治家，18-29岁和70岁以上人群认为责任很大的比例低于其他年龄层；对于在野党政治家，18-29岁和50多岁人群的比例有所下降。同样，按政党支持度来看，对政治家虚假信息和假新闻的责任认知存在明显分歧。认为执政党政治家责任很大的比例，在民主党支持者中为69.6%，但在国民力量党支持者中只有32.6%持相同看法。反之，对于在野党政治家的责任，国民力量党支持者的73.3%认为责任很大，而民主党支持者的35.6%持相同看法。

对于保守派媒体和进步派媒体，回答“责任很大”的比例分别为56.4%和55.4%，但按年龄层来看差异显著。对于保守派媒体，中老年层认为责任很大的比例超过6成，但60多岁为51.8%，70岁以上为44.4%。另一方面，对于进步派媒体，60岁以上人群中67-68%认为责任很大，而中老年层中只有约一半，18-29岁中只有44.1%认为责任很大。媒体方面也存在意识形态上的党派性。认为保守派媒体责任很大的比例，民主党支持者中有74.6%持此看法，而国民力量党支持者中只有34.8%持相同看法。反之，认为进步派媒体责任很大的比例，在国民力量党支持者中高达77.9%，而在民主党支持者中仅为35.3%。

<表3> 您认为以下哪些人对制造和传播假新闻或虚假信息负有最大责任？（按支持政党百分比）

第三，关于应对假新闻应承担责任的主体，认为首先制造虚假信息的个人或团体，即“制造者责任论”的观点最为强烈，占40.7%。其次是政治性利用虚假信息的政治家（29.8%）、不加筛选传播虚假信息的平台（15.6%）、明知是虚假信息却传播的个人（8.8%），而认为政府应承担应对责任的意见仅占3.4%。认为制造者或政治家负有应对责任的观点，女性比男性更强烈；关于制造者责任，大学以上学历者比高中及以下学历者稍显更强烈。关于平台应对责任，正义党支持者中赞成比例较高，为26.9%；共同民主党支持者比国民力量党支持者高约6%。关于政治家负有应对责任的观点，在18-29岁年轻群体和70岁以上高龄群体之间存在约14%的差异，分别为23.4%和37.3%。

<表4> 您认为谁应对虚假信息、假新闻承担更多责任？

第四，关于应对假新闻或虚假信息的措施，将散布虚假信息者从平台驱逐获得了最高的同意率79.7%，其次是加强社交媒体企业的责任（76.4%）和处罚分享虚假信息者（72.6%）。同意设立监管机构监控虚假信息的比例仅为64.8%，这与前面关于应对责任在于用户个人和平台企业而非政府的调查结果一致。关于应对措施的回答，按支持政党来看差异不大，但在年龄层上存在差异。平台驱逐在18-19岁年龄段中同意率最低，为66.1%，但随着年龄增长同意率增加，70岁以上人群中同意率为90.2%。加强社交媒体企业责任的观点，在18-29岁年龄段中同意率为59.2%，随着年龄增长同意率增加，70岁以上人群中同意率为89.5%。关于行为处罚，18-29岁年龄段的同意率为60.4%，但随着年龄增长逐渐上升，70岁以上人群中同意率为84.5%。关于设立监管机构，18-29岁年龄段中52.5%表示同意，随着年龄增长同意率在40多岁时略有下降后再次上升，70岁以上人群中同意率为81.6%。设立监管机构在按支持政党来看存在一些差异，共同民主党支持者中61.4%表示同意，而国民力量党支持者中75.2%表示同意。

<表5> 您是否同意需要采取以下措施来应对假新闻或虚假信息？

5. 关于应对虚假信息的建议

由于虚假信息主要通过社交媒体传播，因此对社交媒体的信任度已大大降低。然而，不应将这种不信任舆论解读为需要强力监管社交媒体。因为互联网和社交媒体有时也成为对抗威权主义的空间，并发挥着分享各种信息和意见的公共讨论场所的作用。皮尤研究中心（Pew Research）在2022年对19个发达经济体进行了调查，以了解人们如何看待这种双重性。认为社交媒体对本国民主有益的比例为57%，高于认为有害的35%。在美国、荷兰、法国和澳大利亚，认为有害的比例高于认为有益的比例，而在其他所有国家，认为其对本国民主有积极作用的意见占多数。在韩国，认为社交媒体对韩国民主有益的比例为66%，是认为有害的32%的两倍（Wike et al. 2022）。

积极应对虚假信息是理所当然的，但不能损害言论自由以及民主的开放性和多样性。最好将虚假信息限定在现有法律已规定为非法的信息范围内，并在加强刑事和民事处罚水平时，应先行社会教育。在现有体系下，为监管网络上的虚假信息，加强广播通信委员会或相关部门的功能是完全可以推进的。最重要的是，应通过加强媒体素养教育，帮助互联网用户能够自行判断虚假信息。对于平台企业，由于它们提供了传播虚假信息的渠道，因此应加强技术能力以过滤此类信息，并提高算法的透明度和责任感。可以考虑借鉴DSA的案例，明确责任，不遵守时处以罚款。在修订或制定与虚假信息相关的法律时，应对虚假信息的应对应跨党派推进。在政治两极分化的韩国政治格局下，要使应对虚假信息取得成效，政治和社会共识至关重要。在平衡言论自由与监管的同时，需要关注欧洲国家在应对对政治社会造成危害的虚假信息方面的经验。

另一方面，来自外国的虚假信息流入也已不再是别人的事，而是现实。特别是涉及国家安全和社会安全的内容，需要积极应对。此外，在韩国国内主要选举期间，对于试图损害选举公正性或旨在帮助特定候选人或政党的外国机构或其国内代理人散布的虚假信息，也需要积极应对。因为这会损害韩国社会的民主。应对来自外国的虚假信息的方向，很可能是利用或新设情报机构。在这方面，美国政府的应对可以作为先例，与美国不同，避免情报收集和监管机构分散，将控制塔集中在一个地方的设计似乎更为可取。

应对虚假信息最有效的处方是传统媒体恢复信任。只有当它们恪守以事实为基础的报道伦理并提供客观新闻时，公民才不会将社交媒体作为政治和社会新闻的来源。

6. 参考文献

姜汉德尔。2023年。“通信审议委员会最终终止‘假新闻中心’…‘快速审议’将继续。”《京乡新闻》12月21日。

金汝罗。2020年。“关于第20届国会虚假信息相关立法现状及争论点”《国会立法调查处》。

郑世勋。2017年。“假新闻的定义及国内外应对现状。”《言论仲裁委员会政策讨论会》发言。12月7日。

崔胜弼。2020年。“关于假新闻的规制法理探讨——以媒体相关法律及信息通信网法上的规制为中心。”《公法学研究》21,1: 115-147。

韩国言论振兴财团。2021年。“2021社交媒体用户调查。”12月31日。

宽带委员会。2020年。“平衡法：在尊重言论自由的同时反击数字虚假信息。”工作组报告。9月22日。

欧盟委员会。“打击网络虚假信息。”https://digital-strategy.ec.europa.eu/en/policies/online-disinformation

______。“数字服务法案包。”https://digital-strategy.ec.europa.eu/en/policies/digital-services-act-package

______。“数字服务法案。”https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/digital-services-act_en

______。“DSA指定的大型在线平台和搜索引擎的监管。”https://digital-strategy.ec.europa.eu/en/policies/list-designated-vlops-and-slops

______。“DSA：超大型在线平台和搜索引擎。”https://digital-strategy.ec.europa.eu/en/policies/dsa-vlops

Funk, Allie, Adrian Shahbaz, and Kian Vesteinsson. 2023. “Freedom On the Net 2023: The Repressive Power of Artificial Intelligence.”

Green, Yasmin et al. 2023. “Evidence-Based Misinformation Interventions: Challenges and Opportunities for Measurement and Collaboration.” Carnegie Endowment for International Peace. January 9.

Humprecht, Edda et al. 2023. “The sharing of disinformation in cross-national comparison: analyzing patterns of resilience.” Information, Communication & Society 26, 7: 1342–1362.

Hsu, Tiffany et al. 2024. “Elections and Disinformation Are Colliding Like Never Before in 2024.” New York Times. January 9.

Klippenstein, Ken. 2023. “The Government Created a New Disinformation Office to Oversee All the Other Ones.” The Intercept. May 5.

Morosoli, Sophie et al. 2022. “Identifying the Drivers Behind the Dissemination of Online Misinformation: A Study on Political Attitudes and Individual Characteristics in the Context of Engaging With Misinformation on Social Media.” American Behavioral Scientist 0,0. https://doi.org/10.1177/00027642221118300.

Myers, Steven Lee. 2023. “U.S. Tries New Tack on Russian Disinformation: Pre-Empting It.” New York Times. Oct 26.

Peterson, Erik and Shanto Iyengar. 2021. “Partisan Gaps in Political Information and Information-Seeking Behavior: Motivated Reasoning or Cheerleading?” American Journal of Political Science 65,1: 133–147.

Törnberg, Petter. 2018. “Echo chambers and viral misinformation: Modeling fake news as complex contagion.” PLoS ONE 13(9). https://doi.org/10.1371/journal.pone.0203958/

U.S. Department of State. 2023. “Exporting Pro-Kremlin Disinformation: The Case of Nova Resistencia in Brazil.” Global Engagement Center Special Report. October 19.

_______. 2023. “Disarming Disinformation: Our Shared Responsibility.” Global Engagement Center. October 20.

UNESCO. 2018. “Journalism, ‘Fake News’ and Disinformation: A Handbook for Journalism Education and Training.”

UNESCO. 2023. “Survey on the impact of online disinformation and hate speech.” September.

Wanless, Alica and Jacob Shapiro. 2022. “A CERN Model for Studying the Information Environment.” Carnegie Endowment for International Peace. November 17.

Wike, Richard et al. 2022. “Social Media Seen as Mostly Good for Democracy Across Many Nations, But U.S. is a Major Outlier.” Pew Research Center. December 6.

[1]在制定设立FMIC的法律时，曾有人提出与国务院GEC职能重叠的问题。FMIC的座右铭是“Exposing deception in defense of liberty”（揭露欺骗，捍卫自由）。

[2]据报告，新抵抗运动（Nova Resistencia）是一个活跃于南美、欧洲和北美的“新纳粹”组织，深度介入俄罗斯的虚假信息和宣传生态系统。

■ 作者：李淑钟东亚研究院高级研究员。成均馆大学特任教授。

■ 负责与编辑：朴智秀EAI研究员

    咨询与编辑：02 2277 1683 (分机号 208) | jspark@eai.or.kr