[偽情報と民主主義シリーズ] ③ 虚偽・捏造情報への対応：国際的規制の動向と韓国の対応策

1. はじめに

「フェイクニュース」という言葉は、権力者が自身を批判する反対者たちが「フェイクニュース」を広めていると攻撃する事例が増えるにつれて、国際社会ではもはや使われなくなっている。代わりに「虚偽・捏造情報（disinformation）」という言葉が使われる。虚偽・捏造情報の辞書的な意味は、「意図的に、そしてしばしば隠密に広められる虚偽の情報（メリアム・ウェブスター辞書）」である。誇張された表現や単純な 실수による虚偽情報とは区別される。ヘイトスピーチや嘲笑的な表現も表現の自由の範疇に含め、虚偽・捏造情報とはみなさないのが通例である。虚偽・捏造情報は、偽の写真や動画、あるいは根拠のない主張を通じて情報を歪曲または捏造する「意図」が存在するため、単純な誤報（misinformation）と区別される。ユネスコ（UNESCO）は、虚偽・捏造情報を「個人、社会集団、組織、あるいはどの国にも害を及ぼそうとする意図で作られた虚偽情報」と表現している（UNESCO 2018）。欧州連合（EU）は、虚偽・捏造情報を「欺瞞、あるいは経済的・政治的利益のために虚偽または誤解を招く内容であり、それは公衆に害をもたらすこともある」と定義している（European Commission）。いずれも、欺瞞しようとする「意図」と「害悪」という言葉を入れて、既存の単純な誤報と区別している。しかし、その意図というものは見極めが難しいことから、虚偽・捏造情報と誤報の二つの言葉を区別せずに使用する場合も多い。フェイクニュースは「ニュース」に限定されるため、虚偽・捏造情報の一部に過ぎない。しかし、韓国ではまだフェイクニュースという言葉が法制化の動きや時事的な文脈でも広く通用しているため、ここでは二つの言葉を文脈に応じて両方使用することにする。

虚偽・捏造情報は、権威主義国家では主に政治的反対の正当性を損なう目的、あるいは人種的・宗教的少数集団に対する「排除の政治」のための道具として使用される。このような次元で、「オンライン上の自由（online freedom）」または「インターネット・フリーダム（internet freedom）」という言葉は、デジタル権威主義から民主主義を保護するという意味で主に使われている。フリーダムハウス（Freedom House）は、オンライン・フリーダムが過去13年間下落し続けていると報告しており、権威主義政府は従来の方式で特定のソーシャルメディアアプリやインターネットサービスを遮断するだけでなく、生成型人工知能（Generative Artificial Intelligence）を活用して虚偽・捏造情報を流布させたり、検閲を強化したりしていると見ている。47の権威主義政府がAIを活用して文章、音声、画像などを加工し世論を操作または誤導しており、21カ国ではデジタルプラットフォームに機械学習（machine learning）の搭載を義務付けたり奨励したりして、政治的反対や少数派の声を遮断しているという（Funk, Shahbaz, and Vesteinsson 2023）。

虚偽・捏造情報は、民主主義国家でも広範に発生する。この場合、政府が虚偽・捏造情報の発生源であるというよりは、政治的に二極化した社会が主な発生源となる。民主主義社会で重視される個人の表現の自由を最大限に活用した個人ユーチューバーやソーシャルメディア利用者が、信念や金銭を目的として虚偽・捏造情報を作成または流布する形態である。このような形態の虚偽・捏造情報は、政治的に二極化した社会で横行する。さらには、科学的であるべき気候変動や感染症のような情報も、政治的イデオロギーによって真偽が異なって解釈されるようになった。ソーシャルメディア利用者は、自身が正しいという信念のもと、確証バイアス的に情報を受け取ったり共有したりしながら、虚偽・捏造情報の拡散を助長する。これとは区別される心理状態として、特定の情報が虚偽または誇張されていると認識しているにもかかわらず、敵対的な二大政党政治が構造化されている場合に、自身が支持する政党を助けようとする動機によって虚偽・捏造情報を拡散させることもある（Peterson and Iyengar 2021）。正確な心理状態がどうであれ、世論とネットワークが二極化している場合に、虚偽・捏造情報は相乗効果を発揮しながら拡散する傾向が見られるという（Törnberg 2018）。すなわち、エコーチェンバー現象（echo chamber effect）は、同質的な小さなネットワークに限定されるだけでなく、これらのネットワークと弱い繋がりを持つ同じ陣営のネットワークへと拡散する媒体としての性質を持つようになるのである。

虚偽・捏造情報に関する研究は、個人と社会構造の両方から影響要因を探る。特定のイシューに対する態度を超えて、政治的関心が高い、あるいはソーシャルメディアを頻繁に使用する人々が、虚偽・捏造情報もより多く流布させるという調査結果が出ている（Morosoli et al. 2022）。個人よりも社会的な影響を探ろうとする研究は、極端なイデオロギーが存在し、民主主義の回復力（resilience）を損なう構造的な要因に注目する。例えば、伝統的なメディアよりもソーシャルメディアや代替メディアに依存する社会、あるいはポピュリスト（populist）政党が存在する社会は、虚偽・捏造情報の拡散を助長するという（Humprecht et al. 2023）。

一方、海外からの世論操作のための介入は、民主主義社会でより多く発生する。権威主義国家とは異なり、これらの社会は情報の流れに対する開放性をとるため、海外からの流入情報も遮断しないからである。しかし、2020年の米大統領選挙におけるロシアからの選挙介入が明らかになったことで、米国は外国からの虚偽・捏造情報の流入を国家安全保障の次元で捉え始めた。虚偽・捏造情報は、ウクライナ戦争の事例のように、世界中の人々を対象とした世論戦に活用されることもある。そのため、西側の開放社会は、ロシアや中国のような権威主義強国からの情報流布に対して、安全保障政策の次元で対応しようとしている。

虚偽・捏造情報は、特に選挙がある際に横行する傾向がある。今年は83カ国で選挙が行われ、世界人口の半分が投票するという前例のない政治の年だとニューヨーク・タイムズは伝えている（Hsu et al. 2024/1/9）。これを懸念し、昨年からMeta、YouTube、Xなどでチームを強化し、選挙関連の虚偽情報流布防止のための保護措置を強化し始めたという。ユネスコは、選挙における虚偽・捏造情報の弊害を懸念し、2023年9月に今年の選挙がある16カ国（韓国は含まれていない）の有権者8千人を対象に調査を行った。それによると、先進国では情報をテレビとソーシャルメディアに依存する割合が55%と37%であるが、人間開発指数（Human Development Index, HDI）スコアの低い低開発国ではその割合が37%対68%と、ソーシャルメディアへの依存率が高い。しかし、虚偽・捏造情報が悪影響を及ぼすと考える割合は、発展の程度に関わらず調査されたほとんどの国で高かった。特に、85%の回答者が今年の選挙における虚偽・捏造情報の影響について懸念を表明したという（UNESCO 2023）。韓国人も虚偽・捏造情報の問題を深刻に捉えていることは同様に見られる。東アジア研究所の2024年1月調査によると、韓国人の81.4%がフェイクニュースの深刻性に同意し、60%が自身もフェイクニュースに騙される可能性が高いと考えていた。

前述のユネスコ報告書によると、16カ国の市民は、虚偽・捏造情報やヘイトスピーチに対して、政府（89%）やソーシャルメディアプラットフォーム企業（91%）が選挙期間中に強力に対応すべきだと回答していた。しかし、虚偽・捏造情報を規制することは容易ではない。これらの情報を作成する者や拡散するソーシャルメディア利用者を特定することは困難である。そのため、虚偽・捏造情報の流布に決定的な役割を果たすソーシャルメディアプラットフォーム企業に対する責任強化が、最も頻繁に用いられる処方箋である。あるいは、インターネット利用者が自ら虚偽・捏造情報を見分けられるように、メディアリテラシー（media literacy）市民教育に力を注ぐ場合も多い。さらに、過度に規制に偏ると、デジタルコミュニケーションがもたらす有益な情報の共有や民主化のための連帯にむしろ害を及ぼす可能性もあるため、規制慎重論も少なくない。虚偽・捏造情報を遮断しようとする目的の正当性や、虚偽・捏造情報の規定および規制効果などに対する実証的基盤測定方式の研究を強化すべきだという意見や、より広い情報エコシステムという次元で研究すべきだという意見などがこれに該当する（Wanless and Shapiro 2022; Green et al. 2023）。

このような虚偽・捏造情報への対応の必要性と、過度な規制がもたらす弊害とのバランスを取ることが重要になった。我が国でどのような規制の方向性が望ましいかを考えるために、まず最近の国際的な規制動向を 살펴보기로 한다。

2. 海外の規制動向

2020年の国際電気通信連合（International Telecommunication Union: ITU）とユネスコ広帯域委員会報告書は、デジタル虚偽・捏造情報ライフサイクルを扇動者（Instigators）、代行者（Agents）、メッセージ（Messages）、仲介者（Intermediaries）、対象および解釈者（Targets/Interpreters）（IAMIT）と捉え、それに対する11の対応を次の4つに分類した：1) 虚偽・捏造情報を究明しようとする対応（モニタリングとファクトチェック（monitoring and fact-checking）、調査）、2) 生産者と流布者への対応（立法・政策的対応、国内的・国際的な反誤報（counter-disinformation）キャンペーン、選挙対応（electoral-specific responses））、3) 生産と流布メカニズムへの対応（キュレーション対応（curatorial responses）、技術的アルゴリズム対応、脱金銭化対応）、4) 誤報キャンペーンのターゲット聴衆への対応（倫理的・規範的対応、教育的対応、能力強化と信頼性ラベリング（empowerment and credibility labelling）対応）（Broadband Commission 2020）。

以上の区分が行為者中心の対応体系であるとすれば、鄭世勲（チョン・セフン）は対応方式に重点を置き、法的規制、自主規制、ファクトチェック、リテラシー教育に分け、それらの範囲、主体、長所・短所を以下のように比較している（鄭世勲 2017）。

＜表1＞ 虚偽・捏造情報への対応策別比較

米国と欧州は、これらのカテゴリーの対応の中でも、虚偽・捏造情報の生産者と流布メカニズムに対する法的・政策的な対応をより本格的に開始した。デジタル虚偽・捏造情報が政治的二極化を助長し、パンデミック対処を妨げ、ロシアをはじめとする海外からの影響による選挙介入や安全保障上の脅威を増加させているという問題を共有しているからである。しかし、欧州が表現の自由権と虚偽・捏造情報の規制という二つの問題のバランスを図る法制化と政策 마련に力を注ぐ一方で、米国は外国からの虚偽・捏造情報への早期対応のために、行政府内のメカニズム構築に焦点を当てているという違いが見られる。

2.1 欧州連合の対応

欧州連合は、デジタルサービス法（Digital Services Act: DSA）とデジタル市場法（Digital Market Act: DMA）を2022年10月に制定した。前者はオンライン上の基本権と表現の自由を保護し、後者は欧州単一市場におけるデジタル革新、成長、競争力を強化することを目的としている。2024年2月までに、加盟国は加盟国間の政策調整のため、各国がデジタルサービス調整官（Digital Services Coordinator）を指名することになっている（European Commission）。

EUのDSAは、オンライン上の違法かつ有害な活動および誤報の拡散を防止することを目的として制定された。同法は、利用者の安全、基本的人権の保護、公正で開かれたプラットフォーム環境を構築することを目指している。DSAの規制対象となるのは、オンライン仲介者とプラットフォームであり、市場、ソーシャルネットワーク、コンテンツ共有プラットフォーム、アプリストアなどが含まれる。利用者、プラットフォーム、政府当局間の役割を再定義しようとするアプローチをとっており、その中心には市民を置いている（European Commission）。EU執行部は、法の趣旨を各利害関係者グループ別に説明している。市民に対しては、基本的人権をより良く保護し、統制権と選択権を与え、特に違法コンテンツへの露出を減らし、オンライン上で子供を強力に保護することを目指す。デジタルサービス提供者に対しては、法的明確性とEU全域に適用される統一的な規則を提供し、欧州でスタートアップや中小企業のスケーリングアップを容易にすることを目指す。デジタルサービスを利用するビジネス業界に対しても、プラットフォームを通じたEU全域への市場アクセスを支援し、違法コンテンツ提供者に対抗できる平等な場を 마련することを目指す。社会全体に対しては、システムプラットフォームに対する民主的な統制と監視を可能にし、操作や誤報のようなシステムリスクを低減できると述べている。

DSAは、規制対象をオンラインエコシステム内での役割、規模、影響力に応じて4つに区分し、異なるレベルの規制を適用している。第一は、EUの4億5千万人口の10%以上、すなわち4千5百万人の欧州人を月平均の利用者数として持つ「大規模オンラインプラットフォームと検索エンジン（Very large online platforms, VLOPs）」と「大規模オンライン検索エンジン（Very large search engines, VLOSEs）」である。第二は、販売者と消費者を結びつけるオンラインマーケットプレイス、アプリストア、協同組合的経済プラットフォーム、ソーシャルメディアプラットフォームなどの「オンラインプラットフォーム（Online platforms）」である。第三は、クラウドやウェブホスティングサービスを提供する「ホスティングサービス（hosting services）」である。第四は、インターネットアクセスやドメイン名登録を行うネットワークインフラを提供する「仲介サービス（intermediary services）」である。

規制の核心はVLOPsとVLOSEsである。欧州連合執行部は、2023年2月17日までにオンラインプラットフォーム企業に利用者数を提出させ（これらの企業は6ヶ月ごとに利用者数を更新して報告しなければならない）、それに基づき17社をVLOPsとVLOSEsとして4月に指定した。これらの利用者数が1年間、基準値である月平均4千5百万人を下回った場合、当該企業は指定から除外される。これらの企業の本社がある域内国が、2024年2月17日から調整官の役割を担うことになる。例えば、月平均1億4百万人もの欧州人が利用するオンラインプラットフォームAliExpressの場合、Alibaba Netherlandsが運営しているため、オランダ政府が調整官の役割を担う。月平均3億6千4百万人、4億1千7百万人の欧州人がそれぞれ利用するGoogle SearchとYouTubeは、Google Ireland Ltd.が運営しているため、アイルランド政府が調整官の役割を担うといった具合である（European Commission）。

VLOPsおよびVLOSEsに指定された企業は、4ヶ月以内に以下の事項を遵守しなければならない。第一に、当局と利用者に連絡先を提供し、違法行為があった場合は報告し、利用者フレンドリーな環境を提供し、プロパガンダや推薦システム、コンテンツ調整決定に関して透明でなければならない。第二に、指定された企業は、社会的影響力を考慮して、自身のサービスに関連するシステムリスクを特定、分析、評価しなければならない。特に、違法コンテンツ、表現の自由と報道の自由、多元主義、差別、消費者保護、児童の権利などの基本権、公共の安全と選挙プロセス、ジェンダーに基づく暴力（gender-based violence）、公衆衛生、未成年者保護、精神的・身体的ウェルビーイングなどのリスクに注意を払わなければならない。第三に、企業の特定されたリスクについて欧州連合執行部に監督のために報告された場合、これらの企業はこれらのリスクを低減するための措置を講じなければならない。具体的には、デザインを変更したり、サービス機能や推薦方式を変更したりすることである。これらの企業は、システムリスクをより良く特定できるよう、より多くのリソースを投入してプラットフォームを内部的に強化することができる。第四に、VLOPsまたはVLOSEsと規定された企業は、リスクを確実に特定し低減するための内部統制機能を確立する。少なくとも年に一度以上、独立した会計監査を実施する。そのデータを欧州連合執行部と当局と共有し、DSAを遵守しているか監督・評価できるようにしなければならない。システムリスクを検知、特定、理解できるように、研究者がプラットフォームデータにアクセスできるようにしなければならない。利用者プロファイルに基づかない推薦システムを代替として提供しなければならない。蓄積されたプロパガンダ情報を公開しなければならない。これらの義務を履行しない場合、2024年2月17日から全世界で得た収益の6%までを罰金として支払わなければならない。

注意すべき点は、DSAは違法コンテンツのみを対象としており、オンラインでの脅迫、いじめ、違法ではないヘイトスピーチなどの有害コンテンツは規制対象としていないことである。これは、何が有害コンテンツであるかという論争を避け、自由なオンラインスピーチを制限しないためである。有害であるが違法ではない情報については、代わりにプラットフォーム企業の透明性と責任性を強化してコンテンツをフィルタリングさせる間接的な対応方式をとっている。Calabreseは、英国議会が審議中のオンライン安全法（Online Safety Bill）の制定が表現の自由を害する可能性があるため交渉が難航していることは、厳格な法制定が非常に困難であることを示していると述べている。懸念された通り、ハンガリーのような権威主義国家が虚偽・捏造情報の流布に対して刑事罰で最大5年間の投獄を科せる法律を作り、政府を批判する声を封じ込めようとしているため、刑事罰のような方向での規制強化はむしろ民主主義への逆行を助長しかねないという懸念が大きい。DSAの制定により、域内国家が協力して大規模プラットフォーム企業の責任性を強化することには効果があると思われる。また、EU加盟国は国内法で虚偽・捏造情報に対応している。フランスやドイツは、選挙関連の虚偽・捏造情報やヘイトスピーチに対する規制を数年前に 마련しており、オーストリア、ブルガリア、リトアニア、マルタ、ルーマニア、スペインなど他の欧州諸国も虚偽・捏造情報に対応する規制を導入している最中である。

2.2 米国の対応

米国の場合は、包括的な法案 마련よりも、行政府内に虚偽・捏造情報に対応するためのメカニズム構築により集中しているように見える。2016年の米大統領選挙におけるロシアの介入を機に、監視・監督体制の整備へと法と制度が整備され始めた。米議会は超党派で「外国からのプロパガンダと虚偽・捏造情報対応法（Countering Foreign Propaganda and Disinformation Act）」を2017年に制定し、国務省内にグローバルエンゲージメントセンター（Global Engagement Center, GEC）を設置させた。2017年秋にはFBIが「外国影響力対応チーム（Foreign Influence Taskforce）」を、2018年には国土安全保障省（Department of Homeland Security）が「外国の影響力と干渉対応チーム（Countering Foreign Influence and Interference Taskforce）」およびそれを担当する部（Foreign Influence and Interference Bureau）を設置し、2022年には「虚偽・捏造情報ボード（Disinformation Board）」も追加したという。また国防総省も「影響力と認識管理オフィス（Influence and Perception Management Office）」を新設した。雨後の筍のように様々な省庁に類似した組織が新設されると、相互調整と統一された戦略を立てるべきだという声が高まる中、米国情報機関を統括する最高情報機関である国家情報長室（Office of the Director of National Intelligence, ODNI）内に「外国からの悪意ある影響力対応センター（Foreign Malign Influence Center, FMIC）」が2022年9月に新設された。FMICは、米国選挙を対象とした虚偽・捏造情報だけでなく、米国内世論を対象とする虚偽・捏造情報にも対応している。ここは、ロシア、イランなどからの虚偽・捏造情報に対応する国務省内のGECを情報機関の次元で支援している（Klippenstein 2023/5/5）。[1]

米国務省GECの活動は、ロシアの虚偽・捏造情報に焦点を当てている（U.S. Department of State）。例えば、GEC特別報告書である「ブラジルにおけるクレムリンの虚偽・捏造情報に関する報告書」によると、クレムリンは情報を操作し、反民主的な権威主義イデオロギーを流布するために、公開的または非公開的なネットワークを活用しているという。例えば、Syncretic Disinformation Network（SDN）に属するブラジルのNew Resistance運動[2]とFort Russ News（FRN）およびCenter for Syncretic Studies（CSS）は、ブラジル国内で自生的に作られた組織のように見えるが、ロシアのプロパガンダ工作員によって育成されているという。これらの組織は、ロシアの哲学者アレクサンドル・ドゥギンの新ナチス・イデオロギーを流布させ、極右と極左勢力を結集させて民主主義を不安定にし、ロシアのウクライナ侵攻を支援する戦士を送ろうとしているという（U.S. Department of State 2023）。ニューヨーク・タイムズは、GECがクレムリンの虚偽・捏造情報が社会に広がる前に防止しようと努力しているのは、一度偽の話が拡散すると、それに対処するのがはるかに困難になるからだと述べている（Myers 2023/10/16）。

以上の米国の対応を見ると、虚偽・捏造情報が外国、特にロシア政府とそれに連なる世界各地のネットワークを対象としていることがわかる。すなわち、国内世論よりも国家安全保障の次元で対応しており、そのため特定の国から流入する情報収集と監視および制御活動のために、関連省庁に実行組織を設置していることがわかる。我が国も外国からの虚偽・捏造情報が流入しているという認識が高まっており、北朝鮮と対峙している状況であることから、米国式の対応体系を安全保障の次元で検討する必要がある。

3. 虚偽・捏造情報に対する韓国の対応過程

3.1 最近の対応の動き

フェイクニュースなどの虚偽事実表現行為に対しては、法律によって様々な制限が課されるが、代表的な非刑事的規制としては、言論仲裁法上の規制、民事上の損害賠償がある。また、刑事的処罰としては、名誉毀損罪、公職選挙法上の虚偽事実公表罪がある。このように散在している法的制裁では対応が困難であるという理由で、2018年には後述するフェイクニュース関連の二つの法制定の試みもあった。最近では、大統領や著名な政治家、公職者を対象としたフェイクニュースの弊害が深刻化し、既存の刑事処罰規定では処罰されなかった虚偽事実表現を規制しようとする動きが出始めている。

インターネットメディアと既存新聞社のインターネット記事は、これまで言論仲裁法の適用を受けてきた。放送通信委員会（以下、放通委）に李東官（イ・ドンガン）委員長が就任した後、放通委は虚偽情報を流布した媒体に「ワンス・トライク・アウト」措置をとる案を立法推進すると明らかにした。放通委は、通信審議の対象を拡大し、史上初めてインターネット新聞の虚偽情報審議を公式化し、関連法規の改正に乗り出すとした。放通委は2023年9月初めにフェイクニュース根絶専担チームを発足させ、18日には「フェイクニュース根絶推進方案」を発表した。変化の要点は、放送通信審議委員会（以下、放審委）および国内外のポータル・プラットフォーム事業者（Naver, Kakao, Google, Meta）と共に、フェイクニュース対応官民協議体を立ち上げ、放審委と事業者間の自主規制に基づくファストトラックを構築することにした点である。フェイクニュース迅速審議のためのファストトラックが稼働する手続きは以下の通りである。まず、放審委はホームページ（www.kocsc.or.kr）上に「フェイクニュース通報」専用バナーを運営（9.21～）し、フェイクニュース発生事例を受け付ける。放審委は受け付けた事例のうち、迅速審議の可否を判断し（委員長または在籍委員の3分の1が賛成すれば迅速審議案件に指定）、必要

な場合、事業者に対して書面などで自主規制協力要請を行う。要請を受けた事業者は、その内容を検討した後、当該コンテンツに対して「放審委でフェイクニュース迅速審議中です」という表示をするか、削除または遮断などの措置をとる。

このような規制の動きに対して、放審委の職員たちはセンター運営に反対してきたが、言論の自由を侵害したり、二重規制の懸念があるというのが主な理由である。野党や批判的なメディアも、言論の自由を侵害するとして批判に乗り出した。結局、放審委は迅速審議と一般審議の分類で事務処理が遅延するという批判を受け入れ、昨年末をもってセンターを終了し、全ての 민원（民願）に対して常時迅速審議するという原則のもと、放審委全体で業務を分担して維持することにした（姜漢喆 2023/12/21）。以上の対応は基本的に自主規制方式であり、まだ新たな法的規制の動きはない状態である。

3.2 第20代国会におけるフェイクニュース関連法制定の動き

第20代国会（2016年5月～2020年5月）で議論された虚偽・捏造情報関連法案は43件に達したという。制定案としては、「フェイクニュース対策委員会の構成及び運営に関する法律案」、「フェイクニュース流通防止に関する法律案」、「メディア教育活性化に関する法律案」の3件があり、残りはすべて改正法律案であった。「ディープフェイク」関連の「性暴力犯罪の処罰等に関する法律」と「情報通信網利用促進及び情報保護等に関する法律」の改正案のみが議決されたという（金汝羅 2020）。しかし、フェイクニュース全体を対象とした与野党議員がそれぞれ発議した主要な二つの法案は、国会任期満了により廃案となった。

国会任期満了により廃案となったが、与野党が主導した2つの制定案を 살펴볼 필요がある。2018年4月5日、朴光温（パク・グァンオン）議員ら与党共に民主党議員29人は「フェイク情報流通防止に関する法律」を発議し、続いて5月9日には自由韓国党の姜孝祥（カン・ヒョサン）議員ら野党議員15人が「フェイクニュース対策委員会の構成及び運営に関する法律」を発議した。

「フェイク情報流通防止に関する法律」は、ウェブサイト利用者のフェイク情報流布を禁止し、ウェブサイト運営者にフェイク情報が流布されないようにする義務を負わせる法案である。同法案は、フェイクニュースを「1) 言論仲裁及び被害救済等に関する法律第2条第12号に基づき、言論社が訂正報道などで事実ではないと認めた情報；2) 言論仲裁及び被害救済等に関する法律第7条に基づき、言論仲裁委員会で事実ではないと決定した情報；3) 裁判所の判決などで事実ではないと判断された情報；4) 中央選挙管理委員会が虚偽事実公表、地域・性別卑下および侮辱として削除要請した情報」と規定した。すなわち、フェイクニュースと規定される情報は、既存の法案によって違法とみなされる虚偽・捏造情報なのである。

この法案の主管公共機関は放通委であり、同委員会はフェイク情報の内容を公示し、流布防止のための基本計画を樹立しなければならないと明記している。ウェブサイト利用者は、フェイク情報など他者の権利を侵害する情報をインターネットに流布してはならず、フェイク情報などの流布により他者に損害を与えた場合は、その被害者に損害賠償する責任を負い、フェイク情報など他者の権利を侵害する情報を生産した者は5年以下の懲役または5千万ウォン以下の罰金に処する。一方、ウェブサイト運営者は、フェイク情報がインターネットに流布されないようにしなければならず、フェイク情報に対する利用者の削除要請を処理するための手続きを 마련しなければならず、フェイク情報流布を防ぐ措置をとらない場合は課徴金を賦課すると明記している。利用者がウェブサイト運営者のフェイク情報削除要請処理結果に異議を申し立てると、放送通信委員会がこれを判断し、ウェブサイト運営者はそのウェブサイトで「フェイク情報」の流布防止に関する報告書を放送通信委員会に提出しなければならない。この法案は、違法なフェイクニュースを流布した個人に懲役または罰金を賦課し、ウェブサイト運営者がフェイク情報流布を防ぐ措置をとらない場合は課徴金を賦課する、罰則のある規制法である。ウェブサイト運営者のみを明記しており、大規模プラットフォーム企業と中小規模ウェブサイトを差別しない包括的な形態をとっている。

一方、「フェイクニュース対策委員会の構成及び運営に関する法律」は、法律の目的を「フェイクニュース対策委員会の構成・運営に関する基本的な事項を定めることにより、フェイクニュースの流布を防止し、フェイクニュースによって侵害される名誉、権利またはその他の法益を保護すること」と第1条で明示している。同法は、「フェイクニュース」とは、「政治的または経済的利益のために新聞・インターネット、新聞・放送または情報通信網で生産された虚偽または歪曲された内容の情報であって、「言論仲裁及び被害救済等に関する法律」第2条第15号による言論報道または言論報道と誤認させる内容の情報」をいうと明記しており、共に民主党が発議した法案よりもフェイクニュースの範囲が限定的である。

法案の核心は、フェイクニュースの流布を防止するための政策を総合的・体系的に推進する、国務総理室傘下の「フェイクニュース対策委員会」を新設することである。委員会は、委員長1名を含む約30名の委員で構成されるが、委員は科学技術情報通信部長官、文化体育観光部長官、放送通信委員長、言論仲裁委員会委員長、放送通信審議委員会委員長などの政府関係者と、大韓弁護士協会、韓国新聞協会、韓国記者協会など12の民間団体が推薦した人物で構成される。

フェイクニュース対策の主管機関は二つに分かれており、新聞・インターネット新聞・インターネットニュースサービスにおけるフェイクニュースと関連する流布防止政策は文化体育部長官が、情報通信網と放送におけるフェイクニュースと関連する流布防止政策は放送通信委員長が担当すると指定している。これらの主管機関は3年ごとに所管分野のフェイクニュース流布防止政策に関する分野別計画を樹立し、フェイクニュース対策委員会に提出しなければならない。すると同委員会は、提出された分野別計画を総合してフェイクニュース対策基本計画を樹立・確定するという構造である。フェイク情報流布防止法は、フェイク情報の削除要請、フェイク情報削除などの処理結果に対する異議申し立て、損害賠償、課徴金などを定めているのに対し、フェイクニュース対策委員会法は、行政組織法として委員会型の制度をとり、横断的な協力体制と民間の参加を含んでいる。

この二つの法案以外にも、第20代国会ではフェイクニュースに対応するために情報通信網法改正案が提出された。自由韓国党は2018年7月にも党論として情報通信網法改正案（金成泰（キム・ソンテ）議員が代表発議し、党所属議員109名が参加）で、ポータルなどサービス提供者はフェイクニュースの流布有無を継続的にモニタリングする義務を負い、フェイクニュースを流布すれば7年以下の懲役、モニタリングをしなければ5年以下の懲役などに処するという罰則も新設した。共に民主党は第21代国会である2021年に、フェイクニュース被害救済法として言論仲裁法改正案を推進したことがある。言論が故意または重大な過失で虚偽・捏造報道をした場合、被害額の最大5倍までの懲罰的損害賠償を可能にするのが核心である。国民の力側は「政権に向けた言論の健全な批判に口枷をはめる行為」という趣旨で批判したことがある。

これまで、虚偽・捏造情報に対応しようとする法制定や改正は、すべて論争の対象となり、成功しなかった。与党が発議した法案を野党が政治的目的があるとして、あるいは表現の自由を侵害するという理由で反対した。政権が変わると論理を反転させ、相手党が発議した法案に反対した。一方、市民社会団体は、どの党が主導するかにかかわらず、概ね規制の動きに批判的で反対してきた。

3.3 法制定の難しさ

以上の流れを見ると、フェイクニュースに関する新たな法制定が、以下の理由で困難であるという事実がある。第一に、虚偽・捏造情報への対応は政治的にフレーム化され、政治的合意に至らない点である。政界では、与党が出した法案に対して通常、野党が政治的目的があるとして反対し、政権が変わると立場を反転させ、野党が以前の与党の論理をそのまま主張して反対してきた。このような党派的なアプローチは、政治的合意を困難にし、フェイクニュース対応法制定を座礁させてきたのである。一方、市民社会団体は、一般的にフェイクニュースの弊害があるものの、それを規制するにあたっては過剰規制が招きうる表現の自由および言論の自由という権利を理由に反対の立場をとる。

第二に、法的な次元での論争も、虚偽・捏造情報に対応するための法制定を困難にしている。刑事的規制は、しばしば過剰な規制につながる場合、憲法上保障された言論・出版の自由を侵害する危険がある。虚偽事実摘示名誉毀損罪も、一部構成要件要素である「誹謗の目的」が不明確であり、公職選挙法上の虚偽事実公表罪は、過度に高い法定刑の下限規定により、事実上当選無効が強制され、過剰禁止原則に違反する問題点がある。この点において、崔承弼（チェ・スンピル）は、現行の刑事処罰規定と新たに推進される法案の両方とも、言論・出版の自由を最大限保障しつつ、国民の人格権保護、社会秩序維持、国家安全保障保護といった複数の憲法上の価値を保護できる方向への改善が必要だと主張している（崔承弼 2020）。

第三に、虚偽・捏造情報に対応するための新たな法律が作られたとしても、法執行手段の側面で実効性の確保が容易ではないという事実もある。公共機関が虚偽・捏造情報を生産・流布するソーシャルメディア利用者を追跡するには、技術力やその他のリソースが不足している。そのため、政府はプラットフォーム企業に虚偽・捏造情報をフィルタリングする責任を強化する官民協力や誘導行政を好んできたのである。

しかし、2024年1月の東アジア研究所の調査によると、37.2%の回答者が、ソーシャルメディアまたはその他のオンラインプラットフォームで、選挙または国内政治に関連して外国から流布されたと疑われるフェイクニュースや虚偽情報に接した経験があると回答しており、外国から流入する虚偽・捏造情報が他人事ではない状態になったと見られる。それならば、虚偽・捏造情報に対する世論はどうなっているのか 살펴보기로 한다。

4. EAI世論調査に示されたフェイクニュース規制に関する世論

虚偽・捏造情報に対応するための政策設計に参考となりうる、東アジア研究所の2024年1月の調査で示された結果は以下の通りである。

世界の多くの国の人々と同様に、我が国の国民も8割程度が虚偽・捏造情報が深刻だと見ており、半分はフェイクニュースを直接経験したと回答した。「最近6ヶ月の間に、ご自身がフェイクだと判断するニュースを直接受け取ったり見たりしたことがありますか？」という質問に対し、「ある」という回答が44.6%で、「ない」という55.4%より9%ほど低く出た。韓国言論財団が2021年に実施した『2021ソーシャルメディア利用者調査』によると、「あなたが利用するソーシャルメディアで、虚偽またはフェイクだと判断されるニュース/時事情報を接した経験がありますか？」という質問に77.2%がそうだと答えている。3 東アジア研究所の調査結果が言論財団の調査より数値が大幅に低く出た理由が、「最近6ヶ月」という条件が作用したのかは疑問である。フェイクニュースを直接受け取った経験がある場合、「ポータル、Facebook、Kakaoなどインターネットを通じて」と回答した人が68.0%を占め、フェイクニュースの経路がソーシャルメディアだと指摘するのは、韓国も世界の他の多くの国と同様であった。フェイクニュースの経験者が虚偽またはフェイクだと判断した理由（複数回答）については、内容が知っていた事実や常識と合わなかった（65.3%）、出典が明確でなかった（43.2%）、タイトルが刺激的すぎた（36.5%）、投稿者や情報源を信頼できなかった（35.7%）、他の情報源の情報と内容が異なっていた（33.2%）などが高く、他の利用者の反応が否定的だった（6.3%）や、閲覧数が多かった（4.5%）といった理由は低かった。フェイクニュースに接しても、消極的な対応が積極的な対応よりも一般的であった。「特に何も対応しない」（48.2%）、「フェイクニュースを作成したアカウントをブロックする」（32.5%）、「人々にフェイクニュースかどうかを知らせる」（25.3%）、「フェイクニュースを作成したアカウントを通報する」（16.8%）と回答した。無対応やアカウントブロックのような消極的な対応が、フェイクニュースを知らせたり通報したりする積極的な対応の約2倍多かった셈である。

では、虚偽情報やフェイクニュースへの対応に関する世論はどうであろうか？第一に、虚偽・捏造情報を処罰すべきだという意見が、言論の自由を考慮して慎重になるべきだという意見よりも優勢であることが示され、年齢が上がるにつれて処罰意見が強まった。「問題はあるが、フェイクニュースを処罰しようとすると言論の自由が萎縮する可能性があるため、規制してはならない」という意見に同意する人は18.4%に過ぎず、58.6%が同意しなかった（23%は「普通」と答えてどちらとも言えない意見を示した）。すなわち、規制すべきだという意見に、そうでないという意見よりも3倍の重みが置かれている셈である。年齢層別に見ると、40代以上の壮年層と高齢層では規制が必要だと見る一方、2～30代は必要性を相対的に低く見ている（規制必要同意率が18～29歳46.0%、30代48.2%、50代54.9%、60代69.8%、70歳以上72.4%）。

＜表2＞ 言論の自由が萎縮する可能性があるため規制してはならない

第二に、イデオロギー指向性の異なるユーチューバー、政治家、言論のフェイクニュースに対する責任の度合いを問うと、政党性が強く表れ、世代別にもある程度の差が見られた。全体的には、言論人よりもユーチューバーの方がより責任があると見られていた。フェイクニュースに責任が「全くない」、「あまりない」、「普通」、「やや多い」、「非常に多い」の5段階で尋ねたところ、「やや多い」と「非常に多い」を合わせた割合は、保守系ユーチューバー（67.9%）と進歩系ユーチューバー（65%）で同程度だった。しかし、年齢別に見ると、保守系ユーチューバーに責任が多いという考えは40～50代でより強く、進歩系ユーチューバーに責任が多いという考えは60～70代でより強かった。ところが、共に民主党支持者の81.4%が保守系ユーチューバーに責任が多いと答えたのに対し、国民の力支持者は50.9%のみがそうだと見た。逆に、進歩系ユーチューバーに責任が多いと見た割合は、逆に国民の力支持者は82.2%と圧倒的であったが、共に民主党支持者は46.1%のみが責任が多いと答えた。

与党政治家と野党政治家の場合、責任が多いと答えた全体の割合はそれぞれ53.1%と54.8%で同程度だった。しかし、与党政治家に対しては、18～29歳と70歳以上で責任が多いと答えた割合が他の年齢層より少なく、野党政治家に対しては、18～29歳と50代で割合が低下した。やはり、政党支持別で政治家の虚偽情報とフェイクニュースに対する責任認識が極端に分かれた。与党政治家に責任が多いという割合は、共に民主党支持者では69.6%、しかし国民の力支持者の中では32.6%のみが責任が多いと答えた。野党政治家の責任については、国民の力支持者の73.3%が、しかし共に民主党支持者の35.6%のみが責任が多いと答えた。

保守系言論と進歩系言論に対しては、56.4%と55.4%が責任が多いと答えたが、年齢層別でかなりの差が見られた。保守系言論に対しては、中壮年層では責任が多いという割合が6割を超えたが、60代は51.8%、70歳以上は44.4%のみが責任が多いと答えた。一方、進歩系言論に対しては、60歳以上で67～68%が責任が多いと答えたのに対し、中壮年層では半数程度のみ、18～29歳では44.1%のみが責任が多いと答えた。言論に対してもイデオロギー的な政党性が見られる。保守系言論に責任が多いという点について、共に民主党支持者の74.6%が責任が多いと答えたが、国民の力支持者では34.8%のみがそう見た。逆に、進歩系言論に責任が多いと答えた割合は、国民の力支持者層では77.9%に達するが、共に民主党支持者層の場合は35.3%に過ぎなかった。

<表3> フェイクニュース、あるいは虚偽情報の生成と流布に、次の人々がどれほど責任があると考えますか？（支持政党別 %）

第三に、虚偽情報への対応に責任を負うべき主体については、最初に虚偽情報を作り出した人や団体、すなわち生産者責任論が40.7%で最も強く示された。次いで、虚偽情報を政治的に利用する政治家（29.8%）、虚偽情報をフィルタリングせずに流布するプラットフォーム（15.6%）、虚偽情報だと知りながら流布する個人（8.8%）と続き、政府が対応の責任を負うべきだという意見はわずか3.4%に留まった。生産者や政治家が対応責任を負うという見解は、男性より女性の方が強く、生産者責任については大卒以上の学歴者が高卒以下の学歴者よりやや強く支持した。プラットフォームの対応責任については、正義党支持者が26.9%と高く賛成する傾向があり、共に民主党支持者は国民の力支持者より約6%高く支持した。政治家が対応責任を負うという見解には、18～29歳層と70歳以上層の間に23.4%と37.3%で約14%もの差が見られた。

<表4> 虚偽情報、フェイクニュースに対応するために、誰がより責任を負うべきだと考えますか？

第四に、フェイクニュースや虚偽情報への対応措置としては、虚偽情報流布者のプラットフォーム追放が最も高い79.7%の同意を得ており、続いてソーシャルメディア企業の責任強化（76.4%）、虚偽情報共有者の処罰（72.6%）がその次に高い同意率を示した。虚偽情報を監視する監督機関の創設に同意する割合は64.8%に留まり、対応責任が政府よりも利用者個人とプラットフォーム企業にあるという先の調査結果と軌を一にした。対応措置への回答は、支持政党別には大きな差は見られなかったものの、年齢層別には差が見られた。プラットフォーム追放については、18～19歳で最も低い66.1%が賛成したが、年齢が上がるにつれて同意率が増加し、70歳以上では90.2%が賛成した。ソーシャルメディア企業の責任強化についても、18～29歳で59.2%だったものが年齢が上がるにつれて同意率が高まり、70歳以上では89.5%が賛成した。行為者の処罰については、18～29歳で同意率が60.4%だったが、次第に上昇し、70歳以上では84.5%が賛成した。監督機関の創設については、18～29歳で52.5%が賛成し、年齢が上がるにつれて同意率が40代でやや鈍化した後再び上昇し、70歳以上では81.6%が賛成した。監督機関の創設は、支持政党別に見るとやや差が見られ、共に民主党支持者の61.4%が賛成したのに対し、国民の力支持者は75.2%が賛成している。

<表5> フェイクニュースや虚偽情報に対応するために、以下の措置が必要であることに同意しますか？

5. 虚偽・捏造情報への対応に関する提言

虚偽・捏造情報が主にソーシャルメディアを通じて流布されるため、ソーシャルメディアへの信頼度は著しく低下した。しかし、不信世論を強力なソーシャルメディア規制へと直結させてはならない。インターネットとソーシャルメディアは、権威主義に対抗する空間となることもあり、多様な情報と意見を共有できる公論の場としての役割も果たすからである。こうした両面性をどのように認識しているか、ピュー・リサーチ（Pew Research）が19の先進経済国で2022年に調査した。ソーシャルメディアが自国の民主主義にとって良いという回答は57%で、悪いという回答35%を上回った。米国、オランダ、フランス、オーストラリアでは悪いという回答がよいという回答よりも多かったが、その他の全ての国では自国の民主主義に良い影響を与えているという意見が優勢であった。韓国では、ソーシャルメディアが韓国の民主主義に良いという回答が66%で、悪いという回答32%の2倍となった（Wike et al. 2022）。

虚偽・捏造情報に積極的に対応することは当然であるが、表現の自由と民主主義の開放性および多様性を損なうことがあってはならない。虚偽・捏造情報は、既存の法律で違法と定められた情報に限定するのが望ましく、刑事的・民事的な処罰レベルを強化する場合は、社会的な教育を先行させることが望ましい。既存のシステムの下でも、オンライン上の虚偽・捏造情報を監督するために放送通信委員会（방통위）や関連部署の機能を強化することは十分に推進可能である。何よりもメディアリテラシー教育を強化し、インターネット利用者が虚偽・捏造情報を判断できるように支援する必要がある。プラットフォーム企業に対しては、それらが虚偽・捏造情報を流布する窓口を提供している以上、こうした情報をフィルタリングできるように技術力を強化し、アルゴリズムの透明性と責任性を高めるべきである。DSAの事例のように、責任を明確にし、従わない場合には罰金を科す方法を検討すべきである。虚偽・捏造情報に関連する法を改正または制定する際には、虚偽・捏造情報への対応は超党派的に推進されなければならない。政派的に二極化している韓国の政治地政学の下で、虚偽・捏造情報への対応が効果を上げるためには、政治的・社会的な合意が非常に重要である。表現の自由と規制との間でバランスを取りながら、政治的・社会的に害悪を及ぼす虚偽・捏造情報に対応しようとする欧州諸国の事例に注目する必要がある。

一方、外国からの虚偽・捏造情報の流入も、もはや他人事ではなく現実となっている。特に国家安全保障および社会安全に関連するコンテンツには、積極的な対応が必要である。また、国内の主要な選挙時期に選挙の真実性を損なおうとしたり、特定の候補者や政党を利しようとしたりする外国機関またはその国内代理人からの虚偽情報に対しても、積極的に対応する必要がある。これは韓国社会の民主主義を害する行為だからである。外国からの虚偽・捏造情報に対応する方向性としては、情報機関を活用または新設することが考えられる。この点においては、米国政府の対応が先例となり得るだろう。米国のように、情報収集と監督機関の分散を避け、コントロールタワーを一元化する設計が望ましいと考えられる。

虚偽・捏造情報に対する最も効果的な処方箋は、伝統的な報道メディアが信頼を回復することである。徹底的に事実に根差した報道倫理を守り、客観的なニュースを提供することによって、市民はソーシャルメディアを政治的・社会的なニュースの源泉として利用しなくなるだろう。

6. 参考文献

カン・ハンドゥル. 2023. 「放送通信審議委員会、ついにフェイクニュースセンターを終了…「迅速審議」は継続」『京郷新聞』12月21日。

キム・ヨラ. 2020. 「第20代国会の虚偽・捏造情報関連立法現況及び争点」『国会立法調査処』。

チョン・セフン. 2017. 「フェイクニュースの定義及び国内外対応現況」『言論仲裁委員会政策討論会』発表。12月7日。

チェ・スンピル. 2020. 「フェイクニュースに対する規制法的検討 - 言論関連法及び情報通信網法上の規制を中心に」『公法学研究』21,1: 115-147。

韓国言論振興財団. 2021. 「2021ソーシャルメディア利用者調査」12月31日。

Broadband Commission. 2020. “Balancing Act: Countering Digital Disinformation While Respecting Freedom of Expression.” Working Group Report. September 22.

Euroepan Commission. “Tackling online disinformation.” https://digital-strategy.ec.europa.eu/en/policies/online-disinformation

___________________. “The Digital Services Act package.” https://digital-strategy.ec.europa.eu/en/policies/digital-services-act-package

___________________. “The Digital Services Act.” https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/digital-services-act_en

___________________. “Supervision of the designated very large online platforms and search engines under DSA.” https://digital-strategy.ec.europa.eu/en/policies/list-designated-vlops-and-slops

___________________. “DSA: Very large online platforms and search engines.” https://digital-strategy.ec.europa.eu/en/policies/dsa-vlops

Funk, Allie, Adrian Shahbaz, and Kian Vesteinsson. 2023. “Freedom On the Net 2023: The Repressive Power of Artificial Intelligence.”

Green, Yasmin et al. 2023. “Evidence-Based Misinformation Interventions: Challenges and Opportunities for Measurement and Collaboration.” Carnegie Endowment for International Peace. January 9.

Humprecht, Edda et al. 2023. “The sharing of disinformation in cross-national comparison: analyzing patterns of resilience.” Information, Communication & Society 26, 7: 1342–1362.

Hsu, Tiffany et al. 2024. “Elections and Disinformation Are Colliding Like Never Before in 2024.” New York Times. January 9.

Klippenstein, Ken. 2023. “The Government Created a New Disinformation Office to Oversee All the Other Ones.” The Intercept. May 5.

Morosoli, Sophie et al. 2022. “Identifying the Drivers Behind the Dissemination of Online Misinformation: A Study on Political Attitudes and Individual Characteristics in the Context of Engaging With Misinformation on Social Media.” American Behavioral Scientist 0,0. https://doi.org/10.1177/00027642221118300.

Myers, Steven Lee. 2023. “U.S. Tries New Tack on Russian Disinformation: Pre-Empting It.” New York Times. Oct 26.

Peterson, Erik and Shanto Iyengar. 2021. “Partisan Gaps in Political Information and Information-Seeking Behavior: Motivated Reasoning or Cheerleading?” American Journal of Political Science 65,1: 133–147.

Törnberg, Petter. 2018. “Echo chambers and viral misinformation: Modeling fake news as complex contagion.” PLoS ONE 13(9). https://doi.org/10.1371/journal.pone.0203958/

U.S. Department of State. 2023. “Exporting Pro-Kremlin Disinformation: The Case of Nova Resistencia in Brazil.” Global Engagement Center Special Report. October 19.

________________________. 2023. “Disarming Disinformation: Our Shared Responsibility.” Global Engagement Center. October 20.

UNESCO. 2018. “Journalism, ‘Fake News’ and Disinformation: A Handbook for Journalism Education and Training.”

UNESCO. 2023. “Survey on the impact of online disinformation and hate speech.” September.

Wanless, Alica and Jacob Shapiro. 2022. “A CERN Model for Studying the Information Environment.” Carnegie Endowment for International Peace. November 17.

Wike, Richard et al. 2022. “Social Media Seen as Mostly Good for Democracy Across Many Nations, But U.S. is a Major Outlier.” Pew Research Center. December 6.

[1]FMICを新設する法律制定時に、国務省のGECと機能が重複するという問題提起があったとされる。FMICのモットーは「Exposing deception in defense of liberty」である。

[2]新抵抗運動（Nova Resistencia）は南米、欧州、北米で活動するネオナチ組織であり、ロシアの虚偽・捏造情報およびプロパガンダ・エコシステムに深く関与していると報告されている。

■著者:イ・スクジョン東アジア研究院シニアフェロー。成均館大学特任教授。

■ 担当・編集:パク・ジス, EAI研究員

　お問い合わせ・編集: 02 2277 1683 (ext. 208) | jspark@eai.or.kr