[EAIフェイクニュース会議] 虚偽・捏造情報への対応：国際的規制の動向と韓国の対応策

YouTubeリンク：https://www.youtube.com/watch?v=0qqPCvui9_g

編集者注

イ・スクジョンEAIシニアフェロー（成均館大学特任教授）は、韓国も海外から流入する虚偽・捏造情報の脅威に直面していると指摘し、国際的な規制の動向分析に基づいた積極的な対応策の策定を提言しています。イ・スクジョンシニアフェローは、欧州連合（EU）がデジタルサービス法（Digital Service Act: DSA）を制定し、報道の自由を最大限保障する範囲内で、意図的に虚偽・捏造されたニュースを伝達する不法なコンテンツおよびその流通プラットフォーム企業を規制・処罰の対象としている一方、米国は包括的な法案策定よりも、行政府内に虚偽・捏造情報対応メカニズムを構築することに注力していると説明しています。韓国は、こうした国際規制の流れの中で、自国のメディア環境に合った規制と機構を構築して積極的に対応すべきであり、民事・刑事上の処罰レベルの強化よりも、社会的な教育とメディアリテラシー教育の強化が先行されるべきだと強調しています。

発表全文

ダウンロード：  発表全文 / 発表資料

html

f2e34dd1a320d063

f2e34dd1a320d063

Replace "your_pdf_file.pdf" with the actual filename and path of your PDF file

発表全文

イ・スクジョン（EAIシニアフェロー）：タイトルを「虚偽・捏造情報への対応、国際的規制の動向と韓国の対応策」としましたが、このように定めた理由があります。私が国際的に活動する市民社会と多くの仕事をする中で、国際社会で使われている用語でまず整理する必要があると感じたからです。国際社会ではフェイクニュースという言葉はあまり使われていません。ディスインフォメーション（disinformation）は、先ほどある教授が「誤情報」と仰いましたが、検索してみると韓国では「虚偽・捏造情報」と多く翻訳されています。そのため、私もディスインフォメーションという外来語を使うのではなく、「虚偽・捏造情報」に統一したいと思います。フェイクニュースをなぜあまり使わないかというと、そこには意図的なものも含まれるからです。私が関与する民主主義を擁護する社会が多く、権威主義的な政府がフェイクニュースというレッテルを貼って弾圧するケースが増えています。そのため、悪意を持って利用されることもあり、より（フェイクニュースという言葉の使用を）避ける傾向にあります。まず、ある教授が指摘されたように、ディスインフォメーションと言うと、虚偽の写真、動画、根拠のない主張なども含まれるため、より広い意味で使われています。特にディープフェイクで作られた偽の動画が多く、最近では人工知能（AI）が映像や声までそっくりに作っていますが、それを判読するのがますます難しくなっているとのことです。そのため、フェイクニュースはディスインフォメーションの小さな一部であると言えます。また、国際社会はディスインフォメーション、すなわち虚偽・捏造情報とミスインフォメーション（misinformation）の2つを区別しており、ミスインフォメーションは単純な誤報で、意図しないものを主に指します。

つまり、ディスインフォメーションは、欺瞞しようとする意図（intention to deceive）、すなわち意図が重要な役割を果たします。そのため、私たちがフェイクニュースと混同しやすい概念として、ヘイトスピーチ（hate speech）や嘲笑的なパロディ表現がありますが、これらは通常ディスインフォメーションとはみなされません。これらは個人の表現の自由の領域として扱われます。一般的に不法とみなされるコンテンツに限定されることが多いです。メリアム・ウェブスター（Merriam-Webster）辞書の定義を見ると、「意図的に、またしばしば秘密裏に広められる虚偽の情報」となっており、欧州連合では「欺瞞したり、経済的または政治的な利益のために虚偽または誤解を招く公共の害を引き起こすコンテンツ」と述べています。韓国ではフェイクニュースという言葉が使われてきたため、フェイクニュースについて統一された定義があるかと問われれば、そのような定義はありません。そのため、韓国コンテンツ振興院は、意図的に操作された写真や映像を嫌悪目的で、あたかも記事のように偽って作り上げた嘘、扇動であると述べています。

実は2018年に2度のフェイクニュース関連法制化の動きがありました。「フェイクニュース流通防止に関する法律案」では、フェイクニュースを明確に定義しないまま、既存の法律に違反するものをフェイクニュースと表現しました。そして当時の野党であった自由韓国党が発議した「フェイクニュース対策委員会の構成及び運営に関する法律案」では、フェイクニュースを政治的または経済的な利益のために新聞、インターネット新聞、放送または情報通信網で生産された虚偽または歪曲された内容の情報であると述べています。後ほど述べますが、これら2つの法案はいずれも十分な議論がなされずに廃案となりました。

私の研究テーマを「虚偽・捏造情報を巡る規制問題」と設定しました。この規制は困難です。多くの場所で表現の自由を脅かすという理由から、広範な規制には自制が求められています。また、政派による認識や解釈が、先ほど多くの教授がデータに基づいてお話しされたように、政治的に二極化した社会では、韓国と同様に、自分が本当に信じていることや、支持する政党を支援するためにフェイクニュースを受け入れます。さらに、これを規制する法律を策定したとしても、執行が困難です。そのコストが大きいため困難であり、また、先ほど申し上げたように、規制が権威主義的な政権によって悪用される可能性があります。

では、海外では規制の範囲をどのように定めているのでしょうか。国際電気通信連合（International Telecommunication Union: ITU）とユネスコ広帯域委員会（Broadband Commission for Sustainable Development）の報告書は、4つの側面からアプローチしています。まず、虚偽・捏造情報が何であるかを認識する必要があります。そのため、解明するための対応は、通常、モニタリングとファクトチェックです。韓国でもファクトチェックを行う機関があります。ソウル大学内にもあり、これらが一つのカテゴリーになるでしょう。第二に、生産者・流布者への対応です。これは主に立法的または政策的な対応になります。第三に、生産・流通メカニズムへの対応です。これは技術的なキュレーションアルゴリズムや、収益化を阻止することなどの対応になります。そして第四に、誤報キャンペーンのターゲットとなる聴衆への対応です。これは教育的なものや、信頼性のある名称を付与することなどが含まれます。別の研究者は、対応方式による比較として、法的規制、自主規制、ファクトチェック、リテラシー教育を挙げ、それぞれの主体による長所・短所をまとめた表を作成しています。皆様にご覧いただければと思います。

次に、私が関心を持ったのは、欧州連合（EU）がどのように対応しているかを検討することでした。欧州の主要国は、ディスインフォメーションに対応するための法律を国内で制定しました。EU全体で27の加盟国すべてがこの法律の適用を受けることになりますが、2022年10月に制定されました。そこで、このDSA（Digital Service Act）について簡単に紹介すると、今年の2月までにEUのすべての加盟国は、政策調整のために各国のデジタルサービス調整官を指名することになっています。つまり、「あなたはこの役割を担ってください」という一つのポジションが作られました。

重要なのは、規制対象が様々であるということです。オンライン仲介プラットフォーム、マーケットプレイス、ソーシャルネットワークなどが含まれます。最も重要なのは、ここで影響力の大きいプラットフォーム企業が規制対象となることです。非常に大規模なオンラインプラットフォーム（Very Large Online Platform: VLOP）と、非常に大規模なオンライン検索エンジン（Very Large Online Search Engines: VLOSEs）の2つが主要な規制対象となります。EUでどれほど大きい規模か気になるかと思いますが、EU人口4億5千万人の10%以上を占める規模を月平均利用者数として持つものが、大規模なオンラインプラットフォームと検索エンジンであり、これらが主要な規制対象となります。では、これらの規制対象に対して、指定された事業者が行うべきことがあります。

事業者は、これらのリスクを自ら特定し、欧州連合執行委員会に監督のために報告し、リスクを軽減するための措置を講じなければなりません。様々な措置がありますが、これらの義務を果たさない場合、今年の2月17日から、全世界で得た収益の、EU域内のみならず、全世界で得た収益の6%までを罰金として支払うことになります。つまり、最近欧州のある国で選挙があったと仮定し、ソーシャルメディアがこの選挙でディスインフォメーションをフィルタリングしなかった場合、その事業者は6%の罰金を科されることになります。

米国の場合とは異なります。欧州では、表現の自由を守りながら規制も行おうとするバランスを取ろうとしており、主にプラットフォーム企業を対象に規制していますが、米国は個人の自由をより尊重しています。その代わり、ディスインフォメーション、主に外国からのプロパガンダや虚偽・捏造情報に対応しています。そのため、様々な部署が対応していますが、特に2017年に外国からのプロパガンダ・虚偽・捏造情報対応法が国会で制定され、韓国で言えば外務省にあたる国務省内に、グローバル・エンゲージメント・センター（Global Engagement Center: GEC）が設置され、このディスインフォメーションに対応しています。FBI、国土安全保障省、国防総省など、多くの部署が設置されています。

そのため、あまりにも多くの部署があるため、どのように調整するのかという問題から、国家情報長官室（Office of the Director of National Intelligence: ODNI）内に、外国からの悪意ある影響力への対応センターであるFMIC（Foreign Malign Influence Center）が2022年9月に新設され、ここで大きな調整役を担っています。欧州連合が域内国家の社会内で発生していることに焦点を当てているのに対し、米国はディスインフォメーションが海外からの介入である場合に、国家安全保障や選挙への干渉などに対して主に介入しています。

韓国の場合、フェイクニュースへの対応について、2008年に李明博（イ・ミョンバク）政権下で規制しようとした際に、自主規制のために韓国インターネット自主政策機構（Korea Internet Self-Governance Organization: KISO）という自主政策機構が作られました。しかし、これは会員企業のみを対象としていたため不適切であり、第20代国会では2つの法案が提出されました。

現在のEAIの調査で示された規制に関する世論について申し上げますと、個人の報道の自由を保護するか、それともそれでも規制するかという質問に対し、表現の自由を侵害するリスクがあっても対応すべきだという世論が強いという結果が私たちの調査で示されました。特に、年齢が上がるにつれて、国民の力支持層において規制世論が強いことが分かりました。

第二に、規制に関する世論データでは、まず先生方も言及されましたが、誰がより責任があるのか、YouTuber、政治家、メディアなど、皆責任がありますが、特に保守系の政治家、保守系メディア、保守、あるいは進歩という言葉を付け加えると、イデオロギー的な隔たりが大きく、20%もの差が見られます。したがって、どれほど政派的に互いに責任があると考えているかをご覧いただけると思います。

第三に、規制に関する調査で示されたのは、責任の主体です。ここを見ると、情報を生成した人や団体、すなわち生産者への責任論が、韓国の人々は強く持っています。次に、それを利用する政治家、そしてそれをフィルタリングしないプラットフォーム、さらにそれを拡散する個人や政府への責任は3.4%しか出ていません。政府が積極的に規制することに対しても、それほど積極的ではありません。どのように対処すれば良いかという具体的な規制措置がありますが、そのような人々を追放するというものがあります。そして、追放するという意見が多くの支持を得ました。しかし、個人を追放するということは、実際には容易ではないのではないでしょうか。そのため、これを規制することは困難であると申し上げることができます。

結論に移ります。虚偽・捏造情報が法的に規制されにくい理由は、政派的であるため、どんなに試みてもうまくいかない側面があり、自主規制や官民協力が良いと考えられますが、これらも非常に不十分です。今回、迅速対応メカニズムを導入しようとしましたが、政治的な混乱も生じ、停滞している状態です。これは導入することが望ましいと考えられます。そして、ハン・ギュソプ先生の意見に同意しますが、西洋で言うディスインフォメーションと私たちのフェイクニュースには違いがあります。西洋では既存のメディアもそれほど多くなく、メディアがディスインフォメーションを生成する主体ではないため、ソーシャルメディアプラットフォームに責任を問います。韓国では、（メディア）登録業者が1万社もあると言われています。そして、インターネットメディアの主要なメディア企業が、フェイクニュースの生産や拡散の役割を担っているため、これらをどのようにうまく規制するかが鍵となるでしょう。

それにもかかわらず、プラットフォーム企業も、韓国でもDSAのように罰金制を強化するのが良いと考えられます。イム・ソンハク教授の発表にあったように、外国からの虚偽・捏造情報については、情報機関が少しずつ対応策を講じていると聞いています。メディアに対する市民教育が必要であることは言うまでもありません。また、伝統的なメディア機関の信頼回復が最も重要でしょう。以上で終わります。■

■ イ・スクジョン：東アジア研究院シニアフェロー。成均館大学特任教授。

■ 担当・編集：キム・ソニ、EAI上級研究員、パク・ジス、EAI研究員

   問い合わせ：02 2277 1683 (内線 208) | jspark@eai.or.kr