【ADRN Issue Briefing】韓国におけるディープフェイク性犯罪の増加と最近の法的対応

ディープフェイク性犯罪に対する韓国の脆弱性

2024年10月、韓国の裁判所はディープフェイク性犯罪の加害者に対し、懲役10年の判決を下した。首謀者はソウル大学の卒業生である40歳の男で、女子学生ら1,852人分のディープフェイク写真や動画を作成・配布した。犯罪グループはTelegram上に200以上のチャットルームを開設し、4年間にわたり犯行を続けた。彼らは不正なポルノグラフィーから利益を得るのではなく、性的な欲求を満たすために犯行に及んだ（Kim 2024a）。メディア報道では、この犯罪は、普通の学生が試験に合格できなかったり、就職や結婚ができなかったりして、歪んだ性的認識を持つようになり、性犯罪者へと変貌した結果であると特徴づけられた。裁判所はまた、「加害者は、社会的に成功した女性に対する劣等感や憎悪を、歪んだ形で匿名で表現した」と指摘した。2019年のいわゆる「N番房事件」（Telegramチャットルームを通じた組織的な性的虐待資料の配布に関与）に続くこの事件は、ディープフェイクのような新技術と連動してデジタル性犯罪が進化していることを示している。

ディープフェイク性犯罪は学校にも浸透している。2024年1月から9月にかけて、学校から434件の性的虐待資料に関する通報があり、そのうち350件が教育省によって捜査に referral された（Ministry of Education 2024-09-09）。2024年1月から10月にかけて逮捕されたディープフェイク性犯罪者474人のうち、381人が未成年者であった（Lee 2024a）ことは、未成年者がディープフェイク性犯罪の被害に遭いやすいだけでなく、加害者の大多数も未成年者であることを示している。

人工知能（AI）技術の急速な進歩は、ディープフェイク性的虐待資料の世界的な蔓延と並行して進んでいる。米国のサイバーセキュリティ企業による報告書は、ディープフェイクポルノの数が2022年の3,725件から2023年には21,019件へと大幅に増加したことを明らかにした。注目すべきは、これらの動画の99％が女性を標的としていたことである。同報告書はまた、ディープフェイクポルノに登場する人物の約53％が韓国人であり、最も頻繁に登場する人物の上位10人のうち8人が韓国の歌手であったことを明らかにしている（Security Hero 2024）。被害者と加害者の国籍が異なる場合があることに留意すべきである。それにもかかわらず、これらの発見は、高度にデジタル化された韓国社会がディープフェイク性犯罪に対して脆弱であること、そして法的および社会的な対応が急務であることを示している。

デジタル性犯罪は、女性の基本的的人権に対する重大な侵害とみなされている。被害者は、精神的な苦痛だけでなく、身体的な衰弱やそれに伴う症状も経験したと報告されている（Women’s Human Rights Institute of Korea 2023）。さらに、デジタル性犯罪は、女性の社会的・職業的活動の抑制など、相当な社会的コストをもたらす可能性もある。Telegramチャットルームでディープフェイク性犯罪の事例を報じた女性ジャーナリストを標的にすることは、彼女らの個人的権利と報道の自由の両方に対する脅威である。

ディープフェイク性犯罪の増加に対する法的対応

繰り返し行われ、広範囲に及ぶ被害は、資料の複製と配布を伴うデジタル性犯罪の特徴である。それが国境を越えてサイバー空間で発生するため、検出や損害の完全な回復は困難である。さらに、被害者が犯罪を認識するまで、あるいは全く認識しないまでには時間がかかる場合がある。これらの犯罪の性質に対応するため、いくつかの先進民主主義国は以下の措置を実施している。

米国では、ディープフェイク性犯罪を連邦レベルで犯罪化する法制化が進められている。非合意のデジタル偽造を規制する「DEFIANCE Act」は、2024年7月に上院を通過し、現在下院で審議中である。この法案は、原告がディープフェイク性的虐待に対して民事訴訟を通じて救済を求めることを可能にする。また、裁判所が懲罰的損害賠償を課したり、資料の削除と破棄を命じたりすることを可能にする。さらに、この法制化は、原告が仮名を使用することを許可するなど、被害者のプライバシーを保護するための措置を提供している。加えて、「DEEPFAKES Accountability Act」が2023年9月に下院に提出された。この法案は、個人を屈辱または嫌がらせする意図でディープフェイク性的虐待資料を作成・配布した場合に、罰金または禁錮刑を科すものである。カリフォルニア州、テキサス州、ニューヨーク州を含むいくつかの州では、ディープフェイク性犯罪に対する民事訴訟および刑事罰を認める法律がすでに制定されている。

2024年5月、欧州理事会は人工知能法を承認し、AIを4つのリスクレベルに分類した。ディープフェイクは「限定的リスク」としてレベル2に分類される。同法の主な目的はより高いレベルを規制・禁止することであるが、レベル2にも対応している。例えば、第50条はAIシステムに透明性義務を課し、ディープフェイクで生成された結果であることを開示することを要求している。さらに、デジタルサービス法は、主要なオンラインプラットフォームおよび検索エンジンの義務を詳述している。また、ディープフェイクの公開時のラベル付けと、ジェンダーに基づく暴力のリスクの少なくとも年次評価の実施、および適切な対抗措置の実施を義務付けている。

英国とオーストラリアも、同意なしに他人の親密な画像や動画（ディープフェイクを含む）を配布または配布を脅迫することを犯罪とする法律を制定している。さらに、オンラインプラットフォームおよび検索エンジンは、違法情報の拡散リスクを軽減するための報告・対応システムを実装する義務を負っている。カナダ政府は、ディープフェイクの作成と配布を防ぐための技術研究開発に投資している（Lawson 2023）。これらの国々は、ディープフェイクポルノの作成と配布を犯罪とするだけでなく、そのような活動を助長するオンラインプラットフォームに対しても積極的な犯罪対策を講じている。韓国では、刑罰の強化とともに、ディープフェイク性的虐待資料の配布を根絶するための積極的な措置が必要である。

韓国の場合、国内のステークホルダーは、ディープフェイク犯罪に対する明確な定義と罰則を提供する法律を提唱してきた。2020年3月に改正された「性犯罪処罰法」は、配布の意図をもってディープフェイクを作成または配布した個人を処罰することを規定している。同時に、インターネット通信を規制する改正法は、インターネットサービスプロバイダーに違法動画コンテンツの配布を防ぐための措置を実装することを義務付けている。しかしながら、罰則が十分に厳格ではないことが観察されている。法律施行以来4年間で、起訴された者の39％が執行猶予付きの判決を受けた。実刑判決が下されたほとんどのケースは、ディープフェイク犯罪自体以外の追加的な罪状が加わったものであった（Kim 2024b）。この文脈において、ソウル大学のディープフェイク事件の首謀者に下された最近の懲役10年の判決は、司法が検察の求刑を異例にもすべて受け入れたことを考慮すると、重大な刑罰とみなされた。

ディープフェイクポルノ事件が世論の強い非難を浴びるにつれて、立法府はより厳しい処罰で対応した。2024年10月、「性犯罪処罰法」が改正され、配布の意図がない場合でもディープフェイクポルノの作成が犯罪化され、作成および配布に対する最高刑期も引き上げられた。新しい法律は、ディープフェイクポルノの所持、購入、保管、視聴も犯罪化する。さらに、国は違法資料の削除を促進し、被害者を支援する責任を負うことになった。その後、捜査機関がデジタル性犯罪の秘密捜査を実施することを許可する法律が可決された。

一部の政治家は、メディア報道がディープフェイク性犯罪の脅威を誇張していると主張し、過剰な規制への懸念を表明している。彼らは、ディープフェイクポルノを合成するボットを持つTelegramチャンネルの購読者22万人を、韓国のディープフェイク性脅迫加害者と同数と結論付けるのは誇張であると指摘した。Telegramユーザーの国籍を特定することの難しさを考慮すると、この発言には一理ある。しかし、比較的少数の個人がAIを使用して短期間で大量のディープフェイクポルノを生成できる能力を考えると、加害者の数が少なくても、ディープフェイク性脅迫の深刻度がそれに比例して低いとは限らない。

韓国におけるディープフェイク性犯罪の構造的背景

繰り返されるディープフェイク性犯罪の解決策を見出すためには、その根本的な構造的文脈を包括的に理解することが不可欠である。第一に、近年経験されている若年層の不安との関連性を探る試みがある。特に若い男性は、競争の激化、失業危機、住宅不足を経験している。しかし、家父長制文化の残滓は依然として男性により多くの責任を負わせ、認識のギャップを生じさせている（Lee 2024b）。この乖離は、若年層の間で構造的なジェンダー不平等が存在しないという認識によってさらに悪化している。彼らにとって、韓国の低いジェンダー平等や、政治および企業の幹部職における女性の参加率（World Economic Forum 2024）は、過去の遺産とみなされている。これらの試みは、経済的現実と社会的認識との間の乖離から生じる不安や不満が、反女性感情や、この憎悪の現れとしての性犯罪につながると結論付けている。この解釈は、韓国社会、特に若年層におけるジェンダー対立の高まりと一致する。しかし、ディープフェイク性犯罪で逮捕された者の大多数がティーンエイジャーであることを考えると、この現象を男性の認識のみに帰することは困難である。

若年層の性教育およびカウンセリングの専門家は、ディープフェイクがすでにティーンエイジャーの間でエンターテイメントの一形態となっていると観察しており、これらの個人はディープフェイク性犯罪を仲間からの承認を得る手段と見なす傾向があると指摘している（Mackenzie and Choi 2024）。しかし、ディープフェイクを遊びの一形態と見なすことが、その深刻さへの認識の欠如を必ずしも意味するわけではない。サイバーいじめに関する調査で、デジタル性犯罪が蔓延し続ける理由を尋ねたところ、未成年者が最も多く挙げた理由は「罰則が弱い」（26.1％）、「インターネットの匿名性のため捕まる心配がない」（22.3％）であった。成人で最も多く挙げられた理由は「金儲けのため」（31.5％）、「罰則が弱い」（30.5％）であった。未成年者と成人で最も低い回答は「深刻ではないから」（Korea Communications Commission 2023-04-07）であった。この調査は世論を把握するために設計されており、実際の犯罪者の動機を直接示すものではないが、ディープフェイクポルノの違法性を認識しているものの、インターネットの匿名性と罰則の抜け穴に頼って犯罪を犯す人々がいる傾向を示している。

ディープフェイク性犯罪に対するさらなる対策

改正された法律がディープフェイク性犯罪に対する効果的な抑止力となるかどうかは、まだ不明である。警察当局によるインターネットサービスプロバイダーへの迅速な介入による違法資料の削除・ブロックの要請など、さらなる立法措置への呼びかけがある。これらの資料は、意思決定プロセスが遅延する間に拡散し続ける可能性があるからである。さらに、先進民主主義国の原則に沿って、オンラインプラットフォームの説明責任を強化し、性的虐待資料の投稿防止や定期的な監視など、より積極的な予防措置を実施することが不可欠である。処罰の対象については、性的虐待資料の作成を扇動した者を責任追及すべきであるとの提案があった。さらに、技術が進歩するにつれて新たな形態の暴力に対処するためには、包括的な法制化が不可欠であると主張されている。立法者は状況の深刻さを十分に認識し、開発されたいかなる法制化も法的に安定しており、曖昧さがないことが必要である。

より包括的な意味では、規制の枠組みと偽情報への対応全体を強化することが求められる。偽情報の蔓延は、民主的プロセスに対する脅威の著しい増加につながっている。これらの脅威は、政治家の偽動画や未知の情報源からの偽ニュースの形で観察されており、選挙結果に影響を与え、市民が情報に基づいた意思決定を行う能力を妨げる可能性がある。法執行機関はデジタル性犯罪を特定するために迅速に対応すべきであるが、急速に進化する新技術に対する包括的な措置も、偽情報の全範囲を網羅し、政府省庁間および政府と民間部門間の統一的な対応を促進するために必要である。

若者の間でディープフェイク性犯罪が蔓延していることを考慮すると、公教育は、生徒たちがこれらの犯罪の深刻さと有害性を認識し、発生時に迅速に対応できる能力を身につけるべきである。最も効果的な教育は、犯罪の加害者が捜査と罰則の強化に直面することを示すことである。さらに、偽情報に関する国民への啓発と、個人が遭遇する情報の真偽を判断し、情報に基づいた方法で消費することを可能にする新しいデジタルリテラシーを育成するための教育的イニシアチブが必要である。

ディープフェイク性的虐待資料の蔓延と相まって、市民社会からは迅速かつ断固たる対応を求める声が高まっている。韓国の民主主義は現在、女性の人権のために、立法および制度的な措置を通じてディープフェイク性犯罪を抑制するという課題に直面している。■

参考文献

European Commission. 2024. “The Digital Services Act package.” https://digital-strategy.ec.europa.eu/en/policies/digital-services-act-package (Accessed December 5, 2024)

Future of Life Institute. 2024. “The EU Artificial Intelligence Act.” https://artificialintelligenceact.eu/ (Accessed December 5, 2024)

Kim, Dongwon. 2024a. 「私のヌード写真がグループチャットに？…ディープフェイク犯罪の増加が国民を恐怖に陥れる」The AI. 8月27日。https://www.newstheai.com/news/articleView.html?idxno=6220 (Accessed December 5, 2024)

Kim, Jeonghwa. 2024b. 「2020年ディープフェイク性虐待法以降の全判決分析 – 保護観察率は約40％」 (韓国語)The Kyunghyang Shinmun. September 4. https://www.khan.co.kr/article/202409041031011 (Accessed December 5, 2024)

Korea Communications Commission. 2023. 「10代の4割がサイバーいじめを経験、昨年より1人増加」4月7日。https://www.kcc.go.kr/user.do?mode=view&page=E04010000&dc=E04010000&boardId=1058&cp=10&boardSeq=54874 (Accessed December 5, 2024)

Lawson, Amanda. 2023. 「ディープフェイク規制に関する世界的なアプローチ」Responsible Artificial Intelligence Institute. 4月24日。https://www.responsible.ai/a-look-at-global-deepfake-regulation-approaches/ (Accessed December 5, 2024)

Lee, Soo-Jung. 2024a. “Adolescents 80% of 474 suspects arrested for deepfake porn this year.” Korea JoongAng Daily. October 16. https://koreajoongangdaily.joins.com/news/2024-10-16/national/socialAffairs/Adolescents-80-of-474-suspects-arrested-for-deepfake-porn-this-year-/2156145 (Accessed December 5, 2024)

Lee, Soohyun Christine. 2024b. 「反ジェンダー政治、経済的不安、右翼ポピュリズム：韓国の若年男性における現代的性差別の台頭」Social Politics: International Studies in Gender, State & Society. October 18. https://academic.oup.com/sp/advance-article/doi/10.1093/sp/jxae016/7826751 (Accessed December 5, 2024)

Mackenzie, Jean, and Leehyun Choi. 2024. “Inside the deepfake porn crisis engulfing Korean schools.” BBC News. September 3. https://www.bbc.com/news/articles/cpdlpj9zn9go (Accessed December 5, 2024)

文部科学省. 2024. 「学校における性的姿態撮影被害状況に関する第二次調査結果を発表」 (韓国語)https://www.moe.go.kr/boardCnts/viewRenew.do?boardID=294&boardSeq=100958&lev=0 (2024年12月5日閲覧)

Security Hero. 2024. “2023 State of Deepfakes.” https://www.securityhero.io/state-of-deepfakes/ (2024年12月5日閲覧)

米国連邦議会. 2024a. “S.3696 - DEFIANCE Act of 2024.” https://www.congress.gov/bill/118th-congress/senate-bill/3696 (2024年12月5日閲覧)

______. 2024b. “H.R.5586 - DEEPFAKES Accountability Act.” https://www.congress.gov/bill/118th-congress/house-bill/5586 (2024年12月5日閲覧)

韓国女性人権振興院. 2023. 「デジタル性犯罪拡散経験および不安に関する研究」 (韓国語)https://www.stop.or.kr/home/kor/M788976317/promotion/published/research/index.do (2024年12月5日閲覧)

世界経済フォーラム. 2024. “Global Gender Gap Report 2024.” https://www.weforum.org/publications/global-gender-gap-report-2024/ (2024年12月5日閲覧)

■ 朴漢秀は、東アジア研究所の研究員です。

■ 編集：朴漢秀、研究員

    お問い合わせ：02 2277 1683 (内線204) | hspark@eai.or.kr