[ADRN 简报] 韩国日益严重的深度伪造性犯罪及其近期法律应对

韩国易受深度伪造性犯罪侵害

2024年10月，韩国一家法院判处一名深度伪造性犯罪的肇事者十年监禁。该犯罪团伙的首脑是一名40岁的首尔国立大学校友，他制作并传播了1852张涉及女性学生和其他人的深度伪造照片和视频。该犯罪团伙在Telegram上设立了200多个聊天室，并持续作案四年。他们并非从非法色情内容中获利，而是为了满足其性欲而实施犯罪（Kim 2024a）。媒体报道将此案描述为普通学生因考试失败、就业困难或婚姻不顺而产生扭曲的性观念，最终沦为性犯罪者的后果。法院还指出，“犯罪者以一种扭曲且匿名的方式表达了他们的自卑情结和对社会成功女性的仇恨。”此案紧随2019年所谓的“N号房”事件之后，“N号房”事件涉及通过Telegram聊天室有组织地传播性虐待材料，表明数字性犯罪正随着深度伪造等新技术的发展而演变。

深度伪造性犯罪也已渗透到学校。2024年1月至9月，学校收到了434起关于性虐待材料的报告，其中350起被教育部移交调查（Ministry of Education 2024-09-09）。在2024年1月至10月间被逮捕的474名深度伪造性犯罪嫌疑人中，有381名是青少年（Lee 2024a），这表明未成年人不仅特别容易成为深度伪造性犯罪的受害者，而且大多数被指控的犯罪者也是未成年人。

人工智能（AI）技术的飞速发展伴随着深度伪造性虐待材料在全球范围内的蔓延。一家美国网络安全公司的一份报告显示，深度伪造色情内容数量从2022年的3725件大幅增加到2023年的21019件。值得注意的是，其中99%的视频以女性为目标。该报告还显示，约53%的深度伪造色情内容中的人物是韩国人，而最常出现的十个人中有八位是韩国歌手（Security Hero 2024）。需要指出的是，受害者和犯罪者的国籍可能不同。尽管如此，这些发现说明了高度数字化的韩国社会在深度伪造性犯罪方面的脆弱性，以及采取法律和社会对策的紧迫性。

数字性犯罪被视为对女性基本人权的严重侵犯。据报道，受害者不仅遭受了心理创伤，还出现了身体衰退和伴随症状（Women’s Human Rights Institute of Korea 2023）。此外，数字性犯罪还会导致巨大的社会成本，例如阻碍女性参与社会和工作活动。针对报道Telegram聊天室中深度伪造性犯罪事件的女记者的行为，既是对她们个人权利的威胁，也是对新闻自由的威胁。

应对日益严重的深度伪造性犯罪的立法对策

数字性犯罪的重复性和普遍性侵害，通过材料的复制和传播而显现。其跨越国界的网络空间发生特性，使得完全检测和恢复损害变得困难。此外，受害者可能需要一段时间才能意识到犯罪，甚至可能根本没有意识到。为了应对这些犯罪的性质，一些发达民主国家已经实施了以下措施。

在美国，联邦层面的深度伪造性犯罪定罪立法正在进行中。《DEFIANCE法案》（一项规范非自愿数字伪造的法案）于2024年7月由参议院通过，目前正在众议院审议。该法案允许原告通过民事诉讼寻求深度伪造性虐待的赔偿。它还将授权法院施加惩罚性赔偿或命令删除和销毁相关材料。此外，该立法还提供了保护受害者隐私的措施，例如授权原告使用化名。《深度伪造问责法案》于2023年9月在众议院提出。该法案将对意图羞辱或骚扰他人的深度伪造性虐待材料的制作和传播处以罚款或监禁。包括加利福尼亚州、德克萨斯州和纽约州在内的几个州已经颁布了允许对深度伪造性犯罪提起民事诉讼和刑事处罚的法律。

2024年5月，欧洲理事会批准了《人工智能法案》，将人工智能分为四个风险等级。深度伪造被归类为“有限风险”，属于第二级。虽然该法案的主要目标是监管和禁止更高风险等级，但它也涉及第二级。例如，第50条对人工智能系统施加了透明度义务，要求它们披露其生成的结果包含深度伪造。此外，《数字服务法案》明确了大型在线平台和搜索引擎的义务。它还要求对深度伪造进行标记，并至少每年进行一次性别暴力风险评估，并采取适当的应对措施。

英国和澳大利亚也已颁布立法，将未经同意传播或威胁传播他人亲密图像或视频（包括深度伪造）定为犯罪。此外，在线平台和搜索引擎有义务实施举报和响应系统，以减轻非法信息的风险。加拿大政府正在投资技术研发以防止深度伪造的制作和传播（Lawson 2023）。除了将深度伪造色情内容的制作和传播定为犯罪外，这些国家还在积极采取反犯罪措施，打击协助此类活动的在线平台。在韩国，除了加强处罚外，还需要采取积极主动的措施来根除深度伪造性虐待材料的传播。

就韩国而言，该国的利益相关者一直倡导制定明确界定和处罚深度伪造犯罪的立法。《性犯罪处罚法》于2020年3月修订，规定任何意图传播而制作或传播深度伪造的人将受到处罚。同时，修订后的互联网通信法规要求互联网服务提供商采取措施防止非法视频内容的传播。然而，有人指出处罚力度不够。自该法律颁布以来的四年里，被指控者中有39%被判处缓刑。大多数被判处监禁的案件是由于除了深度伪造犯罪本身之外还附加了其他指控（Kim 2024b）。在此背景下，最近对首尔国立大学深度伪造案件首脑判处的十年监禁被视为一项严厉的处罚，因为司法部门异常地接受了检方提出的所有量刑请求。

随着深度伪造色情事件引发公众强烈不满，立法机构已采取更严厉的惩罚措施。2024年10月，《性犯罪处罚法》进行了修订，将制作深度伪造色情内容定为犯罪，即使没有传播意图，并提高了制作和传播的最高刑期。新立法还规定了持有、购买、存储和观看深度伪造色情内容的犯罪行为。此外，国家负责协助删除非法材料并援助受害者。随后，通过了一项允许调查机构对数字性犯罪进行秘密调查的立法。

一些政治家认为媒体报道夸大了深度伪造性犯罪的威胁，并对过度监管表示担忧。他们指出，将一个拥有深度伪造色情内容合成机器人Telegram频道的22万订阅者等同于韩国的深度伪造性勒索犯罪者数量，是一种夸大其词。考虑到难以确定Telegram用户的国籍，这种说法有一定的道理。然而，考虑到相对少数的个人能够利用人工智能在短时间内生成大量深度伪造色情内容，犯罪者数量少并不一定意味着深度伪造性勒索的严重程度相应较低。

韩国深度伪造性犯罪的结构性背景

为了找出解决反复发生的深度伪造性犯罪的方法，必须全面理解其根本结构性背景。首先，有人试图将其与近年来年轻人经历的焦虑联系起来。特别是年轻男性，正经历着日益激烈的竞争、失业危机和住房短缺；然而，父权制文化的残余仍然将更多责任推给男性，这导致了认知差距（Lee 2024b）。这种差异因年轻人认为不存在结构性性别不平等而进一步加剧。对他们而言，韩国较低的性别平等以及女性在政治和企业高层中的参与度（World Economic Forum 2024）被视为过去的遗留问题。这些解释认为，经济现实与社会认知之间的差距所带来的焦虑和不满，导致了反女性情绪和以仇恨为表现的性犯罪。这种解读与韩国社会日益增长的性别冲突，尤其是在年轻一代中，相吻合。然而，考虑到被逮捕的深度伪造性犯罪者绝大多数是青少年，将这种现象完全归因于男性认知是困难的。

青少年性教育和咨询专家观察到，深度伪造已成为青少年的一种娱乐形式，他们认为这些人倾向于将深度伪造性犯罪视为获得同伴认可的一种方式（Mackenzie and Choi 2024）。然而，将深度伪造视为一种玩乐形式，并不一定意味着缺乏对其严重性的认识。在一项关于网络欺凌的调查中，当被问及数字性犯罪持续存在的理由时，青少年最常引用的原因是“处罚过轻”（26.1%）和“因为网络的匿名性而不担心被抓”（22.3%）。成年人最常引用的原因是“为了赚钱”（31.5%）和“因为处罚过轻”（30.5%）。青少年和成年人的最低回应是“因为它不严重”（Korea Communications Commission 2023-04-07）。尽管该调查旨在衡量公众舆论，并不直接代表实际犯罪者的动机，但它确实表明了一种趋势：人们意识到深度伪造色情内容的非法性，但却依赖于网络的匿名性和处罚漏洞来实施犯罪。

进一步打击深度伪造性犯罪

修订后的立法是否能有效遏制深度伪造性犯罪，仍有待观察。有人呼吁采取进一步的立法行动，包括警方当局迅速介入互联网服务提供商以删除和屏蔽非法材料，因为在决策过程延迟期间，这些材料会继续扩散。此外，为了与发达民主国家的原则保持一致，必须加强互联网服务提供商的问责制，以实施更积极的预防措施，例如防止发布性虐待材料和进行定期监控。在惩罚方面，有人提出应对煽动制作性虐待材料的人追究责任。此外，有人认为必须制定全面的立法来应对随着技术进步而出现的各种新型暴力形式。立法者有必要充分了解情况的严重性，并且任何制定的立法都必须在法律上稳定且明确无误。

更广泛地说，需要加强整个监管框架和对虚假信息的应对。虚假信息的传播已导致对民主进程的威胁显著增加。这些威胁表现为政治人物的假视频和来自未知来源的假新闻，它们有可能影响选举结果并阻碍公民做出明智决定的能力。虽然执法机构应迅速应对以识别数字性犯罪，但还需要采取全面的措施来应对快速发展的新技术，以涵盖虚假信息的全部范围，并促进政府各部门之间以及政府与私营部门之间的统一响应。

鉴于深度伪造性犯罪在年轻人中普遍存在，公众教育应使学生能够认识到这些犯罪的严重性和危害性，并在犯罪发生时迅速做出反应。最有效的教育方式是表明犯罪者将面临更严格的调查和处罚。此外，还需要进一步的教育举措，向公众宣传虚假信息，并培养一种新的数字素养，使个人能够判断所遇信息的真实性，并以知情的方式进行消费。

随着深度伪造性虐待材料的泛滥，民间社会要求迅速果断应对的呼声日益高涨。为了维护女性人权，韩国民主现在面临着通过立法和制度措施遏制深度伪造性犯罪的挑战。■

参考文献

European Commission. 2024. “The Digital Services Act package.” https://digital-strategy.ec.europa.eu/en/policies/digital-services-act-package (Accessed December 5, 2024)

Future of Life Institute. 2024. “The EU Artificial Intelligence Act.” https://artificialintelligenceact.eu/ (Accessed December 5, 2024)

Kim, Dongwon. 2024a. ““我的裸照在群聊里？”……深度伪造犯罪日益严重，公众忧心忡忡。” The AI. 8月27日。https://www.newstheai.com/news/articleView.html?idxno=6220 (Accessed December 5, 2024)

Kim, Jeonghwa. 2024b. “2020年《深度伪造性虐待法》以来所有判决分析——缓刑率近40%。”（韩文）The Kyunghyang Shinmun. September 4. https://www.khan.co.kr/article/202409041031011 (Accessed December 5, 2024)

Korea Communications Commission. 2023. “十分之四的青少年遭受过网络欺凌，比去年多一人。” 4月7日。https://www.kcc.go.kr/user.do?mode=view&page=E04010000&dc=E04010000&boardId=1058&cp=10&boardSeq=54874 (Accessed December 5, 2024)

Lawson, Amanda. 2023. “审视全球深度伪造监管方法。” Responsible Artificial Intelligence Institute. 4月24日。https://www.responsible.ai/a-look-at-global-deepfake-regulation-approaches/ (Accessed December 5, 2024)

Lee, Soo-Jung. 2024a. “Adolescents 80% of 474 suspects arrested for deepfake porn this year.” Korea JoongAng Daily. October 16. https://koreajoongangdaily.joins.com/news/2024-10-16/national/socialAffairs/Adolescents-80-of-474-suspects-arrested-for-deepfake-porn-this-year-/2156145 (Accessed December 5, 2024)

Lee, Soohyun Christine. 2024b. “反性别政治、经济不安全感和右翼民粹主义：韩国年轻男性现代性别歧视的兴起。”Social Politics: International Studies in Gender, State & Society. October 18. https://academic.oup.com/sp/advance-article/doi/10.1093/sp/jxae016/7826751 (Accessed December 5, 2024)

Mackenzie, Jean, and Leehyun Choi. 2024. “Inside the deepfake porn crisis engulfing Korean schools.” BBC News. September 3. https://www.bbc.com/news/articles/cpdlpj9zn9go (Accessed December 5, 2024)}]} is not a valid JSON. Please provide a valid JSON. The error is: Expecting property name enclosed in double quotes: line 1 column 2 (char 1)

教育部. 2024. “发布第二次关于学校深度伪造性犯罪损害情况的调查结果。” (韩文)https://www.moe.go.kr/boardCnts/viewRenew.do?boardID=294&boardSeq=100958&lev=0 (访问日期：2024年12月5日)

Security Hero. 2024. “2023年深度伪造现状。”https://www.securityhero.io/state-of-deepfakes/ (访问日期：2024年12月5日)

美国国会. 2024a. “S.3696 - 2024年DEFIANCE法案。”https://www.congress.gov/bill/118th-congress/senate-bill/3696 (访问日期：2024年12月5日)

______. 2024b. “H.R.5586 - 深度伪造问责法案。”https://www.congress.gov/bill/118th-congress/house-bill/5586 (访问日期：2024年12月5日)

韩国女性人权研究所. 2023. “数字性犯罪传播和焦虑经历研究。” (韩文)https://www.stop.or.kr/home/kor/M788976317/promotion/published/research/index.do (访问日期：2024年12月5日)

世界经济论坛. 2024. “2024年全球性别差距报告。”https://www.weforum.org/publications/global-gender-gap-report-2024/ (访问日期：2024年12月5日)

■ 朴汉秀 是亚洲研究所的研究员。

■ 编辑： 朴汉秀，研究员

    垂询请致：02 2277 1683 (分机号 204) | hspark@eai.or.kr