[ADRN Issue Briefing] Рост преступлений сексуального характера с использованием дипфейков в Южной Корее и недавние законодательные меры

Уязвимость Южной Кореи к преступлениям сексуального характера с использованием дипфейков

В октябре 2024 года южнокорейский суд приговорил к десяти годам лишения свободы организатора преступления, связанного с дипфейками. Лидер преступной группы, 40-летний выпускник Сеульского национального университета, создал и распространил 1852 дипфейк-фотографии и видео с изображениями студенток и других женщин. Преступная группа организовала более 200 чат-комнат в Telegram и совершала преступления в течение четырех лет. Они не получали прибыли от незаконной порнографии, а совершали преступления для удовлетворения своих сексуальных желаний (Kim 2024a). В сообщениях СМИ это преступление было охарактеризовано как следствие того, что обычные студенты, не сумев пройти экзамены, найти работу или вступить в брак, развили искаженное сексуальное восприятие, которое превратило их в сексуальных преступников. Суд также отметил, что «обвиняемые выражали свои комплексы неполноценности и ненависть к социально успешным женщинам извращенным образом и анонимно». Это дело, последовавшее за так называемым делом «Nth Room» 2019 года, которое включало организованное распространение материалов сексуального насилия через чат-комнаты Telegram, демонстрирует, как цифровые сексуальные преступления развиваются вместе с новыми технологиями, такими как дипфейки.

Преступления сексуального характера с использованием дипфейков также проникают в школы. С января по сентябрь 2024 года из школ поступило 434 сообщения о материалах сексуального насилия, из которых Министерство образования передало 350 на расследование (Ministry of Education 2024-09-09). Из 474 лиц, задержанных за преступления сексуального характера с использованием дипфейков в период с января по октябрь 2024 года, 381 были несовершеннолетними (Lee 2024a), что указывает на то, что несовершеннолетние не только особенно уязвимы к таким преступлениям, но и составляют большинство предполагаемых преступников.

Быстрое развитие технологий искусственного интеллекта (ИИ) сопровождается повсеместным распространением материалов сексуального насилия с использованием дипфейков. Отчет американской фирмы по кибербезопасности выявил значительное увеличение числа дипфейк-порнографии с 3725 случаев в 2022 году до 21019 в 2023 году. Примечательно, что 99% этих видео были нацелены на женщин. Отчет также показал, что примерно 53% лиц, изображенных в дипфейк-порнографии, являются южнокорейцами, причем восемь из десяти наиболее часто изображаемых лиц — южнокорейские певицы (Security Hero 2024). Следует отметить, что национальность жертвы и преступника может различаться. Тем не менее, эти выводы иллюстрируют уязвимость высокоцифровизированного общества Южной Кореи к преступлениям сексуального характера с использованием дипфейков и настоятельную необходимость законодательных и социальных мер реагирования.

Цифровые сексуальные преступления рассматриваются как серьезное нарушение основных прав человека женщин. По сообщениям, жертвы испытывают не только психологический вред, но и физическое ухудшение состояния с сопутствующими симптомами (Women’s Human Rights Institute of Korea 2023). Более того, цифровые сексуальные преступления могут также приводить к значительным социальным издержкам, таким как препятствование социальной и профессиональной деятельности женщин. Нападения на женщин-журналистов, освещавших случаи сексуальных преступлений с использованием дипфейков в чат-комнатах Telegram, представляют собой угрозу как их личным правам, так и свободе прессы.

Законодательные меры реагирования на рост преступлений сексуального характера с использованием дипфейков

Повторяющаяся и повсеместная виктимизация характеризует цифровые сексуальные преступления через воспроизведение и распространение материалов. Их совершение в киберпространстве и трансграничный характер затрудняют обнаружение и полное возмещение ущерба. Более того, жертвам может потребоваться время, чтобы осознать факт преступления, если они вообще его осознают. В ответ на природу этих преступлений некоторые развитые демократии приняли следующие меры.

В Соединенных Штатах ведется работа над законодательством, криминализирующим преступления сексуального характера с использованием дипфейков на федеральном уровне. Закон «DEFIANCE Act», регулирующий создание цифровых подделок без согласия, был принят Сенатом в июле 2024 года и в настоящее время рассматривается Палатой представителей. Законопроект позволит истцам добиваться возмещения ущерба через гражданские иски за сексуальное насилие с использованием дипфейков. Он также уполномочит суды назначать карательные убытки или предписывать удаление и уничтожение материалов. Кроме того, законодательство предусматривает меры по защите конфиденциальности жертв, такие как разрешение истцам использовать псевдонимы. Помимо этого, в сентябре 2023 года в Палату представителей был внесен законопроект «DEEPFAKES Accountability Act». Этот закон предусматривает штраф или тюремное заключение за создание и распространение материалов сексуального насилия с использованием дипфейков с намерением унизить или преследовать человека. Несколько штатов, включая Калифорнию, Техас и Нью-Йорк, уже приняли законы, позволяющие подавать гражданские иски и применять уголовные наказания за преступления сексуального характера с использованием дипфейков.

В мае 2024 года Европейский совет одобрил Закон об искусственном интеллекте, классифицирующий ИИ по четырем уровням риска. Дипфейки классифицируются как «ограниченный риск», относящийся ко второму уровню. Хотя основная цель Закона заключается в регулировании и запрете более высоких уровней, он также затрагивает второй уровень. Например, статья 50 налагает обязательство прозрачности на системы ИИ, требуя от них раскрывать, что они сгенерировали результаты с использованием дипфейков. Кроме того, Закон о цифровых услугах определяет обязательства крупных онлайн-платформ и поисковых систем. Он также предусматривает маркировку дипфейков при публикации и проведение по крайней мере ежегодной оценки риска гендерного насилия с принятием соответствующих контрмер.

Великобритания и Австралия также приняли законодательство, криминализирующее распространение или угрозу распространения интимных изображений или видео других лиц, включая дипфейки, без их согласия. Кроме того, онлайн-платформы и поисковые системы обязаны внедрять системы отчетности и реагирования для снижения риска незаконной информации. Правительство Канады инвестирует в технологические исследования и разработки для предотвращения создания и распространения дипфейков (Lawson 2023). Помимо криминализации производства и распространения дипфейк-порнографии, эти страны также принимают активные антикриминальные меры против онлайн-платформ, способствующих такой деятельности. В Южной Корее, наряду с усилением наказаний, необходимы упреждающие меры для искоренения распространения материалов сексуального насилия с использованием дипфейков.

В случае Южной Кореи заинтересованные стороны страны выступали за законодательство, которое предусматривало бы четкие определения и наказания за преступления, связанные с дипфейками. Закон о наказании за сексуальные преступления, измененный в марте 2020 года, предусматривает, что любое лицо, производящее или распространяющее дипфейки с намерением распространения, подлежит наказанию. Одновременно с этим, измененные законы, регулирующие интернет-коммуникации, требуют от интернет-провайдеров принятия мер по предотвращению распространения незаконного видеоконтента. Однако было отмечено, что наказания недостаточно строги. За четыре года с момента вступления закона в силу 39% обвиняемых были приговорены к условному сроку. Большинство случаев, когда были вынесены приговоры к тюремному заключению, были осложнены добавлением других обвинений, помимо самого преступления, связанного с дипфейками (Kim 2024b). В этом контексте недавний приговор к 10 годам лишения свободы лидеру преступной группы, связанной с дипфейками, в Сеульском национальном университете был расценен как значительное наказание, учитывая, что судебная система необычно приняла все требования обвинения.

Поскольку инциденты с дипфейк-порнографией вызывают общественный резонанс, законодатели отреагировали усилением наказаний. В октябре 2024 года Закон о наказании за сексуальные преступления был пересмотрен, чтобы криминализировать производство дипфейк-порнографии даже при отсутствии намерения распространения, а также увеличить максимальный срок тюремного заключения за производство и распространение. Новое законодательство также криминализирует хранение, покупку, хранение и просмотр дипфейк-порнографии. Кроме того, государство взяло на себя ответственность за содействие удалению незаконных материалов и помощь жертвам. Впоследствии было принято законодательство, разрешающее следственным органам проводить тайные расследования цифровых сексуальных преступлений.

Некоторые политики утверждали, что сообщения СМИ преувеличивают угрозу преступлений сексуального характера с использованием дипфейков, и выражали обеспокоенность чрезмерным регулированием. Они указали на преувеличение вывода о том, что 220 000 подписчиков Telegram-канала с ботом, синтезирующим дипфейк-порнографию, представляют собой такое же количество преступников, занимающихся сексуальным вымогательством с использованием дипфейков в Корее. Учитывая сложность определения национальности пользователей Telegram, это замечание имеет под собой основания. Тем не менее, учитывая способность относительно небольшого числа лиц генерировать значительные объемы дипфейк-порнографии за короткий период времени с использованием ИИ, малое число преступников не обязательно указывает на соответствующий низкий уровень серьезности сексуального вымогательства с использованием дипфейков.

Структурный контекст преступлений сексуального характера с использованием дипфейков в Южной Корее

Чтобы выявить решения повторяющихся преступлений сексуального характера с использованием дипфейков, необходимо всесторонне понять лежащий в их основе структурный контекст. Во-первых, были предприняты попытки найти связь с тревогой, испытываемой молодым поколением в последние годы. Молодые мужчины, в частности, сталкиваются с усилением конкуренции, кризисом безработицы и нехваткой жилья; однако остатки патриархальной культуры по-прежнему возлагают большую ответственность на мужчин, что приводит к разрыву в восприятии (Lee 2024b). Этот разрыв усугубляется восприятием отсутствия структурного гендерного неравенства среди молодого поколения. Для них низкий уровень гендерного равенства в Южной Корее и участие женщин в политике и на руководящих корпоративных должностях (World Economic Forum 2024) воспринимаются как наследие прошлого. Эти интерпретации приходят к выводу, что тревога и неудовлетворенность, возникающие из-за несоответствия между экономической реальностью и социальным восприятием, порождают антиженские настроения и сексуальные преступления как проявления этой ненависти. Эта интерпретация соответствует растущему гендерному конфликту в южнокорейском обществе, особенно среди молодого поколения. Однако, учитывая, что большинство лиц, арестованных за преступления сексуального характера с использованием дипфейков, являются подростками, трудно приписать это явление исключительно мужскому восприятию.

Эксперты по половому воспитанию и консультированию молодежи отмечают, что дипфейки уже стали формой развлечения среди подростков, предполагая, что эти лица склонны рассматривать преступления сексуального характера с использованием дипфейков как средство получения одобрения сверстников (Mackenzie and Choi 2024). Однако восприятие дипфейков как формы игры не обязательно означает отсутствие осознания их серьезности. В опросе о кибербуллинге, касающемся причин продолжающегося распространения цифровых сексуальных преступлений, наиболее часто упоминаемыми причинами среди подростков были «слабое наказание» (26,1%) и «небеспокойство о поимке из-за анонимности в Интернете» (22,3%). Основными причинами, указанными взрослыми, были «желание заработать» (31,5%) и «из-за слабого наказания» (30,5%). Наименьшим ответом среди подростков и взрослых было «потому что это несерьезно» (Korea Communications Commission 2023-04-07). Хотя опрос был разработан для оценки общественного мнения и не претендует на прямое отражение мотивов реальных преступников, он указывает на тенденцию людей, осведомленных о незаконности дипфейк-порнографии, но полагающихся на анонимность в Интернете и лазейки в законодательстве для совершения преступлений.

Дальнейшие действия против преступлений сексуального характера с использованием дипфейков

Еще предстоит определить, окажутся ли пересмотренные законодательные акты эффективным сдерживающим фактором против преступлений сексуального характера с использованием дипфейков. Звучат призывы к дальнейшим законодательным мерам, включая оперативное вмешательство полиции для обеспечения удаления и блокировки незаконных материалов интернет-провайдерами, поскольку они могут продолжать распространяться во время задержки процесса принятия решений. Кроме того, в соответствии с принципами развитых демократий, крайне важно повысить ответственность интернет-провайдеров за внедрение более упреждающих превентивных мер, таких как предотвращение размещения материалов сексуального насилия и регулярный мониторинг. В отношении наказания было предложено привлекать к ответственности тех, кто подстрекает к созданию материалов сексуального насилия. Кроме того, утверждается, что всеобъемлющее законодательство необходимо для борьбы с новыми формами насилия по мере развития технологий. Необходимо, чтобы законодатели были в достаточной степени осведомлены о серьезности ситуации и чтобы любое разработанное законодательство было юридически стабильным и недвусмысленным.

В более широком смысле необходимо укрепить регуляторную базу и меры реагирования на дезинформацию в целом. Распространение дезинформации привело к значительному увеличению угроз демократическим процессам. Эти угрозы наблюдались в виде поддельных видеороликов политиков и фейковых новостей из неизвестных источников, которые потенциально могут повлиять на результаты выборов и помешать гражданам принимать обоснованные решения. В то время как правоохранительные органы должны оперативно реагировать на выявление цифровых сексуальных преступлений, необходимы также комплексные меры против быстро развивающихся новых технологий, охватывающие весь спектр дезинформации и способствующие единому реагированию между министерствами правительства и между правительством и частным сектором.

Учитывая распространенность преступлений сексуального характера с использованием дипфейков среди молодежи, общественное образование должно вооружить учащихся способностью распознавать серьезность и вредность этих преступлений и оперативно реагировать на них, когда они происходят. Наиболее эффективным образованием будет демонстрация того, что те, кто совершает преступления, столкнутся с усиленными расследованиями и наказаниями. Кроме того, необходимы дальнейшие образовательные инициативы для информирования общественности о дезинформации и развития новой цифровой грамотности, которая позволит людям определять достоверность получаемой информации и потреблять ее осознанно.

В связи с распространением материалов сексуального насилия с использованием дипфейков растет призыв со стороны гражданского общества к быстрому и решительному реагированию. Корейская демократия теперь сталкивается с проблемой сдерживания преступлений сексуального характера с использованием дипфейков посредством законодательных и институциональных мер во имя защиты прав человека женщин. ■

Список литературы

European Commission. 2024. “The Digital Services Act package.” https://digital-strategy.ec.europa.eu/en/policies/digital-services-act-package (Дата обращения: 5 декабря 2024 г.)

Future of Life Institute. 2024. “The EU Artificial Intelligence Act.” https://artificialintelligenceact.eu/ (Дата обращения: 5 декабря 2024 г.)

Kim, Dongwon. 2024a. “"Мои интимные фото в групповом чате?"… Растущие преступления с использованием дипфейков вызывают страх у общественности.” The AI. 27 августа. https://www.newstheai.com/news/articleView.html?idxno=6220 (Дата обращения: 5 декабря 2024 г.)

Kim, Jeonghwa. 2024b. “Анализ всех приговоров с момента вступления в силу Закона о сексуальных преступлениях с использованием дипфейков 2020 года – условный срок почти в 40 процентов.” (на корейском языке) The Kyunghyang Shinmun. 4 сентября. https://www.khan.co.kr/article/202409041031011 (Дата обращения: 5 декабря 2024 г.)

Korea Communications Commission. 2023. “Четверо из 10 подростков испытали кибербуллинг, на одного человека больше, чем в прошлом году.” 7 апреля. https://www.kcc.go.kr/user.do?mode=view&page=E04010000&dc=E04010000&boardId=1058&cp=10&boardSeq=54874 (Дата обращения: 5 декабря 2024 г.)

Lawson, Amanda. 2023. “A Look at Global Deepfake Regulation Approaches.” Responsible Artificial Intelligence Institute. 24 апреля. https://www.responsible.ai/a-look-at-global-deepfake-regulation-approaches/ (Дата обращения: 5 декабря 2024 г.)

Lee, Soo-Jung. 2024a. “Несовершеннолетние составляют 80% из 474 подозреваемых, арестованных за дипфейк-порнографию в этом году.” Korea JoongAng Daily. 16 октября. https://koreajoongangdaily.joins.com/news/2024-10-16/national/socialAffairs/Adolescents-80-of-474-suspects-arrested-for-deepfake-porn-this-year-/2156145 (Дата обращения: 5 декабря 2024 г.)

Lee, Soohyun Christine. 2024b. “Антигендерная политика, экономическая нестабильность и правый популизм: Рост современного сексизма среди молодых мужчин в Южной Корее.” Social Politics: International Studies in Gender, State & Society. 18 октября. https://academic.oup.com/sp/advance-article/doi/10.1093/sp/jxae016/7826751 (Дата обращения: 5 декабря 2024 г.)

Mackenzie, Jean, and Leehyun Choi. 2024. “Внутри кризиса дипфейк-порнографии, охватившего корейские школы.” BBC News. 3 сентября. https://www.bbc.com/news/articles/cpdlpj9zn9go (Дата обращения: 5 декабря 2024 г.)

Министерство образования. 2024. «Опубликованы результаты второго опроса о ситуации с ущербом от сексуальных преступлений с использованием дипфейков в школах». (на корейском языке)https://www.moe.go.kr/boardCnts/viewRenew.do?boardID=294&boardSeq=100958&lev=0 (Доступ 5 декабря 2024 г.)

Security Hero. 2024. «Состояние дипфейков в 2023 году».https://www.securityhero.io/state-of-deepfakes/ (Доступ 5 декабря 2024 г.)

Конгресс Соединенных Штатов. 2024a. «S.3696 — Закон DEFIANCE 2024 года».https://www.congress.gov/bill/118th-congress/senate-bill/3696 (Доступ 5 декабря 2024 г.)

______. 2024b. «H.R.5586 — Закон об ответственности за дипфейки».https://www.congress.gov/bill/118th-congress/house-bill/5586 (Доступ 5 декабря 2024 г.)

Институт прав женщин Кореи. 2023. «Исследование опыта распространения цифровых сексуальных преступлений и тревожности». (на корейском языке)https://www.stop.or.kr/home/kor/M788976317/promotion/published/research/index.do (Доступ 5 декабря 2024 г.)

Всемирный экономический форум. 2024. «Глобальный отчет о гендерном разрыве за 2024 год».https://www.weforum.org/publications/global-gender-gap-report-2024/ (Доступ 5 декабря 2024 г.)

■ Парк Хансу является научным сотрудником Института Восточной Азии.

■ Редактор Парк Хансу, научный сотрудник

    По вопросам: 02 2277 1683 (доб. 204) | hspark@eai.or.kr