→ رجوع · → الرئيسية · → العودة إلى القائمة

[سلسلة الأخبار الكاذبة والديمقراطية] ③ الاستجابة للمعلومات المضللة والمزيفة: الاتجاهات التنظيمية الدولية وسبل الاستجابة في كوريا

التصنيف
ورقة عمل
تاريخ النشر
6 مارس 2024

كلمة المحرر

تدعي لي سوك جونغ، الزميلة البارزة في معهد شرق آسيا (وأستاذة خاصة في جامعة سونغكيونكوان)، أن كوريا يجب أن تستجيب بنشاط لتهديد المعلومات المضللة والمزيفة الواردة من الخارج، مع منع تقويض حرية التعبير وانفتاح الديمقراطية. تشرح المؤلفة أن تعزيز القدرة على الحكم على المعلومات المضللة والمزيفة لدى مستخدمي الإنترنت أهم من تعزيز العقوبات الجنائية والمدنية، من خلال تعزيز التعليم الاجتماعي وتعليم القراءة الإعلامية. وفي الوقت نفسه، تقترح وضع تدابير تنظيمية مناسبة لسياق كوريا بناءً على تحليل الاتجاهات التنظيمية الدولية مثل الولايات المتحدة والاتحاد الأوروبي.

صورة مصغرة لي سوك جونغ.jpg
صورة مصغرة لي سوك جونغ.jpg

1. مقدمة

لم يعد مصطلح "الأخبار الكاذبة" (fake news) يستخدم في المجتمع الدولي، حيث تتزايد الحالات التي يهاجم فيها أصحاب السلطة منتقديها بأنهم ينشرون "أخبارًا كاذبة". بدلاً من ذلك، يتم استخدام مصطلح "المعلومات المضللة" (disinformation). المعنى الحرفي للمعلومات المضللة هو "معلومات كاذبة يتم نشرها عمدًا وغالبًا بشكل سري (قاموس ميريام ويبستر)". ويتم تمييزها عن المعلومات الكاذبة الناتجة عن تعبيرات مبالغ فيها أو أخطاء بسيطة. من المعتاد اعتبار خطاب الكراهية (hate speech) أو التعبيرات الساخرة ضمن نطاق حرية التعبير ولا تعتبر معلومات مضللة. يتم تمييز المعلومات المضللة عن المعلومات الخاطئة البسيطة (misinformation) لوجود "نية" لتشويه أو تلفيق المعلومات من خلال صور أو مقاطع فيديو مزيفة أو ادعاءات لا أساس لها. تعبر اليونسكو (منظمة الأمم المتحدة للتربية والعلم والثقافة) عن المعلومات المضللة بأنها معلومات كاذبة تم إنشاؤها بقصد الإضرار بالأفراد أو الجماعات الاجتماعية أو المنظمات أو أي بلد (اليونسكو 2018). يعرف الاتحاد الأوروبي المعلومات المضللة بأنها "كاذبة أو مضللة لخداع أو لتحقيق مكاسب اقتصادية أو سياسية، والتي قد تسبب ضررًا للجمهور" (المفوضية الأوروبية). كلاهما يميز بين المعلومات المضللة والمعلومات الخاطئة البسيطة بإدراج كلمتي "نية" و"ضرر". ومع ذلك، نظرًا لصعوبة تحديد النية، غالبًا ما يتم استخدام المصطلحين دون تمييز. الأخبار الكاذبة هي مجرد جزء من المعلومات المضللة لأنها تقتصر على "الأخبار". ومع ذلك، لا يزال مصطلح الأخبار الكاذبة شائعًا في كوريا فيما يتعلق بالتحركات التشريعية أو القضايا الراهنة، لذلك سيتم استخدام كلا المصطلحين هنا حسب السياق.

في الدول الاستبدادية، تستخدم المعلومات المضللة بشكل أساسي لتدمير شرعية المعارضة السياسية أو كأداة لـ "سياسة الاستبعاد" ضد الأقليات العرقية والدينية. من هذا المنطلق، غالبًا ما تستخدم مصطلحات "الحرية عبر الإنترنت" (online freedom) أو "حرية الإنترنت" (internet freedom) بمعنى حماية الديمقراطية من الاستبداد الرقمي. تشير منظمة فريدوم هاوس (Freedom House) إلى أن حرية الإنترنت قد انخفضت باستمرار على مدى السنوات الـ 13 الماضية، وأن الحكومات الاستبدادية، بالإضافة إلى حظر تطبيقات معينة لوسائل التواصل الاجتماعي أو خدمات الإنترنت بالطرق التقليدية، تستخدم الذكاء الاصطناعي التوليدي (Generative Artificial Intelligence) لنشر المعلومات المضللة أو تعزيز الرقابة. أفادت المنظمة أن 47 حكومة استبدادية تستخدم الذكاء الاصطناعي لتزييف أو تضليل الرأي العام من خلال إنشاء جمل أو أصوات أو صور، وأن 21 دولة فرضت أو شجعت على دمج التعلم الآلي (machine learning) في المنصات الرقمية لحظر المعارضة السياسية أو أصوات الأقليات (Funk, Shahbaz, and Vesteinsson 2023).

تحدث المعلومات المضللة على نطاق واسع في الدول الديمقراطية أيضًا. في هذه الحالات، لا تكون الحكومة هي المصدر الرئيسي للمعلومات المضللة، بل يكون المجتمع المستقطب سياسيًا هو المصدر الرئيسي. في المجتمعات الديمقراطية، يستغل مستخدمو وسائل التواصل الاجتماعي ومنشئو المحتوى على يوتيوب، الذين يستفيدون بالكامل من حرية التعبير الفردية، إنشاء أو نشر المعلومات المضللة بدافع المعتقدات أو المال. تنتشر هذه الأنواع من المعلومات المضللة في المجتمعات المستقطبة سياسيًا. حتى المعلومات التي يفترض أن تكون علمية، مثل تغير المناخ أو الأوبئة، يتم تفسير صحتها بشكل مختلف بناءً على الأيديولوجيات السياسية. يميل مستخدمو وسائل التواصل الاجتماعي إلى الحصول على المعلومات أو مشاركتها بشكل متحيز تأكيديًا، معتقدين أنهم على حق، مما يساعد على انتشار المعلومات المضللة. حالة نفسية مميزة أخرى هي عندما ينتشر الأشخاص المعلومات المضللة بدافع دعم حزبهم السياسي، حتى لو أدركوا أن معلومات معينة كاذبة أو مبالغ فيها، في ظل وجود سياسة ثنائية الحزبية عدائية منظمة (Peterson and Iyengar 2021). بغض النظر عن الحالة النفسية الدقيقة، تميل المعلومات المضللة إلى الانتشار بشكل تآزري عندما يكون الرأي العام والشبكات مستقطبين (Törnberg 2018). بمعنى آخر، لا يقتصر تأثير غرفة الصدى (Echo Chamber) على الشبكات الصغيرة المتجانسة فحسب، بل يمتد أيضًا إلى الشبكات المتوافقة التي لها اتصالات ضعيفة مع هذه الشبكات، مما يمنحها خصائص وسيطة.

تبحث دراسات المعلومات المضللة عن عوامل مؤثرة على مستوى الأفراد والهياكل الاجتماعية. تبين أن الأشخاص الذين لديهم اهتمام سياسي كبير أو يستخدمون وسائل التواصل الاجتماعي بشكل متكرر يميلون إلى نشر المزيد من المعلومات المضللة، متجاوزين مواقفهم تجاه قضايا معينة (Morosoli et al. 2022). تركز الدراسات التي تسعى إلى إيجاد تأثيرات اجتماعية بدلاً من فردية على العوامل الهيكلية التي تضر بمرونة الديمقراطية بسبب وجود أيديولوجيات متطرفة. على سبيل المثال، المجتمعات التي تعتمد على وسائل التواصل الاجتماعي أو وسائل الإعلام البديلة بدلاً من وسائل الإعلام التقليدية، أو المجتمعات التي لديها أحزاب شعبوية (populist)، تساعد على انتشار المعلومات المضللة (Humprecht et al. 2023).

في الوقت نفسه، تحدث التدخلات للتلاعب بالرأي العام في الخارج بشكل أكبر في المجتمعات الديمقراطية. على عكس الدول الاستبدادية، فإن هذه المجتمعات تتبنى انفتاح تدفق المعلومات، وبالتالي لا تحظر المعلومات الواردة من الخارج. ومع ذلك، مع الكشف عن التدخل الروسي في الانتخابات الرئاسية الأمريكية عام 2020، بدأت الولايات المتحدة في التعامل مع تدفق المعلومات المضللة من الخارج على أنه تهديد للأمن القومي. تستخدم المعلومات المضللة في حروب الرأي العام التي تستهدف الناس في جميع أنحاء العالم، كما في حالة الحرب في أوكرانيا. ونتيجة لذلك، تسعى المجتمعات الغربية المنفتحة إلى الاستجابة لنشر المعلومات من قبل القوى الاستبدادية مثل روسيا والصين كجزء من سياسات الأمن.

تميل المعلومات المضللة إلى الانتشار بشكل خاص خلال فترات الانتخابات. أفادت صحيفة نيويورك تايمز أن هذا العام هو عام سياسي غير مسبوق حيث ستجرى الانتخابات في 83 دولة، مما يعني أن نصف سكان العالم سيصوتون (Hsu et al. 2024/1/9). قلقًا من ذلك، بدأت شركات مثل Meta و YouTube و X في تعزيز فرقها منذ العام الماضي لتعزيز تدابير الحماية ضد نشر المعلومات المضللة المتعلقة بالانتخابات. قلقة من الآثار الضارة للمعلومات المضللة في الانتخابات، أجرت اليونسكو في سبتمبر 2023 دراسة شملت 8000 ناخب في 16 دولة (لم يتم تضمين كوريا) تشهد انتخابات هذا العام. ووفقًا للدراسة، في الدول المتقدمة، يعتمد 55٪ و 37٪ على التلفزيون ووسائل التواصل الاجتماعي للحصول على المعلومات، على التوالي، بينما في البلدان الأقل نموًا ذات مؤشر التنمية البشرية (HDI) المنخفض، تبلغ هذه النسب 37٪ و 68٪، مع نسبة اعتماد أعلى على وسائل التواصل الاجتماعي. ومع ذلك، فإن نسبة الأشخاص الذين يعتقدون أن المعلومات المضللة سيكون لها تأثير سلبي كانت مرتفعة في معظم البلدان التي شملتها الدراسة، بغض النظر عن مستوى التنمية. على وجه الخصوص، أعرب 85٪ من المشاركين عن قلقهم بشأن تأثير المعلومات المضللة على الانتخابات هذا العام (اليونسكو 2023). يظهر أن الكوريين أيضًا ينظرون إلى مشكلة المعلومات المضللة بجدية. وفقًا لمسح أجراه معهد شرق آسيا في يناير 2024، وافق 81.4٪ من الكوريين على خطورة الأخبار الكاذبة، ويعتقد 60٪ أنهم قد يقعون ضحية للأخبار الكاذبة.

وفقًا لتقرير اليونسكو المذكور أعلاه، أجاب مواطنو 16 دولة بأن الحكومة (89٪) وشركات منصات وسائل التواصل الاجتماعي (91٪) يجب أن تتخذ إجراءات قوية ضد المعلومات المضللة وخطاب الكراهية خلال فترة الانتخابات. ومع ذلك، فإن تنظيم المعلومات المضللة ليس بالأمر السهل. من الصعب تحديد الأشخاص الذين ينشئون هذه المعلومات أو مستخدمي وسائل التواصل الاجتماعي الذين ينشرونها. لذلك، فإن تعزيز مسؤولية شركات منصات وسائل التواصل الاجتماعي، التي تلعب دورًا حاسمًا في نشر المعلومات المضللة، هو العلاج الأكثر شيوعًا. وبدلاً من ذلك، هناك أيضًا العديد من الحالات التي يتم فيها التركيز على التعليم المدني في مجال محو الأمية الإعلامية (media literacy) لتمكين مستخدمي الإنترنت من تمييز المعلومات المضللة بأنفسهم. علاوة على ذلك، هناك جدل كبير حول التنظيم، حيث أن الميل المفرط نحو التنظيم قد يضر بمشاركة المعلومات المفيدة والتحالفات من أجل الديمقراطية التي تنشأ عن طرق الاتصال الرقمي. تشمل هذه الآراء الدعوة إلى تعزيز الأبحاث القائمة على الأدلة حول شرعية منع المعلومات المضللة، وتعريفها، وتأثيراتها التنظيمية، أو الحاجة إلى إجراء أبحاث على نطاق أوسع من النظام البيئي للمعلومات (Wanless and Shapiro 2022; Green et al. 2023).

أصبح من المهم إيجاد توازن بين الحاجة إلى الاستجابة لهذه المعلومات المضللة والمخاطر التي قد تنجم عن التنظيم المفرط. للتفكير في اتجاه التنظيم المرغوب فيه في بلدنا، سننظر أولاً في الاتجاهات التنظيمية الدولية الأخيرة.

2. التحركات التنظيمية الخارجية

في تقرير عام 2020 للاتحاد الدولي للاتصالات (ITU) ولجنة النطاق العريض التابعة لليونسكو، تم النظر إلى دورة حياة المعلومات المضللة الرقمية على أنها تشمل المحرضين (Instigators)، والوكلاء (Agents)، والرسائل (Messages)، والوسطاء (Intermediaries)، والأهداف والمفسرين (Targets/Interpreters) (IAMIT)، وتم تصنيف 11 استجابة لها إلى 4 فئات: 1) استجابات تهدف إلى تحديد المعلومات المضللة (المراقبة والتحقق من الحقائق (monitoring and fact-checking)، والتحقيق)، 2) استجابات للمنتجين والموزعين (استجابات تشريعية وسياسية، حملات وطنية ودولية لمكافحة المعلومات الخاطئة (counter-disinformation)، استجابات خاصة بالانتخابات (electoral-specific responses))، 3) استجابات لآليات الإنتاج والتوزيع (استجابات تنظيمية (curatorial responses)، استجابات خوارزمية تقنية، استجابات لإزالة الدوافع المالية)، 4) استجابات للجمهور المستهدف لحملات المعلومات الخاطئة (استجابات أخلاقية ومعيارية، استجابات تعليمية، استجابات لتمكين وتصنيف المصداقية (empowerment and credibility labelling)) (Broadband Commission 2020).

إذا كان التقسيم أعلاه هو نظام استجابة يركز على الفاعلين، فإن جونغ سي-هون يقسمها إلى تنظيم قانوني، وتنظيم ذاتي، وتحقق من الحقائق، وتعليم محو الأمية (literacy)، مع التركيز على طرق الاستجابة، ويقارن نطاقها والجهات الفاعلة فيها ومزاياها وعيوبها على النحو التالي (Jung Se-hoon 2017).

<الجدول 1> مقارنة بين طرق الاستجابة للمعلومات المضللة

بدأت الولايات المتحدة وأوروبا في اتخاذ خطوات أكثر جدية في الاستجابات القانونية والسياسية للمعلومات المضللة، وخاصة فيما يتعلق بآليات الإنتاج والتوزيع. وذلك لأنهم يتشاركون في إدراك أن المعلومات المضللة الرقمية تساهم في الاستقطاب السياسي، وتعيق الاستجابة للوباء، وتزيد من التدخل في الانتخابات والتهديدات الأمنية الناتجة عن التأثيرات الخارجية، بما في ذلك روسيا. ومع ذلك، بينما تركز أوروبا على التشريعات والسياسات التي تسعى إلى تحقيق التوازن بين حرية التعبير وتنظيم المعلومات المضللة، تركز الولايات المتحدة على بناء آليات داخل السلطة التنفيذية للاستجابة المبكرة للمعلومات المضللة الواردة من الخارج.

2.1 استجابة الاتحاد الأوروبي

سن الاتحاد الأوروبي قانون الخدمات الرقمية (Digital Services Act: DSA) وقانون الأسواق الرقمية (Digital Market Act: DMA) في أكتوبر 2022. يهدف الأول إلى حماية الحقوق الأساسية وحرية التعبير عبر الإنترنت، ويهدف الثاني إلى تعزيز الابتكار الرقمي والنمو والقدرة التنافسية في السوق الموحدة الأوروبية. بحلول فبراير 2024، يتعين على الدول الأعضاء تعيين منسق للخدمات الرقمية (Digital Services Coordinator) لتنسيق السياسات بين الدول الأعضاء (المفوضية الأوروبية).

يهدف قانون الخدمات الرقمية (DSA) للاتحاد الأوروبي إلى منع انتشار الأنشطة غير القانونية والضارة والمعلومات الخاطئة عبر الإنترنت. يهدف القانون إلى خلق بيئة منصة عادلة ومنفتحة، مع حماية سلامة المستخدمين وحقوقهم الأساسية. يشمل نطاق تطبيق قانون الخدمات الرقمية الوسطاء والمنصات عبر الإنترنت، بما في ذلك الأسواق والشبكات الاجتماعية ومنصات مشاركة المحتوى ومتاجر التطبيقات. يتبنى نهجًا لإعادة تعريف أدوار المستخدمين والمنصات والسلطات الحكومية، مع وضع المواطنين في المركز (المفوضية الأوروبية). تشرح المفوضية الأوروبية أهداف القانون لكل مجموعة من أصحاب المصلحة. بالنسبة للمواطنين، يهدف إلى حماية أفضل لحقوقهم الأساسية، ومنحهم السيطرة والاختيار، وحماية الأطفال بشكل خاص عبر الإنترنت من خلال تقليل التعرض للمحتوى غير القانوني. بالنسبة لمقدمي الخدمات الرقمية، يهدف إلى توفير وضوح قانوني وقواعد موحدة تنطبق في جميع أنحاء الاتحاد الأوروبي، وتسهيل توسع الشركات الناشئة والشركات الصغيرة والمتوسطة في أوروبا. بالنسبة لقطاع الأعمال الذي يستخدم الخدمات الرقمية، يهدف إلى تسهيل الوصول إلى الأسواق في جميع أنحاء الاتحاد الأوروبي من خلال المنصات، وتوفير ساحة لعب متكافئة لمواجهة مقدمي المحتوى غير القانوني. بالنسبة للمجتمع ككل، يهدف إلى تمكين الرقابة الديمقراطية على منصات النظام وتقليل المخاطر النظامية مثل التلاعب أو المعلومات الخاطئة.

يقسم قانون الخدمات الرقمية (DSA) الجهات الخاضعة للتنظيم إلى أربع فئات بناءً على أدوارها وحجمها وتأثيرها داخل النظام البيئي عبر الإنترنت، ويطبق مستويات مختلفة من التنظيم. الأولى هي "المنصات عبر الإنترنت ومحركات البحث الكبيرة جدًا (Very large online platforms, VLOPs)" و "محركات البحث عبر الإنترنت الكبيرة جدًا (Very large search engines, VLOSEs)" التي لديها أكثر من 10٪ من سكان الاتحاد الأوروبي البالغ عددهم 450 مليون نسمة، أي 45 مليون مستخدم أوروبي شهريًا في المتوسط. الثانية هي "المنصات عبر الإنترنت (Online platforms)" مثل الأسواق عبر الإنترنت ومتاجر التطبيقات والمنصات الاقتصادية التعاونية ومنصات التواصل الاجتماعي التي تربط البائعين والمستهلكين. الثالثة هي "خدمات الاستضافة (hosting services)" التي توفر خدمات الحوسبة السحابية واستضافة الويب. الرابعة هي "الخدمات الوسيطة (intermediary services)" التي توفر البنية التحتية للشبكة لتوفير الوصول إلى الإنترنت وتسجيل أسماء النطاقات.

يكمن جوهر التنظيم في VLOPs و VLOSEs. طلبت المفوضية الأوروبية من شركات المنصات عبر الإنترنت تقديم عدد المستخدمين لديها بحلول 17 فبراير 2023 (يجب على هذه الشركات الإبلاغ عن عدد المستخدمين كل ستة أشهر)، وبناءً على ذلك، تم تعيين 17 شركة كـ VLOPs و VLOSEs في أبريل. إذا انخفض عدد مستخدميها عن الحد القياسي البالغ 45 مليون مستخدم شهريًا في المتوسط لمدة عام واحد، فسيتم استبعاد الشركة من التعيين. تتولى الدولة التي تقع فيها المكاتب الرئيسية لهذه الشركات دور المنسق اعتبارًا من 17 فبراير 2024. على سبيل المثال، في حالة منصة AliExpress عبر الإنترنت، التي يستخدمها 140 مليون أوروبي شهريًا في المتوسط، تتولى الحكومة الهولندية دور المنسق لأنها تعمل تحت إدارة Alibaba Netherlands. في حالة Google Search و YouTube، اللتين يستخدمهما 364 مليون أوروبي و 417 مليون أوروبي شهريًا في المتوسط على التوالي، تتولى الحكومة الأيرلندية دور المنسق لأنها تعمل تحت إدارة Google Ireland Ltd. (المفوضية الأوروبية).

يجب على الشركات المعينة كـ VLOPs و VLOSEs الامتثال لما يلي في غضون 4 أشهر. أولاً، يجب عليهم تقديم معلومات الاتصال للسلطات والمستخدمين، والإبلاغ عن المخالفات، وتوفير بيئة سهلة الاستخدام، وأن يكونوا شفافين بشأن أنظمة التوصية أو قرارات تعديل المحتوى. ثانيًا، يجب على الشركات المعينة تحديد وتحليل وتقييم المخاطر النظامية المتعلقة بخدماتها، مع مراعاة التأثير الاجتماعي. يجب عليهم إيلاء اهتمام خاص لمخاطر مثل المحتوى غير القانوني؛ الحقوق الأساسية مثل حرية التعبير وحرية الصحافة والتعددية وعدم التمييز وحماية المستهلك وحقوق الأطفال؛ السلامة العامة وعمليات الانتخابات؛ العنف القائم على النوع الاجتماعي (gender-based violence)، الصحة العامة، حماية القاصرين، والرفاهية الجسدية والعقلية. ثالثًا، بمجرد تحديد مخاطر الشركة والإبلاغ عنها للمفوضية الأوروبية للإشراف، يجب على هذه الشركات اتخاذ تدابير لتقليل هذه المخاطر. على وجه التحديد، تغيير التصميم أو وظائف الخدمة أو طرق التوصية. يمكن لهذه الشركات تعزيز المنصات داخليًا من خلال تخصيص المزيد من الموارد لتحديد المخاطر النظامية بشكل أفضل. رابعًا، يجب على الشركات المصنفة كـ VLOPs أو VLOSEs إنشاء وظائف رقابة داخلية لتحديد وتخفيف المخاطر بشكل فعال؛ إجراء تدقيق محاسبي مستقل مرة واحدة على الأقل سنويًا؛ مشاركة بياناتها مع المفوضية الأوروبية والسلطات لتمكينها من الإشراف وتقييم الامتثال لقانون الخدمات الرقمية (DSA)؛ السماح للباحثين بالوصول إلى بيانات المنصة لتحديد وفهم المخاطر النظامية؛ توفير أنظمة توصية بديلة لا تعتمد على ملفات تعريف المستخدمين؛ الكشف عن الإعلانات المجمعة. في حالة عدم الامتثال لهذه الالتزامات، قد تفرض غرامات تصل إلى 6٪ من الإيرادات العالمية اعتبارًا من 17 فبراير 2024.

تجدر الإشارة إلى أن قانون الخدمات الرقمية (DSA) يستهدف فقط المحتوى غير القانوني، ولا ينظم المحتوى الضار مثل التهديد عبر الإنترنت والمضايقة وخطاب الكراهية غير القانوني. هذا لتجنب الجدل حول ما هو محتوى ضار ولعدم تقييد حرية التعبير عبر الإنترنت. بالنسبة للمعلومات الضارة ولكن غير غير القانونية، يتم اعتماد نهج غير مباشر يتمثل في تعزيز الشفافية والمساءلة لدى شركات المنصات لتصفية المحتوى. يقول كالابريزي إن قانون السلامة عبر الإنترنت (Online Safety Bill) الذي يناقشه البرلمان البريطاني يواجه صعوبات في المفاوضات لأنه قد يضر بحرية التعبير، مما يدل على صعوبة صياغة تشريعات صارمة. وكما كان يُخشى، فإن الدول الاستبدادية مثل المجر تسن قوانين يمكن أن تصل عقوبتها إلى السجن لمدة 5 سنوات بتهمة نشر معلومات مضللة كاذبة، في محاولة لإسكات الأصوات المنتقدة للحكومة، مما يثير مخاوف كبيرة من أن تعزيز التنظيم في اتجاه العقوبات الجنائية قد يساعد في عكس مسار الديمقراطية. يبدو أن سن قانون الخدمات الرقمية (DSA) سيكون فعالاً في تعزيز مسؤولية شركات المنصات الكبرى من خلال تعاون الدول الأعضاء في الاتحاد الأوروبي. بالإضافة إلى ذلك، تتصدى دول الاتحاد الأوروبي للمعلومات المضللة الكاذبة من خلال قوانينها المحلية. فرنسا وألمانيا لديهما لوائح تتعلق بالمعلومات المضللة الكاذبة المتعلقة بالانتخابات أو خطاب الكراهية منذ سنوات، ودول أوروبية أخرى مثل النمسا وبلغاريا وليتوانيا ومالطا ورومانيا وإسبانيا بصدد اعتماد لوائح لمكافحة المعلومات المضللة الكاذبة.

2.2 استجابة الولايات المتحدة

في حالة الولايات المتحدة، يبدو أن التركيز ينصب على بناء آليات داخل السلطة التنفيذية للاستجابة للمعلومات المضللة بدلاً من وضع تشريعات شاملة. بدأت القوانين والأنظمة في التطور نحو نظام مراقبة وإشراف مع التدخل الروسي في الانتخابات الرئاسية الأمريكية عام 2016. في عام 2017، سن الكونجرس الأمريكي، بدعم من الحزبين، قانون مكافحة الدعاية والمعلومات المضللة الأجنبية (Countering Foreign Propaganda and Disinformation Act)، الذي أنشأ مركز المشاركة العالمية (Global Engagement Center, GEC) داخل وزارة الخارجية. في خريف عام 2017، أنشأ مكتب التحقيقات الفيدرالي (FBI) "فريق مكافحة التأثير الأجنبي" (Foreign Influence Taskforce)، وفي عام 2018، أنشأت وزارة الأمن الداخلي (Department of Homeland Security) "فريق مكافحة التأثير والتدخل الأجنبي" (Countering Foreign Influence and Interference Taskforce) وقسمًا لمعالجة ذلك (Foreign Influence and Interference Bureau)، وفي عام 2022، أضافوا "مجلس المعلومات المضللة" (Disinformation Board). كما أنشأت وزارة الدفاع "مكتب إدارة التأثير والإدراك" (Influence and Perception Management Office). مع إنشاء العديد من المنظمات المماثلة في مختلف الوزارات بشكل متزايد، تزايدت الدعوات إلى التنسيق المتبادل ووضع استراتيجية موحدة، لذلك تم إنشاء "مركز مكافحة التأثير الخبيث الأجنبي" (Foreign Malign Influence Center, FMIC) داخل مكتب مدير المخابرات الوطنية (Office of the Director of National Intelligence, ODNI)، وهو أعلى وكالة استخبارات تشرف على وكالات الاستخبارات الأمريكية، في سبتمبر 2022. لا يقتصر دور FMIC على المعلومات المضللة التي تستهدف الانتخابات الأمريكية فحسب، بل يستجيب أيضًا للمعلومات المضللة التي تستهدف الرأي العام داخل الولايات المتحدة. يدعم هذا المركز مركز المشاركة العالمية (GEC) في وزارة الخارجية في الاستجابة للمعلومات المضللة من روسيا وإيران ودول أخرى على مستوى وكالات الاستخبارات (Klippenstein 2023/5/5).[1]

تركز أنشطة مركز المشاركة العالمية (GEC) التابع لوزارة الخارجية الأمريكية على المعلومات المضللة الروسية (وزارة الخارجية الأمريكية). على سبيل المثال، وفقًا لتقرير خاص لمركز المشاركة العالمية حول معلومات الكرملين المضللة في البرازيل، يستخدم الكرملين شبكات عامة أو خاصة للتلاعب بالمعلومات ونشر الأيديولوجيات الاستبدادية المعادية للديمقراطية. على سبيل المثال، حركة المقاومة الجديدة (New Resistance) في البرازيل، وهي جزء من شبكة التضليل المتزامنة (Syncretic Disinformation Network, SDN)[2]و Fort Russ News (FRN) ومركز الدراسات المتزامنة (Center for Syncretic Studies, CSS) تبدو منظمات تم إنشاؤها محليًا في البرازيل، لكنها تنمو بتوجيه من عملاء دعاية روسيين. تنشر هذه المنظمات الأيديولوجية النازية الجديدة للفيلسوف الروسي ألكسندر دوغين لتعبئة القوى اليمينية المتطرفة واليسارية المتطرفة، بهدف زعزعة استقرار الديمقراطية وإرسال مقاتلين لدعم الغزو الروسي لأوكرانيا (وزارة الخارجية الأمريكية 2023). أفادت صحيفة نيويورك تايمز أن مركز المشاركة العالمية (GEC) يسعى إلى منع معلومات الكرملين المضللة من الانتشار في المجتمع قبل أن يحدث ذلك، لأنه بمجرد انتشار قصة كاذبة، يصبح التعامل معها أكثر صعوبة (Myers 2023/10/16).

من الاستجابات الأمريكية المذكورة أعلاه، يتضح أن المعلومات المضللة تستهدف الأجانب، وخاصة الحكومة الروسية والشبكات المرتبطة بها في جميع أنحاء العالم. بمعنى آخر، يتم التعامل معها من منظور الأمن القومي بدلاً من الرأي العام المحلي، ولذلك يتم إنشاء منظمات تنفيذية في الوزارات ذات الصلة لجمع المعلومات ومراقبتها والتحكم فيها من دول معينة. نظرًا لتزايد الوعي في كوريا بتدفق المعلومات المضللة من الخارج، وفي ظل الوضع المتوتر مع كوريا الشمالية، هناك حاجة للنظر في نظام الاستجابة الأمريكي من منظور أمني.

3. عملية الاستجابة للمعلومات المضللة في كوريا

3.1 التحركات الاستجابية الأخيرة

فيما يتعلق بنشر الحقائق الكاذبة مثل "الأخبار الكاذبة"، تفرض القوانين قيودًا متعددة، وتشمل أبرز القيود غير الجنائية التنظيم بموجب قانون الوساطة الإعلامية والتعويض عن الأضرار المدنية. بالإضافة إلى ذلك، تشمل العقوبات الجنائية جريمة تشويه السمعة وجريمة نشر الحقائق الكاذبة بموجب قانون انتخابات المسؤولين العامين. في عام 2018، كانت هناك محاولتان لتشريع قوانين تتعلق بالأخبار الكاذبة، والتي سيتم مناقشتها لاحقًا، بحجة صعوبة التعامل مع هذه القضايا من خلال العقوبات القانونية المتفرقة. في الآونة الأخيرة، مع تفاقم الآثار الضارة للأخبار الكاذبة التي تستهدف الرئيس والسياسيين البارزين أو المسؤولين العامين، بدأت تحركات لتنظيم نشر الحقائق الكاذبة التي لم تكن تخضع للعقوبة بموجب أحكام العقوبات الجنائية الحالية.

خضعت وسائل الإعلام عبر الإنترنت والمقالات الإخبارية عبر الإنترنت للصحف التقليدية لقانون الوساطة الإعلامية حتى الآن. مع تولي لي دونغ-كوان منصب رئيس لجنة الاتصالات في كوريا (KCC)، أعلنت اللجنة أنها ستقترح تشريعًا لفرض إجراء "الضربة القاضية الواحدة" (one-strike out) على وسائل الإعلام التي تنشر معلومات مضللة. أعلنت اللجنة أنها ستوسع نطاق المراجعة الاتصالية لتشمل رسميًا مراجعة المعلومات المضللة في الصحف عبر الإنترنت لأول مرة، وستشرع في تعديل اللوائح ذات الصلة. في أوائل سبتمبر 2023، قامت اللجنة بتفعيل فريق مخصص للقضاء على الأخبار الكاذبة، وفي 18 سبتمبر، أعلنت عن "خطة للقضاء على الأخبار الكاذبة". يتمثل جوهر التغيير في إنشاء آلية تعاون بين القطاعين العام والخاص لمكافحة الأخبار الكاذبة مع لجنة مراقبة الاتصالات (KCSC) ومشغلي البوابات والمنصات المحلية والدولية (Naver، Kakao، Google، Meta)، وإنشاء مسار سريع قائم على التنظيم الذاتي بين لجنة مراقبة الاتصالات والمشغلين. إجراءات المسار السريع للمراجعة السريعة للأخبار الكاذبة هي كما يلي. أولاً، تقوم لجنة مراقبة الاتصالات بتشغيل زر مخصص "الإبلاغ عن الأخبار الكاذبة" على موقعها الإلكتروني (بدءًا من 21 سبتمبر) لتلقي حالات الأخبار الكاذبة. تقوم لجنة مراقبة الاتصالات بتحديد ما إذا كانت الحالة المقدمة تتطلب مراجعة سريعة (إذا وافق الرئيس أو ثلث الأعضاء الحاليين على ذلك، يتم تعيينها كبند للمراجعة السريعة)، وإذا لزم الأمر، تطلب من المشغلين التعاون في التنظيم الذاتي كتابيًا أو بأي وسيلة أخرى. يقوم المشغل الذي يتلقى الطلب بمراجعته، ثم يضع علامة "تخضع لجنة مراقبة الاتصالات للمراجعة السريعة للأخبار الكاذبة" على المحتوى المعني أو يتخذ إجراءات مثل الحذف أو الحظر.

على الرغم من هذه التحركات التنظيمية، عارض موظفو لجنة مراقبة الاتصالات بالفعل تشغيل المركز، وذلك بشكل أساسي بسبب مخاوف من انتهاك حرية الصحافة أو التنظيم المزدوج. انتقدت أحزاب المعارضة ووسائل الإعلام النقدية أيضًا، بحجة انتهاك حرية الصحافة. في النهاية، استجابت لجنة مراقبة الاتصالات للانتقادات بأن فصل المراجعة السريعة عن المراجعة العادية يؤدي إلى تأخير في معالجة القضايا، وأنهت المركز بنهاية العام الماضي، وقررت الحفاظ عليه من خلال تقسيم العمل بين جميع موظفي اللجنة، مع مبدأ إجراء مراجعة سريعة لجميع الشكاوى (Kang Han-deul 2023/12/21). تستند هذه الاستجابات بشكل أساسي إلى التنظيم الذاتي، ولا توجد حاليًا أي تحركات تشريعية جديدة.

3.2 محاولات تشريع قوانين تتعلق بالأخبار الكاذبة في الدورة البرلمانية العشرين

3.2 تحركات تشريعية متعلقة بالأخبار الكاذبة في الدورة البرلمانية العشرون

يقال إن 43 مشروع قانون متعلق بالمعلومات المضللة نوقشت في الدورة البرلمانية العشرين (مايو 2016 - مايو 2020). كانت هناك 3 مشاريع قوانين جديدة: "قانون تشكيل وتشغيل لجنة مكافحة الأخبار الكاذبة"، و "قانون منع انتشار الأخبار الكاذبة"، و "قانون تعزيز التعليم الإعلامي". أما الباقي فكانت جميعها مشاريع قوانين تعديل. فقط تعديلات على "قانون العقوبات الخاصة بجرائم العنف الجنسي" و "قانون تعزيز استخدام شبكات المعلومات وحمايتها" المتعلقة بـ "التزييف العميق" (deepfake) تم تمريرها (Kim Yeo-ra 2020). ومع ذلك، تم إلغاء مشروعين رئيسيين للقوانين، أحدهما قدمته الأغلبية والآخر قدمته المعارضة، يستهدفان الأخبار الكاذبة بشكل عام، بسبب انتهاء مدة ولاية البرلمان.

على الرغم من إلغاء مشروع القانونين بسبب انتهاء ولاية البرلمان، إلا أنه من الضروري النظر في المشروعين الرئيسيين اللذين قادتهما الأغلبية والمعارضة. في 5 أبريل 2018، قدم 29 عضوًا من حزب الديمقراطية الموحدة الحاكم، بمن فيهم النائب بارك كوانغ-أون، مشروع قانون "منع انتشار المعلومات الكاذبة"، وبعد ذلك بوقت قصير، في 9 مايو، قدم 15 عضوًا من حزب الحرية الكوري المعارض، بمن فيهم النائب كانغ هيو-سانغ، مشروع قانون "تشكيل وتشغيل لجنة مكافحة الأخبار الكاذبة".

يهدف مشروع قانون "منع انتشار المعلومات الكاذبة" إلى حظر انتشار المعلومات الكاذبة من قبل مستخدمي مواقع الويب، وفرض واجب على مشغلي مواقع الويب لمنع انتشار المعلومات الكاذبة. عرف مشروع القانون هذا الأخبار الكاذبة على أنها: 1) معلومات أكدت وسائل الإعلام أنها غير صحيحة من خلال تصحيح أو تقرير مماثل وفقًا للمادة 2 (12) من قانون الوساطة الإعلامية والتعويض عن الأضرار؛ 2) معلومات قررت لجنة الوساطة الإعلامية أنها غير صحيحة وفقًا للمادة 7 من قانون الوساطة الإعلامية والتعويض عن الأضرار؛ 3) معلومات ثبت أنها غير صحيحة بموجب حكم قضائي؛ 4) معلومات طلبت اللجنة الانتخابية المركزية حذفها باعتبارها نشرًا لمعلومات كاذبة أو تحقيرًا أو إهانة إقليمية أو جنسية. بمعنى آخر، المعلومات المصنفة على أنها أخبار كاذبة هي معلومات مضللة تعتبر غير قانونية بموجب القوانين الحالية.

تنص هذه المسودة على أن الهيئة الحكومية المسؤولة هي لجنة الاتصالات في كوريا (KCC)، والتي يجب عليها الإعلان عن محتوى المعلومات الكاذبة ووضع خطة أساسية لمنع انتشارها. يجب على مستخدمي مواقع الويب عدم نشر معلومات تنتهك حقوق الآخرين، مثل المعلومات الكاذبة، على الإنترنت، وإذا تسببوا في ضرر للآخرين بسبب انتشار المعلومات الكاذبة، فهم مسؤولون عن تعويض الضحية، وسيتم معاقبة من ينتج معلومات تنتهك حقوق الآخرين، مثل المعلومات الكاذبة، بالسجن لمدة تصل إلى 5 سنوات أو بغرامة تصل إلى 50 مليون وون. من ناحية أخرى، يجب على مشغلي مواقع الويب منع انتشار المعلومات الكاذبة على الإنترنت، ووضع إجراءات لمعالجة طلبات المستخدمين لحذف المعلومات الكاذبة، وسيتم فرض غرامة إذا لم يتخذوا تدابير لمنع انتشار المعلومات الكاذبة. إذا اعترض المستخدم على نتيجة معالجة طلب حذف المعلومات الكاذبة من قبل مشغل موقع الويب، فستقوم لجنة الاتصالات في كوريا بالبت في الأمر، ويجب على مشغل موقع الويب تقديم تقرير عن منع انتشار "المعلومات الكاذبة" على موقعه الإلكتروني إلى لجنة الاتصالات في كوريا. هذه المسودة هي قانون تنظيمي يتضمن عقوبات، حيث يتم فرض السجن أو الغرامة على الأفراد الذين ينشرون أخبارًا كاذبة غير قانونية، ويتم فرض غرامة على مشغلي مواقع الويب الذين لا يتخذون تدابير لمنع انتشار المعلومات الكاذبة. نظرًا لأنه يقتصر على مشغلي مواقع الويب، فإنه يأخذ شكلًا شاملاً لا يميز بين شركات المنصات الكبيرة ومواقع الويب الصغيرة والمتوسطة.

في المقابل، ينص مشروع قانون "تشكيل وتشغيل لجنة مكافحة الأخبار الكاذبة" في مادته الأولى على أن الغرض من القانون هو حماية السمعة أو الحقوق أو المصالح القانونية الأخرى التي تنتهكها الأخبار الكاذبة، من خلال تحديد المسائل الأساسية لتشكيل وتشغيل لجنة مكافحة الأخبار الكاذبة. يحدد القانون "الأخبار الكاذبة" على أنها معلومات كاذبة أو مشوهة تم إنتاجها في الصحف/الإنترنت، أو الصحف/البث، أو شبكات المعلومات، لتحقيق مكاسب سياسية أو اقتصادية، والتي تشبه تقارير إخبارية أو معلومات تهدف إلى الخلط بينها وبين التقارير الإخبارية وفقًا للمادة 2 (15) من قانون الوساطة الإعلامية والتعويض عن الأضرار، مما يحد من نطاق الأخبار الكاذبة مقارنة بمشروع القانون الذي قدمه الحزب الديمقراطي.

يكمن جوهر مشروع القانون في إنشاء "لجنة مكافحة الأخبار الكاذبة" تحت إشراف رئيس الوزراء، والتي ستعمل على تعزيز السياسات الشاملة والمنهجية لمنع انتشار الأخبار الكاذبة. ستتألف اللجنة من حوالي 30 عضوًا، بمن فيهم رئيس واحد، وسيشمل الأعضاء مسؤولين حكوميين مثل وزير العلوم والتكنولوجيا والمعلومات، ووزير الثقافة والرياضة والسياحة، ورئيس لجنة الاتصالات في كوريا، ورئيس لجنة الوساطة الإعلامية، ورئيس لجنة مراقبة الاتصالات، بالإضافة إلى ممثلين عن 12 منظمة مدنية، بما في ذلك نقابة المحامين الكورية، وجمعية الصحف الكورية، وجمعية الصحفيين الكورية.

تنقسم الهيئات المسؤولة عن مكافحة الأخبار الكاذبة إلى اثنتين: سياسات منع انتشار الأخبار الكاذبة المتعلقة بالصحف والصحف عبر الإنترنت وخدمات الأخبار عبر الإنترنت تقع تحت مسؤولية وزير الثقافة والرياضة والسياحة، بينما تقع سياسات منع انتشار الأخبار الكاذبة المتعلقة بشبكات المعلومات والبث تحت مسؤولية رئيس لجنة الاتصالات في كوريا. يجب على هذه الهيئات المسؤولة وضع خطط قطاعية تتعلق بسياسات منع انتشار الأخبار الكاذبة في مجالات اختصاصها كل ثلاث سنوات وتقديمها إلى لجنة مكافحة الأخبار الكاذبة. ثم تقوم اللجنة بوضع خطة أساسية لمكافحة الأخبار الكاذبة من خلال تجميع الخطط القطاعية المقدمة. بينما يحدد قانون منع انتشار المعلومات الكاذبة طلبات حذف المعلومات الكاذبة، والاعتراضات على نتائج معالجة حذف المعلومات الكاذبة، والتعويض عن الأضرار، والغرامات، فإن قانون لجنة مكافحة الأخبار الكاذبة هو قانون تنظيم إداري يعتمد على نظام اللجنة، ويتضمن التعاون الأفقي ومشاركة القطاع الخاص.

بالإضافة إلى هذين المشروعين، تم تقديم تعديلات على قانون شبكات المعلومات في الدورة البرلمانية العشرين لمكافحة الأخبار الكاذبة. في يوليو 2018، قدم حزب الحرية الكوري أيضًا تعديلاً على قانون شبكات المعلومات (برئاسة النائب كيم سونغ-تاي وبمشاركة 109 من أعضاء الحزب) كسياسة للحزب، حيث ألزم مقدمي الخدمات مثل البوابات بمراقبة انتشار الأخبار الكاذبة بشكل مستمر، وفرض عقوبات بالسجن لمدة تصل إلى 7 سنوات لنشر الأخبار الكاذبة، والسجن لمدة تصل إلى 5 سنوات لعدم المراقبة. في الدورة البرلمانية الحادية والعشرين، في عام 2021، حاول الحزب الديمقراطي تمرير تعديل على قانون الوساطة الإعلامية تحت عنوان "قانون التعويض عن أضرار الأخبار الكاذبة". يتمثل جوهر ذلك في فرض تعويضات تأديبية تصل إلى خمسة أضعاف مبلغ الضرر في حالة قيام وسيلة إعلام بنشر تقرير كاذب أو مشوه عن قصد أو بإهمال جسيم. انتقد حزب قوة الشعب ذلك بقوله "إنه عمل يقيد الانتقاد الصحي للصحافة للحكومة".

حتى الآن، لم تنجح أي محاولة لتشريع أو تعديل قوانين لمكافحة المعلومات المضللة، حيث أثارت جميعها جدلاً. عارضت المعارضة مشاريع القوانين التي قدمتها الأغلبية بحجة أنها ذات دوافع سياسية أو أنها تنتهك حرية التعبير. عندما تغيرت الحكومة، عكسوا منطقهم وعارضوا مشاريع القوانين التي قدمتها المعارضة سابقًا. من ناحية أخرى، عارضت منظمات المجتمع المدني بشكل عام التحركات التنظيمية.

3.3 مشاكل تشريع القوانين

بالنظر إلى المسار المذكور أعلاه، من الصعب سن قوانين جديدة تتعلق بالأخبار الكاذبة للأسباب التالية. أولاً، يتم تأطير مكافحة المعلومات المضللة سياسيًا، مما يؤدي إلى عدم التوصل إلى توافق سياسي. في الساحة السياسية، تعارض المعارضة عادةً مشاريع القوانين التي تقدمها الأغلبية بحجة أنها ذات دوافع سياسية، وعندما تتغير الحكومة، يغيرون مواقفهم ويقدمون نفس الحجج التي قدمتها المعارضة سابقًا. هذا النهج الحزبي يجعل التوصل إلى توافق سياسي صعبًا، مما أدى إلى فشل سن قوانين لمكافحة الأخبار الكاذبة. من ناحية أخرى، على الرغم من الاعتراف بالضرر الناجم عن الأخبار الكاذبة، فإن منظمات المجتمع المدني تعارض التنظيم بحجة أنه قد ينتهك حرية التعبير والصحافة التي قد تنجم عن التنظيم المفرط.

ثانيًا، تزيد المناقشات على المستوى القانوني من صعوبة سن قوانين لمكافحة المعلومات المضللة. يمكن أن يؤدي التنظيم الجنائي، إذا أدى إلى تنظيم مفرط، إلى خطر انتهاك حرية الصحافة والنشر المكفولة دستوريًا. جريمة التشهير بنشر معلومات كاذبة لديها أيضًا مشكلة أن عنصر "نية التشهير" غير واضح، وقانون الانتخابات العامة المتعلق بنشر معلومات كاذبة لديه مشكلة انتهاك مبدأ التناسب بسبب الحد الأدنى المرتفع جدًا للعقوبة، مما يؤدي فعليًا إلى إلغاء الانتخابات. من هذا المنطلق، يجادل تشوي سونغ-بيل بأنه يجب تحسين أحكام العقوبات الجنائية الحالية ومشاريع القوانين الجديدة المقترحة بطريقة تضمن أقصى قدر من حرية الصحافة والنشر، مع حماية القيم الدستورية المختلفة مثل حماية حقوق الشخصية للمواطنين، والحفاظ على النظام الاجتماعي، وحماية الأمن القومي (Choi Seung-pil 2020).

ثالثًا، حتى لو تم سن قوانين جديدة لمكافحة المعلومات المضللة، فمن الصعب ضمان فعاليتها من حيث أدوات إنفاذ القانون. تفتقر الهيئات العامة إلى القدرات التكنولوجية أو الموارد الأخرى لتتبع مستخدمي وسائل التواصل الاجتماعي الذين ينتجون وينشرون المعلومات المضللة. لهذا السبب، تفضل الحكومات التعاون بين القطاعين العام والخاص أو الإدارة الاستحثاثية لتعزيز مسؤولية شركات المنصات في تصفية المعلومات المضللة.

ومع ذلك، وفقًا لمسح أجراه معهد شرق آسيا في يناير 2024، أجاب 37.2٪ من المشاركين بأنهم واجهوا أخبارًا كاذبة أو معلومات مضللة مشتبه في نشرها من الخارج تتعلق بالانتخابات أو السياسة المحلية على وسائل التواصل الاجتماعي أو منصات أخرى عبر الإنترنت، مما يشير إلى أن المعلومات المضللة الواردة من الخارج لم تعد قضية بعيدة. في هذه الحالة، دعنا نلقي نظرة على الرأي العام بشأن المعلومات المضللة.

4. الرأي العام حول تنظيم الأخبار الكاذبة كما يظهر في استطلاع معهد شرق آسيا

فيما يلي النتائج التي توصل إليها مسح معهد شرق آسيا في يناير 2024، والتي يمكن أن تكون مرجعًا لتصميم السياسات لمكافحة المعلومات المضللة.

مثل الناس في العديد من البلدان حول العالم، يرى حوالي 80٪ من الكوريين أن المعلومات المضللة خطيرة، وقد واجه النصف تقريبًا الأخبار الكاذبة مباشرة. عندما سُئل "هل تلقيت أو رأيت بنفسك أخبارًا تعتقد أنها كاذبة في الأشهر الستة الماضية؟"، كانت نسبة "نعم" 44.6٪، وهي أقل بنسبة 9٪ من نسبة "لا" البالغة 55.4٪. وفقًا لـ "مسح مستخدمي وسائل التواصل الاجتماعي لعام 2021" الذي أجرته مؤسسة كوريا للإعلام في عام 2021، أجاب 77.2٪ بنعم على السؤال "هل واجهت معلومات إخبارية/قضايا تعتقد أنها كاذبة على وسائل التواصل الاجتماعي التي تستخدمها؟". هناك شك فيما إذا كانت الأرقام في مسح معهد شرق آسيا أقل بكثير من مسح مؤسسة الإعلام بسبب شرط "آخر 6 أشهر". في حالة تجربة تلقي الأخبار الكاذبة مباشرة، أجاب 68.0٪ بأنهم تلقوها "عبر الإنترنت مثل البوابات، فيسبوك، كاكاو، إلخ"، مما يشير إلى أن وسائل التواصل الاجتماعي هي قناة للأخبار الكاذبة، كما هو الحال في العديد من البلدان الأخرى. فيما يتعلق بأسباب اعتبار الأخبار الكاذبة كاذبة أو مضللة (إجابات متعددة)، كانت الأسباب الأكثر شيوعًا هي أن المحتوى لم يتوافق مع الحقائق المعروفة أو المنطق السليم (65.3٪)، وأن المصدر غير واضح (43.2٪)، وأن العنوان كان استفزازيًا للغاية (36.5٪)، وأن الناشر أو المصدر غير موثوق به (35.7٪)، وأن المحتوى كان مختلفًا عن المعلومات من مصادر أخرى (33.2٪). كانت الأسباب مثل ردود فعل المستخدمين الآخرين سلبية (6.3٪) أو عدد المشاهدات مرتفع (4.5٪) منخفضة. كان الاستجابة السلبية للأخبار الكاذبة أكثر شيوعًا من الاستجابة الإيجابية. أجاب 48.2٪ "لا أفعل شيئًا"، و 32.5٪ "أحظر الحساب الذي نشر الأخبار الكاذبة"، و 25.3٪ "أبلغ الآخرين بما إذا كانت الأخبار الكاذبة"، و 16.8٪ "أبلغ عن الحساب الذي نشر الأخبار الكاذبة". بمعنى آخر، كانت الاستجابات السلبية مثل عدم الاستجابة أو حظر الحساب ضعف الاستجابات الإيجابية مثل الإبلاغ عن الأخبار الكاذبة أو الإبلاغ عنها.

إذن، ما هو الرأي العام حول الاستجابة للمعلومات المضللة أو الأخبار الكاذبة؟ أولاً، يبدو أن الرأي القائل بضرورة معاقبة المعلومات المضللة أكثر انتشارًا من الرأي الذي يدعو إلى الحذر مع مراعاة حرية الصحافة، وكان الرأي بضرورة المعاقبة أقوى مع تقدم العمر. فقط 18.4٪ وافقوا على عبارة "على الرغم من وجود مشاكل، لا ينبغي تنظيم الأخبار الكاذبة لأن ذلك قد يقيد حرية الصحافة"، بينما لم يوافق 58.6٪ (23٪ قالوا "عادي"، مما يعكس رأيًا وسطًا). بمعنى آخر، الرأي الداعي إلى التنظيم أقوى بثلاث مرات من الرأي المعارض. حسب الفئات العمرية، يرى كبار السن والمسنون فوق سن الأربعين أن التنظيم ضروري، بينما يرى الشباب في العشرينات والثلاثينات أن الضرورة أقل (نسبة الموافقة على ضرورة التنظيم هي 46.0٪ للفئة العمرية 18-29، و 48.2٪ للفئة العمرية 30، و 54.9٪ للفئة العمرية 50، و 69.8٪ للفئة العمرية 60، و 72.4٪ للفئة العمرية 70 وما فوق).

<الجدول 2> لا ينبغي تنظيم الأخبار الكاذبة لأن ذلك قد يقيد حرية الصحافة

ثانيًا، عندما سُئل عن درجة مسؤولية اليوتيوبرز والسياسيين ووسائل الإعلام ذات التوجهات الأيديولوجية المختلفة عن الأخبار الكاذبة، ظهر استقطاب حزبي قوي، وكان هناك أيضًا بعض الاختلافات حسب الفئة العمرية. بشكل عام، يُنظر إلى اليوتيوبرز على أنهم أكثر مسؤولية من السياسيين ووسائل الإعلام. عندما تم طرح السؤال على مقياس من 5 نقاط: "لا مسؤولية على الإطلاق"، "مسؤولية قليلة"، "عادي"، "مسؤولية إلى حد ما"، "مسؤولية كبيرة جدًا"، كان مجموع النسب المئوية لـ "مسؤولية إلى حد ما" و "مسؤولية كبيرة جدًا" متشابهًا بالنسبة لليوتيوبرز المحافظين (67.9٪) واليوتيوبرز التقدميين (65٪). ومع ذلك، حسب الفئة العمرية، كان الاعتقاد بأن اليوتيوبرز المحافظين يتحملون مسؤولية أكبر أقوى لدى الفئات العمرية 40-50، بينما كان الاعتقاد بأن اليوتيوبرز التقدميين يتحملون مسؤولية أكبر أقوى لدى الفئات العمرية 60-70. ومع ذلك، من بين مؤيدي الحزب الديمقراطي، قال 81.4٪ أن اليوتيوبرز المحافظين يتحملون مسؤولية كبيرة، بينما قال 50.9٪ فقط من مؤيدي حزب قوة الشعب ذلك. على العكس من ذلك، فإن نسبة الذين يعتقدون أن اليوتيوبرز التقدميين يتحملون مسؤولية كبيرة عن الأخبار الكاذبة كانت ساحقة بنسبة 82.2٪ بين مؤيدي حزب قوة الشعب، بينما قال 46.1٪ فقط من مؤيدي الحزب الديمقراطي ذلك.

بالنسبة لسياسيي الأغلبية والمعارضة، كانت النسبة الإجمالية للذين أجابوا بأنهم يتحملون مسؤولية كبيرة متشابهة، حيث بلغت 53.1٪ و 54.8٪ على التوالي. ومع ذلك، بالنسبة لسياسيي الأغلبية، كانت نسبة الذين أجابوا بأنهم يتحملون مسؤولية كبيرة أقل في الفئات العمرية 18-29 و 70 عامًا فما فوق مقارنة بالفئات العمرية الأخرى، وبالنسبة لسياسيي المعارضة، انخفضت النسبة في الفئات العمرية 18-29 و 50. مرة أخرى، انقسمت تصورات المسؤولية عن المعلومات المضللة والأخبار الكاذبة بشكل حاد حسب الانتماء الحزبي. كانت نسبة الذين قالوا إن سياسيي الأغلبية يتحملون مسؤولية كبيرة 69.6٪ بين مؤيدي الحزب الديمقراطي، ولكن فقط 32.6٪ من مؤيدي حزب قوة الشعب قالوا ذلك. على العكس من ذلك، قال 73.3٪ من مؤيدي حزب قوة الشعب إن سياسيي المعارضة يتحملون مسؤولية كبيرة، بينما قال 35.6٪ فقط من مؤيدي الحزب الديمقراطي ذلك.

بالنسبة للصحافة المحافظة والتقدمية، أجاب 56.4٪ و 55.4٪ بأنهم يتحملون مسؤولية كبيرة، على التوالي، مع وجود اختلافات كبيرة حسب الفئة العمرية. بالنسبة للصحافة المحافظة، تجاوزت نسبة الذين قالوا إنها تتحمل مسؤولية كبيرة 60٪ في الفئات العمرية الوسطى والكبيرة، ولكنها كانت 51.8٪ في الستينات و 44.4٪ في السبعينات وما فوق. من ناحية أخرى، بالنسبة للصحافة التقدمية، أجاب 67-68٪ من الأشخاص الذين تزيد أعمارهم عن 60 عامًا بأنها تتحمل مسؤولية كبيرة، بينما قال حوالي نصف فقط من الفئات العمرية الوسطى والكبيرة، و 44.1٪ فقط من الفئة العمرية 18-29 عامًا بأنها تتحمل مسؤولية كبيرة. هناك أيضًا استقطاب أيديولوجي وحزبي فيما يتعلق بالصحافة. أجاب 74.6٪ من مؤيدي الحزب الديمقراطي بأن الصحافة المحافظة تتحمل مسؤولية كبيرة، بينما قال 34.8٪ فقط من مؤيدي حزب قوة الشعب ذلك. على العكس من ذلك، بلغت نسبة الذين أجابوا بأن الصحافة التقدمية تتحمل مسؤولية كبيرة 77.9٪ بين مؤيدي حزب قوة الشعب، ولكن 35.3٪ فقط من مؤيدي الحزب الديمقراطي قالوا ذلك.

<جدول 3> ما مدى مسؤولية الأشخاص التاليين عن إنتاج ونشر الأخبار الكاذبة أو المعلومات المضللة؟ (نسبة مئوية حسب الحزب السياسي الداعم)

ثالثًا، فيما يتعلق بالجهات المسؤولة عن مكافحة الأخبار الكاذبة، كانت نظرية مسؤولية المنتج، التي تركز على الأشخاص أو المنظمات التي تنشئ المعلومات المضللة في المقام الأول، هي الأقوى بنسبة 40.7٪. تلا ذلك السياسيون الذين يستخدمون المعلومات المضللة سياسيًا (29.8٪)، والمنصات التي تنشر المعلومات المضللة دون تصفيتها (15.6٪)، والأفراد الذين ينشرون المعلومات المضللة وهم يعلمون أنها كذلك (8.8٪)، بينما كانت نسبة الآراء التي تفيد بأن الحكومة يجب أن تتحمل مسؤولية الاستجابة 3.4٪ فقط. كانت آراء أن المنتجين أو السياسيين يتحملون مسؤولية الاستجابة أقوى لدى النساء منها لدى الرجال، وكانت آراء مسؤولية المنتج أقوى قليلاً لدى الأشخاص ذوي التعليم الجامعي أو أعلى مقارنة بمن لديهم تعليم ثانوي أو أقل. فيما يتعلق بمسؤولية المنصة، كان مؤيدو حزب العدالة (Justice Party) أكثر تأييدًا بنسبة 26.9٪، وكان مؤيدو الحزب الديمقراطي الكوري (Democratic Party of Korea) يدعمون ذلك بفارق حوالي 6٪ أكثر من مؤيدي حزب سلطة الشعب (People Power Party). فيما يتعلق بآراء أن السياسيين يتحملون مسؤولية الاستجابة، كان هناك فرق يبلغ حوالي 14٪ بين الشباب الذين تتراوح أعمارهم بين 18 و 29 عامًا وكبار السن الذين تزيد أعمارهم عن 70 عامًا، حيث بلغت النسب 23.4٪ و 37.3٪ على التوالي.

<جدول 4> من يجب أن يتحمل المزيد من المسؤولية لمكافحة المعلومات المضللة والأخبار الكاذبة؟

رابعًا، فيما يتعلق بإجراءات مكافحة الأخبار الكاذبة أو المعلومات المضللة، كان حظر ناشري المعلومات المضللة من المنصات هو الإجراء الذي حصل على أعلى نسبة موافقة بلغت 79.7٪، تلاه تعزيز مسؤولية شركات وسائل التواصل الاجتماعي (76.4٪) ومعاقبة ناشري المعلومات المضللة (72.6٪). كانت نسبة الموافقة على إنشاء هيئة إشرافية لمراقبة المعلومات المضللة 64.8٪ فقط، مما يتماشى مع نتائج الاستطلاع السابقة التي تشير إلى أن المسؤولية تقع على عاتق المستخدمين الأفراد وشركات المنصات أكثر من الحكومة. لم تظهر إجابات إجراءات الاستجابة اختلافات كبيرة حسب الحزب السياسي الداعم، ولكنها أظهرت اختلافات حسب الفئة العمرية. كان أدنى نسبة موافقة على حظر المنصات بين الفئة العمرية 18-19 عامًا بنسبة 66.1٪، ولكن مع زيادة العمر، زادت نسبة الموافقة لتصل إلى 90.2٪ بين من تزيد أعمارهم عن 70 عامًا. كما زادت نسبة الموافقة على تعزيز مسؤولية شركات وسائل التواصل الاجتماعي من 59.2٪ بين الفئة العمرية 18-29 عامًا مع زيادة العمر لتصل إلى 89.5٪ بين من تزيد أعمارهم عن 70 عامًا. فيما يتعلق بمعاقبة المخالفين، بلغت نسبة الموافقة 60.4٪ بين الفئة العمرية 18-29 عامًا، ولكنها زادت تدريجيًا لتصل إلى 84.5٪ بين من تزيد أعمارهم عن 70 عامًا. في حالة إنشاء هيئة إشرافية، وافق 52.5٪ من الفئة العمرية 18-29 عامًا، ولكن مع تقدم العمر، انخفضت نسبة الموافقة قليلاً في الأربعينيات ثم ارتفعت مرة أخرى لتصل إلى 81.6٪ بين من تزيد أعمارهم عن 70 عامًا. أظهر إنشاء هيئة إشرافية بعض الاختلافات حسب الحزب السياسي الداعم، حيث وافق 61.4٪ من مؤيدي الحزب الديمقراطي الكوري على ذلك، بينما وافق 75.2٪ من مؤيدي حزب سلطة الشعب.

<جدول 5> هل توافق على أن الإجراءات التالية ضرورية لمكافحة الأخبار الكاذبة أو المعلومات المضللة؟

5. اقتراحات لمكافحة المعلومات المضللة والمزيفة

نظرًا لأن المعلومات المضللة والمزيفة تنتشر بشكل أساسي عبر وسائل التواصل الاجتماعي، فقد انخفضت الثقة في وسائل التواصل الاجتماعي بشكل كبير. ومع ذلك، لا ينبغي تفسير الرأي العام المتشكك على أنه دعوة لفرض لوائح صارمة على وسائل التواصل الاجتماعي. وذلك لأن الإنترنت ووسائل التواصل الاجتماعي يمكن أن تكونا مساحات لمقاومة السلطوية، وتعملان أيضًا كمنتدى عام لتبادل المعلومات والآراء المتنوعة. أجرت مؤسسة بيو ريسيرش (Pew Research) دراسة في عام 2022 في 19 دولة متقدمة اقتصاديًا لفهم كيفية إدراك هذه الازدواجية. كان 57٪ من المشاركين يرون أن وسائل التواصل الاجتماعي مفيدة للديمقراطية في بلدانهم، مقارنة بـ 35٪ يرون أنها ضارة. في الولايات المتحدة وهولندا وفرنسا وأستراليا، كانت نسبة الآراء التي تفيد بأنها ضارة أكبر من نسبة الآراء التي تفيد بأنها مفيدة، بينما سادت الآراء بأنها ذات وظيفة إيجابية للديمقراطية في جميع البلدان الأخرى. في كوريا، تضاعفت نسبة الآراء التي تفيد بأن وسائل التواصل الاجتماعي مفيدة للديمقراطية الكورية (66٪) مقارنة بالآراء التي تفيد بأنها ضارة (32٪) (Wike et al. 2022).

في حين أن الاستجابة النشطة للمعلومات المضللة والمزيفة أمر ضروري، يجب ألا يؤدي ذلك إلى تقويض حرية التعبير وانفتاح وتنوع الديمقراطية. من المستحسن أن تقتصر المعلومات المضللة والمزيفة على المعلومات التي تحظرها القوانين الحالية بالفعل، وعند تعزيز مستويات العقوبات الجنائية والمدنية، من المستحسن إعطاء الأولوية للتعليم الاجتماعي. في ظل النظام الحالي، يمكن تعزيز وظائف هيئة الاتصالات (KCC) أو الإدارات ذات الصلة بشكل كافٍ للإشراف على المعلومات المضللة والمزيفة عبر الإنترنت. الأهم من ذلك، يجب تعزيز تعليم القراءة الإعلامية لمساعدة مستخدمي الإنترنت على تقييم المعلومات المضللة والمزيفة. بالنسبة لشركات المنصات، نظرًا لأنها توفر قنوات لنشر المعلومات المضللة والمزيفة، يجب عليها تعزيز قدراتها التقنية لتمكينها من تصفية هذه المعلومات، وزيادة الشفافية والمسؤولية في خوارزمياتها. يجب النظر في طرق لتوضيح المسؤوليات وفرض غرامات في حالة عدم الامتثال، كما هو الحال في حالة قانون الخدمات الرقمية (DSA). عند تعديل أو سن قوانين تتعلق بالمعلومات المضللة والمزيفة، يجب أن تتم الاستجابة للمعلومات المضللة والمزيفة بشكل متعدد الأحزاب. في ظل المشهد السياسي الكوري المستقطب حاليًا، يعد الإجماع السياسي والاجتماعي أمرًا بالغ الأهمية لضمان فعالية الاستجابة للمعلومات المضللة والمزيفة. يجب إيلاء اهتمام خاص لحالات الدول الأوروبية التي تسعى إلى الاستجابة للمعلومات المضللة والمزيفة التي تسبب ضررًا اجتماعيًا وسياسيًا، مع تحقيق التوازن بين حرية التعبير والتنظيم.

في الوقت نفسه، أصبح تدفق المعلومات المضللة والمزيفة من الخارج واقعًا لا يمكن تجاهله. هناك حاجة إلى استجابة نشطة، خاصة للمحتوى المتعلق بالأمن القومي والسلامة الاجتماعية. بالإضافة إلى ذلك، هناك حاجة إلى استجابة نشطة للمعلومات المضللة من قبل وكالات أجنبية أو وكلائها المحليين التي تسعى إلى تقويض نزاهة الانتخابات أو دعم مرشح أو حزب معين خلال الانتخابات الرئيسية المحلية. هذا ضروري لحماية الديمقراطية في المجتمع الكوري. من المرجح أن يتمثل اتجاه الاستجابة للمعلومات المضللة والمزيفة من الخارج في استخدام أو إنشاء وكالات استخبارات. في هذا الصدد، يمكن أن يكون نهج الإدارة الأمريكية سابقة، ويبدو أن التصميم الذي يركز على وحدة تحكم مركزية واحدة، بدلاً من توزيع وكالات جمع المعلومات والإشراف كما في الولايات المتحدة، هو التصميم المفضل.

الوصفة الأكثر فعالية للمعلومات المضللة والمزيفة هي استعادة الثقة في وسائل الإعلام التقليدية. عندما تلتزم وسائل الإعلام بصرامة بأخلاقيات الصحافة القائمة على الحقائق وتقدم أخبارًا موضوعية، فلن يستخدم المواطنون وسائل التواصل الاجتماعي كمصدر للأخبار السياسية والاجتماعية.

6. المراجع

كانغ هان-ديول. 2023. "لجنة مراقبة الاتصالات تبدأ أخيرًا مركز الأخبار الكاذبة... 'مراجعة سريعة' مستمرة." <كيونغ يانغ شينمون> 21 ديسمبر.

كيم يو-را. 2020. "حالة التشريعات والنقاط الرئيسية المتعلقة بالمعلومات المضللة والمزيفة في الدورة العشرين للجمعية الوطنية." <مكتب أبحاث الجمعية الوطنية>.

جونغ سي-هون. 2017. "تعريف الأخبار الكاذبة والوضع الحالي للاستجابة المحلية والدولية." عرض تقديمي في <ندوة سياسات لجنة الوساطة الإعلامية>. 7 ديسمبر.

تشوي سيونغ-بيل. 2020. "مراجعة قانونية لتنظيم الأخبار الكاذبة - مع التركيز على التنظيمات في قانون الإعلام وقانون شبكات المعلومات والاتصالات." <دراسات القانون العام> 21,1: 115-147.

مؤسسة كوريا لتقدم الإعلام. 2021. "دراسة مستخدمي وسائل التواصل الاجتماعي لعام 2021." 31 ديسمبر.

لجنة النطاق العريض. 2020. "توازن: مكافحة المعلومات المضللة الرقمية مع احترام حرية التعبير." تقرير فريق العمل. 22 سبتمبر.

المفوضية الأوروبية. "مكافحة المعلومات المضللة عبر الإنترنت."https://digital-strategy.ec.europa.eu/en/policies/online-disinformation

___________________. "حزمة قانون الخدمات الرقمية."https://digital-strategy.ec.europa.eu/en/policies/digital-services-act-package

___________________. "قانون الخدمات الرقمية."https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/europe-fit-digital-age/digital-services-act_en

___________________. "الإشراف على المنصات عبر الإنترنت الكبيرة جدًا ومحركات البحث المعينة بموجب قانون الخدمات الرقمية."https://digital-strategy.ec.europa.eu/en/policies/list-designated-vlops-and-slops

___________________. "قانون الخدمات الرقمية: المنصات عبر الإنترنت الكبيرة جدًا ومحركات البحث."https://digital-strategy.ec.europa.eu/en/policies/dsa-vlops

فونك، آلي، أدريان شاهباز، وكيان فيستينسون. 2023. "حرية الإنترنت 2023: القوة القمعية للذكاء الاصطناعي."

غرين، ياسمين وآخرون. 2023. "تدخلات مكافحة المعلومات المضللة القائمة على الأدلة: تحديات وفرص للقياس والتعاون." مؤسسة كارنيغي للسلام الدولي. 9 يناير.

هومبريشت، إيدا وآخرون. 2023. "مشاركة المعلومات المضللة في مقارنة عبر وطنية: تحليل أنماط المرونة." المعلومات، الاتصالات والمجتمع 26, 7: 1342–1362.

هسو، تيفاني وآخرون. 2024. "الانتخابات والمعلومات المضللة تتصادم أكثر من أي وقت مضى في عام 2024." نيويورك تايمز. 9 يناير.

كليبنشتاين، كين. 2023. "أنشأت الحكومة مكتبًا جديدًا للمعلومات المضللة للإشراف على جميع المكاتب الأخرى." إنترسبت. 5 مايو.

موروسولي، صوفي وآخرون. 2022. "تحديد الدوافع وراء انتشار المعلومات المضللة عبر الإنترنت: دراسة حول المواقف السياسية والخصائص الفردية في سياق التفاعل مع المعلومات المضللة على وسائل التواصل الاجتماعي." عالم السلوك الأمريكي 0,0. https://doi.org/10.1177/00027642221118300.

مايرز، ستيفن لي. 2023. "الولايات المتحدة تجرب نهجًا جديدًا ضد المعلومات المضللة الروسية: استباقها." نيويورك تايمز. 26 أكتوبر.

بيترسون، إريك وشانتو إينغار. 2021. "الفجوات الحزبية في المعلومات السياسية وسلوك البحث عن المعلومات: هل هو تفكير مدفوع أم تشجيع؟" المجلة الأمريكية للعلوم السياسية 65,1: 133–147.

تورنبرغ، بيتر. 2018. "غرف الصدى والمعلومات المضللة الفيروسية: نمذجة الأخبار الكاذبة كعدوى معقدة." PLoS ONE 13(9).https://doi.org/10.1371/journal.pone.0203958/

وزارة الخارجية الأمريكية. 2023. "تصدير المعلومات المضللة المؤيدة للكرملين: حالة نوفا ريزيستينسيا في البرازيل." تقرير خاص لمركز المشاركة العالمية. 19 أكتوبر.

________________________. 2023. "نزع سلاح المعلومات المضللة: مسؤوليتنا المشتركة." مركز المشاركة العالمية. 20 أكتوبر.

اليونسكو. 2018. "الصحافة، "الأخبار الكاذبة" والمعلومات المضللة: دليل لتعليم وتدريب الصحافة."

اليونسكو. 2023. "مسح حول تأثير المعلومات المضللة والكراهية عبر الإنترنت." سبتمبر.

وانليس، أليس وجاكوب شابيرو. 2022. "نموذج CERN لدراسة البيئة المعلوماتية." مؤسسة كارنيغي للسلام الدولي. 17 نوفمبر.

وايك، ريتشارد وآخرون. 2022. "يُنظر إلى وسائل التواصل الاجتماعي على أنها مفيدة للديمقراطية في العديد من البلدان، لكن الولايات المتحدة هي حالة شاذة رئيسية." مركز بيو للأبحاث. 6 ديسمبر.


[1]تم طرح مشكلة تداخل الوظائف مع مركز المشاركة العالمية (GEC) التابع لوزارة الخارجية عند إنشاء مركز FMIC. شعار FMIC هو "كشف الخداع دفاعًا عن الحرية".

[2]يُبلغ عن أن حركة المقاومة الجديدة هي منظمة نازية جديدة تنشط في أمريكا الجنوبية وأوروبا وأمريكا الشمالية، وهي متورطة بعمق في النظام البيئي للمعلومات المضللة والدعاية المؤيدة لروسيا.


■ المؤلف: لي سوك-جونغباحثة أولى في معهد دراسات شرق آسيا. أستاذة خاصة في جامعة سونغكيونكوان.


■ التحرير والمراجعة: بارك جي-سوباحث في EAI


الاستفسارات والتحرير: 02 2277 1683 (داخلي 208) | jspark@eai.or.kr

المرفقات

  • [EAI가짜뉴스워킹페이퍼]③허위조작정보에대한대응_국제적규제추세와한국의대응방안.pdf

*هذا النص ترجمة بالذكاء الاصطناعي لنص أصلي مكتوب باللغة الكورية. قد تتضمن بعض الترجمات أو الفروق الدقيقة أخطاء.

→ رجوع · → الرئيسية · → العودة إلى القائمة