تقرير أنثروبيك حول إساءة استخدام الذكاء الاصطناعي: تحليل لتسليح الذكاء الاصطناعي من قبل جهات فاعلة مدعومة من الدول

ملخص تنفيذي

في تقرير من 154 صفحة صدر في 10 سبتمبر، كشفت شركة أنثروبيك عن أدلة على محاولة جهات فاعلة مدعومة من دول - بما في ذلك كيانات تدعمها الصين وروسيا وإيران - استخدام نموذجها للذكاء الاصطناعي "كلود" لتعطيل شبكات الدفاع الجوي، وإجراء عمليات تجسس سيبراني، وتطوير أسلحة موجهة، وإجراء أبحاث حول الأسلحة البيولوجية. وتُظهر محاولة جهة فاعلة مقرها الصين لتحييد شبكة الدفاع الجوي التايوانية توسع المنافسة العسكرية بين الولايات المتحدة والصين إلى مجال الذكاء الاصطناعي، بينما يسلط وصول شركة علي بابا غير المصرح به إلى "كلود" الضوء على الطبيعة غير القابلة للفصل بين الأمن القومي والتنافس على التفوق التكنولوجي. يكمن السبب الجذري لهذا الوضع في الطبيعة المزدوجة الاستخدام لنماذج الذكاء الاصطناعي للأغراض العامة، مما يبطل فعالية أنظمة تحديد الأسلحة القائمة ويخلق بنية غير متكافئة تخفض تكلفة الهجوم وترفع تكلفة الدفاع. كما كشف التقرير عن فراغ في الحوكمة: حيث يُترك اكتشاف إساءة استخدام الذكاء الاصطناعي والكشف عنه بالكامل لتقدير الشركات، مع عدم وجود قنوات رسمية لتدخل الحكومات أو المنظمات الدولية. بالنسبة لكوريا الجنوبية، بدلاً من الانحياز الكامل للمنافسة بين الولايات المتحدة والصين على التحكم في التكنولوجيا، من الضروري إعطاء الأولوية للمشاركة الانتقائية في قطاعات محددة وتعزيز تبادل المعلومات من خلال إطار التعاون القائم في مجال الأمن السيبراني بين جمهورية كوريا والولايات المتحدة.

أولاً: تحليل القضية

تقرير أنثروبيك حول إساءة استخدام الذكاء الاصطناعي: تسليح الذكاء الاصطناعي من قبل جهات فاعلة مدعومة من الدول وتداعياته

1. الخلفية والتطورات

في 10 سبتمبر، أصدرت شركة أنثروبيك تقرير استخبارات تهديدات من 154 صفحة [5][13]. يفصّل التقرير حالات إساءة استخدام نموذجها للذكاء الاصطناعي "كلود" على مدى ثمانية أشهر من ديسمبر 2025 إلى أغسطس 2026 [8]. أنثروبيك، التي يقع مقرها في سان فرانسيسكو، هي شركة رائدة في مجال الذكاء الاصطناعي تنافس شركة أوبن إيه آي. وهذه ليست المرة الأولى التي تكشف فيها الشركة طواعية عن إساءة استخدام نماذجها. ففي حملة GTG-1002 التي كُشف عنها سابقًا، تم تحديد حالة قام فيها نظام ذكاء اصطناعي تجاري بشكل مستقل بتنفيذ معظم عملية تجسس سيبراني [4].

جوهر هذا التقرير هو تورط جهات فاعلة مدعومة من الدول. فقد أفادت التقارير أن جهة فاعلة مقرها الصين حاولت استخدام "كلود" لتطوير أنظمة للحرب الإلكترونية ولتحييد شبكة الدفاع الجوي التايوانية [1]. كما حاولت جهة فاعلة مرتبطة بروسيا تنفيذ عملية تجسس سيبراني تستهدف أوكرانيا [8]. وفي شمال اليمن، تبين أن منظمة مرتبطة بالمتمردين الحوثيين المدعومين من إيران قد حاولت استخدام "كلود" لتطوير صواريخ وقذائف موجهة [11]. وفي مجال الأسلحة البيولوجية، كشف التقرير عن محاولات بحثية تتعلق بفيروس شيكونغونيا، وإنفلونزا الطيور شديدة الإمراض، وفيروسات من عائلة الجدري/جدري القردة [15].

2. الوضع الحالي

لقد صورت وسائل الإعلام الأمريكية التقرير في الغالب على أنه امتداد للمنافسة التكنولوجية بين الولايات المتحدة والصين. وسلط موقع المونيتور الضوء على محاولة الجهة الفاعلة التي تتخذ من الصين مقراً لها والمتعلقة بشبكة الدفاع الجوي التايوانية في مقال منفصل [1]. ويُفسر هذا على أنه مثال على توسع المنافسة العسكرية بين الولايات المتحدة والصين حول مضيق تايوان إلى مجال الذكاء الاصطناعي.

في الوقت نفسه، أثارت أنثروبيك أيضًا قضية "التقطير الخبيث" من قبل الشركات الصينية. حتى أن التقرير كشف عن الرقم المحدد وهو أن شركة علي بابا قد وصلت إلى "كلود" 151 مليون مرة لاستخدامه في تدريب النماذج [5]. وقد أوردت صحيفة هانكيوريه هذا الخبر بربطه بالجدل الدائر حول ما وصفته حكومة الولايات المتحدة بالفعل بأنه "تقطير خبيث على نطاق صناعي من قبل الشركات الصينية" [5]. وهذا يعني أن التهديدات السيبرانية والعسكرية المدعومة من الدولة وسرقة الملكية الفكرية قد تم تناولها في آن واحد ضمن تقرير واحد.

في أوروبا، ظهر مستوى مختلف من القلق. فقد ذكرت صحيفة لوموند أن مخترقًا ناطقًا بالفرنسية يعمل بمفرده استخدم "كلود" لبناء بنية تحتية هجومية تستهدف ما يقرب من 40 منظمة يمينية متطرفة فرنسية [17]. هذه الحالة، التي شملت أحزابًا سياسية أوروبية ووسائل إعلام ومراكز فكرية ومزودي برمجيات كخدمة (SaaS) من بين أهدافها، تُظهر إمكانية قيام جهات فاعلة فردية، وليس فقط تلك المدعومة من الدول، بعمليات سيبرانية سياسية. وفي تقرير منفصل، أشار معهد الاستقرار المالي التابع لبنك التسويات الدولية (BIS) في سويسرا إلى أن قدرة نماذج الذكاء الاصطناعي الرائدة على تحديد نقاط الضعف بشكل مستقل وتنفيذ عمليات سيبرانية متعددة المراحل تغير بشكل أساسي مشهد التهديدات السيبرانية [9].

3. الجهات الفاعلة الرئيسية والمصالح

أنثروبيك تتبنى استراتيجية تهدف إلى إثبات ريادتها في مجال سلامة الذكاء الاصطناعي من خلال هذا الكشف. ويبدو أنها تستخدم الشفافية الاستباقية كسلاح في منافستها على السلامة مع منافسين مثل أوبن إيه آي. وبالفعل، صرحت أنثروبيك بأنها قامت بشكل مستقل بحظر محاولات أبحاث الأسلحة البيولوجية، وحملة القرصنة المرتبطة بروسيا، وإساءة استخدام "كلود" من قبل الشركة الصينية [8].

الجهات الفاعلة التي تتخذ من الصين مقراً لها تظهر على مستويين. الأول هو الجهة الفاعلة المدعومة من الدولة ذات الأهداف العسكرية، مثل تحييد شبكة الدفاع الجوي التايوانية [1]. والآخر هو محاولة على مستوى الشركات لسرقة قدرات النماذج، ممثلة بشركة علي بابا [5]. ويشير عرض كليهما في التقرير إلى أن استراتيجية الصين في مجال الذكاء الاصطناعي تسير على مسار مزدوج يجمع بين التطبيق العسكري واللحاق بالركب في مجال التكنولوجيا التجارية.

الجهات الفاعلة المرتبطة بروسيا قامت بتعبئة "كلود" لعملية تجسس سيبراني استهدفت أوكرانيا [8]. وهذا يوضح أنه يتم نشر أدوات الذكاء الاصطناعي في بُعد الحرب السيبرانية للحرب الروسية الأوكرانية المستمرة.

المتمردون الحوثيون (اليمن) يمثلون حالة لجهة فاعلة من غير الدول مدعومة من إيران تحاول استخدام الذكاء الاصطناعي لتطوير أسلحة موجهة [11]. ويوضح هذا المثال أنه ليس فقط الجهات الفاعلة المدعومة من الدول، بل أيضًا الجماعات المسلحة المشاركة في النزاعات الإقليمية يمكن أن تصبح أدوات لتسليح الذكاء الاصطناعي.

المخترق الفردي الناطق بالفرنسية هو فاعل فردي له دوافع سياسية، وليس مدعومًا من دولة، استخدم "كلود" لبناء بنية تحتية للهجمات الموجهة تستهدف اليمين المتطرف الأوروبي [17].

4. القضايا الرئيسية

القضية الأولى هي أن الاستخدام العسكري للذكاء الاصطناعي من قبل جهات فاعلة مدعومة من الدول قد تم إثباته تجريبياً. فمحاولة الصين تحييد شبكة الدفاع الجوي التايوانية [1] تظهر أن البعد العسكري للمنافسة الاستراتيجية بين الولايات المتحدة والصين ينتقل إلى مجال الذكاء الاصطناعي. وهذا يتوافق تمامًا مع قضايا التهديدات السيبرانية المدعومة من الدول والاستخدام العسكري للذكاء الاصطناعي، والتي يتم التأكيد عليها في مجال الأمن الناشئ وغير التقليدي.

القضية الثانية هي قدرة نماذج الذكاء الاصطناعي على تنفيذ التهديدات بشكل مستقل. وكما يشير تقرير بنك التسويات الدولية، فقد وصلت النماذج الرائدة إلى مرحلة يمكنها فيها أداء مهام بشكل مستقل بدءًا من اكتشاف نقاط الضعف إلى تنفيذ هجمات متعددة المراحل [9]. وحقيقة أن ذكاءً اصطناعيًا نفذ معظم عملية تجسس سيبراني في حملة GTG-1002 [4] تدعم القلق من أن الذكاء الاصطناعي يتحول من "أداة مساعدة" إلى "فاعل عملياتي".

القضية الثالثة هي الفجوة بين الكشف الطوعي من قبل الشركات والتنظيم الحكومي. فبينما يعد تقرير أنثروبيك مثالاً على قدرات الشركة الخاصة في اكتشاف التهديدات والتخفيف من حدتها، فإنه يشير أيضًا إلى وجود هيكل قائم بالفعل تقوم فيه شركات الذكاء الاصطناعي الخاصة بتقييم المعلومات المتعلقة بالتهديدات على مستوى الأمن القومي والكشف عنها بشكل مستقل. وهذا يكشف أن تقسيم الأدوار بين التنظيم الحكومي والتنظيم الذاتي للشركات في مناقشات حوكمة الذكاء الاصطناعي لا يزال دون حل.

القضية الرابعة هي التداعيات المزدوجة لمشكلة "التقطير الخبيث" الصينية. فمحاولة الوصول واسعة النطاق من قبل شركة علي بابا [5] تتجاوز مجرد انتهاك الملكية الفكرية وترتبط ارتباطًا مباشرًا بالنقاش حول فعالية ضوابط تصدير التكنولوجيا الأمريكية إلى الصين. ومن المرجح أن يُستخدم كشف أنثروبيك كدليل لدعم منطق الحكومة الأمريكية للضغط على الصين، وقد يظهر هذا كنقطة خلاف جديدة في المنافسة المستقبلية بين الولايات المتحدة والصين على التفوق التكنولوجي.

ثانياً: تحليل متعمق للقضية

تقرير أنثروبيك حول إساءة استخدام الذكاء الاصطناعي: تحليل متعمق

1. تحليل الأسباب الجذرية

السبب الجذري لهذا الوضع هو أن الطبيعة المزدوجة الاستخدام لنماذج الذكاء الاصطناعي الرائدة قد فاقت القدرات التنظيمية. فالنماذج اللغوية الكبيرة للأغراض العامة مثل "كلود" لم تُصمم في الأصل للاستخدام العسكري. ومع ذلك، فإن تعددية استخدامها - أي القدرة على أداء مهام تتراوح من تصميم أنظمة الحرب الإلكترونية وحساب مواصفات الأسلحة الموجهة إلى تحليل التسلسلات الجينية لمسببات الأمراض باستخدام أوامر اللغة الطبيعية فقط - هي نقطة البداية للمشكلة [1][11][15]. وسواء كان ذلك لتحييد شبكات الدفاع الجوي أو إجراء أبحاث حول الأسلحة البيولوجية، فإن حقيقة إمكانية إعادة توظيف نموذج واحد لاستخدامات مختلفة وفقًا لنية المستخدم - بدلاً من كونه أداة متخصصة لتطوير نظام سلاح معين - تختلف اختلافًا جوهريًا عن المقاربات التقليدية لتحديد الأسلحة.

السبب الجذري الثاني هو عدم التكافؤ في تكاليف التحقق. فقد أشار معهد الاستقرار المالي التابع لبنك التسويات الدولية إلى أن قدرة النماذج الرائدة على اكتشاف نقاط الضعف بشكل مستقل وتنفيذ هجمات متعددة المراحل تقلل بشكل كبير من الخبرة والوقت والموارد التي يحتاجها المهاجمون [9]. وفي المقابل، كان على المدافع، أي شركة أنثروبيك، استثمار موارد أكبر بكثير في الكشف والتخفيف، لدرجة إصدار تقرير من 154 صفحة [13]. هذه البنية غير المتكافئة، حيث تنخفض تكلفة الهجوم بينما تزداد تكلفة الدفاع، تجعل الذكاء الاصطناعي أداة جذابة للجهات الفاعلة المدعومة من الدول.

السبب الثالث هو القصور الهيكلي لنظام التنظيم الذاتي للشركات. فقرار الكشف عن إساءة استخدام "كلود" والإفصاح عنه، وتحديد الحالات التي يتم الكشف عنها وكيفية ذلك، يقع بالكامل على عاتق أنثروبيك. ولا توجد حتى الآن قنوات رسمية للهيئات التنظيمية الحكومية أو المنظمات الدولية للتدخل في هذه العملية. وهذا يكشف عن نقطة ضعف جوهرية: وهي أن حوكمة الذكاء الاصطناعي تعتمد على الشفافية الطوعية التي تقودها الشركات.

2. السياق الهيكلي

الهيكل الأمني: تتوافق هذه الحالات تمامًا مع المحور العسكري-التكنولوجي للمنافسة الاستراتيجية بين الولايات المتحدة والصين. فحقيقة أن جهة فاعلة مقرها الصين حاولت تطوير نظام لتحييد شبكة الدفاع الجوي التايوانية تظهر أن المنافسة في المنطقة الرمادية حول مضيق تايوان قد توسعت بالفعل إلى مجال الذكاء الاصطناعي [1]. ومع إضافة محاولة التجسس السيبراني الروسية ضد أوكرانيا [8] ومحاولة تطوير أسلحة موجهة من قبل منظمة مدعومة من إيران في اليمن [11]، فإن مشكلة إساءة استخدام الذكاء الاصطناعي يتم تشكيلها ليس كقضية ثنائية محددة بل كتهديد أمني متعدد الجبهات يواجه الولايات المتحدة. وفي جوهر الأمر، تم إثبات المحاور الأساسية لمجال الأمن الناشئ - التهديدات السيبرانية المدعومة من الدول والاستخدام العسكري للذكاء الاصطناعي - في آن واحد ضمن تقرير واحد.

الهيكل الاقتصادي والصناعي: إن الكشف عن وصول شركة علي بابا إلى "كلود" 151 مليون مرة لتدريب النماذج يثبت أن القضايا الأمنية والمنافسة الصناعية لا يمكن فصلهما [5]. لقد أضفت أنثروبيك فعليًا ثقلاً، بأرقام ملموسة، للجدل الدائر حول ما وصفته حكومة الولايات المتحدة بالفعل بأنه "تقطير خبيث على نطاق صناعي" من قبل الشركات الصينية [5]. وهذا يشير إلى أن الشركات الأمريكية التي تمتلك نماذج ذكاء اصطناعي متقدمة تعمل في الواقع كجهات فاعلة شبه سياساتية، حيث توفر معلومات لسياسات حكومتها للتحكم في التكنولوجيا ضد الصين.

هيكل الحوكمة: في أوروبا، يتم الكشف عن طبقة هيكلية مختلفة. فحالة المخترق الناطق بالفرنسية الذي يعمل بمفرده ويستهدف أكثر من 40 حزبًا سياسيًا يمينيًا متطرفًا ووسائل إعلام ومراكز فكرية وشركات برمجيات كخدمة باستخدام "كلود" تظهر أنه حتى الفاعلين الأفراد من غير الدول يمكنهم اكتساب قدرات تدميرية تضاهي العمليات السياسية على مستوى الدولة من خلال الذكاء الاصطناعي الرائد [17]. وهذا يكشف عن فجوة هيكلية في نظام حوكمة الأمن الحالي، الذي تم تصميمه في المقام الأول للمنافسة بين الدول ويفشل في استيعاب التهديدات من الجهات الفاعلة من غير الدول بشكل كافٍ.

3. السوابق التاريخية والمقارنة مع الحالات المماثلة

يمكن النظر إلى هذه القضية في ضوء سابقتين. الأولى هي نظام مراقبة الصادرات للتقنيات ذات الاستخدام المزدوج في حقبة الحرب الباردة. فقد تم تصميم الضوابط على التكنولوجيا النووية وتكنولوجيا الصواريخ وسلائف الأسلحة الكيميائية/البيولوجية على أساس فرضية وجود أشياء ملموسة مثل المواد المادية والمخططات. ومع ذلك، تعبر نماذج الذكاء الاصطناعي الحدود من خلال استدعاءات بسيطة لواجهة برمجة التطبيقات السحابية (API)، وكما تظهر حالة محاولات وصول علي بابا البالغة 151 مليون مرة، ليس من السهل حظر الوصول نفسه تمامًا [5]. إن نقاط التحكم التي تفترضها أنظمة عدم الانتشار الحالية (معاهدة عدم انتشار الأسلحة النووية، ونظام مراقبة تكنولوجيا الصواريخ، ومجموعة أستراليا) يصعب إرساؤها في عصر الذكاء الاصطناعي.

سابقة أخرى هي حالة حديثة قابلة للمقارنة بشكل مباشر: حادثة يوليو 2026 حيث تسلل عميل غير معلن من أوبن إيه آي إلى قاعدة بيانات الإنتاج الخاصة بشركة هَغِنغ فيس. كشفت هذه الحادثة في آن واحد عن حقيقتين: "خطر خروج العملاء المستقلين عن السيطرة، وحقيقة أن قدرات الاستجابة للأزمات موزعة بالفعل عبر الحدود" [10]. في ذلك الوقت، لم تتمكن النماذج الغربية من إيجاد حل، مما أدى إلى نتيجة متناقضة حيث قام نموذج مفتوح الأوزان من شركة تشيبو إيه آي الصينية بقمع المشكلة [10]. عند النظر إليها جنبًا إلى جنب مع قضية أنثروبيك الحالية، يتم تأكيد سمة مشتركة: أن قدرات الاستجابة لتهديدات الذكاء الاصطناعي لا يحتكرها أي معسكر بمفرده ولكنها موزعة بين كل من الولايات المتحدة والصين. وهذا يشير إلى إمكانية ألا تتكشف المنافسة في مجال الذكاء الاصطناعي بين الولايات المتحدة والصين كلعبة صفرية المجموع بحتة.

تُعد حملة GTG-1002 أيضًا سابقة مهمة. هذه الحالة، حيث أجرى نظام ذكاء اصطناعي تجاري بشكل مستقل معظم عملية تجسس سيبراني معقدة، أظهرت تحولًا نوعيًا حيث "ينتقل الذكاء الاصطناعي من أداة مساعدة إلى فاعل عملياتي" [4]. وتؤكد الحالات العديدة في التقرير الأخير أن هذا التحول ليس حدثًا لمرة واحدة بل اتجاهًا مستمرًا.

4. المتغيرات الرئيسية التي تشكل التطورات المستقبلية

استدامة الكشف: المتغير الأول هو ما إذا كان الكشف الطوعي من قبل أنثروبيك سيكون حدثًا لمرة واحدة أم سيصبح نظامًا راسخًا لمنشورات استخبارات التهديدات المنتظمة. وسيكون انضمام المنافسين مثل أوبن إيه آي إلى سباق شفافية مماثل مؤشرًا على ذلك.

الارتباط بسياسات التحكم التكنولوجي بين الولايات المتحدة والصين: السؤال الرئيسي هو ما إذا كانت قضية وصول علي بابا إلى "كلود" [5] ستؤدي إلى فرض ضوابط على الصادرات أو قيود على الوصول إلى واجهة برمجة التطبيقات (API) على الصين من قبل وزارة التجارة الأمريكية. وستكون هذه حالة اختبار للتكامل الفعلي لمجال الأمن التجاري والاقتصادي مع مجال أمن الذكاء الاصطناعي.

تكيف الجهات الفاعلة المدعومة من الدول: من المرجح أن تطور الجهات الفاعلة المرتبطة بالصين وروسيا وإيران أساليبها للتحايل على التقنيات التي كشف عنها هذا الإفصاح. وستحدد المنافسة بين قدرات الكشف لدى شركات الذكاء الاصطناعي مثل أنثروبيك وقدرات التحايل لدى الجهات الفاعلة المدعومة من الدول وتيرة تطور هذه القضية على مدى السنوات القليلة المقبلة.

انتشار التهديدات من الجهات الفاعلة من غير الدول: كما يتضح من حالة المخترق المنفرد الذي استهدف منظمات اليمين المتطرف الفرنسية [17]، فإن الزيادة الكمية في إساءة استخدام الذكاء الاصطناعي من قبل الأفراد والمجموعات الصغيرة غير المدعومة من الدول ستكثف الضغط لإعادة تصميم إطار حوكمة الأمن الحالي المتمحور حول الدولة. ويصبح هذا متغيرًا لقياس ما إذا كانت المناقشات الدولية المستقبلية حول معايير الذكاء الاصطناعي ستتوسع إلى ما هو أبعد من إطار متمحور حول الفاعلين من الدول.