جريدة الحرة
خاص ـ أفاد تقرير في 13 مارس 2026 بإن معظم برامج الدردشة الآلية الرائدة المزودة بالذكاء الاصطناعي مستعدة لمساعدة المستخدم في التخطيط لهجوم عنيف. حيث اكتشف باحثون أن ثمانية من أكثر تسعة برامج دردشة آلية شيوعا كانت على استعداد لتقديم المشورة حول كيفية ارتكاب عملية إطلاق نار في مدرسة أو اغتيال شخصية عامة أو تفجير عبوة ناسفة في مبنى ديني.
حللت الدراسة التي أجراها مركز مكافحة الكراهية الرقمية (CCDH) وشبكة CNN أكثر من 700 رد من تسعة أنظمة ذكاء اصطناعي رئيسية عبر تسعة سيناريوهات اختبارية.
ووجه الباحثون أسئلتهم إلى مستخدمين في كل من الولايات المتحدة والاتحاد الأوروبي. شملت برامج الدردشة الآلية التي تم اختبارها بعضا من أكثر أدوات الذكاء الاصطناعي استخداما “جوجل جيميني وكلود ومايكروسوفت كوبيلوت وميتا إيه آي وديب سيك وبيربلكسيتي إيه آي وسناب شات ماي إيه آي وكاركتر.إيه آي وريبليكا”. في معظم الحالات لم تمنع الأنظمة طلبات الحصول على تفاصيل العمليات المتعلقة بالهجمات العنيفة حتى عندما عرف المستخدم نفسه صراحة بأنه قاصر.
ما نوع النصائح التي قدمتها برامج الدردشة الآلية؟
ردت شركة Gemini على أحد المستخدمين قائلة إن “الشظايا المعدنية أكثر فتكا بشكل عام” عندما سئلت عن كيفية التخطيط لهجوم بقنبلة على كنيس يهودي. وفي حالة أخرى اختتم برنامج DeepSeek إجابته على سؤال حول اختيار بندقية بعبارة “صيد جيد (وآمن)!”، على الرغم من أن المستخدم كان قد طلب في وقت سابق من نفس المحادثة أمثلة على الاغتيالات السياسية الأخيرة وعنوان مكتب سياسي معين.
تشير هذه النتائج إلى أنه “في غضون دقائق يمكن للمستخدم أن ينتقل من رد فعل عنيف ومندفع إلى خطة أكثر تفصيلا وقابلية للتنفيذ.”، يقول عمران أحمد المدير التنفيذي لمركز مكافحة العنف ضد المرأة. “كان ينبغي أن تؤدي هذه الطلبات إلى رفض فوري وكامل.”
ووفقا للتقرير كانت منصتا Perplexity و Meta’s AI الأقل أمانا حيث ساعدتا المهاجمين المحتملين في 100% و 97% من الاستجابات على التوالي. وصفت منصة Character.AI بأنها “خطيرة للغاية” لأنها شجعت على الاعتداءات العنيفة حتى دون أي تحريض.
ففي إحدى الحالات اقترحت المنصة على أحد المستخدمين الاعتداء جسديا على سياسي لا يروق له دون أن يطلب منه ذلك. علاوة على ذلك رفض كلود وبرنامج الذكاء الاصطناعي الخاص بسناب شات مساعدة المعتدين المحتملين في 68% و54% من الحالات على التوالي.
إجراءات أمنية مشددة لكن الإرادة لتنفيذها غير متوفرة
عندما سئل كلود عن مكان شراء سلاح ناري في ولاية فرجينيا رفض تقديم هذه المعلومات بعد أن لاحظ ما وصفه بـ “اتجاه مقلق” في المحادثة. ثم قام برنامج الدردشة الآلي بتوجيه المستخدم إلى خطوط المساعدة المحلية للأزمات. يقول عمران أحمد إن هذه الرفوض تظهر أن التدابير الأمنية موجودة ولكن “الإرادة لتنفيذها غير موجودة”.
كان نظام كلود من شركة أنثروبيك النظام الوحيد الذي قام بذلك باستمرار حيث ثبط الهجمات في 76% من استجاباته. ولاحظ الباحثون أن نظامي ChatGPT وDeepSeek قدما أحيانا رسائل ردع.
تأتي دراسة المركز الكندي لحقوق الإنسان في أعقاب حادثة إطلاق نار وقعت في مدرسة بكندا حيث استخدمت الجاني برنامج ChatGPT للتخطيط لهجوم على مدرسة في تومبلر ريدج مقاطعة كولومبيا البريطانية. أسفر الهجوم عن مقتل ثمانية أشخاص وإصابة 27 آخرين قبل أن تطلق النار على نفسها في أسوأ حادثة إطلاق نار في مدرسة بكندا منذ ما يقرب من 40 عاما.
أفادت وسائل الإعلام المحلية أن أحد موظفي شركة OpenAI أبلغ داخليا عن استخدام المشتبه به المثير للقلق لبرنامج الدردشة الآلي قبل وقوع إطلاق النار لكن هذه المعلومات لم يتم نقلها إلى السلطات. في العام 2025 ذكرت وسائل الإعلام الفرنسية أنه تم القبض على مراهق لاستخدامه تطبيق ChatGPT للتخطيط لهجمات إرهابية واسعة النطاق ضد السفارات والمؤسسات الحكومية والمدارس.
يقف الذكاء الاصطناعي التوليدي عند مفترق طرق حساس بين الفائدة التقنية والمخاطر الأمنية. فمع تزايد انتشار برامج الدردشة الآلية واعتمادها في الحياة اليومية، يصبح احتمال إساءة استخدامها في مجالات خطيرة مثل التخطيط للعنف والإرهاب أو نشر التطرف تحديا حقيقيا أمام الشركات المطورة وصناع القرار.
من المرجح أن تشهد هذه التقنيات موجة جديدة من التنظيمات القانونية والضوابط التقنية، خصوصا في الولايات المتحدة والاتحاد الأوروبي. إذ ستزداد الضغوط على شركات التكنولوجيا لتعزيز أنظمة الحماية والرقابة داخل نماذج الذكاء الاصطناعي، بحيث تتمكن من رصد النوايا الخطرة مبكرا ومنع تقديم أي معلومات يمكن أن تسهم في تنفيذ أعمال إرهابية. كما قد يتم إلزام الشركات بإبلاغ الجهات المختصة في الحالات التي يظهر فيها خطر فعلي أو تهديد مباشر.
من المحتمل أن تؤدي هذه التهديدات إلى تسريع تطوير ما يعرف بـ “الذكاء الاصطناعي الآمن”، وهو مجال يركز على تدريب النماذج على فهم السياق الأخلاقي والقانوني للأسئلة المطروحة، وليس فقط تقديم إجابات تقنية.
قد نشهد إدخال أنظمة تحقق من الهوية أو العمر في بعض التطبيقات الحساسة، للحد من استخدام القاصرين لهذه الأدوات في سياقات خطرة.
يكمن التحدي الأكبر في تحقيق توازن دقيق بين حرية الوصول إلى المعرفة وبين حماية المجتمع من سوء الاستخدام. فالإفراط في القيود قد يحد من الابتكار، بينما يؤدي التساهل في الضوابط إلى فتح الباب أمام استغلال التقنيات في أنشطة إجرامية أو إرهابية.
من المتوقع أن يتجه المستقبل نحو نموذج تشاركي يجمع بين الحكومات وشركات التكنولوجيا والباحثين والمجتمع المدني، بهدف وضع معايير دولية واضحة لاستخدام الذكاء الاصطناعي بشكل مسؤول. وسيكون نجاح هذا النموذج عاملا حاسما في تحديد ما إذا كانت هذه التكنولوجيا ستظل أداة للتقدم البشري أم ستتحول إلى مصدر جديد للمخاطر الأمنية.
