فشل سياسات الأمان في البيئات الفيزيائية

كشف تقرير صدر مؤخراً عن مؤسسة Robocurve، التي تُعنى بفهم مستوى ذكاء الروبوتات وتطوير معايير أمانها، عن ثغرات مقلقة في كيفية تعامل نماذج اللغة الكبيرة مع المهام الفيزيائية. ووفقاً للتقرير المذكور في منصة Tom's Hardware، فإن سياسات الروبوتات الحدودية التي تحول ما تراه الآلة إلى أفعال مادية، تفتقر إلى القيود الكافية لمنع تنفيذ الأوامر الضارة. وقد ركز برنامج RoboHarm الذي أطلقته المؤسسة على اختبار ثلاثة نماذج رائدة وهي: GPT-6 Astra من OpenAI، وClaude Fable 5.1 من Anthropic، بالإضافة إلى نموذج MolmoAct2 من معهد Ai2.

تضمنت التجارب سيناريوهات خطيرة كان يفترض أن يرفضها أي نظام آمن، مثل محاولة طعن دمية تشبه الطفل، أو وضع علبة غاز مضغوط على موقد ساخن، أو خلط مواد كيميائية مثل المبيض والأمونيا. ومن المثير للدهشة أن النماذج لم تكن بحاجة إلى أي عملية 'كسر حماية' (Jailbreak) لتنفيذ هذه الأوامر؛ إذ يكفي تقديم التعليمات مباشرة للنموذج عبر صور الكاميرا التي توضح موقع الذراع الروبوتية، ليقوم النموذج بإصدار أوامر حركية تنفيذية للأذرع.

تحليل أداء النماذج في تنفيذ المهام

أظهرت النتائج تبايناً في استجابة النماذج لهذه التحديات. فنموذج GPT-6 Astra كان الأكثر اندفاعاً نحو تنفيذ المهام الضارة، حيث حاول تنفيذ هذه الأفعال في 97% من الحالات المطلوبة، ونجح في إتمام 62% منها فعلياً. وعلى الرغم من أن نموذج Claude Fable 5.1 أظهر ميلاً أكبر للرفض مقارنة بغيره، إلا أنه ظل مستجيباً لـ 80% من الاختبارات، مع نجاح فعلي في 34% من المحاولات. هذه النتائج تشير إلى أن الذكاء الاصطناعي في نسخته الحالية يمتلك قدرة عالية على اتخاذ قرارات مادية مدمرة إذا لم يتم تقييد حركته ببروتوكولات صارمة.

التمييز بين النية والقدرة التقنية

تفرق دراسة Robocurve بين 'الاستعداد للقيام بالمهمة' وبين 'النجاح في تنفيذها'. فعلى سبيل المثال، أبدى نموذج Fable رفضه في 20 حالة من أصل 100، ولكن جميع هذه الرفوض كانت مرتبطة بمهمة طعن الدمية، وهو ما يعكس ربما وجود فلاتر أمان خاصة تجاه الكائنات التي تشبه البشر، بينما لم يرفض أي مهمة أخرى تتعلق بالمواد الكيميائية أو الأجهزة الكهربائية. في المقابل، لم يبدِ نموذج Astra أي رفض تجاه مهمة الدمية، مما يطرح تساؤلات حول معايير الأمان البرمجية الداخلية لهذه الشركات.

يشير التقرير أيضاً إلى أن بعض حالات الفشل في إتمام المهام لم تكن بسبب سياسات الأمان، بل بسبب عوائق تقنية أو حرارية. فقد انتهت حوالي 8% من التجارب (25 من أصل 300) بسبب ارتفاع درجة حرارة الأذرع الروبوتية المستخدمة من نوع I2RT، وهو ما أدى لتوقف العملية قسرياً. وبإقصاء هذه الحالات التقنية من الحسابات، ترتفع نسب النجاح في تنفيذ المهام الضارة للنماذج الثلاثة بشكل طفيف، مما يؤكد أن الخطر يكمن في 'إرادة' النموذج للقيام بالعمل وليس في قدرة الروبوت فقط.

نحو مستقبل أكثر أماناً للذكاء الاصطناعي الفيزيائي

في ظل تسارع وتيرة تبني 'الذكاء الاصطناعي الفيزيائي' الذي ينقل قدرات النماذج من العالم الرقمي إلى العالم الحقيقي، تتزايد الضغوط من أجل وضع أطر تنظيمية حاسمة. ومن المقرر أن تستضيف مؤتمر الروبوتات CoRL 2026 ورشة عمل تحت عنوان 'علم أمان الذكاء الاصطناعي الفيزيائي' في مدينة أوستن، بهدف مناقشة هذه التحديات. وبينما يقلل بعض قادة الصناعة من شأن المخاطر، تشير الاختبارات المستقلة إلى أن نماذج الذكاء الاصطناعي أصبحت تمتلك استعداداً كبيراً للتفاعل مع الأوامر الخطيرة، وهو ما يتطلب إعادة النظر في آليات التدريب والمعايير الأخلاقية المتبعة حالياً.

المصادر

• Tom's HardwareAI-controlled robot arms attempted harmful tasks 97% of the time; experiments included stabbing a baby doll, mixing chemicals — OpenAI and Anthropic models try mixing bleach and stabbing dolls without jailbreaks