VicOne تكشف عن 28 ثغرة يوم صفر في أدوات الذكاء الاصطناعي الروبوتية خلال يومين
استخدمت شركة VicOne تقنيات البحث المعززة بالذكاء الاصطناعي لتحديد 28 ثغرة يوم صفر في أدوات تدعم منظومة الذكاء الاصطناعي المادي، مما يبرز الحاجة الماسة لإعادة تقييم أمان دورة حياة الروبوتات.

اكتشاف سريع للثغرات عبر الذكاء الاصطناعي
أعلنت شركة VicOne عن تحديد مجموعة أولية من 28 ثغرة يوم صفر (Zero-Day) في أقل من يومين، وذلك باستخدام أبحاث معززة بالذكاء الاصطناعي عبر البرمجيات والأدوات التي تدعم منظومة الذكاء الاصطناعي المادي (Physical AI). وتشمل هذه الأدوات مشاريع طورتها أو تديرها شركات تقنية كبرى مثل Google وNVIDIA وMeta، بالإضافة إلى كيانات أخرى. بناءً على التحقق الأولي، صنفت جميع هذه النتائج كثغرات يوم صفر، مع العلم أن العدد قد يتغير بعد مراجعة الموردين وسلطات الثغرات، ولا تزال بعض النتائج تفتقر إلى أرقام تتبع CVE.
تلعب هذه الأدوات دوراً محورياً في مساعدة الفرق على تدريب الروبوتات ومحاكاتها واختبارها وتشغيلها. وبالتالي، فإن أي نقاط ضعف فيها قد تؤثر مباشرة على النماذج التي تبنيها الفرق، والنتائج الاختبارية التي تثق بها، والأوامر المرسلة إلى الروبوتات. تخلق هذه النتائج متطلبات مزدوجة لفرق الروبوتات: الاستجابة السريعة نظراً لأن الذكاء الاصطناعي يساعد في كشف نقاط الضعف بسرعة أكبر، وتقييم كيفية تأثير كل ثغرة على سلامة الروبوتات وعملياتها التشغيلية.
تسريع عملية اكتشاف الثغرات وتحدياتها
يتضمن اكتشاف الثغرات فحص الكود، وتتبع كيفية تواصل الأنظمة، واختبار ما إذا كان بإمكان المهاجم استغلال نقطة ضعف مشتبه بها. يمكن للذكاء الاصطناعي تسريع أجزاء من هذا العمل، مما يساعد الباحثين على تحليل المزيد من البرمجيات في وقت أقل. ومع ذلك، يمكن للمهاجمين استخدام قدرات مشابهة. عندما تكون نقطة الضعف ثغرة يوم صفر، أي غير معروفة سابقاً ولا يتوفر لها إصلاح، فإن الاكتشاف الأسرع قد يترك الفرق مع القليل من الوقت للاستجابة. وعلى الرغم من أن هذا التعرض لا يعني بالضرورة حدوث هجوم، إلا أن الفرق لا تزال بحاجة إلى تحديد ما إذا كانت تستخدم البرمجيات المتأثرة وما الذي يمكن للمهاجم الوصول إليه أو تغييره.
تأثير الثغرات على دورة حياة الروبوتات
تتوزع نتائج VicOne على ثلاث مراحل من دورة حياة الروبوتات: التطوير والتدريب، والمحاكاة والتحقق، والنشر والتشغيل. يمكن لنقاط الضعف في كل مرحلة أن تؤثر على ما يتعلمه الروبوت، وكيف يتم اختباره، وكيف يتم التحكم فيه. تشير البيانات إلى أن 75% من النتائج شملت أدوات التطوير والتدريب والمحاكاة والتحقق، مما يبرز المخاطر التي يمكن أن تنشأ قبل نشر الروبوت فعلياً.
في مرحلة التطوير والتدريب، يمكن للتغييرات المخفية أن تصل إلى الروبوت النهائي. فعلى سبيل المثال، إذا قام فريق بتنزيل نموذج مُدرَّب مسبقاً لتكييفه لروبوته، فقد يؤدي تحميل ملف خبيث إلى منح المهاجم وصولاً إلى نظام التدريب، مما يسمح له بإجراء تغييرات على بيانات التدريب أو النموذج نفسه. قد يتصرف النموذج المُعدَّل بشكل طبيعي أثناء الاختبارات الروتينية، لكنه يستجيب بشكل خاطئ لكائن أو مشهد أو أمر معين بعد النشر. يمكن أن يدخل هذا الخطر من خلال أداة يثق بها الفريق، قبل أن يهاجم أحد الروبوت مباشرة.
مخاطر المحاكاة وفقدان الرؤية التشغيلية
في مرحلة المحاكاة والتحقق، قد تمنح الاختبارات الناجحة ثقة زائفة. إذا قام المهاجم باستيراد مشهد أو نموذج روبوت مُتضرر، فقد يحصل على وصول إلى بيئة المحاكاة. مع تحكم كافٍ، يمكن للمهاجم تغيير قراءات المستشعرات المحاكاة، أو الظروف الفيزيائية، أو نتائج الاختبار. قد يبدو الروبوت وكأنه يجتاز اختبارات كان يجب أن تكشف عن سلوك غير آمن، مما يؤدي إلى موافقة الفريق على استخدامه في العالم الحقيقي بناءً على أدلة مضللة.
أما في مرحلة النشر والتشغيل، فقد يفقد المشغّلون الرؤية أو التحكم. يمكن للمهاجم استغلال نقاط الضعف لتغيير ملفات تؤثر على تخطيط الحركة، أو إرسال بيانات خريطة خبيثة تعطل عرض مراقبة المشغل. كما يمكن أن يعرض اختراق حاسوب التشغيل عن بُعد الأوامر المرسلة إلى الروبوت للخطر. اعتماداً على النظام وإجراءاته الوقائية، قد تؤدي هذه نقاط الضعف إلى تغيير حركة الروبوت أو ترك المشغلين غير قادرين على رؤية ما يحدث والاستجابة بسرعة. وتجدر الإشارة إلى أن هذه عواقب محتملة وليست نتائج مؤكدة لكل ثغرة، حيث تعتمد التأثيرات الفعلية على وصول المهاجم وتصميم النظام وإجراءات الحماية الأخرى.
تجربة عملية: تعطيل أوامر الإيقاف
في عرض توضيحي منفصل، قدم باحثو VicOne مثالاً ملموساً لنقطة ضعف تؤثر على وظيفة وقائية. استغل الباحثون ثغرة لمنع أمر الإيقاف عن بُعد للروبوت من العمل. يوضح هذا الحالة سبب حاجة الفرق إلى اختبار ما إذا كانت الإجراءات الوقائية لا تزال فعالة عندما تتعرض البرمجيات الداعمة لها للاختراق. وقد نشر الباحثون فيديو يوضح هذه الثغرة التي تمنع عمل أمر الإيقاف عن بُعد.
الاستجابة والتصحيح في بيئة متغيرة
يمكن للذكاء الاصطناعي تقصير البحث عن نقاط الضعف، لكن فريق الروبوتات لا يزال بحاجة إلى تحديد ما إذا كان التصحيح آمناً للنشر. حتى بعد أن يطلق صانع البرمجيات رقعة تصحيحية، يجب على الفرق تحديد الأنظمة المتأثرة، والتحقق من التوافق، والتأكد من أن التحديث يحافظ على السلوك المقصود. تبقى الاختبارات الناجحة السابقة دليلاً مفيداً، لكن نقطة الضعف المكتشفة حديثاً قد تكشف عن ظروف لم يفحصها الاختبار من قبل.
تطرح هذه الحالة أسئلة حاسمة: أين نستخدم البرمجيات المتأثرة؟ بما في ذلك حواسيب التدريب، وبيئات المحاكاة، والروبوتات المنشرة. وما الذي يمكن لنقطة الضعف تغييره؟ يجب تقييم ما إذا كان بإمكانها التأثير على النماذج، أو نتائج الاختبار، أو رؤية المشغل، أو سلوك الروبوت. وكيف نتحقق من الحماية؟ يجب التأكد من أن التصحيح يعالج نقطة الضعف وأن النظام المحدَّث لا يزال يعمل كما هو مقصود. عندما يكون التحديث الفوري غير عملي، قد تحتاج الفرق إلى إجراءات وقائية مؤقتة، مثل تقييد الوصول إلى الخدمة المتأثرة، بينما يتم إعداد تصحيح مُتحقق منه.
أدوات VicOne لتعزيز الأمان والسلامة
مع توافر تفاصيل الثغرات الـ28 عبر الإفصاح المنسق، يكون الخطوة التالية للمصنّعين هي ربط كل ثغرة بتأثيرها المحتمل على التطوير والنشر وسلوك الروبوت. تتطلب هذه العملية أيضاً فهم كيفية تأثير التهديدات على سلوك الروبوت وكيفية حماية الأنظمة العاملة بالفعل. تساعد أداة VicOne Radeis الفرق على تحديد ثغرات يوم صفر محتملة، وتقييم أمان نماذج وأنظمة الذكاء الاصطناعي، واستخدام المحاكاة لتقييم كيفية تأثير هذه المخاطر على سلوك الروبوت قبل النشر. بينما تدعم أداة VicOne Rthena اكتشاف التهديدات والاستجابة لها ضمن السياسات المعتمدة أثناء التشغيل.
يكتسب اكتشاف الثغرات الأسرع أهمية عندما تستطيع الفرق تحويل النتائج إلى إجراءات: تحديد ما يحتاج إلى انتباه، والتحقق من استمرار صلاحية الإجراءات الوقائية، والتأكد من أن التصحيح لا يقدم مخاطر جديدة. بهذه الطريقة، يعزز الأمن السيبراني سلامة الروبوتات بينما تستمر الأنظمة في التغير. وتؤكد الشركة أن الأمن السيبراني يقوي أدلة سلامة الروبوتات طوال دورة حياتها، من خلال اختبار حدود السلامة ضد التلاعب قبل النشر، ومراقبة الظروف الكامنة وراء السلوك الآمن أثناء التشغيل.
المصادر
- The Robot Report28 Zero-Day Findings in Less Than Two Days: What AI-Speed Discovery Means for Robotics
تابع التسلسل الزمني





