تقرير جديد يكشف ثغرات أمنية

أصدرت شركة أنثروبيك تقريراً جديداً تحت عنوان "اختبار الحدود الحمراء"، تدّعي فيه أن نموذج GLM-5.3 المطور من قبل شركة Zhipu AI الصينية يفتقر إلى آليات حماية كافية. يشير التقرير إلى أن النموذج يمكن استخدامه بسهولة لتوليد محتوى ضار، وأن حواجز الأمان فيه قابلة للتجاوز عبر عدة طرق تقنية. تأتي هذه الادعاءات في وقت تشهد فيه صناعة الذكاء الاصطناعي دعوات متزايدة لإبطاء وتيرة التطوير وفرض ضوابط تنظيمية صارمة. ويمكن الرجوع إلى Tom's Hardware للاطلاع على التفاصيل الأصلية للمصدر.

مقارنة الأداء مع نموذج Mythos

استندت أنثروبيك في تقييمها إلى تقرير صادر عن مركز معايير الابتكار في الذكاء الاصطناعي، والذي أشار إلى أن GLM-5.3 يمكنه أتمتة الاستغلاليات البرمجية بمستوى يقارب نموذج Claude Mythos الداخلي غير المُعلن عنه بعد. دفع هذا التقييم الشركة إلى تطوير مشروع "Glasswing"، الذي يمنح المطورين إمكانية الوصول إلى نموذج من طراز Mythos لإصلاح الثغرات قبل إطلاق النماذج النهائية. أجرت أنثروبيك اختبارات مستقلة على GLM-5.3 في بيئة معزولة تسمى Exploitbench، حيث طوّر النموذج استغلاليات كاملة من البداية إلى النهاية 50 مرة خلال 410 محاولة، بينما حقق Mythos 56 استغلالية ناجحة في نفس عدد المحاولات.

أساليب تجاوز حواجز الأمان

وثّق التقرير ثلاث طرق رئيسية لتجاوز حواجز الأمان في النموذج الصيني. الطريقة الأولى تعتمد على تقديم موجهات خادعة تجعل النموذج يتقمص دور وكيل ذاتي معادٍ، مما يحقق نسبة نجاح تبلغ 64%. الطريقة الثانية تتضمن تعبئة مسبقة لرموز التفكير في النموذج لضمان استمرار الاستجابة، مما يرفع نسبة النجاح إلى 92%. أما الطريقة الثالثة فتعرف باسم "Abliteration"، وهي عملية إزالة حواجز الأمان من أوزان النموذج بشكل كامل. لاحظت أنثروبيك أن النموذج الأصلي يرفض غالبية الطلبات الضارة، لكن بعد إجراء عملية Abliteration، انخفضت نسبة الرفض إلى 6% للنسخة الكاملة و14% للنسخة الخفيفة Flash.

التكاليف الحسابية والعقبات المادية

على الرغم من المخاطر النظرية، تشير الحسابات التقنية إلى أن تشغيل نسخة معدلة من GLM-5.3 يتطلب موارد حاسوبية ضخمة. يحتاج النموذج إلى 306 غيغابايت من ذاكرة الفيديو (VRAM) عند الدقة الكاملة، بالإضافة إلى مساحة مماثلة لذاكرة KV Cache. لتشغيل النموذج بسرعة 100 رمز في الثانية، يلزم عرض نطاق ذاكرة لا يقل عن 4 تيرابايت/ثانية، مما يتطلب عناقيد من معالجات Nvidia H200. تشير التقديرات إلى أن تكلفة استئجار هذه الموارد لإجراء عملية Abliteration على النسخة الخفيفة تستغرق 2200 ساعة GPU وتكلف حوالي 4400 دولار، بينما قد تصل التكاليف للنسخة الكاملة إلى مئات الآلاف من الدولارات.

السياق التنظيمي والجيوسياسي

يأتي هذا التقرير في خضم جدل واسع حول سلامة الذكاء الاصطناعي، حيث تسعى أنثروبيك إلى تسليط الضوء على التهديدات الوجودية التي تمثّلها النماذج مفتوحة الأوزان. رغم أن الرئيس الأمريكي ترمب التقى برؤساء شركات الذكاء الاصطناعي لمناقشة التنظيم الذاتي، فإن تقرير أنثروبيك يمكن قراءته كدعوة للحكومات والمطورين لاختبار هذه النماذج بدقة. كما قد يعكس التقرير توجهاً متزايداً بين مختبرات الذكاء الاصطناعي المغلقة التي تخشى فقدان حصتها السوقية لصالح النماذج المفتوحة الأرخص سعراً والأقرب في الأداء.

من هم الفاعلون المحتملون؟

تخلص المصادر إلى أن التهديد الحقيقي لا يكمن في الهاكرز العاديين، بل في الجهات الفاعلة المعادية أو الدول التي تمتلك القدرة على استئجار أو شراء العتاد الحاسوبي المتقدم. بينما قد يحتاج الهاكرز الأفراد إلى استئجار الموارد والتحمل تكاليف باهظة، فإن الدول أو المنظمات الكبرى يمكنها تخطي هذه العقبة بسهولة. ومع ذلك، تبقى التكاليف الزمنية والمالية عائقاً كبيراً أمام أي فاعل خبيث يسعى لتنفيذ هجمات سيبرانية معقدة باستخدام هذه النماذج المعدلة.

المصادر

• Tom's HardwareAnthropic claims popular Chinese AI model has Mythos-class hacking abilities