الذكاء الاصطناعي

باحثون: ثغرات أمنية خطيرة في نماذج الذكاء الاصطناعي لدى OpenAI وGoogle

حذّر باحثون أمنيون من أن النماذج الأحدث لتوليد الصور من OpenAI وGoogle أصبحت أكثر عرضة للاستغلال لتجاوز قيود المحتوى الصريح.

رضوان عبدالهاديمحرر وكاتب تقني

نُشر: 14 أكتوبر 2026 · آخر تحديث: 14 أكتوبر 2026 · 5 دقائق قراءة

باحثون: ثغرات أمنية خطيرة في نماذج الذكاء الاصطناعي لدى OpenAI وGoogle — الصورة: Ars Technica

تحذيرات من تدهور فعالية فلاتر الأمان

أثارت دراسة حديثة جدلاً واسعاً في أوسلة أبحاث الأمان، حيث كشفت عن ثغرات جوهرية في أنظمة الحماية التي تطبقها شركتا OpenAI وGoogle على نماذج توليد الصور. أشار الباحثون إلى أن هذه النماذج، رغم قوتها المتزايدة، أصبحت أسوأ في منع إنتاج المحتوى الصريح غير المرغوب فيه. وتأتي هذه النتائج في وقت تحذر فيه جهات رقابية من انتشار واسع لمحتوى جنسي مزيف يتم توليده بالذكاء الاصطناعي دون رقابة كافية، مما يعزز الحاجة إلى تدخّل حاسم عند المصدر، أي الأدوات نفسها. ويمكن الرجوع إلى Ars Technica للاطلاع على التفاصيل الأصلية للمصدر.

أكدت دراسة مشتركة شارك في إعدادها باحثون من Google، ونُشرت في يوليو الماضي، أن معظم هذا المحتوى غير المتوافق مع المعايير يتم تداوله عبر الرسائل النصية المباشرة أو التخزين السحابي الخاص، مما يجعل اكتشافه صعباً. بناءً على ذلك، خلص الباحثون إلى أن النقطة الأكثر حرجاً للتدخل هي منع إنشاء المحتوى الضار من الأساس، بدلاً من محاولة رصده بعد نشره. ويمكن الرجوع إلى Learn more للاطلاع على التفاصيل الأصلية للمصدر.

منهجية هجومية جديدة تسمى RISE

كشفت شركة White Circle، وهي مؤسسة عامة تدعمها شخصيات بارزة من Anthropic وDeepMind وHugging Face وOpenAI، عن تفاصيل هجومها في ورقة بحثية مسبقة. استخدم الباحثون منهجية جديدة أطلقوا عليها اسم "اختبار أحمر عبر التطور الاستراتيجي التكراري" (RISE). تعتمد هذه المنهجية على مكونين رئيسيين: نموذج هجومي يولّد أوامر خبيثة (Jailbreaks)، ونموذج حكم يتحقق مما إذا كان المخرجات تحتوي على محتوى محظور.

ما يميز هذه المنهجية هو أنها لا تتطلب نماذج ذكاء اصطناعي متقدمة أو متخصصة. أوضح دينيس شيلوف، الرئيس التنفيذي لـ White Circle، أن النموذج الهجومي المستخدم هو نموذج Qwen المتاح على Hugging Face، بينما تم استخدام Gemini 3.8 Flash كنموذج للحكم. وأكد شيلوف أن هذه البنية المبنية على نماذج متاحة على نطاق واسع تجعل من الممكن كسر دفاعات النماذج المتقدمة دون الحاجة إلى خبرة تقنية عميقة أو موارد ضخمة.

نتائج الاختبارات على النماذج الحالية

أظهرت الاختبارات التي أجرتها White Circle وجود عيوب في حواجز الأمان لنماذج DALL·E 3 وGPT-Image-2 من OpenAI، بالإضافة إلى Nano Banana 2 من Google. نجح الباحثون في تجاوز الفلاتر الأمنية وتوليد محتوى صريح في حوالي 13% من الحالات باستخدام أدوات قياسية متاحة للتنزيل عبر الإنترنت. ووصف شيلوف هذه النتائج بأنها "مروعة"، مشيراً إلى أن معدل التجاوز هذا هو الأعلى بين جميع الطرق التي اختبرتها الشركة تحت نفس المعايير.

حذّر الباحثون من أن هذه الهجمات لا تتطلب بناء نماذج مخصصة أو استخدام تقنيات حدودية (Frontier AI)، مما يعني أن أي شخص يمكنه تنفيذها. وأشاروا إلى أن الدفاعات التي بنيتها المختبرات الرائدة أضعف بكثير مما تعترف به، خاصة في وقت تتزايد فيه التدقيق على سلامة الذكاء الاصطناعي. كما لاحظ الباحثون أن ميدان اختبار الأمان (Red-teaming) يعاني من ضعف في المعايرة، حيث لا توجد معايير موحدة أو أبحاث كافية لتحديد الأعراف في هذا المجال.

النماذج الجديدة أكثر عرضة للاختراق

على الرغم من أن الشركات الكبرى تواصل إطلاق إصدارات محدثة، إلا أن White Circle وجدت أن النماذج الأحدث أصبحت أكثر هشاشة. بعد إطلاق OpenAI وGoogle لنماذج ChatGPT Images 2.5 وNano Banana 2.1، أجرت الشركة اختبارات سلامة على الأوامر باستخدام نفس المنهجية. وكشفت النتائج أن كلا النموذجين الجديدين "أكثر قابلية للكسر بشكل كبير" مقارنة بإصداراتها السابقة، مما يثير تساؤلات حول أولويات الشركات في تطوير قدرات النموذج على حساب الأمان.

لم تستجب أي من الشركتين لطلبات التعليق على هذه الثغرات المحددة. وتعمل White Circle حالياً على فرضية مفادها أن النماذج الأحدث أصبحت أكثر تعقيداً وقادرة على توليد نطاق أوسع من المحتوى، أو أن السلامة قد تم إهمالها لصالح تعزيز القدرات الوظيفية. هذا التوجه يقلق الباحثين، خاصة أن هذه الثغرات في المحتوى الصريح قد تعكس نقاط ضعف في أنظمة الدفاع التي يتم تحديثها لحظر سلوكيات أخرى خطيرة مثل الهجمات السيبرانية.

دعوات لتدقيق مستقل ومراقبة خارجية

تسعى White Circle إلى تموضع نفسها كمقيّم خارجي للمختبرات الرائدة في الذكاء الاصطناعي. تخطط الشركة لنشر خط أنابيب الهجوم كاملاً كمصدر مفتوح، مما سيسمح للمطورين بفهم حجم الثغرة الحقيقية وبناء حمايات أقوى. كما ستشارك الشركة في مؤتمر NeurIPS 2026 في نوفمبر المقبل، وهو ما قد يزيد من الضغط على Google وOpenAI للتعامل مع هذه المخاوف. وقد شاركت White Circle نتائجها مع بعض المختبرات عبر جهات مشتركة، لكن غياب الاستجابة المباشرة من الشركات يعكس فجوة في التواصل حول مخاطر السلامة.

يدعو دينيس شيلوف إلى فرض تدقيق مستقل إلزامي على شركات الذكاء الاصطناعي، مشبهاً ذلك بأنظمة المراقبة المستخدمة في منع التهديدات النووية. ويرى أن الشركات يجب أن تستثمر بشكل أكبر في تدابير السلامة والأمان بدلاً من توجيه معظم مواردها نحو البنية التحتية والحوسبة. كما أشار إلى مشكلة ناشئة في النظام البيئي للذكاء الاصطناعي، حيث يتم توظيف معظم الباحثين الأمنيين من قبل المختبرات الكبرى، مما قد يخلق تضارباً في المصالح ويحد من استقلالية الأبحاث.