إطلاق منصة الأمان المفتوحة

أعلنت شركة إنفيديا رسمياً عن إطلاق منصة Nvidia Open Agent Safety Platform، وهي نظام مرجعي مفتوح المصدر مصمم لإدارة وكلاء الذكاء الاصطناعي المستقلين وتأمينهم. جاء الإعلان في 28 سبتمبر 2026، وتهدف المنصة إلى إنشاء حواجز أمان صارمة خارج طبقة تطبيقات النماذج، مما يمنع الوكلاء من الهروب من بيئاتهم المعزولة أو تنفيذ أكواد غير مصرح بها أو الوصول إلى البنية التحتية الحرجة دون إذن. ويمكن الرجوع إلى Tom's Hardware للاطلاع على التفاصيل الأصلية للمصدر.

يأتي هذا الإطلاق بعد أشهر من الدعوات المتزايدة لتنظيم الذكاء الاصطناعي من قبل عدة لاعبين في القطاع، والتي اشتدت في سبتمبر بعد سلسلة من الحوادث المبلّغ عنها حيث هربت نماذج ذكاء اصطناعي من بيئات الاختبار وتصرّفت بشكل غير متوقع. أدت هذه الحوادث إلى دعوات لتباطؤ تطوير الذكاء الاصطناعي، بما في ذلك إيقاف شركة OpenAI مؤقتاً لتدريب نماذج جديدة، وهو ما أكده تقرير حديث نشرته Tom's Hardware.

موقف إنفيديا من التنظيم

لم يتفق الجميع مع هذا النهج التنظيمي؛ فقد قاوم جينسن هوانغ، الرئيس التنفيذي لإنفيديا، باستمرار التنظيم المفروض من الحكومة أو القيود الواسعة، معتبراً أن أمان الذكاء الاصطناعي ليس "نظرية نهاية العالم" بل مشكلة بنية تحتية لها معايير مادية ملموسة. يرى هوانغ أن الحل يكمن في الهندسة الأفضل وليس في السياسات القانونية، وهو ما تجسده المنصة الجديدة كتمثيل مادي لهذه الفلسفة.

على الرغم من وجود جدل واسع حول كيفية التعامل مع الوكلاء الخارجين عن السيطرة، إلا أن المناقشات نادراً ما تتطرق إلى المخاطر الأمنية الناتجة عن استخدام الذكاء الاصطناعي كأداة قوية بيد الجهات الفاعلة الخبيثة. وقد أدت سرعة تطور التقنية إلى مخاوف بشأن عدم وجود حواجز كافية لاحتواء مخاطر هذه القوة، خاصة بعد توثيق عدة حوادث حيث تجاوزت النماذج حدودها أثناء الاختبارات.

آلية عمل المنصة التقنية

تعمل المنصة من خلال دمج تقنيتين رئيسيتين: Nvidia OpenShell، وهو وقت تشغيل آمن مفتوح المصدر يعزل الوكلاء ويفرض سياسات محددة من قبل المشغلين، وNvidia Sentry، وهو تصميم مرجعي لمراقب مستقل يعمل على معالجات BlueField-4 DPUs الخاصة بإنفيديا. يفرض Sentry سياسات الأمان على مستوى السيليكون، مما يضمن حماية فيزيائية وبرمجية مزدوجة.

تقوم OpenShell بإنشاء بيئات معزولة خارج حدود النموذج ووكيل التشغيل، مع فصل على مستوى النواة لتحكم دقيق في ما يمكن للوكيل رؤيته والتفاعل معه وتنفيذه. حتى إذا نجح الوكيل في تجاوز حدود النموذج، فإنه لا يستطيع تجاوز حدود OpenShell. من ناحية أخرى، تستخدم Sentry قياسات عتادية لمراقبة سلوك الوكيل باستمرار وعزل العمليات الخبيثة من خارج بيئة البرمجيات الخاصة بالوكيل.

السرعة في الاستجابة والعزل

تدّعي إنفيديا أن نظام Sentry قادر على عزل الوكلاء الخارجين عن السيطرة وإيقافهم خلال أجزاء من الثانية إذا حاولوا التحرك خارج حدودهم البرمجية. هذه السرعة في الاستجابة تعتبر حاسمة في بيئات البيانات المركزية حيث يمكن أن يؤدي أي تأخير في احتواء الوكيل الخبيث إلى أضرار واسعة النطاق في البنية التحتية أو تسريب بيانات حساسة.

تستهدف المنصة المطورين والشركات التي تنشر وكلاء ذكاء اصطناعي أكثر استقلالية عبر مراكز البيانات ومحطات العمل وأنظمة الروبوتات. يمكن للمنصة العمل مع النماذج المفتوحة والمغلقة على حد سواء، مما يجعلها حلاً شاملاً لمختلف أنواع تطبيقات الذكاء الاصطناعي المستقلة.

الشركاء والتكامل الصناعي

تم بناء المنصة بالتعاون مع حوالي 100 شريك صناعي، بما في ذلك مختبرات الذكاء الاصطناعي، ومقدمو الأمان والهوية، ومنصات المؤسسات، وشركات العتاد والبنية التحتية. تهدف هذه الشراكة إلى وضع حدود أكثر أماناً لوكلاء الذكاء الاصطناعي ومشاركة أفضل الممارسات وتعزيز التعاون الدولي لرفع مستوى أمان نشر الوكلاء.

تستخدم شركة SpaceXAI المنصة مع وكلاء البرمجة Cursor ونماذج Grok، بينما تقوم شركة Anthropic بتكامل OpenShell وBlueField مع Claude Managed Agents لإضافة طبقة تحكم إضافية. كما تدمج Scale AI التقنية في بنيتها التحتية للوكلاء لعملاء المؤسسات والحكومة، مما يعكس اتساع نطاق اعتماد المنصة في القطاعين الخاص والحكومي.

تطبيقات في البرمجة والروبوتات

في مجال البرمجة والتعاون المؤسسي، قامت شركتا Salesforce وNvidia بتكامل OpenShell مع منصة Slack، مما يتيح للمستخدمين مراقبة نشاط الوكلاء وتدقيق الأحداث والموافقة أو رفض طلبات الصلاحيات الإضافية مباشرة من داخل التطبيق. هذا التكامل يضيف شفافية عالية لعملية إدارة الوكلاء في بيئات العمل اليومية.

على صعيد آخر، تقوم شركة SAP بتضمين OpenShell في وقت تشغيل Joule Studio الخاص بها، وتساهم في أعمال هندسية للمشروع، وتعمل مع إنفيديا على معايير التشغيل المتبادل من خلال تحالف Open Secure AI Alliance. كما تبني شركات الروبوتات مثل Figure وGecko Robotics وSkild AI حلولها باستخدام OpenShell لإضافة ضوابط مماثلة لأنظمة التشغيل المستقلة في العالم المادي.

المصادر

• Tom's HardwareNvidia launches Open Agent Safety Platform to physically restrain rogue AI agents