مِخبارMIKHBAR
الذكاء الاصطناعي

الذكاء الاصطناعي: زملاء دائمون يكسرون نماذج الأمان الحالية

مع اقتراب الجيل الثالث من وكلاء الذكاء الاصطناعي الدائمين، تواجه المؤسسات فجوة أمنية حرجة حيث تعمل هذه الأدوات بصلاحيات مستعارة دون هوية أو آلية إيقاف واضحة.

الذكاء الاصطناعي: زملاء دائمون يكسرون نماذج الأمان الحالية

الانتقال من المهام إلى الزملاء الدائمين

شهد قطاع العمل المدعوم بالذكاء الاصطناعي تحولات جذرية خلال ثلاث سنوات فقط، انتقلنا فيها من الدردشات المؤقتة إلى الوكلاء المنفذين للمهام، والآن نقترب من مرحلة 'الزملاء الدائمين'. هذه المرحلة الجديدة لا تعني مجرد تحسين في الأداء، بل تعني تفكك نماذج الوصول الحالية التي صُممت أساساً للبشر أو للمهام قصيرة الأمد. كما يشير تقرير BleepingComputer، فإن هذه الموجة الثالثة من الذكاء الاصطناعي تتطلب إعادة تصور جذري لكيفية تعامل المؤسسات مع الهويات والصلاحيات. ويمكن الرجوع إلى BleepingComputer للاطلاع على التفاصيل الأصلية للمصدر.

تتحدث الشركات الكبرى عن هذا التحول بوضوح؛ فميكروسوفت تصف وكلاءها بـ'الزملاء الرقميين'، بينما وضع سام ألتمان في OpenAI رؤية واضحة للزملاء الافتراضيين منذ فبراير 2025. هذه الرؤية تتحول الآن إلى واقع تقني، مما يستلزم تكييف نماذج الأمان لتتناسب مع طبيعة عمل هذه الكيانات المستقلة التي تعمل بشكل مستمر دون تدخل بشري دائم.

عجز نماذج الوصول التقليدية

المشكلة الجوهرية تكمن في أن الوكلاء الدائمين يحتاجون إلى وصول مسبق أو آلية توفير صلاحيات آمنة وآلية، بدلاً من الاعتماد على الموافقات اليدوية لكل إجراء، وهو ما يتطلب وجوداً بشرياً مستمراً. حالياً، لا يزال تخصيص هويات مخصصة للوكلاء بعيداً عن المعيار السائد، حيث تعتمد المعايير الحالية على منح صلاحيات OAuth أو حسابات الخدمة، وهي خيارات غالباً ما تضع الإنسان ككيان رئيسي أو لا تُنشأ خصيصاً للوكلاء.

هذا الاعتماد على الصلاحيات المستعارة يخلق ملف مخاطر مختلفاً؛ فالوكلاء الدائمون يكتسبون امتيازات دائمة تشبه تلك الممنوحة للموظفين. وهذا يستدعي معالجة دورة حياة كاملة، بما في ذلك خطوة إلغاء التفعيل الحاسمة لضمان الأمان، وهو ما يغيب غالباً في النماذج الحالية.

خطر تسرب الصلاحيات والتدقيق

يبرز خطر 'تسرب الصلاحيات' بشكل حاد في بيئة الوكلاء الدائمين. فبينما يعد تسرب الصلاحيات مشكلة قديمة غير محلولة في إدارة هويات البشر، يصبح الأمر أسوأ بكثير مع الآلات بسبب سرعة تراكم الصلاحيات وميل الوكلاء إلى استخدام كل وصول مُنح لهم. يمكن للوكلاء دمج عدة منح معقولة لتكوين نطاق وصول شامل لم يقصده أحد، مما يخلق ثغرات أمنية صعبة التتبع.

إضافة إلى ذلك، تعمل الوكلاء حالياً بصلاحيات مستعارة دون مالك محدد أو مفتاح إيقاف. عندما يتصرف الذكاء الاصطناعي تحت صلاحيات مستخدم بشري، يُسجل الإنسان عادةً كفاعل في سجلات التدقيق، مما يلوث البيانات ويجعل من المستحيل عزو الأفعال بدقة أو تحديد المسؤولية في حال حدوث خرق.

قيود المنصات الحالية

لم تتكيف المنصات الرئيسية بعد مع متطلبات الموجة الثالثة. فلا تمنح Anthropic ولا OpenAI وكلاءها اعتمادات مستقلة في منتجات الدردشة المضافة، بينما ترفض وصلات ChatGPT حسابات الخدمة ومطالبات JWT بشكل قاطع. على الرغم من السماح للمطورين بتزويد الوكلاء برمز حامل ثابت عبر واجهات API، إلا أن هذا لا يشكل هوية حقيقية أو آمنة.

هذا الوضع يحمّل البشر عبئاً إضافياً؛ فبروتوكول OAuth يفترض أن يقرأ الإنسان شاشة الموافقة ويوافق على قائمة نطاقات ثابتة. لكن الوكلاء نادراً ما يكتفون بالوصول الأولي، بل يكتشفون أدوات جديدة أثناء التشغيل ويحاولون استخدامها. طلب تأكيد الإجراءات الحساسة كل بضع دقائق ليس مزعجاً فحسب، بل يمثل خطراً أمنياً نظراً لحدود الانتباه البشري.

رؤية المطورين والحلول المقترحة

توضح تارا سيشان، التي تقود منتج ChatGPT Work وCodex في OpenAI، أن ذكاء النموذج ليس العنصر الوحيد؛ بل تعتمد الفاعلية على الوصول إلى البيانات والبنية التحتية السحابية والموثوقية. تشبه سيشان وكيل الذكاء الاصطناعي المعزول عن الأنظمة الداخلية بموظف مقفل في غرفة دون وصول إلى أدوات العمل الأساسية، مؤكدة أن الطريق نحو زميل رقمي مفيد يمر عبر نفس الأنظمة التي يلمسها الموظف البشري.

تتوقع سيشان مستقبلاً يتعاون فيه وكلاء الأفراد مع وكلاء زملائهم على مهام مشتركة، وهو سيناريو يفترض نموذج هوية غير موجود حالياً. عندما ينقل وكيل شخص العمل إلى وكيل شخص آخر، فإن الاعتمادات المنفذة تعود للإنسان الذي بدأ السلسلة، مما يعقد مسألة المحاسبة والأمان.

دروس من جوجل وتكيف الموردين

في مايو 2024، عرضت جوجل نموذجاً صحيحاً عبر وكيل Workspace باسم Chip، الذي كان يمتلك حساباً مستقلاً، ودوراً محدداً، وصلاحيات مهيأة. ومع ذلك، لم يُطلق هذا النموذج تجارياً، بل بقي عرضاً توضيحياً، بينما أطلقت جوجل ومنافسوها وكلاء يرثون سلطة الإنسان بدلاً من امتلاك هوية مستقلة.

بدأ الموردون بالتكيف مؤخراً؛ فأطلقت ميكروسوفت Entra Agent ID بهويات وكلاء أولية وراعٍ بشري، وأضافت Okta هويات الوكلاء إلى Universal Directory مع رموز قصيرة العمر ومسار إلغاء. ومع ذلك، تبقى المشكلة أن كل منصة تؤمن الوكلاء داخل نطاقها الخاص، مما يستلزم من المؤسسات التي تريد الحياد المنصتي الاعتماد على ضوابط الهوية كنقطة فرض سياسة شاملة.

خطوات عملية للأمان

توصي شركة Token Security بخمس خطوات أساسية: أولاً، اكتشاف 'الزملاء الظليين' الذين لم يتم تسجيلهم رسمياً من خلال مراقبة حركة المصادقة. ثانياً، منح كل وكيل دائم هوية مستقلة لضمان التمييز بينه وبين البشر في السجلات. ثالثاً، تسجيل مالك بشري لكل وكيل، حيث إن الوكلاء اليتامى الذين يمتلكون اعتمادات نشطة هم المصدر الأكثر شيوعاً للمخاطر.

تشمل الخطوات المتبقية تحديد نطاق الصلاحيات بدقة وإدارة دورة حياة الوكلاء بشكل كامل. إن التأخر في تكييف نماذج الأمان مع هذه الموجة الثالثة يعرض المؤسسات لمخاطر هوية غير مسبوقة، مما يجعل التخطيط المبكر ضرورة استراتيجية وليس خياراً تقنياً فحسب.

المصادر

  • BleepingComputerAI's Third Wave: Coworkers Break the Security Model That Worked for Agents

تابع التسلسل الزمني

تغطية الكيانات المرتبطة