الذكاء الاصطناعي

أمازون تطرح استراتيجية "الثقة العميقة" لمنح وكلاء الذكاء الاصطناعي استقلالية أكبر

تواجه المؤسسات تحدياً متزايداً في الموازنة بين كفاءة وكلاء الذكاء الاصطناعي والحاجة إلى الرقابة البشرية، ما دفع أمازون لطرح إطار عمل جديد يعتمد على التحقق الآلي بدلاً من الاعتماد الكلي على الإنسان.

رضوان عبدالهاديمحرر وكاتب تقني

نُشر: 15 أكتوبر 2026 · آخر تحديث: 15 أكتوبر 2026 · 4 دقائق قراءة

أمازون تطرح استراتيجية "الثقة العميقة" لمنح وكلاء الذكاء الاصطناعي استقلالية أكبر — الصورة: AWS Machine Learning Blog

الخلاصة

تتبنى أمازون نهج "الثقة العميقة" (Trust in Depth) المكون من خمس طبقات: تحديد النطاق، المعرفة، التقييد، المراقبة، والإثبات.
يعتمد النظام على الاستدلال الآلي (Automated Reasoning) للتحقق من قواعد الوكلاء بدقة رياضية بدلاً من الاختبارات التقليدية فقط.
يهدف الإطار إلى تقليل العبء على الموظفين البشريين من خلال السماح للوكلاء بالعمل باستقلالية عندما يمكن التحقق من أفعالهم آلياً.
تدمج أمازون تقنيات مثل Kiro و Strands و Amazon Bedrock AgentCore لتوفير أدوات بناء وضبط سلوك الوكلاء.

التحدي: حدود الثقة في الوكلاء المستقلين

يشير تقرير حديث من مدونة تعلم الآلة في أمازون إلى أن قادة الشركات يشاركون في قلق مشترك: الرغبة في منح وكلاء الذكاء الاصطناعي مهاماً أكثر تعقيداً، مقابل عدم الثقة الكاملة في قدرتهم على اتخاذ القرارات الصحيحة في كل مرة. هذا التناقض ينبع من الطبيعة الإبداعية والمستقلة للوكلاء؛ فبينما يختار الوكيل أدواته ومساراته بنفسه، قد يتغير سلوكه من تشغيل لآخر حتى مع نجاح الاختبارات الأولية. الاعتماد التقليدي على "البشر في الحلقة" (Human-in-the-loop) للموافقة على كل إجراء يعمل على نطاق صغير، لكنه يصبح عائقاً كبيراً مع توسع نطاق العمليات، حيث يؤدي تراكم طلبات الموافقة إلى إرهاق الموظفين وفقدان التركيز على الأخطاء الجوهرية.

منع العمق: فلسفة جديدة للرقابة

تقدم أمازون حلاً عبر مفهوم "الثقة العميقة" (Trust in Depth)، وهو نهج طبقاتي مستوحى من مبدأ "الدفاع في العمق" الأمني التقليدي، لكنه يعكس المنطق: بدلاً من تقييد ما يمكن أن يخطئ فيه النظام، يوسع هذا النهج ما يمكن السماح به بأمان. الفكرة الأساسية هي السماح للوكيل بالعمل باستقلالية عندما يمكن التحقق من أفعاله آلياً، واحتجاز الحكم البشري فقط للقرارات التي تتطلب سياقاً أو حسماً غير قابل للبرمجة. هذا النهج يجمع بين طبقات مستقلة تعزز بعضها البعض، مما يبني ثقة تدريجية تسمح للمؤسسات بتفويض مهام عالية المخاطر، مثل المعاملات المالية، مع ضمان بقاء الوكيل ضمن الحدود المرسومة حتى في غياب المراقبة المباشرة.

خمس طبقات لبناء الثقة

يعتمد إطار العمل على الإجابة عن أسئلة محددة في مراحل مختلفة من دورة حياة الوكيل. أولاً، "تحديد النطاق" (Scope) قبل التشغيل، لتحديد المهام والأدوات المسموح بها والقيود الصارمة. ثانياً، "المعرفة" (Know) عند النشر، لضمان هوية واضحة لكل وكيل ومعرفة من مصرح له بالتصرف نيابة عن المؤسسة. ثالثاً، "التقييد" (Bound) أثناء التشغيل، للتأكد من بقاء الأفعال ضمن الحدود. رابعاً، "المراقبة" (Observe) بعد كل تشغيل، لإعادة بناء ما حدث ولماذا. وأخيراً، "الإثبات" (Prove)، وهو عنصر حاسم يعتمد على الاستدلال الآلي للتحقق من صحة القواعد في كل الحالات الممكنة، وليس فقط في السيناريوهات المتوقعة.

قوة الاستدلال الآلي في التحقق

تبرز أهمية "الاستدلال الآلي" (Automated Reasoning) كوسيلة للتحقق الرياضي من القواعد. بينما تكشف الاختبارات التقليدية عن الأخطاء في الحالات التي تختبرها فقط، يضمن الاستدلال الآلي أن القاعدة صحيحة في كل مسار ممكن ضمن وصف النظام الدقيق. تمتلك أمازون خبرة تزيد عن عقد من الزمن في تشغيل الاستدلال الآلي في بيئات الإنتاج، بدءاً من إدارة الهوية والصلاحيات (IAM) التي تتعامل مع مليارات الطلبات، وصولاً إلى أنظمة حرجة مثل Amazon S3 و VPC Reachability Analyzer. الآن، يتم تطبيق هذه التقنية على وكلاء الذكاء الاصطناعي، حيث يمكن إثبات صحة القواعد الدقيقة، مثل "فقط المدير يمكنه الموافقة على الوصول"، بينما تبقى القواعد السياقية، مثل "الحفاظ على نبرة ودودة"، تحت حكم البشر بسبب طبيعتها غير الدقيقة.

أدوات عملية لتقييد النطاق

يبدأ بناء الثقة من مرحلة البناء، حيث تتيح أدوات مثل Kiro تحويل النوايا العامة إلى متطلبات هندسية دقيقة، باستخدام الاستدلال الآلي لكشف التناقضات والفجوات قبل كتابة أي كود. كما يوفر إطار Strands مفتوح المصدر أدوات لتعريف نماذج الوكلاء وتعليماتهم. أما على مستوى التشغيل، فتقدم Amazon Bedrock AgentCore ضوابط حوكمة قوية؛ فباستخدام سياسات AgentCore، يمكن للمطورين وصف الأدوات والبيانات المسموح بها بلغة بسيطة، بينما يتولى النظام التحقق الآلي من وجود فجوات أو تناقضات في هذه السياسات قبل تفعيلها. هذا التقييد الدقيق للنطاق هو الجزء الأصعب لكنه الأكثر عائداً، فكلما كانت السياسة أدق، زادت استقلالية الوكيل الآمنة.

الهوية والشفافية في إدارة الوكلاء

لا يمكن إدارة ما لا يمكن رؤيته. مع تسارع إنشاء الوكلاء، أصبح من الضروري منح كل وكيل هوية فريدة يمكن تتبعها، لضمان عدم وجود أي إجراء "يتيم" لا يمكن عزوه إلى مصدره. توفر AWS Agent Registry سجلاً مركزياً لكل الوكلاء العاملين نيابة عن المؤسسة، مما يسمح بتحديد من مصرح له بالتصرف ومتى. هذا المستوى من الشفافية يضمن أنه عند حدوث خطأ، يمكن تحديد الوكيل المسؤول ومن أصدر له الصلاحيات، مما يعزز المساءلة ويقلل من المخاطر التشغيلية المرتبطة بالأنظمة المستقلة.