أمازون بيديروك تخفض تكاليف وكلاء الذكاء الاصطناعي عبر التخزين المؤقت
تواجه وكلاء الذكاء الاصطناعي تحدياً كبيراً يتمثل في إعادة قراءة السياق الكامل في كل خطوة، مما يرفع التكاليف. تقدم أمازون حلاً عبر التخزين المؤقت للبرومبت.

مشكلة الوكلاء: إعادة قراءة السياق في كل خطوة
في كل خطوة يقوم بها وكيل الذكاء الاصطناعي، يجب عليه إعادة إرسال السياق الكامل إلى النموذج، بما في ذلك تعريفات الأدوات والتعليمات وسجل المحادثة. هذا يؤدي إلى رفع التكاليف والوقت المستغرق، خاصة في الجلسات الطويلة. كما توضح أمازون في مدونتها التقنية، النموذج لا يملك ذاكرة داخلية بين الطلبات، لذا يجب إعادة قراءة كل شيء من جديد. ويمكن الرجوع إلى AWS Machine Learning Blog للاطلاع على التفاصيل الأصلية للمصدر.

حل التخزين المؤقت للبرومبت
يحل التخزين المؤقت للبرومبت هذه المشكلة من خلال حفظ الحالة السابقة (النص التعليمي، الأدوات، المحتوى) وإعادة استخدامها في الطلبات التالية. بدلاً من إعادة حساب كل شيء، يعالج النموذج فقط الجزء الجديد من الطلب. هذا يقلل التكاليف بشكل كبير، خاصة في الجلسات الطويلة حيث يتكرر إرسال نفس السياق.

أنواع التخزين المؤقت: الضمني والصريح
يوجد نوعان من التخزين المؤقت في أمازون بيديروك: الضمني، حيث تختار أمازون ما يُخزَّن مؤقتاً، والصريح، حيث يحدد المطور نقطة النهاية للجزء المخزَّن. يُوصى باستخدامهما معاً للحصول على أفضل أداء. التخزين الضمني مفيد للمحادثات المتنامية، بينما الصريح مفيد للمحتوى المشترك بين الجلسات، مثل الأدوات والتعليمات.
متطلبات التخزين المؤقت الناجح
لكي يعمل التخزين المؤقت بشكل صحيح، يجب أن يكون النص المُخزَّن مؤقتاً متطابقاً تماماً في كل طلب. هذا يعني أن تعليمات الوكيل وقائمة الأدوات يجب أن تكون مُسلسلة بنفس الطريقة في كل مرة. يجب إبقاء العناصر المتغيرة، مثل التاريخ أو اسم المستخدم، بعد الجزء المخزَّن مؤقتاً. كما يجب أن يبلغ الجزء المخزَّن 1024 توكن على الأقل ليُعتبر مؤهلاً للتخزين.

تطبيق التخزين المؤقت في الجلسات الطويلة
في الجلسات الطويلة، حيث يتغير المحتوى والأدوات، يُستخدم التخزين الضمني لمتابعة المحادثة. الطلب الأول لا يحتوي على علامة صريحة، لذا يأتي النقطة التلقائية بعد مهمة المستخدم، مما يغطي الأدوات والتعليمات والمهمة معاً. هذا مفيد عندما تستمر الخطوة التالية في نفس المهمة. أما إذا تغيّرت المهمة، فلا يتطابق البادئة مع المهمة القديمة، ولا يُنشئ التخزين الضمني عنصراً منفصلاً للأدوات والتعليمات فقط. في هذه الحالة، يُستخدم علامة صريحة لجعل البادئة القصيرة قابلة لإعادة الاستخدام عبر المهام.

النتائج والأثر على التكاليف
في أحد الاختبارات باستخدام التخزين الصريح، كُتب بادئة من 4000 توكن للأدوات والتعليمات في الطلب الأول، وقُرئت في الطلبات التالية. هذا يعني أن التكلفة في الطلبات التالية كانت أقل بكثير، حيث لم يُحتسب البادئة مرة أخرى. التخزين المؤقت يقلل التكاليف والوقت المستغرق، ويجعل الوكلاء أكثر استجابة وثباتاً.
المصادر
- AWS Machine Learning BlogGroundhog Day for AI agents: Prompt caching patterns for using OpenAI models on Amazon Bedrock
تابع التسلسل الزمني





