مِخبارMIKHBAR
الذكاء الاصطناعي

أمازون بيديروك تخفض تكاليف وكلاء الذكاء الاصطناعي عبر التخزين المؤقت

تواجه وكلاء الذكاء الاصطناعي تحدياً كبيراً يتمثل في إعادة قراءة السياق الكامل في كل خطوة، مما يرفع التكاليف. تقدم أمازون حلاً عبر التخزين المؤقت للبرومبت.

أمازون بيديروك تخفض تكاليف وكلاء الذكاء الاصطناعي عبر التخزين المؤقت

مشكلة الوكلاء: إعادة قراءة السياق في كل خطوة

في كل خطوة يقوم بها وكيل الذكاء الاصطناعي، يجب عليه إعادة إرسال السياق الكامل إلى النموذج، بما في ذلك تعريفات الأدوات والتعليمات وسجل المحادثة. هذا يؤدي إلى رفع التكاليف والوقت المستغرق، خاصة في الجلسات الطويلة. كما توضح أمازون في مدونتها التقنية، النموذج لا يملك ذاكرة داخلية بين الطلبات، لذا يجب إعادة قراءة كل شيء من جديد. ويمكن الرجوع إلى AWS Machine Learning Blog للاطلاع على التفاصيل الأصلية للمصدر.

أمازون بيديروك تخفض تكاليف وكلاء الذكاء الاصطناعي عبر التخزين المؤقت
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

حل التخزين المؤقت للبرومبت

يحل التخزين المؤقت للبرومبت هذه المشكلة من خلال حفظ الحالة السابقة (النص التعليمي، الأدوات، المحتوى) وإعادة استخدامها في الطلبات التالية. بدلاً من إعادة حساب كل شيء، يعالج النموذج فقط الجزء الجديد من الطلب. هذا يقلل التكاليف بشكل كبير، خاصة في الجلسات الطويلة حيث يتكرر إرسال نفس السياق.

أمازون بيديروك تخفض تكاليف وكلاء الذكاء الاصطناعي عبر التخزين المؤقت
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

أنواع التخزين المؤقت: الضمني والصريح

يوجد نوعان من التخزين المؤقت في أمازون بيديروك: الضمني، حيث تختار أمازون ما يُخزَّن مؤقتاً، والصريح، حيث يحدد المطور نقطة النهاية للجزء المخزَّن. يُوصى باستخدامهما معاً للحصول على أفضل أداء. التخزين الضمني مفيد للمحادثات المتنامية، بينما الصريح مفيد للمحتوى المشترك بين الجلسات، مثل الأدوات والتعليمات.

متطلبات التخزين المؤقت الناجح

لكي يعمل التخزين المؤقت بشكل صحيح، يجب أن يكون النص المُخزَّن مؤقتاً متطابقاً تماماً في كل طلب. هذا يعني أن تعليمات الوكيل وقائمة الأدوات يجب أن تكون مُسلسلة بنفس الطريقة في كل مرة. يجب إبقاء العناصر المتغيرة، مثل التاريخ أو اسم المستخدم، بعد الجزء المخزَّن مؤقتاً. كما يجب أن يبلغ الجزء المخزَّن 1024 توكن على الأقل ليُعتبر مؤهلاً للتخزين.

أمازون بيديروك تخفض تكاليف وكلاء الذكاء الاصطناعي عبر التخزين المؤقت
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

تطبيق التخزين المؤقت في الجلسات الطويلة

في الجلسات الطويلة، حيث يتغير المحتوى والأدوات، يُستخدم التخزين الضمني لمتابعة المحادثة. الطلب الأول لا يحتوي على علامة صريحة، لذا يأتي النقطة التلقائية بعد مهمة المستخدم، مما يغطي الأدوات والتعليمات والمهمة معاً. هذا مفيد عندما تستمر الخطوة التالية في نفس المهمة. أما إذا تغيّرت المهمة، فلا يتطابق البادئة مع المهمة القديمة، ولا يُنشئ التخزين الضمني عنصراً منفصلاً للأدوات والتعليمات فقط. في هذه الحالة، يُستخدم علامة صريحة لجعل البادئة القصيرة قابلة لإعادة الاستخدام عبر المهام.

أمازون بيديروك تخفض تكاليف وكلاء الذكاء الاصطناعي عبر التخزين المؤقت
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

النتائج والأثر على التكاليف

في أحد الاختبارات باستخدام التخزين الصريح، كُتب بادئة من 4000 توكن للأدوات والتعليمات في الطلب الأول، وقُرئت في الطلبات التالية. هذا يعني أن التكلفة في الطلبات التالية كانت أقل بكثير، حيث لم يُحتسب البادئة مرة أخرى. التخزين المؤقت يقلل التكاليف والوقت المستغرق، ويجعل الوكلاء أكثر استجابة وثباتاً.

المصادر

تابع التسلسل الزمني

تغطية الكيانات المرتبطة