إضافة سياق جديد لتحليل استهلاك الذكاء الاصطناعي

أعلنت شركة كلاودفلير عن تحديث كبير لميزة User Insights ضمن منصة AI Gateway، بهدف مساعدة الفرق التقنية على فهم كيفية تفاعل المستخدمين والوكلاء مع نماذج الذكاء الاصطناعي. بدلاً من الاعتماد على أعداد الطلبات وحدها، تتيح التحديثات الجديدة رؤية أعمق تشمل تصنيف المهام، والنماذج المستخدمة، وعدد الجولات الحوارية، وأنماط الاستخدام لكل مستخدم.

يأتي هذا التحديث استجابةً لطلبات المستخدمين الذين أوضحوا أن أسماء النماذج وأعداد الطلبات لا تعكس الصورة الكاملة للعمل الفعلي. فعدد التوكنز المتساوي قد يمثل مهاماً مختلفة تماماً، مثل مراجعة كود معقدة أو مجرد تلخيص نصي بسيط. بدون فهم طبيعة المهمة، يصعب على الفرق اتخاذ قرارات مستنيرة بشأن اختيار النموذج الأمثل.

كشف إساءة استخدام النماذج القوية

أبرزت كلاودفلير ميزة جديدة تسمى Overkill View، والتي تساعد في تحديد المحادثات التي يبدو فيها النموذج المختار أقوى بكثير مما تتطلبه المهمة. على سبيل المثال، قد تكشف الأداة عن إرسال طلبات تنسيق بسيطة أو تلخيصات قصيرة إلى نماذج استدلال عالية القدرة، مما يؤدي إلى هدر في التكاليف والموارد.

لا تعمل هذه الميزة كقائمة ترتيب أو توصية آلية لاستبدال النموذج، بل توفر سياقاً للفرق لطرح أسئلة جوهرية: هل الجودة الإضافية تحسّن النتيجة فعلاً؟ هل يمكن لنموذج أسرع وأرخص تحقيق نفس النتيجة؟ وهل المشكلة مقصورة على سير عمل أو مستخدم معين؟ هذا يتيح للفرق مقارنة التكلفة، وزمن الاستجابة، واستهلاك التوكنز قبل اتخاذ أي إجراء.

تحليل المهام وأنماط التفاعل

تصنف أداة التحليل الجديدة المحادثات بناءً على نوع العمل، وتشمل الفئات الأولية البرمجة، والبحث، والكتابة، والتلخيص، وتحليل البيانات. يوفر هذا التصنيف سياقاً لا يمكن الحصول عليه من قوائم أسماء النماذج وحدها، حيث قد يكتشف فريق هندسي أن جزءاً كبيراً من حركة المرور الخاصة به يتكون من مهام بسيطة تُرسل إلى نماذج متقدمة.

كما تتيح الأداة تحليل عدد الجولات الحوارية (Turns)، مما يساعد في فهم مقدار التفاعل المطلوب لإنجاز المهمة. بينما قد تكون المحادثات الطويلة طبيعية للمهام المعقدة، فإن استمرار المهام البسيطة في استهلاك جولات متعددة قد يشير إلى مشاكل في صياغة الأوامر أو في إعدادات النموذج أو سير العمل.

إطلاق Auto Router في بيتا مغلقة

بالتزامن مع تحديث User Insights، أعلنت كلاودفلير عن إتاحة ميزة Auto Router في بيتا مغلقة. يعتمد هذا الموجّه التلقائي على إشارات المحادثة، وتصنيف المهمة، وتعقيدها، وملاءمة النموذج لتوجيه الطلبات تلقائياً إلى النموذج المناسب مع مراعاة التكلفة.

بدلاً من إنشاء قواعد توجيه منفصلة لكل عبء عمل، يتيح Auto Router للعملاء اختيار النموذج الأنسب من بين النماذج المتاحة لتطبيقهم. لا يوجه الموجّه كل الطلبات إلى أرخص نموذج، بل يوازن بين الأداء والتكلفة؛ فمهام البرمجة والبحث المعقدة قد تتطلب نماذج قوية، بينما يمكن التعامل مع المهام الأبسط عبر خيارات أسرع وأقل تكلفة.

توفير مجاني لمستخدمي المنصة

أكدت كلاودفلير أن جميع قدرات User Insights الجديدة، بما في ذلك عرض Overkill وتحليل المهام، متاحة مجاناً لمستخدمي AI Gateway. تهدف هذه الخطوة إلى تمكين الفرق من إجراء تغييرات مستهدفة داخل منظماتها بناءً على بيانات دقيقة، مما يساهم في تحسين كفاءة تبني الذكاء الاصطناعي وتقليل الإنفاق غير المبرر.

تسعى الشركة من خلال هذه التحديثات إلى تحويل بيانات الاستخدام الخام إلى رؤى قابلة للتنفيذ، مما يساعد المؤسسات على الانتقال من مرحلة التبني العشوائي إلى إدارة ذكية ومركزية لموارد الذكاء الاصطناعي.

المصادر

• Cloudflare BlogIdentify AI model overuse with User Insights