التعقيد التشغيلي في وكلاء الذكاء الاصطناعي متعدد النماذج

يتطلب بناء تطبيقات وكلاء الذكاء الاصطناعي التي تعتمد على نماذج متعددة إدارة بنية تحتية معقدة تشمل تنسيق الحاويات وسياسات التوسع وإدارة الهوية والرصد التشغيلي لكل نموذج على حدة. تشير AWS إلى أن الفرق التقنية تقضي وقتاً متزايداً على مهام البنية التحتية بدلاً من تطوير منطق الوكيل نفسه.

توفر البنية التحتية ذاتية الإدارة مثل Amazon Elastic Container Service مع AWS Fargate تحكماً كاملاً في إعدادات النشر، لكنها تبقى مرهقة تشغيلياً مع تزايد أعباء العمل وتعقيد التطبيقات. ويُشكّل هذا التحدي الدافع الأساسي للانتقال نحو بيئات نشر مُدارة تُخفف العبء عن فرق التطوير.

Amazon Bedrock AgentCore runtime

يُعد Amazon Bedrock AgentCore منصة لبناء الوكلاء الاصطناعيين وربطهم وتحسين أدائهم على نطاق واسع بأي إطار عمل أو نموذج. أما AgentCore runtime فهو القدرة المُدارة على النشر ضمن هذه المنصة، ويتولى دورة حياة الحاويات والتوسع التلقائي والهوية والرصد التشغيلي، مما يسمح للمطورين بالتركيز على كود الوكيل حصرياً.

يعتمد النمط التقني الجديد على مُزخرفات تُعرف بـ decorator pattern لتغليف منطق الوكيل الحالي. تشمل المكونات الأساسية BedrockAgentCoreApp التي تُهيئ تطبيق AgentCore، و@app.entrypoint التي تُحدد الدالة التي يستدعيها AgentCore runtime عند وصول طلب، وapp.run() لتشغيل خادم AgentCore runtime. لا يتطلب هذا النمط إعادة كتابة الكود الحالي.

بنية الوكيل الصحي متعدد النماذج

يستعين الحل التوضيحي بوكيل صحي يعالج استفسارات طبية عبر ثلاث خلفيات نموذجية مختلفة. يتولى نموذج BioM-ELECTRA-Large-SQuAD2 المستضاف على Amazon SageMaker AI معالجة الاستفسارات الطبية الحيوية المتخصصة، بينما يتعامل نموذج Llama 3.1 70B Instruct من Meta المتاح عبر Amazon Bedrock مع الاستدلال الطبي الأوسع نطاقاً. كما يعمل خادم نموذج محمّل يحتوي على BioM-ELECTRA كخلفية ذاتية الاستضافة.

يعتمد الوكيل على مكتبة Hugging Face smolagents مفتوحة المصدر المصممة لبناء الوكلاء ببضعة أسطر من كود Python، ويستعين بخدمة Amazon OpenSearch Service لاسترجاع المعرفة المعزز بالمتجهات والفهرسة الطبية. تعمل الخلفيات الثلاث على واجهة Hugging Face Messages API لتوفير تنسيق موحّد للطلبات والاستجابات بغض النظر عن خدمة النموذج المختارة. وتُشغّل جميع المكونات داخل حاوية واحدة مُدارة بواسطة AgentCore runtime.

خيارات النشر والخلفيات النموذجية

يدعم الحل ثلاث خيارات نشر مُحسّنة لسيناريوهات تشغيلية مختلفة. توفر Amazon SageMaker AI نقاط نهاية مُدارة مع توسع تلقائي باستخدام نماذج من Hugging Face Hub، مما يلغي الحاجة إلى إدارة البنية التحتية يدوياً. وتمنح Amazon Bedrock وصولاً بدون خوادم إلى النماذج الأساسية والاستدلال المعقد عبر واجهات برمجة التطبيقات من AWS.

أما خادم النموذج المحمّل فيتيح النشر الذاتي والتكامل مع الأدوات من Hugging Face Hub، ويمكن تشغيله على Amazon ECS أو Amazon Elastic Kubernetes Service أو بيئات حاويات أخرى. يمنح هذا التعدد في خيارات النشر الفرق التقنية مرونة في اختيار البيئة الأنسب بناءً على متطلبات الأداء والتكلفة والتعقيد التشغيلي.

عملية الهجرة والمتطلبات الأساسية

تتم هجرة الوكيل الصحي الحالي إلى Amazon Bedrock AgentCore runtime باستخدام واجهة سطر أوامر AgentCore CLI. يتطلب الأمر حساب AWS يتيح الوصول إلى AgentCore runtime مع صلاحيات إنشاء أدوار IAM ونطاقات Amazon OpenSearch Service. كما يتطلب تثبيت AWS CLI الإصدار 2.0 أو أحدث، وNode.js 20 أو أحدث لتشغيل واجهة النشر، وAWS CDK، وPython 3.10 أو أحدث، وDocker لتشغيل الكود في بيئة معزولة.

يعتمد الحل على Python 3.10 وإطار smolagents ومكتبة transformers بالإصدار 4.55.0 أو أحدث ومكتبة boto3. ويُلاحظ أن النسخة المستقلة السابقة استخدمت نموذج Claude 3.5 Sonnet V2 من Anthropic، بينما يعتمد النمط التقني الجديد على Llama 3.1 70B Instruct من Meta، مما يؤكد أن AgentCore runtime لا يتوقف على نموذج بعينه وأن اختيار النموذج قرار تنفيذي وليس شرطاً إلزامياً.

القابلية للتطبيق عبر القطاعات والنشر الإنتاجي

يُوصف النمط التقني بأنه مستقل عن الإطار التقني، مما يجعله قابلاً للتطبيق عبر قطاعات متعددة تشمل الرعاية الصحية والخدمات المالية والتصنيع. ويُتاح الكود الكامل للحل في مستودع sample-healthcare-agent-with-agentcore-on-aws على منصة GitHub.

تُشير AWS إلى أن الحل المقدم يُعد نسخة تجريبية لأغراض العرض والتوضيح. وتوصي باستخدام Amazon Bedrock Guardrails لتصفية المحتوى والتحقق من الأساس كإجراء تحكّمي قياسي في عمليات النشر الإنتاجية التي تتعامل مع استفسارات طبية أو بيانات حساسة أخرى. كما تُعد Amazon Bedrock Guardrails طبقة أمان إضافية تضمن التزام الاستجابات بالمعايير المطلوبة في البيئات الخاضعة للتنظيم.

المصادر

• AWS Machine Learning BlogMigrating multi-model AI agents to Amazon Bedrock AgentCore runtime