نشر نماذج Nemotron على منصات أمازون للذكاء الاصطناعي
أعلنت أمازون وبدعم من أدوات وتقنيات متقدمة عن إمكانية تشغيل وتسريع نماذج نيفيديا نيموترون المتطورة للوكلاء الذكاء الاصطناعي على البنى التحتية السحابية الحديثة.

مواصفات نموذج NVIDIA Nemotron الجديد
انضم نموذج NVIDIA Nemotron 3.5 Super VL إلى عائلة النماذج المتاحة على خدمات أمازون السحابية، حيث يُعد نموذجاً متطوراً يعتمد على هندسة مزيج الخبراء (MoE) مع 120 مليار معامل، وينشط 12 مليار معامل لكل رمز نصي. يجمع النموذج بين القدرة على الاستدلال، واستخدام الأدوات، وفهم النصوص والصور والمستندات ومقاطع الفيديو ضمن منصة واحدة تدعم مختلف المهام البصرية والنصية.
تم تصميم النموذج بهندسة هجينة تجمع بين طبقات Mamba-2 والانتباه وطبقات الخبراء مع مُشفر بصري من نوع RADIO. وقد أظهرت تقييمات الأداء تفوقاً ملحوظاً في اختبارات وكلاء الذكاء الاصطناعي والاستدلال على الرسوم البيانية، مما يجعله خياراً مثالياً للتطبيقات المعقدة التي تتطلب فهماً عميقاً متعدد الوسائط واستجابات دقيقة.

آلية النشر عبر خدمات أمازون كوبربريتس
توفر المبادرة التقنية إمكانية نشر هذه النماذج المتقدمة بسلاسة باستخدام خدمات الكลาود المدارة من أمازون. يمكن للمطورين الاستفادة من مرونة خدمات Amazon Elastic Kubernetes Service (Amazon EKS) وAmazon EKS Auto Mode لتشغيل أحمال العمل الثقيلة للذكاء الاصطناعي بكفاءة تشغيلية عالية وموثوقية مثبتة.
تعتمد البنية المعمارية الموصى بها على فصل العقد لتنفيذ مهام النظام وخدمات الاستدلال، حيث تتولى عقد الوحدات المركزية تشغيل أنظمة النظام بينما تتولى العقد المعززة بوحدات معالجة الرسوميات تشغيل النماذج الضخمة. يتم ربط عقد المعالجة الرسومية عبر محولات متطورة لضمان أداء مستقر وسرعة فائقة في معالجة البيانات عبر العقد المختلفة.

التكامل مع بيئات SageMaker HyperPod EKS
تتيح البيئة الهندسية المتكاملة إمكانية الاستفادة القصوى من بيئات التشغيل المتقدمة عبر تفعيل أحدث التقنيات السحابية. يُمكّن استخدام بيئة Amazon SageMaker HyperPod EKS فرق التطوير والذكاء الاصطناعي من إدارة وتوسيع نطاق المجموعات العنقودية الكبيرة المخصصة لتدريب واستدلال النماذج الكبيرة بكل يسر وسهولة.
تتكامل هذه البنية مع أدوات إضافية مثل NVIDIA Dynamo وvLLM لتقديم النماذج بشكل مجمّع أو مفكك، مما يتيح توزيع مراحل المعالجة الأولية والاستدلال على عقد مختلفة. تسهم هذه المرونة في تقليل زمن الانتقال وتحسين معدل النقل الإجمالي للرموز النصية، مما يلبي متطلبات الأداء الصارمة لتطبيقات الوكلاء المتقدمة.

دعم سير عمل وكلاء الذكاء الاصطناعي
تدعم نماذج نيفيديا الجديدة مجموعة واسعة من سيناريوهات وكلاء الذكاء الاصطناعي التي تدمج بين التفكير المنطقي والفهم المرئي المتقدم. تشمل مجالات التطبيق البرمجة، والبحث عبر الويب، وفهم المستندات وتحليل الجداول والرسوم البيانية، بالإضافة إلى الأمن السيبراني وتحليل التهديدات، وفهم مقاطع الفيديو ومراجعة محتواها بدقة.
تتكامل هذه النماذج بسلاسة مع أطر عمل الوكلاء المفتوحة وأنظمة التنسيق من خلال التطبيقات المرجعية وأدوات نيفيديا المخصصة. يتيح ذلك للمؤسسات بناء وتخصيص وكلاء أذكياء قادرين على اتخاذ القرارات وحل المشكلات المعقدة بناءً على سياق بصري ونصي متكامل وموثوق.

تقييم الأداء والتخطيط السعري
تعتمد فرق العمل على أدوات قياس الأداء المتخصصة لتقييم كفاءة النماذج المنشورة وتحديد مؤشرات الأداء الرئيسية مثل زمن الوصول للرمز الأول ومعدل نقل الرموز في الثانية. تساعد هذه القياسات في دراسة العلاقة بين حجم الاستعلامات المتزامنة وزمن الاستجابة، وهو ما يعد أمراً بالغ الأهمية للتخطيط الدقيق للسعة المخصصة للبنية التحتية.
تقدم المدونة الرسمية لآلة التعلم في أمازون تفاصيل شاملة حول معمارية النشر وخطوات الإعداد والتحقق من الكفاءة عبر الأكواد المرجعية المتاحة. تتيح هذه الموارد للمؤسسات إمكانية تجربة النشر وتقييم النتائج في حساباتهم السحابية الخاصة وتطوير حلول ذكاء اصطناعي فعالة وقابلة للتوسع.
المصادر
- AWS Machine Learning BlogAccelerate agentic AI with NVIDIA Nemotron models on Amazon EKS and SageMaker HyperPod EKS
تابع التسلسل الزمني





