مِخبارMIKHBAR
الذكاء الاصطناعي

نشر نماذج Nemotron على منصات أمازون للذكاء الاصطناعي

أعلنت أمازون وبدعم من أدوات وتقنيات متقدمة عن إمكانية تشغيل وتسريع نماذج نيفيديا نيموترون المتطورة للوكلاء الذكاء الاصطناعي على البنى التحتية السحابية الحديثة.

نشر نماذج Nemotron على منصات أمازون للذكاء الاصطناعي

مواصفات نموذج NVIDIA Nemotron الجديد

انضم نموذج NVIDIA Nemotron 3.5 Super VL إلى عائلة النماذج المتاحة على خدمات أمازون السحابية، حيث يُعد نموذجاً متطوراً يعتمد على هندسة مزيج الخبراء (MoE) مع 120 مليار معامل، وينشط 12 مليار معامل لكل رمز نصي. يجمع النموذج بين القدرة على الاستدلال، واستخدام الأدوات، وفهم النصوص والصور والمستندات ومقاطع الفيديو ضمن منصة واحدة تدعم مختلف المهام البصرية والنصية.

تم تصميم النموذج بهندسة هجينة تجمع بين طبقات Mamba-2 والانتباه وطبقات الخبراء مع مُشفر بصري من نوع RADIO. وقد أظهرت تقييمات الأداء تفوقاً ملحوظاً في اختبارات وكلاء الذكاء الاصطناعي والاستدلال على الرسوم البيانية، مما يجعله خياراً مثالياً للتطبيقات المعقدة التي تتطلب فهماً عميقاً متعدد الوسائط واستجابات دقيقة.

نشر نماذج Nemotron على منصات أمازون للذكاء الاصطناعي
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

آلية النشر عبر خدمات أمازون كوبربريتس

توفر المبادرة التقنية إمكانية نشر هذه النماذج المتقدمة بسلاسة باستخدام خدمات الكลาود المدارة من أمازون. يمكن للمطورين الاستفادة من مرونة خدمات Amazon Elastic Kubernetes Service (Amazon EKS) وAmazon EKS Auto Mode لتشغيل أحمال العمل الثقيلة للذكاء الاصطناعي بكفاءة تشغيلية عالية وموثوقية مثبتة.

تعتمد البنية المعمارية الموصى بها على فصل العقد لتنفيذ مهام النظام وخدمات الاستدلال، حيث تتولى عقد الوحدات المركزية تشغيل أنظمة النظام بينما تتولى العقد المعززة بوحدات معالجة الرسوميات تشغيل النماذج الضخمة. يتم ربط عقد المعالجة الرسومية عبر محولات متطورة لضمان أداء مستقر وسرعة فائقة في معالجة البيانات عبر العقد المختلفة.

نشر نماذج Nemotron على منصات أمازون للذكاء الاصطناعي
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

التكامل مع بيئات SageMaker HyperPod EKS

تتيح البيئة الهندسية المتكاملة إمكانية الاستفادة القصوى من بيئات التشغيل المتقدمة عبر تفعيل أحدث التقنيات السحابية. يُمكّن استخدام بيئة Amazon SageMaker HyperPod EKS فرق التطوير والذكاء الاصطناعي من إدارة وتوسيع نطاق المجموعات العنقودية الكبيرة المخصصة لتدريب واستدلال النماذج الكبيرة بكل يسر وسهولة.

تتكامل هذه البنية مع أدوات إضافية مثل NVIDIA Dynamo وvLLM لتقديم النماذج بشكل مجمّع أو مفكك، مما يتيح توزيع مراحل المعالجة الأولية والاستدلال على عقد مختلفة. تسهم هذه المرونة في تقليل زمن الانتقال وتحسين معدل النقل الإجمالي للرموز النصية، مما يلبي متطلبات الأداء الصارمة لتطبيقات الوكلاء المتقدمة.

نشر نماذج Nemotron على منصات أمازون للذكاء الاصطناعي
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

دعم سير عمل وكلاء الذكاء الاصطناعي

تدعم نماذج نيفيديا الجديدة مجموعة واسعة من سيناريوهات وكلاء الذكاء الاصطناعي التي تدمج بين التفكير المنطقي والفهم المرئي المتقدم. تشمل مجالات التطبيق البرمجة، والبحث عبر الويب، وفهم المستندات وتحليل الجداول والرسوم البيانية، بالإضافة إلى الأمن السيبراني وتحليل التهديدات، وفهم مقاطع الفيديو ومراجعة محتواها بدقة.

تتكامل هذه النماذج بسلاسة مع أطر عمل الوكلاء المفتوحة وأنظمة التنسيق من خلال التطبيقات المرجعية وأدوات نيفيديا المخصصة. يتيح ذلك للمؤسسات بناء وتخصيص وكلاء أذكياء قادرين على اتخاذ القرارات وحل المشكلات المعقدة بناءً على سياق بصري ونصي متكامل وموثوق.

نشر نماذج Nemotron على منصات أمازون للذكاء الاصطناعي
صورة مرتبطة بالخبر من AWS Machine Learning Blog · المصدر: AWS Machine Learning Blog

تقييم الأداء والتخطيط السعري

تعتمد فرق العمل على أدوات قياس الأداء المتخصصة لتقييم كفاءة النماذج المنشورة وتحديد مؤشرات الأداء الرئيسية مثل زمن الوصول للرمز الأول ومعدل نقل الرموز في الثانية. تساعد هذه القياسات في دراسة العلاقة بين حجم الاستعلامات المتزامنة وزمن الاستجابة، وهو ما يعد أمراً بالغ الأهمية للتخطيط الدقيق للسعة المخصصة للبنية التحتية.

تقدم المدونة الرسمية لآلة التعلم في أمازون تفاصيل شاملة حول معمارية النشر وخطوات الإعداد والتحقق من الكفاءة عبر الأكواد المرجعية المتاحة. تتيح هذه الموارد للمؤسسات إمكانية تجربة النشر وتقييم النتائج في حساباتهم السحابية الخاصة وتطوير حلول ذكاء اصطناعي فعالة وقابلة للتوسع.

المصادر

تابع التسلسل الزمني

تغطية الكيانات المرتبطة