آي بي إم تطلق Granite Switch 4.1 لدمج الدردشة واتخاذ القرار
أعلنت شركة آي بي إم عن إصدار جديد من مشروع Granite Switch، يتيح للمستخدمين تنفيذ مهام متعددة مثل الدردشة واتخاذ القرار والتعرف على الكلام عبر نقطة نهاية واحدة، مما يعزز كفاءة استخدام الموارد.
رضوان عبدالهاديمحرر وكاتب تقني
إطلاق نموذج Granite Switch 4.1
أعلنت شركة آي بي إم عن إصدار جديد من مشروع Granite Switch، الذي يتيح نهجاً مودولارياً لتطوير النماذج. يتيح هذا الإصدار الجديد، الذي يحمل اسم Granite Switch 4.1، الانتقال بكفاءة بين ردود اللغة الطبيعية، واتخاذ القرارات العامة والمتخصصة، ومهام تحويل الكلام إلى نص، وذلك من خلال نقطة نهاية واحدة مستضافة.
مكونات النموذج والتقنيات المتكاملة
تتميز نماذج Granite-Switch-4.1-8B و -30B بتضمين عدة تقنيات متقدمة. أولاً، تتضمن تقنية Decision aLoRA الجديدة لاتخاذ القرارات العامة. ثانياً، تتضمن تقنية Guardian aLoRA المتخصصة التي تتفوق في المتوسط على نماذج مثل Jev 1.13 و Microsoft-Decision-1 في مهام اتخاذ القرار المتعلقة بالسلامة. ثالثاً، تتضمن نموذج Granite-Speech-5.0-Turbo-CTC، الذي يُعد أسرع نموذج للتعرف على الكلام في قائمة OpenASR Leaderboard، مدمجاً للاستخدام في مهام النسخ.
كفاءة استخدام الموارد
تتميز هذه التقنيات الثلاث، بالإضافة إلى النموذج الأساسي، بأنها مدمجة في نموذج واحد يستهلك تقريباً نفس كمية ذاكرة VRAM على وحدة معالجة الرسوميات (GPU) التي يستهلكها النموذج الأساسي بمفرده. هذا يعني الحصول على قدرات أكثر بعدد أقل من وحدات GPU. وبما أن محولات Switch مبنية كـ Activated LoRAs فعالة من حيث الكاش، يمكن إعادة استخدام ذاكرة KV cache المُنشأة من توليد النموذج الأساسي لأي قرارات لاحقة قائمة على المحولات.
أداء النماذج المتخصصة
لا تعتبر نماذج اتخاذ القرار جديدة، حيث تتضمن الإصدارات السابقة من مكتبات Granite مستودعاً من محولات "نماذج القرار" المتخصصة. وقد وجد فريق آي بي إم أن العديد من محولات granitelib المتخصصة تتفوق على النماذج العامة في مهام التصنيف المتخصصة. وبما أن المحولات تشارك ذاكرة KV cache للنموذج الأساسي، فإن إضافة متخصصين بجانب محول قرار عام تكلف قليلاً، مما يوفر تغطية واسعة من العام ودقة أعلى من المتخصصين في المهام المهمة.
إمكانية التخصيص والتوسعة
تُطلق نماذج Granite-Switch-4.1-8B و -30B مع "البطاريات مدمجة"، أي أنها نماذج Granite Switch مُجمعة مع مجموعة محددة مسبقاً من المحولات المفيدة. لكن لا يحتاج المستخدمون إلى استخدام نسخة آي بي إم، حيث يمكن لأي شخص تكوين نموذج Granite Switch خاص به، عن طريق خلط ومطابقة المحولات من مكتبات Granite Libraries لتلبية احتياجاتهم بشكل أفضل. وتخطط آي بي إم لإطلاق SDK للمحولات لتدريب المحولات في Mellea، إلى جانب شروحات أخرى ودعم لـ Granite Switch.
أداء النموذج في المهام المعقدة
في "سباق" بين Granite-Switch-4.1-30B (نموذج Granite الأساسي المجمد + 4 محولات aLoRA متخصصة) و Jev-27B (نموذج Qwen الأساسي المجمد + 1 محول قرار عام)، تمكنت Granite-Switch-4.1-30B من إكمال سير عمل RAG حقيقي من 5 خطوات بشكل أسرع بكثير من منافسها. كما أن نموذج Granite Switch المخصص بـ 3B بارامتر اتخذ قرارات في أجزاء من الثانية للتنقل في لعبة Doom، لكنه كان قادراً على القيام بذلك بمعدل 60 - 100 قرار في الثانية، مقارنة بـ 10 قرارات في الثانية المبلغ عنها لـ Jev.
المصادر
- Hugging Face BlogGranite Switch 4.1: Chat, Decisions, and Speech from One Endpoint
تابع التسلسل الزمني
أخبار مرتبطة
آي بي إم تطلق Granite Speech 5.0 لتدقيق النطق والترجمة
تقدّم آي بي إم تحديثات شاملة لمجموعة Granite Speech 5.0، محسّنة دقة النسخ الآلي، الترجمة متعددة اللغات، وتحديد المتحدثين في الاجتماعات الطويلة.
كلاودفلار تكشف عن Clef-omni متعدد الوسائط وتسريع Clef
أطلقت كلاودفلار نموذج Clef-omni للمعالجة متعددة الوسائط، مع خفض أسعار Clef-flash وتسريع أداء Clef بنسبة تصل إلى ضعف السرعة السابقة.
إطلاق إصدار التصحيح Granite Switch 4.1.1 لتحسين النماذج
أعلنت المدونة الرسمية عن إطلاق Granite Switch 4.1.1 كتحديث تدريجي يتضمن نموذج تحويل الكلام إلى نص ومُكيّف قرار محسّن دون تعديل النموذج الأساسي.
كلودفلير تطلق نماذج القرار المفتوحة Clef ومنصة للتعلم العميق
أعلنت كلودفلير عن إطلاق نموذجي القرار المفتوحين Clef وClef-flash عبر Workers AI، إلى جانب منصة تدريب تعتمد على التعلم التعزيزي.
