أوبن إيه آي تطلق مواصفات نموذج محدثة لتوجيه الذكاء الاصطناعي
أجرت أوبن إيه آي إعادة هيكلة شاملة لمواصفات سلوك نماذجها، مستهدفةً تعزيز القدرة على اتخاذ قرارات سليمة في المواقف المعقدة عبر خمس قيم جوهرية.

إعادة تعريف سلوك النماذج الذكية
مع تزايد ذكاء نماذج الذكاء الاصطناعي وقدرتها على اتخاذ إجراءات ذات عواقب ملموسة في العالم الحقيقي، أصبح من الضروري أن تتجاوز هذه النماذج مجرد تنفيذ التعليمات الحرفية. أعلنت شركة أوبن إيه آي (OpenAI) عن تحديث لمواصفات نموذجها (Model Spec)، وهو الوثيقة العامة التي تحدد كيفية تصرف نماذجها. يهدف هذا التحديث إلى تنظيم التوجيهات حول خمس قيم أساسية تضمن للنماذج فهم النوايا البشرية وتطبيقها بحكمة، خاصة في المواقف التي لا تغطيها التعليمات الصريحة. ويمكن الرجوع إلى OpenAI News للاطلاع على التفاصيل الأصلية للمصدر.
القيم الخمس الداعمة للسلوك المسؤول
تتضمن القيم الخمس الجديدة: الوفاء لنية المستخدم، وتقليل الضرر، والصدق والشفافية، وتعزيز الوكالة البشرية، والعناية. هذه القيم ليست مجرد قوائم إرشادية، بل هي التزامات واسعة النطاق تهدف إلى خدمة الأغراض البشرية، والصدق، واحترام حرية الأفراد في تشكيل آرائهم. يوضح التحديث كيف يجب أن تتعامل النماذج مع المفاضلات الصعبة، مع التأكيد على أن هذه القيم لا تهدف إلى استيعاب كل القيم البشرية، بل لتوجيه السلوك في المواقف الحرجة.

الوفاء لنية المستخدم كحجر أساس
يعتبر الوفاء لنية المستخدم الأساس الذي تقوم عليه هذه المنهجية. لا يقتصر هذا المفهوم على اتباع الأوامر حرفياً، بل يتطلب فهماً عميقاً لما يقصده أوبن إيه آي، والمطورون، والمستخدمون، والتصرف بحكمة عندما يكون هذا الفهم غير مكتمل. كما يشمل الاعتراف بأن معتقدات المستخدمين قد تتغير، ومساعدتهم على التأمل والنمو دون توجيههم بصمت أو تجاوز اختياراتهم. على سبيل المثال، عند مساعدة شخص في مقارنة عروض عمل، قد يعتمد النموذج على أولويات سبق أن شاركها المستخدم، مع جعل هذه الافتراضات واضحة وسهلة التصحيح.
تفاصيل القيم الأخرى: الأمان والشفافية
تتضمن قيمة تقليل الضرر احترام حدود الأمان الصارمة ومراعاة العواقب المتوقعة لأفعال النموذج. أما الصدق والشفافية فيعنيان أن يكون النموذج صادقاً بشأن ما يعرفه وما لا يعرفه، مما يتيح للمستخدمين تقييم منطقه وعمله. وتشمل قيمة تعزيز الوكالة البشرية تقوية قدرة الأفراد على الفهم والاختيار والتصرف بأنفسهم. وأخيراً، تعني العناية الاهتمام بظروف المتأثرين، والالتزام بالأعراف الاجتماعية والمهنية، وإنتاج عمل يمكن الاعتماد عليه.

تحديث آليات التدريب والسياق
بجانب تحديث المواصفات، استكشفت أوبن إيه آي طرق تدريب جديدة تساعد النماذج على تعلم هذه القيم وفهم المبادئ السلوكية المحددة. الهدف هو بناء فهم عميق لأهمية هذه المبادئ وكيفية تطبيقها في المواقف الجديدة، مما يدعم اتخاذ قرارات سليمة في القرارات ذات العواقب الكبيرة. كما ساعدت هذه إعادة الهيكلة في تحديد أماكن الحاجة إلى إرشادات إضافية، وتطوير مبادئ جديدة، أو تعديل الإرشادات الحالية. تتضمن التحديثات الجديدة قسمًا خاصًا بالوفاء لنية المستخدم، يستند إلى إطار 'ألعاب المساعدة' في المحاذاة، مع دمج سلسلة قيادة محدثة توضح أي التعليمات تنطبق وكيف يتم حل التعارضات.

السياق والأعراف الاجتماعية
أضافت الشركة أيضاً افتراضات جديدة لدعم الوكالة البشرية والالتزام بالأعراف الاجتماعية ذات الصلة، مع توسيع الإرشادات القائمة حول التحكم في الآثار الجانبية والتواصل بشأنها. تلتقط هذه المبادئ طرقاً إضافية ودقيقة لكنها مهمة يجب أن تظهر فيها القيم المتبقية في سلوك النموذج، مثل مراعاة تأثير العمل على الآخرين، وتعزيز قدرات المستخدمين، وإنتاج عمل يمكن الاعتماد عليه، مع احترام أهداف المستخدم وتعليماته. في المقابل، قررت أوبن إيه آي التخلي عن معظم الإرشادات التفصيلية المتعلقة بالأسلوب، حيث يجب أن يتكيف الأسلوب مع تفضيلات المستخدمين بشكل عام.
مسار مستمر نحو المحاذاة
يُعد هذا التحديث خطوة أخرى في عمل أوبن إيه آي المستمر لتحسين المواصفات من خلال البحث، وتجربة نشر النماذج، والملاحظات العامة، والنقاشات مع المستخدمين والخبراء الخارجيين. تهدف الشركة إلى ضمان أن يستفيد الذكاء الاصطناعي من عالم يضم أشخاصاً باحتياجات وقيم وآمال مختلفة للمستقبل. سيتم مشاركة النتائج والدروس المستفادة من هذا العمل التدريبي في التحديثات المستقبلية، مما يعكس التزاماً مستمراً بتحسين جودة وموثوقية النماذج.
المصادر
- OpenAI NewsAn updated Model Spec for more capable and beneficial AI
تابع التسلسل الزمني





