ساتيا ناديلا يطالب بفرامل طوارئ لنماذج الذكاء الاصطناعي
شدد الرئيس التنفيذي لشركة مايكروسوفت ساتيا ناديلا على ضرورة تطوير آليات تحكم متقدمة وفرامل طوارئ لنماذج الذكاء الاصطناعي المتقدمة، وسط تنامي المخاوف حول السيطرة على الأنظمة الذكية.
رضوان عبدالهاديمحرر وكاتب تقني
دعوة لإعادة تقييم بنية الثقة
في منشور نشره عبر منصة التواصل الاجتماعي، انضم ساتيا ناديلا الرئيس التنفيذي لشركة مايكروسوفت إلى قائمة المسؤولين التنفيذيين الذين قدموا رؤى مطولة حول سبل تحسين أمان الذكاء الاصطناعي. وأشار رئيس عملاق البرمجيات في منشوره إلى أنه حان الوقت للتراجع وتقييم بنية الثقة للذكاء الاصطناعي.
وأوضح ساتيا ناديلا أن التعامل مع هذه النماذج المتقدمة يتطلب مقاربة مختلفة كلياً، لافتاً إلى أن الوقت قد حان للتركيز على الجوانب التنظيمية والأمنية للأنظمة الصاعدة.
رفض التعامل مع الأنظمة كصناديق سوداء
أكد ساتيا ناديلا أنه لا يمكن التعامل مع ما يُعرف بـ الفائقة على أنها مجموعة من الصناديق السوداء المتداخلة، والاكتفاء بقبول أو رفض توصياتها وإجاباتها وأفعالها بشكل مجرد. وقد استخدم في تعبيره المفهوم الذي تفضله الإدارة الأمريكية للإشارة إلى هذه التقنيات المتقدمة.
وتعكس هذه التصريحات قلقاً متزايداً في أوساط قطاع التقنية حول مدى القدرة على تفسير مخرجات الأنظمة الحديثة وفهم الأسباب الكامنة وراء اتخاذها لقرارات معينة في البيئات الحية والمعقدة.
فصل النماذج وضمانات التحكم الخارجي
رسم ناديلا ملامح مقاربة واضحة تعتمد على فصل النموذج الأساسي عن الإطار أو الأداة التي تنظم وتوجه عمله، إلى جانب إرساء ضوابط وضمانات خارجية. وأكد على ضرورة توثيق كل إجراء مهم تنفذه النماذج بأدلة واضحة ومقروءة بشرياً ولا يمكن التلاعب بها لضمان الشفافية.
وتقترح هذه الرؤية إعادة هيكلة طريقة بناء وتشغيل الأنظمة الذكية لتجنب المخاطر الناشئة عن التشغيل الآلي بالكامل دون وجود إشراف بشري فاعل ومستمر طوال فترة دورة حياة النظام.
فرامل الطوارئ وإيقاف العمليات
شدد رئيس شركة مايكروسوفت على أهمية تصميم أنظمة يمتلك فيها أي شخص مخول القدرة الدائمة على إيقاف النموذج مؤقتاً أو إغلاقه بشكل كامل في منتصف المهمة إذا تطلب الأمر ذلك. وقال إنه يجب افتراض أن أي نموذج قد تعرض للاختراق أو التسريب والعمل على احتوائه منذ البداية، مشبهاً ذلك بوجود فرامل طوارئ حقيقية.
وتأتي هذه الدعوات الصارمة وسط تزايد ملحوظ في الحوادث التي تقر فيها الشركات الكبرى بأنها تواجه صعوبة في السيطرة على وكلائها ونماذجها الذكية، مما دفع بعض المؤسسات الرائدة لإعادة النظر في استراتيجياتها الميدانية.
سياق أوسع من الحذر الصناعي
تتزامن تصريحات ناديلا مع تحركات ومبادرات مشابهة في قطاع الذكاء الاصطناعي، حيث نشر داريو أمودي الرئيس التنفيذي لشركة أنثروبيك خطة عمل تهدف إلى اعتماد وتيرة أكثر حذراً وتأني في تطوير النماذج الحدودية، تفادياً للمخاطر غير المبرمجة التي قد تواجهها الصناعة.
وتؤكد هذه التطورات المتتالية أن كبرى شركات التقنية باتت تدرك الحاجة الماسة لوضع معايير أمان إضافية تسبق أي إطلاقات جديدة للأنظمة، لضمان عدم خروج التطبيقات عن نطاق السيطرة البشرية في المستقبل القريب.
المصادر
- TechCrunchMicrosoft’s Satya Nadella says AI models need an ‘emergency brake’
تابع التسلسل الزمني
تغطية الكيانات المرتبطة
أخبار مرتبطة
مايكروسوفت: وكلاء الذكاء الاصطناعي يشبهون التهديدات الداخلية
أطلقت مايكروسوفت ميزة Guardian Agents لمراقبة وكلاء الذكاء الاصطناعي، محذرة من أن النماذج المتقدمة غير موثوقة وتتطلب أنظمة مراقبة مستقلة عن مزوديها.
أوبن آي وجوجل ومايكروسوفت تتبنى معياراً موحداً لرفض الحصاد
تتجه كبرى شركات الذكاء الاصطناعي لاعتماد معيار IETF الجديد الذي يتيح للمدونات تحديد تفضيلات التدريب مرة واحدة بدلاً من تكرارها لكل شركة.
ما الذي تتوقعه من حدث مايكروسوفت للذكاء الاصطناعي وسرفيس في 7 أكتوبر؟
تستعد مايكروسوفت لإطلاق حدث في سان فرانسيسكو يركز على أجهزة Surface Laptop Ultra المزودة بمعالج NVIDIA RTX Spark، مع استعراض جديد لتقنيات الذكاء الاصطناعي الوكيل.
مايكروسوفت تسجّل نمواً قوياً في السحابة وسط إعادة هيكلة مالية
كشفت مايكروسوفت عن نتائجها المالية للربع الأول من العام 2027، مسجلةً إيرادات بلغت 92.3 مليار دولار. رغم تراجع مبيعات ويندوز وإكس بوكس، واصلت خدمات السحابة نموها القوي.
