باحثو أوبن إي آي المفصولون يردون على ادعاءات سوء السلوك
أصدر الباحثون الثلاثة الذين فصلتهم شركة أوبن إي آي مؤخراً رسالة مفتوحة تنفي ادعاءات سوء السلوك، محذرين من تداعيات ذلك على ثقافة أمان الذكاء الاصطناعي.
رضوان عبدالهاديمحرر وكاتب تقني
خلفية أزمة الفصل والرسالة المفتوحة
نشر الباحثون الثلاثة في مجال الأمان الذين فصلتهم شركة OpenAI مؤخراً رسالة مفتوحة موجهة إلى لجان الأمان والمهمات الاستشارية في الشركة، للرد رسمياً على المزاعم المتعلقة بسوء التعامل مع معلومات حساسة. وكان التفصيل الأساسي للقرار قد صدر بحق الباحثين الأسبوع الماضي، وسط توترات متزايدة حول سياسات التعامل مع أمن المعلومات والجهات الخارجية.
تضمنت الرسالة المفتوحة التي نشرها كل من جاسمين وانغ، وتوميك كورباك، وميكيتا باليسني، دفاعاً تفصيلياً عن طبيعة عملهم الذي استوجب التواصل المستمر مع خبراء خارجيين لتقييم المخاطر، مؤكدين أن هذه الممارسات كانت جزءاً لا يتجزأ من ثقافة الشركة حتى فترة قصيرة مضت.
طبيعة المخاوف وتأثيرات ثقافة الخوف
أوضح الباحثون المفصولون أن مجال الذكاء الاصطناعي يحمل خصوصية شديدة تتطلب مرونة واضحة في رصد المخاطر المسبقة، مشيرين إلى أن بيئة العمل الحالية باتت تعاني من حالة ضبابية تمنع الموظفين من فهم الحدود الفاصلة بين الممارسات المقبولة وأسباب الفصل المفاجئ.
حذرت الرسالة من أن القرارات الصارمة وغير المتوقعة تؤدي إلى خلق ما يسمى بـ تأثير التبريد على ثقافة الشركة المؤسسية، حيث يخشى العاملون في قطاعات الأمان من التعبير عن آرائهم أو الإبلاغ عن الثغرات والمخاطر بالطريقة التي اعتادوا عليها.
تفاصيل اتهامات سوء السلوك والردود المرتبطة بها
من جانبها، دافعت الشركة عن قرارها بالإشارة إلى وجود نمط من سوء السلوك المتعلق بسوء التعامل مع معلومات البحث الحساسة ومشاركتها مع أطراف خارجية، وهو ما يتنافى مع سياسات العمل الداخلية المتبعة. وفي المقابل، نفى الباحثون تورطهم في أي تسريبات تتعلق بهندسة النماذج الحديثة أو آليات التفكير المعقدة، مثل تقنيات الاستدلال المتسلسل التي شغلت خبراء الأمان مؤخراً.
تطرقت الرسالة أيضاً إلى ملابسات حوادث سابقة مرتبطة بعمليات الفحص والرقابة على النماذج، بما في ذلك حادثة اختراق الأنظمة الخارجية والتعامل مع الوكلاء المستقلين، حيث أكد الباحثون أنهم عملوا بحسن نية ووفقاً للأعراف السائدة آنذاك.
توضيحات إضافية ومواقف الأطراف المعنية
قدمت الباحثة جاسمين وانغ تفاصيل إضافية عبر منصات التواصل الاجتماعي حول ملابسات إنهاء خدماتها، موضحة أن الوصول إلى بريد أحد التنفيذيين كان مصرحاً به لأغراض التوظيف واندمج تلقائياً في تطبيقات الهاتف دون سوء نية، بينما شددت الشركة في مذكرة داخلية على أن قرارات الفصل لم تكن رداً على إثارة مخاوف الأمان.
ختاماً، دعا الباحثون إدارة الشركة إلى الالتزام بالتعهدات العلنية المتعلقة بإشراك مدققي أمان مستقلين من خارج المؤسسة، والحفاظ على شفافية الحوار لضمان بناء أنظمة ذكاء اصطناعي عامة وآمنة وموثوقة للمستقبل.
المصادر
- TechCrunchFired OpenAI safety researchers dispute misconduct claims, warn of chilling effect
تابع التسلسل الزمني
تغطية الكيانات المرتبطة
أخبار مرتبطة
باحثو أوبن إيه آي المفصولون يردون برسالة مفتوحة
نشر ثلاثة باحثين مفصولين من شركة أوبن إيه آي رسالة مفتوحة يعترضون فيها على قرار فصلهم، محذرين من تأثيراته السلبية على ثقافة السلامة.
أوبن إيه آي تتمسك بقرار فصل ثلاثة باحثين بأمن الذكاء الاصطناعي
تتمسك شركة أوبن إيه آي بقرار فصل ثلاثة من باحثي أسلام الذكاء الاصطناعي بعد تحقيق داخلي كشف عن انتهاك جسيم للثقة وسياسات التعامل مع المعلومات الحساسة.
مستقبل الذكاء الاصطناعي: هل تدعم الشركات الكبرى التباطؤ فعلاً؟
انقسام حاد في قطاع الذكاء الاصطناعي بين دعوات تنظيم وتيرة تطوير النماذج الفائقة ورفض قاطع من أقطاب الصناعة، وسط تزايد حوادث الاختراق والتهديدات الأمنية.
مايكروسوفت تسجّل إيرادات بقيمة 10 مليارات دولار من شراكتها مع OpenAI
كشفت مايكروسوفت عن إيرادات ضخمة بلغت 10 مليارات دولار من OpenAI في الربع المنتهي في سبتمبر، مما يعكس عمق الاعتماد المالي المتبادل بين الشركتين رغم تصاعد المنافسة.
