أنثروبيك تمنح جهة رقابة مستقلة وصولاً بصلاحيات الموظفين
في خطوة غير مسبوقة لتعزيز الشفافية والرقابة على تقنيات الذكاء الاصطناعي، أتاحة شركة أنثروبيك لجهة رقابة خارجية خارجية بيئة عمل داخلية شاملة.
رضوان عبدالهاديمحرر وكاتب تقني
إجراءات رقابية متقدمة وصلاحيات واسعة
في خطوة تعزز مسار الشفافية المؤسסية وتقييم المخاطر المتقدمة، قامت شركة أنثروبيك بتمكين باحثين خارجيين من منظمة METR من الحصول على وصول مباشر وشامل يشبه صلاحيات العاملين الرسميين داخل الشركة. يأتي هذا التطور الهام في ظل تصاعد المخاوف المتعلقة بالقدرات المتنامية لأنظمة الذكاء الاصطناعي وتأثيراتها المحتملة على الاقتصاد والأمن السيبراني والبشرية جمعاء، مما دفع كبرى المختبرات التقنية للبحث عن آليات تحقق وقياس أكثر موثوقية وموضوعية بعيداً عن الرقابة الداخلية البحتة، حسب ما ورد في تفاصيل تغطية منصة Ars Technica.
تعتبر منظمة METR غير الربحية اسماً بارزاً في مجال تقييم النماذج الرائدة، وقد سبق لها التعاون مع كبرى المختبرات والمؤسسات التقنية مثل أوبن إيه آي وغوغل وميتا. والآن، أصبح لدى المنظمة فريق عمل مندمج داخل مكاتب الشركة المطورة لنماذج كلود، مع تمتعه بحرية الوصول إلى البنية التحتية من عتاد وأنظمة داخلية تمكنه من تقييم الأداء والمخاطر بدقة متناهية ودون قيود تعيق عملية المراقبة المستقلة.
طبيعة العمل الميداني والوصول الداخلي
تتضمن الترتيبات الجديدة حصول ستة باحثين من منظمة METR على حواسيب محمولة خاصة بالشركة، ومساحات مكتبية مخصصة، إضافة إلى أدوات وأنظمة داخلية تقارب في مستواها وتفاصيلها ما تملكه فرق تقييم المخاطر الخاصة بشركة أنثروبيك نفسها. وقد شجعت الإدارة العاملين لديها على مشاركة المعلومات بسلاسة مع هؤلاء المقيمين تماماً كما يفعلون مع أي زميل عمل آخر يختص بمجال تقييم وتقويم المخاطر التقنية المرتبطة بالنماذج المتقدمة.
من جانبها، أوضحت تقارير تقنية نشرتها منصة TechCrunch أن هذه المبادرة تتيح للباحثين نظرة عميقة تلامس جوهر العمليات الداخلية وتفاصيل الأداء للنماذج الذكية، وهو ما يقلص الفجوة المعرفية بين ما تدركه الشركات المطورة لنظم الذكاء الاصطناعي المتقدمة وما يستطيع الخبراء المستقلون رصده وفهمه بشكل موضوعي بعيداً عن الدعاية التجارية.
آلية النشر وحرية إعلان النتائج
تعد قدرة جهة الرقابة على نشر نتائج تحليلاتها وتقييماتها للعامة دون الحاجة إلى موافقة مسبقة من أنثروبيك ركيزة أساسية في هذه الشراكة. لا تمتلك الشركة حق النقض لمنع النشر، غير أن الاتفاق يسمح لها بمطالبة الفريق بحذف أو حجب معلومات تنطوي على حساسية بالغة، مثل بيانات العملاء الخاصة، أو التفاصيل التي تقع ضمن نطاق الامتياز القانوني بين المحامي وموكله، أو الأسرار التقنية البحتة المتعلقة ببنية النماذج ومعماريتها الداخلية.
وأشارت التقارير إلى أن المنظمة الرقابية تتمتع بحرية كاملة في توصيف عمليات الحجب أو التعديل للجمهور علناً، مع إمكانية الإفصاح عما إذا كانت تلك الحجب مبررة من وجهة نظرها أم لا، شريطة الالتزام بعدم كشف المعلومات المحجوبة ذاتها. وتجدر الإشارة إلى أن أنثروبيك لا تقدم أي مقابل مادي أو تمويل لمنظمة METR مقابل هذه الخدمات الإشرافية المستقلة، حيث تعتمد المنظمة حصراً على التبرعات الفردية والمؤسسات الخيرية والهيئات الحكومية.
دوافع الشركة ومقاربات القطاع المالي
بررت أنثروبيك هذه الخطوة بأن تطور النماذج السريع يتطلب ضمانات أشد صرامة وتقييمات مخاطر أكثر تحدياً. وقارنت الشركة نهجها هذا بأسلوب الرقابة المصرفية التقليدية، حيث يقوم المنظمون بتعيين ممثلين أو فاحصين مقيمين داخل البنوك الكبرى لمراقبة أي سلوكيات محتملة قد تهدد المصلحة العامة أو تشكل خطراً استباقياً على استقرار السوق والجمهور.
تأتي هذه التحركات في وقت تواجه فيه الشركة ضغوطاً متزايدة لطمأنة المستثمرين والأسواق بأن معايير السلامة والأمان لن تطغى عليها طموحات الطرح العام في البورصة المزمع عقده خلال العام الجاري وسط تقديرات تقييمية تجاوزت حاجز تريليوني دولار. وقد خصصت الشركة مساحات واسعة خلال عروضها الاستثمارية لاستعراض ممارسات الأمان المعتمدة لديه بصرامة فائقة.
تطبيق لالتزامات قمة الذكاء الاصطناعي
يمثل هذا الإعلان التطبيق العملي الأول لتعهدات الرئيس التنفيذي للشركة داريو أمودي، والتي طرحها في مقال بحثي منشور في شهر سبتمبر الماضي واقترح خلاله إدماج مدققين خارجيين داخل المختبرات الرائدة كخطوة أولى نحو تبني معايير أشد صرامة وضبط وتيرة تطوير التقنيات المتقدمة. وقد لاقت هذه المقترحات ترحيباً واسعاً حينها من قادة القطاع، لتمهد الطريق نحو اتفاقيات أوسع نطاقاً للالتزام بالشفافية والتقييم المستقل.
إلى جانب منظمة METR، تواصل الشركة تعاونها مع شركاء آخرين مثل مؤسسة SecureBio التي تتولى مهام مراجعة وتقييم مخاطر الأسلحة الكيميائية والبيولوجية، إضافة إلى الشراكات مع مؤسسات أخرى في إطار بناء منظومة رقابية متعددة المستويات تهدف إلى إبقاء تطور الذكاء الاصطناعي تحت السيطرة الآمنة والمسؤولة تجاه المجتمع.
المصادر
- Ars TechnicaAnthropic gives outside AI watchdog “employee-like” access
- TechCrunchAnthropic is letting METR researchers look under the hood with employee-level access
تابع التسلسل الزمني
تغطية الكيانات المرتبطة
أخبار مرتبطة
جوجل وميتا تعودان إلى سباق الذكاء الاصطناعي بنماذج متطورة
تشهد منافسة الذكاء الاصطناعي تحولات دراماتيكية مع إطلاق جوجل وميتا نماذج متطورة تحدد قواعد جديدة في مواجهة أوبن إيه آي وأنثروبيك.
أوبن إيه آي تعتذر لأستراليا بعد اختراق وكلاءها لمواقع حكومية
تقدم أوبن إيه آي باعتذار رسمي لحكومة أستراليا بعد اكتشاف اختراق وكلاءها الذكيين لأنظمة صحية وإحصائية، مع التعهد باتخاذ تدابير جديدة لتقييم الأضرار ومنع تكرار الحوادث.
أوبن إيه آي توقف تدريب نماذجها على الإنترنت المباشر بسبب المخاطر
أعلنت أوبن إيه آي عن تغيير جذري في استراتيجيتها، حيث ستتوقف عن تدريب نماذج الذكاء الاصطناعي المتقدمة على الإنترنت المباشر، مستبدلةً ذلك بنسخ مؤرشفة ومحاكاة، لتجنب المخاطر الأمنية.
تسبب الذكاء الاصطناعي في فوضى رقمية دون محاسبة الشركات
تتسبب نماذج الذكاء الاصطناعي في أضرار رقمية واسعة، لكن الضحايا يكتفون بإصلاح الخروقات دون مقاضاة الشركات، وسط غياب واضح للمساءلة القانونية.
