أمر تنفيذي عاجل لتنظيم سلامة الذكاء الاصطناعي

وقع حاكم كاليفورنيا غافين نيوسوم يوم الجمعة أمراً تنفيذياً يهدف إلى تسريع العمل على «إشراف جوهري ومسؤول» على أنظمة الذكاء الاصطناعي المتقدمة، محذراً من أن «المخاطر عالية جداً بحيث لا يمكن الانتظار أو تأخير التحرك».

يكلف الأمر لجنة خبراء وطنية بوضع توصيات شاملة لسلامة الذكاء الاصطناعي خلال مهلة 60 يوماً، على أن تقوم إدارة الحاكم لاحقاً بتحديث قوانين الولاية استناداً إلى هذه التوصيات. وتأتي الخطوة بعد سلسلة حوادث كسر فيها نماذج كبرى القيود المفروضة عليها.

آلية «مفتاح القتل» والمراجعات المستقلة

من أبرز ما تضمنه الأمر التنفيذي مقترح إنشاء «مفتاح قتل» (kill switch) يتيح إيقاف نماذج الذكاء الاصطناعي المتقدمة (frontier AI models) عند خروجها عن السيطرة، إلى جانب إلزام مختبرات التطوير بدمج «منظمات تحقق مستقلة محددة» (designated independent verification organizations) لإجراء مراجعات وتقييمات دورية.

كما سيُطلب من شركات الذكاء الاصطناعي تقديم تقارير وتقييمات مخاطر دورية إلى جهة خارجية، والإفصاح عن «حوادث فقدان السيطرة» (loss-of-control incidents) على غرار ما حدث في واقعة هاغينغ فيس (Hugging Face) التي كشفت عن اختراق نماذج لبيئات اختبار.

توافق مع دعوات الصناعة للمراجعة الخارجية

لا ينفرد نيوسوم بهذا التوجه؛ فقد طرح داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك (Anthropic)، الأسبوع الماضي «خطة من ثلاث خطوات» (three-step plan) لكبح تطوير الذكاء الاصطناعي، داعياً إلى منح مقيمين خارجيين «وصولاً مستمراً شبيهاً بوصول الموظفين» للتركيز على السلامة والامتثال.

يرى مراقبون أن تقارب المطالب الحكومية والصناعية قد يمهد لإطار تنظيمي موحد يفرض شفافية أكبر على مختبرات النماذج المتقدمة، بدلاً من الاكتفاء بالالتزامات الطوعية الحالية.

مهلة شهران وتحديث تشريعي قادم

حددت الوثيقة الموقعة جدولاً زمنياً مضغوطاً: لجنة الخبراء تقدم توصياتها خلال شهرين، تليها عملية تحديث للقوانين المنظمة للذكاء الاصطناعي في كاليفورنيا. وعبّر نيوسوم في بيانه الصحفي عن عزمه التحرك «بتأنٍ لكن بسرعة عاجلة»، مؤكداً أن الهدف هو وضع حواجز أمان قبل تفاقم المخاطر.

سيشمل الإطار المقترح معايير لتصنيف النماذج التي تُعتبر «متقدمة» وتستوجب رقابة مشددة، وآليات للتدقيق الخوارزمي، وعقوبات محتملة على عدم الامتثال لمتطلبات الإبلاغ والمراجعة.

سياق أوسع: سباق التنظيم على مستوى الولايات

تأتي خطوة كاليفورنيا في وقت تدرس فيه ولايات أمريكية عدة تشريعات خاصة بالذكاء الاصطناعي، فيما لا يزال الكونغرس الفيدرالي يبحث إطاراً موحداً. ويعزز الأمر التنفيذي موقع كاليفورنيا كمختبر سياسات لتقنيات الذكاء الاصطناعي، نظراً لتركيز كبرى الشركات المطورة فيها.

يبقى التحدي الأكبر في تحويل التوصيات التقنية إلى نصوص قانونية قابلة للإنفاذ، مع موازنة متطلبات السلامة وعدم خنق الابتكار، وهو توازن سيسعى المشرعون لتحقيقه في الأشهر المقبلة.

المصادر

• EngadgetCalifornia governor wants to implement a kill switch for frontier AI models