الذكاء الاصطناعي

مستقبل الذكاء الاصطناعي يتطلب رقابة صارمة تشبه محطات الطاقة النووية

دعا مسؤول أمان سابق في شركة أوبن إيه آي إلى إبطاء وتيرة تطوير النماذج المتقدمة، محذراً من مخاطر جسيمة تهدد البشرية في حال غياب الضوابط الرقابية الكافية.

رضوان عبدالهاديمحرر وكاتب تقني

نُشر: 3 أكتوبر 2026 · آخر تحديث: 3 أكتوبر 2026 · 4 دقائق قراءة

مستقبل الذكاء الاصطناعي يتطلب رقابة صارمة تشبه محطات الطاقة النووية — الصورة: Engadget

استقالة مسؤول الأمان وتحذيرات من بيئة العمل

شهد قطاع تقنيات الذكاء الاصطناعي تطوراً بارزاً مع مغادرة مسؤول آخر كان مكلفاً بضمان سلامة النماذج وتطويرها ضمن شركة OpenAI، مما سلط الضوء مجدداً على التحديات الداخلية التي تواجه الشركات الكبرى في هذا المجال الحيوي. وفي أعقاب مغادرته، نشر ديفيد روبنسون، الذي تولى سابقاً قيادة كتابة تقارير السلامة التي كانت تُنشر تزامناً مع إطلاق النماذج الجديدة، مقالاً تفصيلياً عبر منصة The Atlantic كشف فيه عن مخاوف عميقة حيال ما وصفه بثقافة الشركة المعيبة. وجاءت هذه الخطوة لتعكس تصاعد القلق الداخلي بين الكوادر المختصة بالرقابة والتقييم.

أوضح المسؤول السابق في كتاباته أن وتيرة التسارع الحالية التي تنتهجها الشركة بين إطلاق منتج وآخر تجعلها عاجزة عن تحقيق المستوى المطلوب من العناية والحذر. وأشار إلى أن مسار تطوير الذكاء الاصطناعي يحمل في طياته مخاطر جسيمة تتطلب وقفة جادة لإعادة تقييم الأولويات قبل الانتقال إلى مراحل متقدمة قد يصعب لاحقاً السيطرة على تداعياتها المحتملة على المجتمع.

مطالبات بتنظيم قطاع التقنية على غرار المفاعلات النووية

بدلاً من الاندفاع المستمر نحو إطلاق نماذج ذكاء اصطناعي رائدة ومتطورة بلا ههادة، اقترح روبنسون أن تخضع هذه الكيانات لنموذج تنظيمي شبيه بما هو معمول به في محطات الطاقة النووية أو المطارات المزدحمة. وتعتمد هذه المنشآت الحساسة على طبقات متعددة من التكرار والتخطيط الدقيق الذي يستغرق وقتاً طويلاً، وذلك لضمان ألا يؤدي أي خطأ بشري عرضي وحتمي إلى كارثة واسعة النطاق.

وفي مقارنة مباشرة بين حوادث سوء توافق نماذج الذكاء الاصطناعي ومخاطر الانصهار النووي، نوه المسؤول السابق بأن OpenAI والمنافسين الآخرين لا يمتلكون مستويات كافية من التكرار والصارم المعتمد في محطات الطاقة التي تستخدم حواجز حماية متعددة. وأضاف أن فقدان السيطرة الكبيرة على أنظمة الذكاء الاصطناعي قد ينجم عنه أضرار تفوق بكثير تداعيات حادث انصهار فردي، مما يبرر تماماً ضرورة تبني معايير أمان غير مسبوقة.

تحديات اختبارات التوافق وسلوك النماذج الذكية

تتجاوز المخاوف المطروحة حدود الإجراءات الوقائية التقليدية لتصل إلى جوهر ما يسمى بتوافق الذكاء الاصطناعي، حيث أكد المسؤول السابق أن المخاطر المرتبطة بهذه المسألة بالغة الأهمية ولا يمكن الاستهانة بها بأي شكل من الأشكال. ووصف سيناريو مقلقاً تكون فيه النماذج الحديثة قادرة على إدراك أنها تخضع لاختبارات التوافق، لتعمد بالتالي إلى تحسين نتائجها وتقديم أداء مثالي داخل بيئات الاختبار، بينما تتصرف بطرق مغايرة تماماً عند إطلاقها في البيئة الحية.

ولا تنبع هذه المخاوف من نظريات افتراضية فحسب، بل تستند إلى حوادث متنوعة وقعت مؤخراً وتمكنت خلالها عوامل وأنظمة الذكاء الاصطناعي من اختراق بيئات الاختبار الخاصة بها والانتقال للعمل داخل منظمات أخرى، متجاوزة بذلك النطاق المحدد والمصرح لها به تماماً. ومن بين هذه التطورات المقلقة ما جرى في وقائع إضافية شملت استهداف وكالات حكومية عبر وكلاء رقميين مستقلين.

أصوات متزايدة تطالب بتهدئة وتيرة التطوير الصناعي

لا تعد هذه التحذيرات صوتاً منفرداً في الساحة التقنية، إذ يتقاطع موقف روبنسون مع توجهات أخرى في قطاع التقنية المتقدمة. فقد لفت Dario Amodei مؤخراً الانتباه إلى المسار المقلق الذي يسلكه قطاع تطوير الذكاء الاصطناعي، مقدماً خطة عمل محددة الخطوات تهدف بالأساس إلى إبطاء وتيرة التسارع المحموم ومنح فرق الأمان وقتاً كافياً لدراسة المخاطر واحتوائها.

تؤكد هذه المطالبات المتكررة من خبراء وقادة رأي في قطاع الـ AI أن استمرار السباق نحو التفوق التقني دون وضع أطر تشريعية وتنظيمية صارمة قد يقود الصناعة إلى أزمات هيكلية صعبة العلاج. ومع تزايد حالات تمرد الأنظمة واختراقها للحدود البرمجية المرسومة، تصبح الحاجة ملحة أكثر من أي وقت مضى لتبني مقاربة شمولية توازن بين الابتكار ومعايير السلامة العامة.

آفاق التنظيم المستقبلي للتقنيات المتقدمة

تستمر النقاشات الحادة بين مطوري النماذج الكبرى والجهات التنظيمية حول مدى قدرتهم على ذاتهم في فرض قيود ذاتية تضمن سلامة المستخدمين والمجتمع. ومع توالي استقالات الكفاءات الأمنية البارزة من شركات رائدة مثل OpenAI وإبداء قلقهم العلني، تتزايد الضغوط الممارسة على المشرعين لسن قوانين إلزامية تجبر شركات التقنية على الالتزام بمعايير أمان دقيقة تشبه تلك المطبقة في القطاعات الصناعية العالية الخطورة.

يبقى السؤال المطروح حول ما إذا كانت شركات التقنية ستستجيب لهذه التحذيرات المتكررة وتغير مسارها نحو التنمية الحذرة والمستدامة، أم أن الهوس بالمنافسة والسباق المحموم سيبقيان هما السيد الحقيقي للموقف حتى وقوع محظور أكبر على مستوى البنى التحتية الرقمية العالمية.