قصور المبادئ الكلاسيكية في عصر الذكاء الاصطناعي

على الرغم من شهرة قوانين آيزموف الثلاثة للروبوتات التي طُرحت لأول مرة في عام 1942 ونُشرت لاحقاً في مجموعة القصص القصيرة I, Robot، إلا أن المراقبين التقنيين يرون اليوم أن هذه المبادئ لم تعد كافية لمعالجة التحديات الجديدة. في عصر يخشى فيه الكثيرون من تهديد الذكاء الاصطناعي للحضارة البشرية بأكملها، تبدو ملاحظات آيزموف حول مخاطر الروبوتات على البشر أكثر راهنية من أي وقت مضى، لكنها تفتقر إلى الشمولية اللازمة لمواجهة تعقيدات النظم الحالية.

تنص القوانين الثلاثة على منع الروبوت من إيذاء البشر، ووجوب طاعة الأوامر البشرية ما لم تتعارض مع القانون الأول، وحماية وجود الروبوت نفسه ما لم يتعارض مع القانونين السابقين. ورغم جاذبية التركيز على القانون الأول والأكثر شهرة عند التفكير في الذكاء الاصطناعي، إلا أن الواقع يشير إلى أن مبدأً أساسياً كهذا لم يتبنَّه سوى كيان تجاري واحد كعنصر أساسي في تطوير برامجه، وهو شركة Advanced Robotic Technologies Inc. المتخصصة في تطبيقات الذكاء الاصطناعي التوليدي في التصنيع الصناعي الكبير.

تحذيرات قادة التقنية من تسارع التطور

يبدو منطقيًا لأي مراقب أن مبدأً أساسياً كهذا يجب أن يُدمج في الخوارزميات الأساسية لكل شركة ذكاء اصطناعي توليدي في العالم، لكن ذلك لم يحدث. يمكن افتراض معقولاً، كما يفعل الكثيرون الآن، أنه بدون تعليمات حظر مدمجة في "الذكاء" الأساسي للروبوت، قد تشكل الروبوتات المتزايدة القدرات خطراً جسيماً على السلامة البشرية في نهاية المطاف. في هذا السياق، يبرز التحذير الذي أطلقه داريو أمودي، الرئيس التنفيذي لشركة Anthropic، في منشور بعنوان "We Must Pace the Frontier" بتاريخ 12 سبتمبر، حيث دعا صراحةً إلى إبطاء تطوير نماذج الذكاء الاصطناعي الحدودية بشكل عام، والذكاء الاصطناعي الوكيل بشكل خاص.

أعرب أمودي عن مخاوفه من أن أسراب الوكلاء المستقلين للذكاء الاصطناعي يمكنها الآن تنفيذ مهام معقدة، والعمل بالتناغم مع بعضها البعض دون علم أي إنسان، بل وحتى إخفاء آثارها عندما تنتهك مبادئ السلامة الأساسية. وقد أعرب سام ألتمان، الرئيس التنفيذي لشركة OpenAI المنافسة، عن موافقته على هذه المخاوف، وكذلك فعل إيلون ماسك. كما عبر بيل غيتس عن تحفظاته بشأن سرعة تطوير الذكاء الاصطناعي والتهديد الذي يشكله للمجتمع البشري.

من حماية الفرد إلى حماية الحضارة

بينما يبدأ المجتمع في طرح أسئلة حول ما قد يفعله روبوت فردي لإيذاء إنسان أو أكثر، يطرح البعض سؤالاً أكثر جوهرية: هل يمكن أن يتعرض وجود الحضارة البشرية للخطر بالانقراض بسبب الذكاء الاصطناعي التوليدي؟ جادل جاكوب كوكسون، الباحث السابق في Anthropic وOpenAI، بوجود احتمال بنسبة 10% لحدوث انقراض بشري بسبب السرعة السريعة لتطوير الذكاء الاصطناعي الوكيل. بينما وضع إيفان هوبنغر، رئيس علم المحاذاة في Anthropic، احتمالات الكارثة بشكل أعلى قليلاً، مما يؤكد أن تحذير آيزموف لم يكن كافياً.

بحلول وقت نشر آيزموف لروايته "Robots and Empire" عام 1985، كان قد استنتج أن قوانينه الثلاث الأصلية غير مكتملة. وبعد سنوات من التأمل، قدم ما أسماه القانون الصفر، والذي عدّده عمداً بـ"صفر" لأنه كان يعتقد أنه يجب أن يسبق القوانين الأخرى الثلاثة بدلاً من أن يصبح قانوناً رابعاً جديداً. السبب في ذلك هو أن القانون الصفر لآيزموف يوسع الحظر الأصلي ضد إيذاء إنسان فردي ليشمل رفاهية البشرية ككل، مما يستوجب أن يسبق القانون الأول في رأيه.

أثر الذكاء الاصطناعي على سوق العمل

يجب أن ينتقل جزء كبير من قلق المجتمع بشأن الروبوتات من الضرر الذي قد يلحقه روبوت واحد بفرد إلى الضرر المحتمل الذي قد يلحقه الروبوتات الذكية بالحضارة نفسها. وحتى لو لم يهدد الذكاء الاصطناعي الحضارة البشرية، فإن القلق حقيقي جداً من أن تنجم آثار اجتماعية ضارة أخرى. وتبقى آثار القانون الصفر مجهولة للجمهور العام، ولا يتم الإشارة إليها إلا الآن من قبل مطوري الذكاء الاصطناعي التوليدي. مثال على هذا القلق الأوسع هو البيان الأخير الصادر عن عدد كبير من الاقتصاديين والتقنيين بعنوان "We Must Act Now"، حيث وقع أكثر من 2500 شخصية بارزة على البيان، داعين المجتمع لاتخاذ إجراء فوري.

ادعى الموقعون أن الانتظار لفترة أطول سيترك وقتاً غير كافٍ لتقديم التوجيهات التي يحتاجها مطورو البرمجيات لضبط القدرة المزعجة للروبوتات على استبدال العمال البشريين دون منح وقت كافٍ للانتقال وبناء المؤسسات. يجب علينا التحرك الآن إذا أردنا تقديم توجيهات كافية لتطوير الروبوتات بحيث لا يتأثر المجتمع البشري ككل سلباً. كما يجب أن نبدأ في تصميم أدوات الانتقال اللازمة لإدارة التغييرات القادمة.

موقف متباين من مخاطر التقنية

في المقابل، قال جينسن هوانغ، الرئيس التنفيذي لشركة NVIDIA، إن المخاوف بشأن مخاطر الذكاء الاصطناعي مبالغ فيها. ويبرز هذا التباين في الآراء بين قادة الصناعة حول مدى خطورة الوضع الحالي والحاجة الماسة للتدخل التنظيمي الفوري مقارنة بالثقة في قدرة السوق على ضبط النفس.

التدخل التشريعي الأمريكي

في 21 يوليو 2026، قدم السيناتور مارك وارنر، نائب رئيس لجنة الاستخبارات في مجلس الشيوخ، تشريعاً شاملاً بعنوان "A Framework for America’s AI Future"، يتكون من ثلاثة مكونات رئيسية. يركز حوالي ثلثا مقترح السيناتور وارنر على المتطلبات العامة التي يجب وضعها الآن لتجنب الضرر المستقبلي. وهو قلق بشكل خاص بشأن الآثار السلبية المحتملة للروبوتات على الحضارة البشرية إذا لم يتم إنشاء حواجز حماية كافية لتطوير الذكاء الاصطناعي المستقبلي، بالإضافة إلى الحاجة إلى منع الاستغلال التجاري غير المصرح به وحماية أمن بيانات المستهلكين.

تعالج الجزء الثاني من التشريع تهديد عدم استقرار سوق العمل الناتج عن الانتشار السريع لأنظمة الذكاء الاصطناعي في جميع أنحاء الاقتصاد دون تخطيط مسبق كافٍ أو دعم مؤسسي للانتقال من عالم ما قبل الذكاء الاصطناعي إلى عالم ما بعده. قد يواجه المجتمع البشري أزمة اقتصادية واسعة النطاق إذا فشل في إنشاء حواجز حماية كافية قبل تقدم تطوير الروبوتات أكثر، بما في ذلك تقديم موارد انتقال ذات معنى للقوى العاملة.

صندوق الانتقال للقوى العاملة

تحت عنوان "National Workforce Transition Fund"، ستوفر هذه часть من التشريع إعادة تدريب للعمال، ومنح احتفاظ، ومساعدة دراسية للعمال الذين يسعون للانتقال إلى مهن جديدة بينما يتم إزاحة وظائفهم الحالية بسبب الأتمتة. في شرح الحاجة إلى الجزء الثاني من تشريعه، أعرب السيناتور وارنر عن اعتقاده بأنه خلال عامين، قد لا يتمكن ما يصل إلى 30% من الخريجين الجامعيين من العثور على عمل بعد إكمال تعليمهم بسبب التوسع السريع للذكاء الاصطناعي في مكان العمل.

قد تثبت هذه التقدير صحيحاً، أو قد يتضح في النهاية أنه متشائم بشكل مفرط. فقط الوقت سيكشف عن ذلك. ومع ذلك، فإن تحذير وارنر الأوسع بأن علينا أن نبدأ في تطوير ضوابط البرمجة وسياسات الانتقال الآن، هو أمر منطقي. كما أشار، إذا انتظرنا عامين آخرين، فمن المرجح أن يكون قد فات الأوان. وهذا هو بالضبط النقطة التي يركز عليها الخبراء في نقاشاتهم حول مستقبل الذكاء الاصطناعي.

المصادر

• The Robot ReportAsimov’s laws are not enough to keep robotics and AI safe