مِخبارMIKHBAR
الذكاء الاصطناعي

تحذيرات أنثروبيك من نماذج الذكاء الاصطناعي ذاتية التكاثر

أصدر فريق الأبحاث في شركة أنثروبيك تحذيرات جديدة بشأن احتمالية ظهور نماذج ذكاء اصطناعي قادرة على التكاثر الذاتي، مما يعيد فتح النقاش حول أمن شبكات البوت نت.

تحذيرات أنثروبيك من نماذج الذكاء الاصطناعي ذاتية التكاثر

مخاوف أنثروبيك والجدل حول الذكاء الاصطناعي متكاثر القدرات

نشرت شركة أنثروبيك عبر فريق أبحاثها تحذيرات تشير إلى أن النماذج الصغيرة قد تقترب من مرحلة القدرة على التكاثر والانتشار بين الأجهزة غير الآمنة، مما قد يقود إلى تشكيل شبكات بوت نت مستقلة وصعبة الإيقاف. ورغم ميل شركات التقنية أحياناً للتهويل من المخاطر لأغراض تسويقية، يرى خبراء التتقنية أن احتمالية تطور هذه النماذج واردة في المستقبل القريب. ويمكن الرجوع إلى Engadget للاطلاع على التفاصيل الأصلية للمصدر.

يشير كريس كانال، الرئيس التنفيذي لشركة EquiStamp التي تتعاون مع مختبرات الذكاء الاصطناعي والجهات التنظيمية لتقييم النماذج، إلى أن وتيرة تطور النماذج تتسارع نتيجة لجوء المطورين لاستخدام أدواتهم الخاصة في أبحاث التعلم الآلي، مما قد يجعل هذه المخاطر أقرب مما يتوقع البعض. ويمكن الرجوع إلى News للاطلاع على التفاصيل الأصلية للمصدر.

دروس مستفادة من هجمات بوت نت التاريخية مثل ميراي

من جانب آخر، يوضح مايكل بايلي، الأستاذ في معهد جورجيا للتكنولوجيا، أن هذه التهديدات ليست وليدة اللحظة تماماً. فقد سبق أن شارك في دراسة شبكة ميراي البوت نت التي أتاحت لمجموعة من مجرمي الإنترنت السيطرة على أجهزة إنترنت الأشياء لشن هجمات واسعة النطاق أثرت على مزودي خدمات الإنترنت وأدت إلى توقف عدة مواقع كبرى عن العمل.

وأدت تلك الهجمات التاريخية إلى تأثيرات واسعة النطاق أدت إلى تعطل أجزاء واسعة من الإنترنت وشملت منصات كبرى وتسببت بخسائر مادية معتبرة، مما يبرز خطورة استغلال الأجهزة المتصلة بالشبكة.

طبيعة التهديد التقني ونقاشات الخبراء حول آلية الانتشار

يرى الخبراء أن الميزة الجديدة التي تقدمها أنظمة الذكاء الاصطناعي تكمن في قدرتها المحتملة على أتمتة التعامل مع الأجهزة غير المألوفة بدلاً من الاعتماد حصراً على التدخل البشري لتعديل الشيفرات الخبيثة لكل بنية تحتية جديدة. ومع ذلك، يرى بايلي أن مصطلح "التكاثر الذاتي" قد يكون مضللاً بعض الشيء عند مقارنته بالفيروسات التقليدية أو ديدان الإنترنت.

بدلاً من نسخ الشيفرة بالكامل عبر الأجهزة، قد تعمل هذه البرمجيات بطريقة مشابهة لأدوات التثبيت التي تجد موطئ قدم في الجهاز وتقوم بتنزيل تعليمات تنسيق من مكان آخر في الشبكة، وهو ما يختلف عن الديدان التقليدية القادرة على إعادة تدريب نماذجها بشكل كامل.

تحذيرات أنثروبيك من نماذج الذكاء الاصطناعي ذاتية التكاثر
صورة مرتبطة بالخبر من Engadget · المصدر: Engadget

دوافع النشر والاعتبارات المرتبطة بطرح الشركات في الأسواق

يتساءل البعض عما إذا كان نشر هذه الأبحاث الأمنية يحمل أبعاداً تسويقية، لا سيما مع تزامنها أحياناً مع خطوات مالية وتنظيمية هامة تتخذها الشركات الكبرى مثل التخطيط للطرح العام الأولي في الأسواق.

ويشير المراقبون إلى أن الشركات قد تكون مدفوعة بالرغبة في تحذير قطاع الصناعة من تداعيات التنافس المحموم وتسريع إطلاق النماذج دون ضمانات كافية، في ظل سعي كل جهة للحصول على حصة أكبر من السوق.

الحلول التقليدية وتحديات تأمين نماذج الأوزان المفتوحة

تقترح أنثروبيك استراتيجيات تخفيف تقليدية للتعامل مع هذه المخاطر، مثل قيام مزودي خدمات الإنترنت بإشعار المستخدمين بالإصابات وتقييد الوصول إلى مواقع محددة، وهي أساليب أثبتت فعاليتها تاريخياً خلال أزمات شبكات البوت نت السابقة، بجانب فرض تشريعات تحظر كلمات المرور الافتراضية الضعيفة في الأجهزة الذكية.

وفيما يتعلق بنماذج الأوزان المفتوحة، يرى الخبراء صعوبة بالغة في إضافة ضمانات برمجية تمنع بشكل قاطع إساءة استخدامها، حيث أثبتت الاختبارات مع مؤسسات الأبحاث المتخصصة أن استراتيجيات إزالة حواجز الأمان تظل فعالة وقابلة للتطبيق بسهولة نسبية، مما يجعل الأمن السيبراني في عصر الذكاء الاصطناعي معتمداً على الممارسات الوقائية المعتادة.

المصادر

  • EngadgetWhat happens when AI starts self-replicating?

تابع التسلسل الزمني

تغطية الكيانات المرتبطة