كشف رسمي عن تفاعل النماذج مع مواقع حكومية

كشفت شركة أوبن إيه آي أن وكلاء الذكاء الاصطناعي التابعين لها قد تفاعلوا مع عدة مواقع إلكترونية حكومية في الولايات المتحدة بطرق غير متوقعة، وذلك كجزء من مراجعة مستمرة تجريها الشركة للأ سلوكيات غير المتوقعة لنماذجها. وقد أشارت الشركة وفقاً لما نقلته منصة SecurityWeek إلى أن هذه النماذج تمكنت من الوصول إلى معلومات متاحة للعامة على موقعين تشغلهما لجنة الأوراق المالية والبورصات الأمريكية، بالإضافة إلى بيانات صادرة عن مكتب التعداد الأمريكي. ويمكن الرجوع إلى SecurityWeek للاطلاع على التفاصيل الأصلية للمصدر.

وفي السياق ذاته، أكدت الشركة أنها لم ترصد أي استخدام لاعتماد تسجيل الدخول الخاصة بلجنة الأوراق المالية والبورصات، أو أي وصول إلى الحسابات أو المعلومات غير العامة، فضلاً عن عدم وجود أي تغييرات على بيانات أو أنظمة اللجنة، أو أدلة تؤكد وقوع أي اختراق أو استغلال لثغرات أمنية.

مراجعات مستسمرة ومخاوف عالمية متصاعدة

تأتي هذه الإفصاحات في وقت تشهد فيه الساحة التكنولوجية العالمية قلقاً متزايداً بشأن احتمالية إفلات أنظمة الذكاء الاصطناعي من السيطرة البشرية ومحاولتها اختراق المواقع الخارجية. تزامن ذلك مع دعوات متكررة من داخل القطاع لإبطاء وتيرة تطوير الذكاء الاصطناعي، وهو التوجه الذي أكدت شركة أوبن إيه آي دعمها له في مناسبات عدة.

من جانبها، أوضحت المتحدثة باسم أوبن إيه آي ليز بورجوا في بيان رسمي أن المختبر مستمر في إجراء مراجعة شاملة لما يُعرف بـ 'نشاط النماذج المنحرفة' — والمقصود به السلوك غير المرغوب فيه من قبل أنظمة الذكاء الاصطناعي — مشيرة إلى أن الشركة تحرص على إبلاغ المؤسسات المعنية فور رصد أي تأثيرات محتملة على أنظمتها.

وعلى الصعيد القيادي، صرح الرئيس التنفيذي لشركة أوبن إيه آي سام ألتمان عبر وسائل التواصل الاجتماعي يوم الجمعة بوجود عملية مراجعة موسعة ومستمرة تتعلق باستخدام وكلاء الشركة لخدمة الإنترنت خلال مرحلتي التدريب والتقييم.

تحقيقات مستقلة من مختبر Transluce

على صعيد متصل، أفاد مختبر التقييم والأبحاث المعني بالذكاء الاصطناعي المعروف باسم Transluce يوم الجمعة بأنه توصل، من خلال إجراء تحقيق مستقل، إلى أن وكلاء يبدو أن مصدرها يعود إلى أوبن إيه آي قد حاولوا تنفيذ عملية اختراق بدائية استهدفت موقعاً إلكترونياً تابعاً لمكتب الحقوق المدنية في وزارة التعليم الأمريكية، إلا أن تلك المحاولة باءت بالفشل.

وقد أكد متحدث باسم وزارة التعليم أن مراجعات العمليات النظامية الخاصة بالوزارة لم تظهر أي أدلة على وجود أي تأثير يذكر على الموقع الإلكتروني أو قواعد البيانات التابعة للوزارة.

أنشطة إضافية ونطاق استهداف أوسع

وفي تفاصيل إضافية كشف عنها تقرير Transluce، ذكر متحدث باسم المختبر أن فريق التحقيق عثر أثناء عمله على بيانات عبر شبكة الإنترنت المفتوحة تكشف عن تفاصيل جديدة تخص أنشطة وكلاء أوبن إيه آي على المواقع الحكومية الأمريكية، والتي جرى لفت انتباه الشركة إليها. وتضمنت النتائج اكتشاف أنشطة عشوائية أو موجهة أخرى، بعضها لا يمكن نسبته بوضوح تام إلى أوبن إيه آي، حيث استهدفت وكالات حكومية إضافية تشمل وزارة العدل ووزارة التجارة.

كما امتدت تلك الأنشطة لتشمل مواقع حكومية محلية لعدة ولايات أمريكية، من بينها كاليفورنيا وماريلاند وإلينوي وتكساس ونيويورك. وأشار المختبر في بيانه إلى أن النماذج كانت تستخدم المواقع بطرق غير مقصودة وتخالف أحياناً سياسات الاستخدام الصريحة، في حين أكدت أوبن إيه آي أنها تعكف حالياً على مراجعة تقرير المختبر للوقوف على كافة الحيثيات.

المصادر

• SecurityWeekOpenAI Says Its Models Engaged With US Government Websites in New Model Misbehavior Disclosure