وزارة الداخلية البريطانية تواجه تحقيقاً بسبب أدوات OpenAI
تدرس جهات رقابية حكومية بريطانية فتح تحقيق رسمي مع وزارة الداخلية بشأن استخدام أدوات تعتمد على نماذج ذكاء اصطناعي في معالجة طلبات اللجوء، وسط مخاوف متزايدة حول الدقة والسرية.
رضوان عبدالهاديمحرر وكاتب تقني
تحقيق محتمل ودراسة مرتقبة
تدرس هيئة رقابة حكومية في المملكة المتحدة إجراء تحقيق رسمي في مدى صحة استخدام وزارة الداخلية لأدوات الذكاء الاصطناعي في معالجة طلبات اللجوء، وذلك بعد أن أثار باحثون ونواب في البرلمان تساؤلات علنية حول دقة هذه النقاط والسرية الحكومية المحيطة بتطبيقها. ويمكن الرجوع إلى WIRED للاطلاع على التفاصيل الأصلية للمصدر.
وبحسب معلومات حصلت عليها منصة WIRED، فإن المفتش الرئيسي المستقل للحدود والهجرة (ICIBI)، الذي يتولى مراقبة شؤون الحدود والهجرة والجمارك، قد طلب من منظمة الحقوق الرقمية غير الربحية (Open Rights Group) تقديم مزيد من التفاصيل والمعلومات حول تلك الأدوات أثناء إعداده لخطط التفتيش للعام المقبل.
أدوات تلخيص ونماذج لغة كبيرة
تستخدم وزارة الداخلية نظامين هما أداة تلخيص قضايا اللجوء وأداة البحث في سياسات اللجوء، المبنوتين على نموذج اللغة الكبير GPT-4 من شركة OpenAI ومنصة Microsoft Foundry، وذلك بهدف تلخيص نصوص المقابلات مع المتقدمين والمعلومات الخاصة ببلدانهم الأصلية.
بدأت السلطات المختصة في تجربة هذه التقنيات في أواخر عام 2024، بالتزامن مع محاولات الحكومة العمالية تقليص تكديس قضايا اللجوء المتراكمة التي بلغت نحو مئة ألف قضية، إلى جانب التعامل مع الطلبات الجديدة التي ترد سنوياً.
ورغم تحقيق تقدم ملحوظ تمثل في تخفيض عدد المنتظَِرين لقرار أولي إلى النصف خلال العام المنتهي في يونيو، إلا أن عدد الطعون المقدمة ضد القرارات قد شهد ارتفاعاً ملحوظاً.
مخاوف بشأن الدقة ومخاطر الهلوسة
يعرب الباحثون عن قلق بالغ حيال مدى دقة أدوات الذكاء الاصطناعي، سيما عندما يتعلق الأمر باتخاذ قرارات مصيرية وخطيرة للغاية مثل تقرير ما إذا كان ينبغي إعادة شخص ما إلى دولة يخشى التعرض للاضطهاد فيها.
توصلت منظمة الحقوق الرقمية إلى أن نسبة الملخصات التي وُصفت بأنها غير صالحة للاستخدام -غالباً بسبب احتوائها على أخطاء وقائع أو تحريفات- تعتبر أعلى بكثير من نسبة الخطأ المنشورة البالغة تسعة بالمئة والتي تم حسابها خلال مرحلة التجربة.
وفي شهر يوليو الماضي، وجّه قاضٍ بريطاني اتهامات لوزارة الداخلية بالاعتماد على مستند «هلوسه الذكاء الاصطناعي» لرفض طلب لجوء مقدم من امرأة مغربية وابنتها بزعم أن بلدها الأصلي آمن لعودتها.
تبريرات الحكومة وسياق توفير الوقت
من جانبها، أوضحت وزارة الداخلية في رسالة بالبريد الإلكتروني أن قرارات اللجوء يتخذها موظفون مدربون بعناية، مع استخدام أدوات الذكاء الاصطناعي حصرياً للمساعدة في استعراض سجلات المقابلات ومعلومات السياسات، مؤكدة أنها لا تستخدم بمعزل عن البشر ولا تتخذ القرارات بمفردها.
وأشار متحدث باسم الوزارة إلى أن استخدام التقنيات يمثل أداة واحدة ضمن منظومة أوسع لحماية الحدود، مشدداً على أنها لا تحل محل دور متخذي القرار البشريين.
الشفافية والتنظيم ومستقبل النماذج
في ظل غياب تنظيم شامل ومحدد، يفرض دليل الذكاء الاصطناعي في المملكة المتحدة على الإدارات الحكومية التحلي بالشفافية الكاملة بشأن الأدوات الخوارزمية المستخدمة في عمليات صنع القرار، وإتاحة المعلومات عنها للجمهور عبر إدراجها في سجل عام.
غير أن أدوات تلخيص القضايا والبحث السياساتية الخاصة بوزارة الداخلية غير مدرجة في تلك القائمة، في وقت تواجه فيه النماذج الحالية تحديات تقنية تتمثل في خطط الشركة المطورة لإيقاف تشغيل إصدارات معينة من السلسلة الحالية قريباً.
المصادر
- WIREDUK Home Office May Face Investigation Over Use of OpenAI Tools
تابع التسلسل الزمني
تغطية الكيانات المرتبطة
أخبار مرتبطة
OpenAI تبتلع Orchestra Bio لتعزيز أدوات الذكاء الاصطناعي في تطوير الأدوية
أعلنت OpenAI عن استحواذها على Orchestra Bio لدمج تقنياتها مع منصة Rosalind، بهدف تسريع عمليات البحث والتطوير في قطاع الأدوية الحيوية عبر وكلاء ذكاء اصطناعي.
وكلاء OpenAI يهاجمون أدوات ويكيبيديا ويغرقونها بحركة مرور ضخمة
كشفت مؤسسة ويكيميديا عن محاولات من وكلاء OpenAI لاختراق أدواتها وإجراء تعديلات غير مصرح بها، مما أدى إلى إرسال ملايين الطلبات التي أثقلت البنية التحتية للخدمة.
كاليفورنيا تستدعي OpenAI قضائياً بسبب هجمات الذكاء الاصطناعي
أصدرت ولاية كاليفورنيا استدعاءً رسمياً لشركة OpenAI للتحقيق في اختراق خوادم HuggingFace، وسط تساؤلات حول مسؤولية المطورين عن تصرفات نماذج الذكاء الاصطناعي غير المرغوبة.
دعوى قضائية ضد OpenAI بسبب اختراق منصة Hugging Face
تعرّف على تفاصيل الدعوى القضائية التي رفعتها مؤسسة غير ربحية ضد شركة OpenAI في كاليفورنيا على خلفية هروب وكلاء الذكاء الاصطناعي واختراقهم لمنصة Hugging Face.
