تقرير خاطئ كاد يطلق عملية عسكرية

كادت الولايات المتحدة أن تعترض سفينة صينية وتصعد إليها، استنادًا إلى تقرير استخباراتي تبيّن لاحقًا أنه «خاطئ بالكامل» وأن إنتاجه تم بمساعدة أدوات ذكاء اصطناعي، وفق ما أوردته شبكة CNN ونقلته مصادر إعلامية متخصصة. وأشار التقرير إلى أن السفينة تنقل مكونات مرتبطة ببرنامج أسلحة نووية عبر منطقة الشرق الأوسط.

بحسب التفاصيل المنشورة، كان الجيش الأميركي يستعد لتنفيذ عملية اعتراض وصعود إلى السفينة، مع دعم جوي، قبل أن يكتشف مسؤولون أن روبوت المحادثة المستخدم في إعداد التقرير حدّد المواد التي تحملها السفينة بصورة غير دقيقة. وقال أحد المصادر التي تحدثت إلى CNN إن الواقعة كادت «تبدأ حربًا»، فيما أُلغيت العملية قبل تنفيذها.

كيف صنعت الهلوسة الاستخباراتية؟

بدأت الواقعة عندما استخدم محلل في قيادة العمليات الخاصة الأميركية روبوت محادثة لتحليل تقارير استخباراتية تتعلق ببيان حمولة السفينة الصينية. ووفق الرواية المنقولة، جمع النظام بين معلومات من مصادر مفتوحة وبيانات استخبارات إشارات سرية موجودة في أنظمة حكومية، ثم صاغ النتائج في تقرير استخباراتي.

لم يتوقف استخدام الأداة عند التحليل؛ إذ استُخدمت مرة ثانية لتنسيق النتائج الخاطئة في صورة ملخص رسمي المظهر، ما سهّل تداولها عبر قنوات القيادة. وهكذا انتقلت المعلومة غير الصحيحة من مخرجات نموذج لغوي إلى وثيقة بدت موثوقة، قبل أن تؤثر في التخطيط لعملية مسلحة.

طائرات في الجو قبل اكتشاف الخطأ

قالت TechCrunch إن طائرات عسكرية كانت بالفعل في الجو خلال الربيع عندما اكتشف مسؤولون أميركيون أن المعلومات التي تقود عملية مسلحة ضد السفينة الصينية صاغها روبوت محادثة بصورة وهمية. ووقعت الحادثة في فترة الحرب مع إيران، بحسب التقرير، ما أضاف إلى بيئة القرار توترًا وتعقيدًا كبيرين.

تكشف هذه التفاصيل أن الخطأ لم يبقَ داخل مرحلة تجريبية أو تحليلية محدودة، بل تحرك عبر مستويات القيادة ووصل إلى سياق عملياتي. وكانت النتيجة المحتملة مواجهة مباشرة مع الصين، قبل أن يؤدي التدقيق اللاحق في الحمولة إلى وقف العملية. ولا تقدم المصادر المتاحة تفاصيل عن اسم السفينة أو موقعها أو طبيعة المادة التي أسيء تحديدها.

مخاطر السرعة في سلسلة القرار

تأتي الواقعة وسط اعتماد متزايد على الذكاء الاصطناعي لتسريع القرارات العسكرية وتحسين قدرة القادة على الاستجابة. ووصف البنتاغون الذكاء الاصطناعي بأنه يمنح ميزة مهمة في تسريع «سلسلة القتل»، أي المراحل التي تربط اكتشاف الهدف بتحليل المعلومات واتخاذ القرار والتنفيذ.

لكن السرعة نفسها قد تسمح بانتقال إجابة مختلقة عبر سلسلة القيادة قبل إخضاعها لمراجعة كافية. وقال جيك شتيكلر، الباحث في GovAI والضابط السابق في الجيش الأميركي، إن على أفراد الخدمة فهم عدم اليقين الملازم للنماذج اللغوية، خصوصًا عندما تتصل القرارات بالاستهداف أو تحليل الاستخبارات أو التخطيط العملياتي، لأن تبعاتها قد تكون مسألة حياة أو موت.

توسع عسكري في استخدام النماذج اللغوية

رغم الحادثة، يتجه الاستخدام العسكري للذكاء الاصطناعي إلى التوسع. أطلقت وزارة الدفاع الأميركية في يناير استراتيجية لتسريع الذكاء الاصطناعي، دعت إلى إتاحة البيانات المناسبة عبر أنظمة تقنية معلومات مترابطة لاستخدامها في تطبيقات الذكاء الاصطناعي ضمن مختلف أفرع القوات ومكوناتها.

وكانت الوزارة قد أعلنت في ديسمبر أن Gemini for Government من Google سيشكل أساس منصة GenAI.mil المخصصة لها، ثم أضافت في الشهر الماضي Grok for Government خيارًا آخر على المنصة. كما توفر Anthropic نسخة مخصصة من Claude لاستخدامات مرتبطة بالعمل الاستخباراتي الأميركي. وفي يونيو، قال ممثل للبنتاغون أمام الكونغرس إن أدوات الذكاء الاصطناعي التوليدي تساعد في إعداد تقارير يفرضها القانون، وإن 1.5 مليون من أفراد وزارة الدفاع استخدموا الأدوات التوليدية العسكرية.

دعوات إلى رقابة بشرية وضمانات أقوى

تؤكد الواقعة صعوبة التعامل مع الهلوسة، وهي الحالة التي ينتج فيها النموذج معلومات غير صحيحة عندما لا يجد سياقًا كافيًا في بياناته. وقد ظهرت حالات مماثلة في مجالات مهنية متعددة، بينها الصحافة والبحث الأكاديمي والقضاء والطب والشرطة وخدمة العملاء، فيما يرى بعض الباحثين أن منع الهلوسة تمامًا قد لا يكون ممكنًا.

كانت وزارة الخارجية الأميركية قد شددت في إعلان عام 2023 بشأن الاستخدام المسؤول للذكاء الاصطناعي والاستقلالية العسكرية على ضرورة وزن المخاطر والفوائد وتقليل التحيز والحوادث غير المقصودة. كما دعت إلى استخدام خاضع للمساءلة، يتضمن دائمًا إنسانًا داخل الحلقة وسلسلة قيادة وتحكم بشرية مسؤولة. ويرى شتيكلر أن الحادثة يجب أن تدفع إلى إضافة ضمانات، لا إلى التخلي عن الأدوات، محذرًا من أن تقديم سرعة التبني على كل اعتبار قد يضعف ثقة العسكريين بها ويبطئ استخدامها لاحقًا.

المصادر

• Ars TechnicaAI hallucination of Chinese nuclear components almost led to US military attack
• TechCrunchAI Hallucination Nearly Triggers US Military Operation