مِخبارMIKHBAR
الذكاء الاصطناعي

أوبن إيه آي تفرض علامة مائية افتراضية لمخرجات ChatGPT في الاتحاد الأوروبي فقط

تستجيب أوبن إيه آي لمتطلبات التنظيم الأوروبي من خلال تطبيق تقنية textGrain لإخفاء أنماط في النصوص، رغم تحديات موثوقيتها وسهولة تجاوزها.

أوبن إيه آي تفرض علامة مائية افتراضية لمخرجات ChatGPT في الاتحاد الأوروبي فقط

قرار استجابة تنظيمية

أعلنت شركة أوبن إيه آي رسمياً عن بدء تطبيق علامة مائية تلقائية على النصوص المولدة بواسطة نموذج ChatGPT، لكن هذا الإجراء لن يكون شاملاً عالمياً. فوفقاً للإعلان، ستُفعّل هذه الميزة بشكل افتراضي للمستخدمين داخل الاتحاد الأوروبي فقط، بينما ستبقى متاحة كخيار اختياري في المناطق الأخرى دون فرضها. يأتي هذا التحرك المزدوج في التوقيت والسياسة استجابة مباشرة للضغوط التنظيمية المتزايدة، حيث تسعى الشركة إلى التوفيق بين متطلبات الامتثال القانوني الصارم في أوروبا وبين مرونة الاستخدام في الأسواق الأخرى التي لا تفرض قيوداً مماثلة حالياً. ويمكن الرجوع إلى Ars Technica للاطلاع على التفاصيل الأصلية للمصدر.

الامتثال لقانون الذكاء الاصطناعي

الدافع الرئيسي وراء هذا القرار هو الحاجة الملحة للامتثال لقانون الذكاء الاصطناعي الأوروبي (EU AI Act)، الذي دخل حيز التنفيذ في أغسطس الماضي. ينص هذا القانون على ضرورة وضع علامات على المحتوى المُنتج بواسطة نماذج الذكاء الاصطناعي بطريقة تسمح لأدوات أخرى برصدها والتحقق من مصدرها. ورغم وجود معايير تقنية معروفة مسبقاً مثل SynthID ومبادرة C2PA، إلا أن الخبراء يجمعون على أن هذه الحلول الحالية لا تزال عرضة للتجاوز بسهولة من قبل أي شخص يمتلك معرفة تقنية أساسية، مما يجعل الاعتماد على حلول جديدة ضرورياً لتلبية متطلبات الرقابة.

آلية عمل textGrain

تعتمد أوبن إيه آي على تقنية حصرية تطلق عليها اسم textGrain، وقد نشرت الشركة ورقة تقنية تفصيلية تشرح آلية عملها. تعمل هذه التقنية بشكل مشابه لأدوات العلامة المائية الأخرى المستخدمة في نماذج اللغة الكبيرة؛ فهي تزرع أنماطاً خفية في اختيار الكلمات لا يلاحظها القارئ البشري، ولا تؤثر بشكل جوهري على جودة المخرجات العامة. ومع ذلك، يمكن لأصحاب المفاتيح الخاصة استخدام كاشف متخصص لاكتشاف هذه الأنماط والتحقق من أن النص مولد آلياً. وتخطط الشركة لمنح الوصول إلى هذا الكاشف لعدد محدود من الباحثين والمنظمات، مع توفير عملية طلب موافقة لإضافة أطراف أخرى تدريجياً.

تحديات الموثوقية والتجاوز

على الرغم من أن نتائج الاختبارات الداخلية لأوبن إيه آي تشير إلى نسبة كشف ناجحة تبلغ 92%، وهو رقم يُعتبر مقبولاً لكنه ليس مثالياً، إلا أن هناك ثغرات كبيرة في موثوقية النظام. أظهرت الاختبارات أن إجراء تعديلات بسيطة على 10% فقط من النص المولد يؤدي إلى انخفاض نسبة الكشف الناجح بنحو 30%، بينما يؤدي تعديل 20% من النص إلى هبوط حاد في نسبة النجاح يصل إلى 75%. كما لاحظت الشركة أن نسبة النجاح تكون أقل في النصوص القصيرة أو تلك التي خضعت للترجمة مقارنة بالنصوص الطويلة. هذه النتائج تتماشى مع ما شوهد سابقاً في حلول العلامة المائية المماثلة، مما يثير تساؤلات حول فعاليتها في مواجهة محاولات التلاعب المتعمدة.

مقارنة مع المنافسين

تتباين سياسة أوبن إيه آي بشكل ملحوظ مع نهج منافستها المباشرة أنثروبيك (Anthropic). ففي أغسطس الماضي، أعلنت أنثروبيك عن إدخال علامة مائية للنصوص المولدة بنماذجها، لكنها اختارت تفعيلها عالمياً لجميع المستخدمين. في المقابل، تلتزم أوبن إيه آي بتفعيل العلامة المائية افتراضياً فقط حيث تتطلب الجهات التنظيمية ذلك، وتحديداً في تطبيقات ChatGPT وCodex. أما فيما يتعلق بواجهة برمجة التطبيقات (API)، فتبقى الميزة معطلة افتراضياً لكنها متاحة اختيارياً للمطورين، مما يعكس استراتيجية أكثر تحفظاً في التعامل مع المطورين مقارنة بالمستخدمين النهائيين.

الجدول الزمني للتطبيق

أوضحت أوبن إيه آي أن عملية نشر العلامة المائية الجديدة ستبدأ للمستخدمين داخل الاتحاد الأوروبي خلال الأسابيع القادمة. ويُنظر إلى هذه الخطوة كجزء من جهد أوسع لتكييف خدمات الذكاء الاصطناعي مع الأطر القانونية الناشئة، مع الحفاظ على مرونة التشغيل في بقية أنحاء العالم. وتبقى التحديات التقنية المتعلقة بموثوقية الكشف وسهولة التجاوز قائمة، مما قد يدفع الشركة إلى تطوير تقنياتها المستقبلية لتصبح أكثر مقاومة للتلاعب، خاصة في ظل تزايد الوعي بأهمية الشفافية في المحتوى الرقمي.

المصادر

  • Ars TechnicaOpenAI will watermark ChatGPT outputs by default—but only in the EU

تابع التسلسل الزمني

تغطية الكيانات المرتبطة