أوبن إيه آي تكشف تقريراً جديداً لتعزيز حماية المراهقين في شات جي بي تي
تسعى أوبن إيه آي إلى تعزيز أنظمة الأمان في شات جي بي تي من خلال قيود جديدة على المحتوى الحساس وتقرير دوري يكشف عن آليات العمل لحماية المستخدمين.
رضوان عبدالهاديمحرر وكاتب تقني
تقرير جديد لشفافية أوسع في حماية المجتمع
أعلنت شركة أوبن إيه آي عن خطوتين رئيسيتين لتعزيز سلامة المجتمع، تشملان إطلاق تقرير جديد لسلامة المجتمع وفرض قيود إضافية على المحتوى المتعلق بالأسلحة. ويهدف التقرير، الذي سيصدر أول نسخة منه في أوائل 2027، إلى توضيح كيفية تدريب أنظمة الذكاء الاصطناعي على اكتشاف السلوكيات الضارة والاستجابة لها، مع مشاركة أمثلة مجهولة الهوية حول كيفية ظهور الأذى المرتبط بالعنف. ويمكن الرجوع إلى OpenAI News للاطلاع على التفاصيل الأصلية للمصدر.
تؤكد الشركة أن حماية المجتمعات تبقى أولوية قصوى، مشيرة إلى أنها قدمت أكثر من 200 إحالة إلى أجهزة إنفاذ القانون في الربع الثالث من عام 2026. وتوضح أوبن إيه آي أن هذه الإحالات ساهمت بشكل إيجابي في تعطيل مخططات عنيفة، مع الاستمرار في الاعتماد على خبراء الصحة النفسية والسلوكية لتقييم الحالات المعقدة.
قيود مشددة على المحتوى المتعلق بالأسلحة
أوضحت أوبن إيه آي أن نماذجها مدربة على عدم تقديم تعليمات تساعد في التخطيط للعنف أو تنفيذه. وفي إطار تشديد السياسات، قررت الشركة تقييد المعلومات التفصيلية حول الهجمات الجماعية السابقة والأشخاص الذين نفذوها، بما في ذلك تفاصيل الأسلحة والمعدات المستخدمة وكيفية الحصول عليها.
تهدف هذه القيود إلى منع إعادة بناء تفاصيل الهجمات التي قد تزيد من شهرة المهاجمين أو تحفز على تقليدهم. وتؤكد الشركة أن هذه القيود تنطبق على جميع المستخدمين بغض النظر عن أعمارهم أو دوافعهم، مع السماح للمستخدمين بطرح أسئلة لفهم الأحداث وتأثيرها على الضحايا والمجتمعات، والتعرف على علامات التحذير للوقاية من العنف المستقبلي.
تعزيز حماية المراهقين في شات جي بي تي
أطلقت أوبن إيه آي نسخة خاصة من شات جي بي تي للمراهقين، وتطبق فيها حواجز أمان تتناسب مع الأعمار، مع قيود إضافية لتقليل التعرض للمحتوى الحساس. وتشمل التحديثات الجديدة فرض قيود على المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمان التي قد تُساء استخدامها لتسهيل العنف، حتى في غياب أي نية عنفية واضحة.
تؤكد الشركة أن المراهقين يمكنهم لا يزالون استخدام المنصة للمساعدة في الوقاية من العنف وتخفيف حدته، والبحث عن الدعم، والتواصل مع شخص بالغ موثوق. وتأتي هذه الخطوة في إطار توسيع الحماية لتشمل المعلومات التي قد تبدو بريئة في سياقها المباشر لكنها قد تكون خطيرة عند دمجها مع سياق أوسع.
تحسين نظام التنبؤ بالعمر والتدخل المبكر
عززت أوبن إيه آي نظام التنبؤ بالعمر الذي أطلقته العام الماضي، والذي يحلل إشارات متعددة مثل أنماط السلوك لتقدير ما إذا كان المستخدم دون أو فوق 18 عاماً. ويهدف النظام إلى نقل المستخدمين المراهقين إلى تجربة مخصصة لهم تلقائياً، مع توفير طريقة سريعة تحمي الخصوصية لتأكيد adulthood وإزالة قيود المراهقين عبر شريك التحقق من العمر Persona.
كما تعمل الشركة على تطبيق قيود صارمة عندما يتنبأ النظام بأن المستخدم قاصر، حتى لو لم تظهر محادثاته أي علامات على نية عنيفة. وتبني أوبن إيه آي على عملها السابق الذي سمح لشات جي بي تي باستخدام ملخصات واقعية قصيرة لعلامات التحذير السابقة للاستجابة بحذر أكبر في المحادثات اللاحقة.
أدوات تحكم أبوية وإشعارات فورية
تتيح أدوات التحكم الأبوية للآباء ربط حساباتهم بحسابات أبنائهم المراهقين وإعدادات الأمان معاً. وتشمل الحسابات المرتبطة إشعارات أمان قد تُرسل عندما يحدد المراجعون المدربون خصيصاً مخاوف جادة تتعلق بإيذاء النفس أو سلوكيات مرتبطة باضطرابات الأكل.
في يوليو، وسعت الشركة نطاق هذه الإشعارات لتضمين تنبيهات للآباء إذا تم تعطيل حساب مراهقهم بسبب انتهاك سياسات الاستخدام المتعلقة بالعنف. وتعمل أوبن إيه آي حالياً على إدخال إشعارات إضافية للآباء في حال تم إيقاف حساب مراهقهم مؤقتاً لمناقشتهم المتكررة للعنف، مما يعزز دور الأسرة في المراقبة والدعم.
التزام مستمر بتطوير أنظمة الأمان
تؤكد أوبن إيه آي أن أعمال العنف في العالم الحقيقي مأساوية ومعقدة، وتذكير صارم بضرورة استمرار تصميم الأنظمة لتتناسب مع الواقع المعقد لسلوك الإنسان. وتشير الشركة إلى أن تطوير حواجز أمان فعالة يتطلب حل مشكلات جديدة في التعرف على المخاطر والاستجابة المناسبة لها.
ستبدأ حواجز الأمان المذكورة في التوزيع خلال الأسابيع القادمة، مع استمرار الشركة في تحسينها. وتؤكد أوبن إيه آي التزامها بتخفيف المخاطر من خلال الاستثمار المستمر، والتكرار، ومشاركة الدروس المستفادة حول أفضل طرق تنفيذ الحماية التي تسعى إليها، مع الاعتراف بدور الشركات التقنية إلى جانب أجهزة إنفاذ القانون والمشرعين.
المصادر
- OpenAI NewsCommunity safety report and new protections for teens
تابع التسلسل الزمني
تغطية الكيانات المرتبطة
أخبار مرتبطة
أوبن إيه آي تدمج ميزات العمل في شات جي بي تي وتضاعف حدود الاستخدام
أعلنت أوبن إيه آي عن دمج قدرات شات جي بي تي وورك مباشرة في المحادثات العادية، مع توحيد حصة الاستخدام بين شات جي بي تي وكودكس، مضاعفة الحدود لاشتراكات برو.
أوبن إيه آي تطلق صيغة إعلانية بصرية جديدة في شات جي بي تي
أعلنت أوبن إيه آي عن إطلاق صيغة إعلانية بصرية جديدة في شات جي بي تي، مع توسيع أدوات القياس والشراكات لتعزيز فهم التأثير التجاري للإعلانات.
ميزة التجربة الافتراضية للملابس تصل إلى شات جي بي تي
أطلقت أوبن إيه آي ميزات تسوق جديدة تتيح للمستخدمين تجربة الملابس والإكسسوارات افتراضياً باستخدام صورهم الشخصية وحفظ المنتجات المفضلة.
أوبن إيه آي تسرح 3 باحثين في السلامة وسط خلاف حول مخاطر الذكاء الاصطناعي
أعلنت شركة أوبن إيه آي عن تسريح ثلاثة باحثين رئيسيين في مجال السلامة، مبررة ذلك بخرق سياسات التعامل مع المعلومات الحساسة، بينما يرى الباحثون أن القرار جاء على خلفية أولوياتهم لسلامة النماذج.
