واقعة تلفزيونية تكشف عن تكنولوجيا مثيرة للجدل

انتشر مقطع فيديو حقق أكثر من ثمانية ملايين مشاهدة للممثلة الافتراضية Tilly Norwood، التي ظهرت في برنامج Piers Morgan Uncensored، حيث تعرضت لخطأ تقني أدى إلى أن [began speaking Chinese] بشكل غير متوقع في منتصف المقابلة. هذا الحادث وضع الممثلة، التي تعد بطلة فيلم Misaligned المعتمد على الذكاء الاصطناعي، تحت مجهر النقاد والمتابعين، مما دفع الكثيرين لتجربة خدمتها التفاعلية التي تتيح إجراء مكالمات فيديو معها عبر منصة [Talking Tilly].

وعلى الرغم من الطابع الترفيهي للخدمة، إلا أن الفحص الدقيق لشروط الخدمة يكشف عن إجراءات أمنية معقدة ومثيرة للقلق أضافتها شركة Xicoia البريطانية المشغلة للمنصة، حيث أصبحت الخدمة تتطلب الآن خضوع المستخدمين لمسح ضوئي للوجه قبل السماح لهم بإجراء المكالمة.

آليات التحقق من الهوية والحالة العاطفية

تفرض شركة Xicoia عملية تحقق صارمة من العمر، حيث يتم تحليل صورة سيلفي عبر شركة Didit المتخصصة في التحقق من الهوية ومقرها إسبانيا. وفي حال عدم وضوح التقدير العمري، يُطلب من المستخدم تقديم بطاقة هوية حكومية. توضح الشركة أن البيانات البيومترية لا تُخزن، بل يتم الاكتفاء بتسجيل فئة عمرية تقريبية ومرجع رقمي. وفقاً لما ورد في [BleepingComputer]، فإن هذه الإجراءات أصبحت جزءاً لا يتجزأ من الخدمة هذا الشهر، مما يعكس توجهاً تنظيمياً متزايداً في المملكة المتحدة.

ولا يقتصر الأمر على التحقق من العمر، فالنظام مصمم لمراقبة المستخدم طوال فترة المكالمة. تقوم الخوارزميات بتحليل تعبيرات الوجه ونبرة الصوت لاستنتاج الحالة العاطفية للمتصل، وذلك بهدف تمكين الشخصية الافتراضية من الاستجابة بما يتناسب مع الحالة المزاجية للمستخدم. وتؤكد الشركة في سياساتها أن هذه الميزة "لا يمكن إيقافها" أثناء المكالمة، وهي ممارسة تستند قانونياً إلى "المصالح المشروعة" للشركة وليس بناءً على موافقة المستخدم الفردية.

خصوصية البيانات وسياسات المحتوى

تتم معالجة المحادثات بشكل لحظي عبر موفرين في الولايات المتحدة، وتُستخدم تقنية Tavus ونموذج Google Gemini لتوليد الردود. وتوضح الشركة في الوثائق التي [states] فيها سياسة الخصوصية أن هناك أنظمة أمان آلية تراقب المحادثات بحثاً عن أي لغة مسيئة. اللافت في الأمر أن هذه الأنظمة قد تعاني من أخطاء في التصنيف، حيث تم حجب تسجيلات لمحادثات عادية بادعاء احتوائها على لغة مسيئة، رغم أن الشركة تتيح إمكانية مراجعة هذه القرارات من قبل البشر، مع التزامها بمسح التسجيلات نهائياً بعد 24 ساعة.

يُذكر أن الشركة [withholds your recording] في حال رصدت أي انتهاك مزعوم لمعايير المحتوى، وهو إجراء يثير تساؤلات حول دقة الخوارزميات المستخدمة في الرقابة الذاتية على محادثات الذكاء الاصطناعي.

نهاية الخدمة والجدل القانوني

يُعد التوقيت الحالي حساساً للغاية، حيث من المقرر أن تغلق خدمة Talking Tilly أبوابها تماماً في 27 سبتمبر، مما يجعل الدقائق المشتراة أو المجانية غير صالحة للاستخدام بعد هذا التاريخ. ويرى مراقبون أن فرض هذه القيود الصارمة، بما في ذلك التحقق من العمر عبر مسح الوجه، يتماشى مع التوجهات التشريعية في المملكة المتحدة التي تتجه لفرض قيود مماثلة [for anyone opening a new social media account]، مما دفع الشركات المطورة للذكاء الاصطناعي إلى استباق هذه التنظيمات عبر تطبيق قيود بيومترية على نطاق عالمي.

في النهاية، تظل شخصية Tilly Norwood مشروعاً توعوياً يهدف إلى استعراض التطور الهائل في تقنيات الفيديو المعتمدة على الذكاء الاصطناعي. ومع ذلك، فإن التجربة تترك المستخدمين أمام تساؤلات جدية حول الحد الفاصل بين الابتكار التقني وحماية الخصوصية في عصر أصبح فيه الذكاء الاصطناعي يراقب حتى ردود أفعالنا العاطفية.

المصادر

• BleepingComputerCalling viral AI actress Tilly Norwood? Agree to a face scan first