Meta Muse يطلب بيانات أصدقائك لتشغيل وكيل الذكاء الاصطناعي
لا يكتفي مساعد Meta Muse بالبيانات التي يملكها مستخدمه، بل يعتمد أيضاً على معلومات أشخاص يتواصل معهم من دون أن يملكوا فرصة واضحة للموافقة. وتكشف حوادث مرتبطة بالتطبيق اتساع الفجوة بين سهولة الاستخدام وفهم تبعات مشاركة البيانات.

مساعد شخصي يتغذى على حياة المستخدم الرقمية
أطلقت Meta مساعدها القائم على الذكاء الاصطناعي Muse الشهر الماضي، وسرعان ما نُزّل ملايين المرات ووصل إلى المركز الأول في متجر تطبيقات Apple، بحسب تقرير نشرته The Verge. ويقدّم التطبيق نفسه بوصفه مساعداً قادراً على تنفيذ المهام اليومية نيابة عن المستخدم، لكنه يطلب في المقابل نطاقاً واسعاً من البيانات التي قد تشمل الحسابات المصرفية وكلمات المرور وجهات الاتصال وسجلات الدردشة، إضافة إلى أي معلومات يمكن أن تساعده في تنفيذ الطلبات.
المشكلة لا تتعلق ببيانات صاحب الحساب وحده. فلكي يتعرّف Muse إلى الأشخاص والأحداث والعلاقات المرتبطة بالمستخدم، يمكن أن يستفيد من الرسائل والصور والبريد الإلكتروني وقوائم الاتصال وغيرها من المواد التي تتضمن معلومات عن الأصدقاء وأفراد العائلة وزملاء العمل وحتى أشخاص التقى بهم المستخدم في الماضي. هؤلاء لم يثبت أنهم وافقوا على أن تُجمع تفاصيلهم أو تُحلل داخل وكيل ذكاء اصطناعي تابع لشخص آخر.
ما تقوله Meta عن الموافقة
قال دانيال روبرتس، المتحدث باسم Meta، إن أي وكيل مفيد يحتاج إلى سياق عن المستخدم والأشخاص الذين يتعامل معهم. ووفقاً للشركة، يجمع Muse هذا السياق من المعلومات العامة ومن الأشياء التي اختار المستخدم مشاركتها، حتى يستطيع مثلاً تذكّر أن الشخص الذي أرسل فاتورة هو السباك الذي سبق أن عمل في منزل المستخدم، أو معرفة الزهور التي قال شريك حياته إنه يفضلها.
أشار روبرتس إلى ما وصفه بأنه opt-in process، وإلى خيارات وإعدادات تتيح للمستخدم اتخاذ قرارات الخصوصية المناسبة له. لكن هذا التفسير يضع عبء الفهم والمراجعة على الشخص الذي ثبّت التطبيق، رغم أن البيانات الناتجة قد تخص أشخاصاً آخرين. كما أن موافقة المستخدم على الوصول إلى معلوماته لا تعني تلقائياً أن أصدقاءه أو مراسليه وافقوا على استخدامها بالطريقة نفسها.
حوادث تكشف صعوبة ضبط الأذونات
بدأ مستخدمون في وصف حوادث اعتبروها مقلقة، من بينها ادعاءات بأن المساعد جمع ملايين الرسائل النصية التي ظن أصحابها أنها خارج نطاق وصوله. نفت Meta أن يكون Muse قادراً على الوصول إلى الرسائل من دون إذن، وقالت إن قراءة الرسائل «اختيارية بالكامل»، وعزت بعض الوقائع إلى أذونات تطبيقات جرى ضبطها بطريقة غير صحيحة. وقد وصفت هذه المزاعم بأنها disputed، فيما أوضح مسؤول الشركة ديفيد سينغلتون أن Muse على أجهزة Mac لا يستطيع الوصول إلى الرسائل إلا إذا منح المستخدم التطبيق صلاحية الوصول الكامل إلى القرص.
وفي واقعة أخرى، قدّم Muse عنوان منزل مراجع تقني واستدعى غريباً إلى شقته. ووفق التقرير، كان المراجع قد منح التطبيق صلاحية الوصول إلى تلك البيانات، لكنه لم يدرك أن الإذن يتيح استخدامها بهذه الصورة. وتوضح هذه الحادثة أن المشكلة قد لا تكون دائماً في تجاوز تقني صريح، بل في فجوة بين ما يوافق عليه المستخدم نظرياً وما يفهمه فعلياً من نطاق الصلاحية.
تحذيرات من تصميم يدفع إلى الإفراط في المشاركة
ترى إيفا غالبرين، مديرة الأمن السيبراني في مؤسسة الحدود الإلكترونية، أن هذه الوقائع متوقعة بالنظر إلى الطريقة التي صُممت بها وكلاء الذكاء الاصطناعي مثل Muse. وقالت إن المستخدمين لا يفهمون نوع البيانات التي يسلّمونها، وإن واجهة التطبيق تشجعهم على مشاركة أكبر قدر ممكن، وأحياناً أكثر مما يدركون، قبل أن تتاح لهم فرصة التراجع. ووصفت هذا الأسلوب بأنه يعتمد على أنماط تصميم مظلمة تقود إلى نتائج لا يريدها المستخدم.
وتتفق ميريديث ويتكر، رئيسة مؤسسة Signal، مع أنظمة المساعدين الذاتيين لا تعمل بمعزل عن الأشخاص الذين يتواصل معهم صاحبها. فالأفعال الآلية المبنية على البريد والرسائل والصور وجهات الاتصال يمكن أن تؤثر في كل من تظهر معلوماته داخل هذه المواد، لا في الشخص الذي ثبّت التطبيق فقط. لذلك فإن تحويل مهام مثل إرسال البريد أو إعداد الفواتير إلى عمليات تلقائية يأتي مقترناً بتوسيع نطاق المراقبة وتحليل العلاقات الخاصة.
ملفات شخصية للعلاقات ولا وسيلة واضحة للانسحاب
بعد أن استخرج باحثون أمنيون تعليمات تشغيل Muse، وجدوا، بحسب التقرير، عملية داخلية تنشئ ملفات تعريف للأشخاص الموجودين في حياة المستخدم وتحدّثها كل ساعة. وتهدف هذه البيانات إلى بناء صورة تفصيلية عن حياة المستخدم لتغذية التوصيات الشخصية. وتشمل العملية تقدير مدى قرب العلاقات، وما تستند إليه، وكيف يتصرف الأشخاص معاً، وما قد يحتاج إليه كل طرف في الوقت الراهن.
تقول Meta إن Muse يتذكر فقط ما يختار المستخدم مشاركته، لكن منتقدي النظام يشككون في أن تكون هذه الخيارات informed choice فعلاً عندما لا يعرف المستخدم حجم البيانات التي يجري جمعها أو أثرها على الآخرين. وتزداد المشكلة تعقيداً لأن الأشخاص الذين تظهر معلوماتهم في محادثات أصدقائهم لا يملكون، في العادة، طريقة عملية لمعرفة أن بياناتهم أُدخلت إلى مساعد افتراضي أو طلب إزالتها منه. وهكذا يصبح الحفاظ على الخصوصية مسؤولية فردية داخل نظام يستفيد من معلومات شبكة اجتماعية كاملة.
المصادر
- The VergeFriends don’t let friends feed their data to AI agents
تابع التسلسل الزمني





