الملخص:
لقد شارك وكيل الذكاء الاصطناعي الجديد "Muse" الذي أطلقته شركة Meta مؤخرًا في جدل خطير حول انتهاك الخصوصية. ووجدت الاختبارات ذات الصلة أن أداة الذكاء الاصطناعي قامت بقراءة ومزامنة عدد كبير من سجلات الدردشة في قاعدة بيانات "الرسائل" (Messages) على مستوى النظام الخاصة بأجهزة Apple دون إذن صريح من المستخدم، أو حتى عندما تم تعطيل الأذونات ذات الصلة بشكل صريح.
Muse هو وكيل للذكاء الاصطناعي يتم الترويج له بواسطة Meta، ويهدف إلى مساعدة المستخدمين في استرجاع البيانات وإنشاء العروض التقديمية والمساعدة في التسوق. تدعي Meta رسميًا أن النظام يعمل على كمبيوتر افتراضي مخصص ويمكنه توصيل العديد من التطبيقات ومصادر البيانات لتوفير تفاعلات مخصصة. تعد Meta رسميًا بأنها ستلتزم بشكل صارم بأذونات النظام التي حددها المستخدمون ولن تصل أبدًا إلى البيانات غير المصرح بها. ومع ذلك، تحتفظ Meta أيضًا بإخلاء المسؤولية في وثائق المنتج، قائلة إن الوكيل قد يرتكب أخطاء أو يتخذ "إجراءات غير متوقعة".
اكتشف كاتب العمود في وسائل الإعلام التكنولوجية جيسون أتون تجاوزًا خطيرًا في اختباراته الفعلية. قام Atten بتثبيت Muse على هاتف iPhone وجهاز Mac mini الذي يستخدمه لتقييم أدوات الذكاء الاصطناعي. بعد يوم واحد فقط من التثبيت، أوصى Muse بشكل استباقي بموضوعات المقالة بناءً على المحادثات الخاصة التي ناقشها سابقًا مع شريكه في البودكاست عبر رسالة نصية. عند سؤاله، ادعى ميوز في البداية أن المعلومات ذات الصلة جاءت من لافتات الإشعارات المنبثقة للمكالمات الواردة أو الرسائل النصية. ومع ذلك، كشف التحقيق الفني اللاحق أن Muse قام بمزامنة والتقاط ما يصل إلى 187000 سطر من السجلات النصية في قاعدة بيانات معلومات Apple المحلية دون إذن وتحميلها إلى السحابة عندما لم يمنح النظام "الوصول الكامل إلى القرص" ومن الواضح أنه لم يحصل على إذن لقراءة الرسائل النصية.
يُظهر هذا الوضع الشاذ أن Muse لم يعترض محادثات Messenger المملوكة لشركة Meta فحسب، بل تجاوز أيضًا قيود النظام واستخرج بالقوة البيانات التاريخية للرسائل النصية القصيرة وiMessage الأصلية لأجهزة Apple. إن مزامنة مئات الآلاف من صفوف البيانات خلال 24 ساعة فقط يعني أن البرنامج يقرأ بالكامل جميع ملفات الدردشة التاريخية التي جمعها الجهاز في الماضي.
أشار المحللون الخارجيون إلى أن هذا الحادث يعكس أن عمالقة التكنولوجيا يتسببون في أزمة خصوصية أعمق عند الترويج للذكاء الاصطناعي التوليدي. في السابق، تعرضت ميتا لانتقادات واسعة النطاق لأنها طلبت من المستخدمين السماح بالتحميل الكامل لصور الألبوم من أجل "إنشاء إلهام ما بعد النشر". كما واجهت منتجات النظارات الذكية الخاصة بها في كثير من الأحيان مخاطر انتهاك الخصوصية. كشف سلوك ميوز هذه المرة أيضًا أنه في غياب الأسوار التقنية والإشراف الفعال، فإن جمع بيانات الخصوصية الشخصية لنظام الذكاء الاصطناعي يكاد يكون خارج نطاق السيطرة. حتى إذا اختار المستخدمون العاديون عدم استخدام هذه المنتجات بشكل نشط، فلا يزال هناك خطر التسرب السلبي لتفاعلاتهم الخاصة مع جهات الاتصال التي تقوم بتثبيت البرنامج. في الوقت الحاضر، لم تقدم Meta حتى الآن تفسيرًا معقولًا لكيفية تجاوز Muse للأذونات الأساسية للنظام لقراءة بيانات الطرف الثالث.
التعليقات