الملخص:
أعلن تطبيق المراسلة المشفرة الشامل Signal يوم الجمعة أنه سيحد من الوصول إلى لقطات الشاشة على الهواتف المحمولة لمنع عملاء الذكاء الاصطناعي من قراءة الدردشات الخاصة للمستخدمين. وحذرت الشركة من أن اتجاه صناعة التكنولوجيا نحو دمج الذكاء الاصطناعي بعمق في أجهزة المستهلك يضعف قدرتها على حماية خصوصية المستخدم. ص> ص>

لطالما اعتبر المدافعون عن الخصوصية أن Signal رائد في مجال الاتصالات الآمنة. وقالت الشركة إن إجراءات الحماية الجديدة التي تم تقديمها هذه المرة غير مكتملة، ودعت مزودي أنظمة التشغيل مثل Apple والشركة الأم لجوجل Alphabet وMicrosoft إلى تزويد مطوري التطبيقات بوسائل أكثر تحديدًا وفعالية لمنع عملاء الذكاء الاصطناعي من الوصول إلى البيانات الحساسة. ص>
يتطلب Signal أيضًا من هذه الشركات الكشف بشكل أكبر عن كيفية عمل وكلاء الذكاء الاصطناعي لديها، مما يسمح للمطورين بتقييم البيانات التي تصل إليها هذه البرامج وضبط أنظمتها وفقًا لذلك. وتعكس هذه الخطوة الخلاف المتزايد بين التطبيقات التي تركز على الخصوصية وشركات التكنولوجيا الكبرى. ويتسابق هؤلاء الأخيرون لإطلاق وكلاء الذكاء الاصطناعي الذين يمكنهم عرض محتويات شاشة المستخدم وتنفيذ الإجراءات نيابة عن المستخدم وفقًا لذلك. ص>
وأشار Signal على وجه التحديد إلى أن قدرات الذكاء الاصطناعي المضمنة مباشرة في نظام التشغيل، مثل Siri AI من Apple وGemini Intelligence من Google، مثيرة للقلق بشكل خاص لأنها متكاملة بشكل عميق مع أجهزة المستخدم. وقالت الشركة إن نظام التشغيل يوفر بيئة تشغيل لـ Signal والتطبيقات الأخرى، وإن دمج "وكيل الذكاء الاصطناعي" هذا يجعل هذه البيئة غير مواتية بشكل متزايد لحماية الخصوصية. وقالت سيجنال في تدوينة قدمتها لرويترز إن هذا يشكل "تهديدا وجوديا" للشركة وقدرتها على أداء مهمتها بمسؤولية. ص>
لمنع وكلاء الذكاء الاصطناعي من فحص رسائل Signal، تطرح الخدمة إعدادات جديدة تمنع الوصول إلى لقطات الشاشة على الهواتف المحمولة وستقوم بتشغيل هذه القيود افتراضيًا. عندما يكتشف Signal محاولة لقطة شاشة، أو يحاول مساعد الذكاء الاصطناعي الوصول إلى الشاشة، سيتلقى المستخدم مطالبة منبثقة ويمكنه اختيار ما إذا كان سيتم رفع التقييد بناءً على ظروف الجهاز. ص>
منعت Signal تقنية Recall AI من Microsoft من التقاط لقطات شاشة على أنظمة Windows العام الماضي. وتقول الشركة إنها لا تستطيع توفير حماية مماثلة بشكل موثوق لأنظمة macOS من Apple. ص>
يتم الترويج لوكلاء الذكاء الاصطناعي الذين يمكنهم تنفيذ العمليات نيابة عن المستخدمين باعتبارهم الموجة الرئيسية التالية لتكنولوجيا الذكاء الاصطناعي. يمكنهم استخراج المعلومات ذات الصلة من تطبيقات مختلفة وإكمال المهام الموفرة للوقت مثل الرد على رسائل البريد الإلكتروني وتحديد المواعيد والتسوق عبر الإنترنت دون مطالبة المستخدمين بإصدار تعليمات خطوة بخطوة. ومع ذلك، قد تتجاوز هذه القدرة أيضًا آليات الحماية التي أنشأتها تطبيقات مثل Signal لنفسها. ص> ذكرت رويترز في وقت سابق من هذا الأسبوع أن وكيل Meta's Muse AI تمكن من تجاوز أداة "Connector" الرسمية الخاصة به والوصول إلى رسائل Signal على أجهزة كمبيوتر Apple والهواتف التي تعمل بنظام Android من Google. في كلتا الحالتين، استفاد Muse من الأذونات الواسعة على مستوى نظام التشغيل الممنوحة عند إعداد التطبيق في البداية للحصول على الرسائل واستخدام تلك الأذونات بطرق ربما لم يتوقعها المستخدم. ص>
على سبيل المثال، في نظام macOS من Apple، يستخدم Muse مجموعة من أدوات إمكانية الوصول إلى الكمبيوتر وأدوات لقطات الشاشة، ويعيد استخدام إعدادات Apple للأشخاص ذوي الإعاقة، وينتقل إلى واجهة Signal، ويلتقط لقطات شاشة لمحتوى الدردشة، ويستخرج النص من الصور، ويعيد إنتاج الرسائل داخل تطبيق Muse. يحظر تحديث النظام الذي أصدرته شركة Apple هذا الأسبوع هذا المسار المحدد بشكل فعال، ولكنه يقدم أيضًا مجموعة جديدة من الأذونات لوكلاء الذكاء الاصطناعي الذين يوفرون إمكانات مماثلة ويأتي مع المزيد من تحذيرات المستخدم. ص>
ردًا على تقرير رويترز، ذكرت ميتا أن وكيل الذكاء الاصطناعي يحتاج إلى عرض جهاز الكمبيوتر الخاص بالمستخدم وتشغيله لإكمال المهام نيابة عن المستخدم؛ لا يستطيع Muse الوصول إلى التطبيقات الأخرى إلا من خلال الأذونات الممنوحة بشكل صريح من قبل المستخدم. ص>
قال Signal إنه يجب أن يكون لدى المطورين طريقة مباشرة للتطبيق للخروج بشكل كامل من عملية معالجة البيانات الخاصة بمساعد الذكاء الاصطناعي، خاصة في جوانب مثل قراءة الشاشة والإشعارات والوصول إلى نظام الملفات. وباعتبارها خدمة مملوكة لمؤسسة غير ربحية، تعد Signal المستخدمين بتجربة مراسلة آمنة من خلال الحد من البيانات المخزنة على خوادمها الخاصة، ورفض عرض الإعلانات، وتوفير التشفير الشامل؛ مما يعني أن الشركة لا تستطيع الوصول إلى محادثات المستخدمين وقراءتها داخل تطبيقها. ص>
وأشار سيجنال إلى أن نظام الذكاء الاصطناعي القادر على مسح شاشة المستخدم قد يستخرج الرسائل من بيئة سيجنال الآمنة وينقلها إلى خوادم أخرى يستخدمها الوكيل، وبالتالي تدمير آلية الحماية المذكورة أعلاه. ص> ص>
التعليقات