أطلقت Meta مؤخرًا رسميًا نظامًا جديدًا للكشف عن محتوى الذكاء الاصطناعي "Content Seal"، والذي يهدف إلى تضمين علامات مائية غير مرئية في الصور التي تم إنشاؤها بواسطة أحدث نماذج جيل الذكاء الاصطناعي للشركة (مثل Muse)، وبالتالي مساعدة مستخدمي الإنترنت على التمييز بين المحتوى الحقيقي والمزيف العميق. ومع ذلك، فإن إطلاق هذا النظام الجديد لم يحظ بالثناء من الصناعة. وبدلا من ذلك، أثار شكوكا واسعة النطاق حول ضرورته وعمليته.

من المفهوم أن مبدأ العمل الأساسي لـ Content Seal يشبه مبدأ Googleمعرف سينثيديعلى غرار بيانات اعتماد المحتوى الخاصة بـ C2PA، يتم تضمين إشارات التتبع غير المرئية بالعين المجردة في المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. حتى إذا تم قص الصورة أو ضغطها أو تغيير حجمها أو التقاط لقطة شاشة لها، فلا يزال من الممكن التعرف على العلامة المائية من خلال أدوات الكشف. على الرغم من أن منطقها الوظيفي يتداخل بشكل كبير مع المعايير الحالية، إلا أن Meta لم تختر الانضمام إلى النظام البيئي الناضج الذي يدعمه العديد من العمالقة، ولكنها قررت إنشاء نظام حصري جديد بشكل مستقل.

وأشار التحليل إلى أن Content Seal كشف عن العديد من القيود الواضحة في هذه المرحلة. بادئ ذي بدء، يمكن للمستخدمين حاليًا اجتياز الاختبار الذي تختبره Meta فقطأدوات الويب الخاصةللاختبار، ميتا ليس بعدجوجل يفعل ذلك في الجوزاءدمج إمكانية الكشف هذه مباشرة في منتج chatbot الرئيسي. ثانيًا، هذه العلامة المائية تنطبق حاليًا فقط على الصور التي تم إنشاؤها بواسطة نموذج Muse على تطبيقات ومواقع Meta AI. ليس فقط أنه غير قادر على تغطية نماذج الذكاء الاصطناعي السابقة لـ Meta، ولكن لم يتم إطلاق دعم محتوى الفيديو الذي تم إنشاؤه بعد.

بالإضافة إلى ذلك، تفرض Meta أيضًا حدًا للاستخدام اليومي على أداة الكشف لمنع إساءة استخدام النظام بشكل ضار، وهو ما يتناقض بشكل حاد مع معيار C2PA الذي لا يضع حدودًا للاستعلام. تُظهر اختبارات الوسائط ذات الصلة أيضًا أن معدل نجاح اكتشاف Content Seal ضعيف عند مواجهة الصور التي تم اقتصاصها. تعتقد الصناعة عمومًا أنه مع موجة الذكاء الاصطناعي التوليدي التي تجتاح العالم، أطلقت Meta هذا النظام المطوَّر ذاتيًا بوظائف محدودة وبداية متأخرة. لم يقتصر الأمر على فشلها في تحسين شفافية الذكاء الاصطناعي بشكل فعال عبر الشبكة بأكملها، ولكنها بدلاً من ذلك أضافت عقبات غير ضرورية أمام المستخدمين العاديين للتحقق من صحة المحتوى.