أصدرت لجنة الرقابة الوصفية مؤخرًا قرارًا يدعو الشركات إلى تشديد وتوضيح القواعد التنظيمية في أسرع وقت ممكن للتعامل مع الانتشار السريع للمحتوى الناتج عن الذكاء الاصطناعي ومقاطع الفيديو المزيفة العميقة في المواقف عالية الخطورة مثل الحروب والكوارث والانتخابات. وأشارت الوكالة إلى أن ميتا تعاني حاليًا من عيوب واضحة في تصنيف وتحديد المحتوى واسع النطاق الناتج عن الذكاء الاصطناعي، خاصة في أوقات الصراع والأزمات، وقد يؤدي هذا الخلل إلى تضليل الجمهور.
وتنبع الانتقادات من مقطع فيديو مزيف ظهر على منصة ميتا العام الماضي. يُزعم أن الفيديو الذي تم إنتاجه بواسطة الذكاء الاصطناعي يُظهر لقطات من الأضرار التي لحقت بالمباني في مدينة حيفا الإسرائيلية، وقد نشره مستخدم في الفلبين متظاهرًا بأنه مصدر إخباري. أبلغ العديد من المستخدمين عن الفيديو، لكن المنصة لم تقم بإجراء مراجعة داخلية ولم تقم بتشغيل آلية خارجية للتحقق من الحقائق. كان الفيديو موجودًا على الإنترنت لفترة طويلة ولكن لم يتم تصنيفه على أنه "محتوى عالي الخطورة يعتمد على الذكاء الاصطناعي". ولم يلفت الانتباه إلا بعد تدخل لجنة الرقابة.
يتمثل دور لجنة الإشراف في تحسين معاملة Meta للمستخدمين والمجتمع على مستوى العالم. وتعتقد اللجنة أن هذه القضية كشفت عن مشاكل نظامية في نظام إدارة محتوى الذكاء الاصطناعي الخاص بشركة Meta على منصات مثل فيسبوك، وإنستغرام، وThreads، والذي يعتمد بشكل كبير على الإفصاح الطوعي للمستخدمين أو عمليات "الترقية" الداخلية ولا يمكن أن يضاهي الواقع الحالي لمحتوى الذكاء الاصطناعي الذي ينتشر بسرعة وحجم مثيرين للقلق، خاصة أثناء الحروب والكوارث والأحداث الحساسة للغاية من الناحية السياسية.
حاليًا، يعتمد تصنيف Meta للمحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي إلى حد كبير على ما إذا كان المنشئ يعلن ذاتيًا عن استخدام الذكاء الاصطناعي، أو ما إذا كان المحتوى قد تم تصعيده داخليًا إلى عملية مراجعة خاصة. وأشارت لجنة الرقابة إلى أن هذا النهج ليس كافيًا على الإطلاق للتعامل مع انتشار التزييف العميق والوسائط الاصطناعية على الإنترنت، ومن الصعب تذكير المستخدمين على الفور بكيفية إنشاء المحتوى وإمكانية تضليله.
في توصياته الأخيرة، طلب مجلس الرقابة من شركة ميتا تطوير مجموعة منفصلة من معايير المجتمع للمحتوى الناتج عن الذكاء الاصطناعي بدلاً من الاستمرار في الاعتماد على خليط مجزأ من استجابات سياسة المعلومات الخاطئة. وتدعو اللجنة إلى توحيد القواعد الخاصة بالصور ومقاطع الفيديو والتسجيلات الصوتية التي يتم إنشاؤها بواسطة الذكاء الاصطناعي في إطار واضح حتى تتمكن المنصات من إجراء تدخلات أكثر اتساقًا وشفافية في السيناريوهات عالية المخاطر.
وأوصت اللجنة أيضًا بأن تستخدم Meta علامة "الذكاء الاصطناعي عالي الخطورة" بشكل متكرر لتصنيف المحتوى الذي يمكن أن يؤثر على السلامة العامة والرأي العام والانتخابات بشكل بارز. وفي الوقت نفسه، تحتاج الشركات إلى زيادة تحسين قدرات أنظمة الكشف الآلي لتغطية أشكال الوسائط المتعددة مثل الصور ومقاطع الفيديو والصوت، وشرح للمستخدمين بوضوح العقوبات المحددة التي سيواجهها أولئك الذين يفشلون في الكشف عن التوليف الرقمي أو المحتوى الذي تم التلاعب به.
فيما يتعلق بالأسس الفنية، قامت لجنة الإشراف بتسمية إطار صناعة بيانات اعتماد المحتوى، واعتقدت أن ميتا يجب أن تتبنى هذه الآلية بشكل أكثر نشاطًا وتوحيدًا. يهدف هذا الإطار إلى تحسين إمكانية تتبع المحتوى والشفافية من خلال ربط البيانات الوصفية بالمحتوى للإشارة إلى مصدر المادة وما إذا كان يتم استخدام أدوات الذكاء الاصطناعي. تشعر اللجنة بالقلق من أن شركة Meta غير متسقة حاليًا في تطبيقها لهذه المعايير، بما في ذلك تصنيف المحتوى الناتج عن أدوات الذكاء الاصطناعي الخاصة بها.
وكان مجلس الرقابة قد انتقد في السابق قواعد "التلاعب بالوسائط" التي تتبعها شركة ميتا باعتبارها مربكة للغاية وضيقة النطاق للغاية، وتركز كثيرًا على "ما إذا كان الذكاء الاصطناعي مستخدمًا" بدلاً من "ما إذا كان المحتوى خادعًا". تحت الضغط، قامت Meta بتعديل نظام التصنيف ذي الصلة واستبدلت التسمية الأصلية "Made with AI (made by AI)" بالملصق الأوسع "AI info (AI information)". ومع ذلك، فقد أثار هذا التغيير أيضًا شكوكًا من العالم الخارجي. يُعتقد أن مطالبة التسمية الجديدة عامة جدًا وليست ملفتة للنظر بدرجة كافية، ويمكن للمستخدمين تجاهل المعلومات الأساسية بسهولة.
عشية تنصيب الرئيس الأمريكي الحالي دونالد ترامب، أعلن مارك زوكربيرج، الرئيس التنفيذي لشركة ميتا، أن شراكة الشركة الحالية لتدقيق الحقائق مع طرف ثالث أصبحت "منحازة سياسيًا للغاية" وقوضت ثقة المستخدمين في المنصة، وسيتم استبدالها بآلية ملاحظات المجتمع. ويعني هذا التعديل أن النظام الأساسي سيعتمد أيضًا على التصنيف التلقائي وتصحيح الأخطاء من قبل مجتمع المستخدمين في تحديد المعلومات الخاطئة وتصحيحها. وفي سياق الانتشار السريع للمحتوى المزيف العميق ومحتوى الذكاء الاصطناعي، أثارت هذه الاستراتيجية أيضًا جدلًا مستمرًا حول فعاليتها.