ستبدأ Meta في إضافة تعليقات توضيحية إلى الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تم تحميلها على Facebook وInstagram وThreads في الأشهر المقبلة مع اقتراب موعد الانتخابات في جميع أنحاء العالم. ستبدأ الشركة أيضًا في معاقبة المستخدمين الذين لا يكشفون عما إذا كانت مقاطع الفيديو أو الصوت الواقعية قد تم إنتاجها بواسطة الذكاء الاصطناعي.
وقال نيك كليج، رئيس الشؤون العالمية في ميتا، في مقابلة، إن هذه الإجراءات تهدف إلى "تحفيز" صناعة التكنولوجيا حيث أصبح من الصعب بشكل متزايد التمييز بين وسائل الإعلام المولدة بالذكاء الاصطناعي بين الصواب والخطأ. يضغط البيت الأبيض بقوة على الشركات لوضع علامة مائية على المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي. وفي الوقت نفسه، قال كليج، إن شركة ميتا تعمل على تطوير أدوات للكشف عن الوسائط الاصطناعية حتى لو تم التلاعب ببياناتها الوصفية لإخفاء دور الذكاء الاصطناعي في إنشائها.
تضع Meta بالفعل العلامة المائية "Imagined with AI" على الصور التي تم إنشاؤها باستخدام منشئ ImagineAI الخاص بها، وستبدأ الشركة في تطبيق نفس العلامة المائية على صور الذكاء الاصطناعي التي تم إنشاؤها باستخدام أدوات من Google وOpenAI وMicrosoft وAdobe وMidjourney وShutterstock. وقال كليج إن الصناعة كانت متخلفة كثيرًا عن الصناعات الأخرى في وضع معايير لتحديد الفيديو والصوت الناتج عن الذكاء الاصطناعي. وبينما تظل شركة Meta متيقظة للغاية بشأن كيفية استخدام هذا النوع من الوسائط للخداع، لا تستطيع الشركة اكتشاف كل شيء بمفردها.
وقال: "سنظل يقظين للغاية تجاه أولئك الذين يشعرون بالقلق من أن محتوى الفيديو والصوت مصمم لخداع الجمهور بشأن القضايا السياسية المهمة التي تسبق الانتخابات. هل أعتقد أنه من الممكن أنه بغض النظر عن سرعة اكتشافه أو تصنيفه بسرعة، سنظل متهمين لسبب غير مفهوم بأننا خارج السلسلة؟ نعم، أعتقد أنه ممكن، إن لم يكن محتملًا جدًا".
تعمل Meta مع منظمات مثل الشراكة من أجل الذكاء الاصطناعي للبناء على مبادرات أصالة المحتوى الحالية. أصدرت Adobe مؤخرًا نظام بيانات اعتماد المحتوى الذي يدمج معلومات مصدر المحتوى في بيانات تعريف الصورة. بعد إطلاق نسخة تجريبية من العلامة المائية SynthID للصور، قامت Google بتوسيعها لتشمل الملفات الصوتية.
وقال كليج إن ميتا ستبدأ قريبًا في مطالبة المستخدمين بالكشف عن المشاركات التي تحتوي على فيديو أو صوت واقعي تم إنتاجه باستخدام الذكاء الاصطناعي. وقال إنه إذا لم يكشف المستخدمون عن الأمر، فإنهم "سيتعرضون لعقوبات تتراوح بين التحذيرات وحذف المشاركات المخالفة".
هناك بالفعل العديد من الأمثلة على المشاركات الفيروسية التي أنشأها الذكاء الاصطناعي من السياسيين، لكن كليج قلل من احتمالية سيطرة الظاهرة على منصة ميتا في عام الانتخابات. وقال: "لا أعتقد أننا سنرى مقطع فيديو أو صوت اصطناعي بالكامل وله أهمية سياسية في أي وقت قريب". "أنا فقط لا أعتقد أن الأمر سيكون بهذه الطريقة."
وقال إن ميتا بدأت أيضًا في اختبار داخليًا لاستخدام نماذج اللغة الكبيرة (LLMs) المدربة وفقًا لمعايير المجتمع، واصفًا إياها بأنها توفر "آلية فرز" فعالة لعشرات الآلاف من المراجعين البشريين. وقال: "يبدو أن هذه طريقة فعالة للغاية ودقيقة إلى حد ما للتأكد من أن المحتوى الذي يتم الإبلاغ عنه إلى المراجعين البشريين لدينا هو بالفعل نوع من الحالات المتطورة التي تتطلب الحكم البشري".