في أكتوبر 2024، ظهر عدد كبير من مقاطع الفيديو المدبلجة للرئيس التنفيذي لشركة Xiaomi "Lei Jun" على منصة الفيديو القصير، وظهرت العديد من مقاطع الفيديو المقلدة والمحاكاة الساخرة واحدًا تلو الآخر. في الواقع، الأصوات في مقاطع الفيديو هذه ليست من Lei Jun نفسه، ولكنها مدبلجة بواسطة الذكاء الاصطناعي.من رجل الأعمال المخادع Lei Jun إلى الذكاء الاصطناعي الذي ينتج الصوت والفيديو للدكتور Zhang Wenhong لبيع البضائع لأنفسهم، حتى أن هناك مجرمين يستخدمون الذكاء الاصطناعي لتجميع مقاطع الفيديو بعمق لارتكاب عمليات احتيال.
في العام الماضي، أصبحت ظاهرة انتهاك الصوت والفيديو العميق للذكاء الاصطناعي أكثر خطورة.
في الآونة الأخيرة، كشفت قناة CCTV News عن فوضى الصوت والفيديو الذي تم تصنيعه بواسطة الذكاء الاصطناعي.
في السابق، استخدم بعض مستخدمي الإنترنت صوت آندي لاو الذي أنتجه الذكاء الاصطناعي لكسب حركة المرور لأنفسهم. أصدرت شركة Andy Lau Film أيضًا بيانًا عاجلاً لتذكير مستخدمي الإنترنت بعدم الوقوع في عملية احتيال تكنولوجيا تركيب الكلام بالذكاء الاصطناعي لتزوير صوت آندي لاو.
وجد تحقيق أجرته CCTV News أنه ليس من الصعب تحقيق التوليف العميق للصوت والفيديو باستخدام الذكاء الاصطناعي، وحتى على بعض منصات التسوق.أصبحت تقنية التوليف العميق للذكاء الاصطناعي أداة لتحقيق الربح للعديد من المتاجر عبر الإنترنت. لا يكلف الأمر سوى عشرات اليوانات لتخصيص التوليف العميق للذكاء الاصطناعي للصوت والفيديو الخاص بالمشاهير.
وقال الخبراء،تنص القوانين واللوائح ذات الصلة بوضوح على حظر التوليف العميق وإنتاج ونشر معلومات الآخرين دون تصريح.
المتاجر عبر الإنترنت التي تتلقى طلبات التوليف العميق للذكاء الاصطناعي لإنتاج مقاطع فيديو للمشاهير تعد بالفعل انتهاكات ويجب أن تتحمل المسؤوليات القانونية المقابلة.
بالإضافة إلى ذلك، ليس المشاهير فحسب، بل الأشخاص العاديين وحتى الصور المتحركة، إذا استخدموا الذكاء الاصطناعي لتجميع الصوت والفيديو الخاص بهم دون موافقة الشخص أو مالك حقوق الطبع والنشر، فيمكن أيضًا الحكم على ذلك باعتباره انتهاكًا ويجب أن يتحمل المسؤولية القانونية.