كشفت أخبار CCTV اليوم عن فوضى استنساخ أصوات الذكاء الاصطناعي. على منصة اجتماعية معينة،استخدم أحد المدونين الذكاء الاصطناعي لتزييف صوت البطل الأولمبي كوان هونغ تشان لبيع البيض المحلي.في الوقت نفسه، تم أيضًا "استنساخ" أصوات Sun Yingsha و Wang Chuqin واستخدامها للترويج لـ "Chanbaojia Local Eggs" بطريقة رفيعة المستوى.
وقالت "Quanhongchan"، التي قام الذكاء الاصطناعي بتزييفها، في الفيديو إنها أحضرت البضائع: "أنا Chanbao الخاص بك. أحتاج لمساعدتك اليوم. تريد Chanmei مساعدة والدتها وجعل حياة أسرتها أفضل. وفي الوقت نفسه، ستشارك البيض المحلي من مسقط رأسها مع معجبيها لتجربته. واليوم، ستسمح لوالدتها بإخراج 300 بيضة محلية من مسقط رأسها كرفاهية للجميع".
أظهرت منطقة التعليقات أن العديد من مستخدمي الإنترنت ظنوا خطأً أن هذا هو البطل الأولمبي نفسه وقدموا طلبات لشرائه.
بالإضافة إلى ذلك، قام المدونون "باستنساخ" أصوات الممثل جين دونغ وآخرين للبث الصوتي المباشر على مدار 24 ساعة.
وبحسب التقرير فإن التحقيق الذي أجراه المراسل توصل إلى ذلكيمكنك بسهولة العثور على عدد كبير من البرامج التعليمية ومعلومات تنزيل البرامج الخاصة باستنساخ أصوات الذكاء الاصطناعي على الأنظمة الأساسية عبر الإنترنت.
حتى أن بعض البائعين قالوا إنه يمكن "استنساخ" صوت أي شخص بسهولة طالما أن لديه دقيقة واحدة من المادة.
من المفهوم أنه من أجل زيادة توحيد استخدام المحتوى الناتج عن الذكاء الاصطناعي وتسهيل المستخدمين لتحديد المحتوى الافتراضي بشكل أفضل، أصدرت إدارة الفضاء السيبراني الصينية وأربع إدارات أخرى بشكل مشترك "تدابير وضع العلامات للمحتوى الاصطناعي الناتج عن الذكاء الاصطناعي" (يشار إليها باسم "تدابير وضع العلامات")، والتي من المقرر تنفيذها رسميًا في 1 سبتمبر 2025.
توضح "تدابير تحديد الهوية" أنه يجب على مقدمي الخدمة إضافة تعريف صريح إلى المحتوى الاصطناعي الذي تم إنشاؤه مثل النصوص والصوت والصور ومقاطع الفيديو والمشاهد الافتراضية وما إلى ذلك.عند توفير وظائف مثل تنزيل المحتوى الاصطناعي الذي تم إنشاؤه ونسخه وتصديره، يجب التأكد من أن الملف يحتوي على تعريف صريح يلبي المتطلبات؛ يجب إضافة التعريف الضمني إلى البيانات الوصفية للملف الذي ينشئ محتوى اصطناعيًا.