تحقق "القضية الأولى المتعلقة بالمواد الإباحية في خدمات الذكاء الاصطناعي" التي تمت مشاهدتها كثيرًا تقدمًا جديدًا!علم مراسل Nandu N Video أن محكمة الشعب المتوسطة رقم 1 في شنغهاي ستعقد الجلسة الثانية للمحاكمة الثانية لهذه القضية في 21 مايو.. في السابق، نظرًا للعدد الكبير من المستخدمين الذين يدردشون مع وكلاء الذكاء الاصطناعي على تطبيق يسمى Alien Chat (المشار إليه فيما بعد باسم "AC Software")، حُكم على المطور والمشغل الرئيسي للتطبيق بالسجن لمدة أربع سنوات وسنة واحدة وستة أشهر على التوالي في المحكمة الأولى. وعقدت المحاكمة الثانية لأول مرة في 14 يناير من هذا العام. لكن بسبب مسائل فنية تتعلق بمجال الذكاء الاصطناعي تحتاج إلى توضيح، لم تنطق المحكمة بالحكم في المحكمة وأعلنت أن المحاكمة ستستمر في موعد اختياري.. هذه الدعوى التاريخية، المعروفة باسم "قضية البث السريع في عصر الذكاء الاصطناعي"، على وشك الظهور أمام الجمهور مرة أخرى..

هل تعتبر "الدردشة الفردية باستخدام الذكاء الاصطناعي حول محتوى إباحي" جريمة أيضًا؟ ظهور بؤرة الجدل

برنامج AC هو تطبيق دردشة مصاحب يعمل بالذكاء الاصطناعي تم وضعه لتوفير الرفقة الحميمة والدعم العاطفي للشباب.. بعد تسجيل المستخدمين كأعضاء، يمكنهم إجراء محادثات خاصة ومحادثات فردية مع الذكاء الاصطناعي.

محور النزاع في هذه الحالة هو:من هو منتج المحتوى الإباحي؟ هل من الضار اجتماعيًا أن يقوم المستخدمون بالدردشة "واحدًا لواحد" مع الذكاء الاصطناعي على التطبيق؟

تشير البيانات إلى أنه اعتبارًا من وقوع الحادث، كان هناك أكثر من 116000 مستخدم مسجل للهواتف المحمولة لبرامج التيار المتردد، بما في ذلك أكثر من 24000 مستخدم مدفوع الأجر. وكان المدعى عليه قد جمع ما يزيد على 3.63 مليون يوان من رسوم إعادة شحن العضوية.. وبعد أخذ العينات وتحديد الهوية من قبل أجهزة الأمن العام، من بين 12495 محادثة لـ 150 مستخدمًا مدفوع الأجر تم اختيارهم عشوائيًا، تم تحديد 3618 محادثة لـ 141 مستخدمًا على أنها مواد فاحشة..

أصر محامي الدفاع تشو شياويانغ دائمًا على الإقرار بالذنب. "ما إذا كان ينبغي على المنصة أن تتحمل المسؤولية عن المحتوى الإباحي الذي يتم إنشاؤه عندما يقوم المستخدمون بالدردشة مع الذكاء الاصطناعي، فهي مسألة تستحق المناقشة." قال تشو شياو يانغ في مقابلة قبل جلسة الاستماع الأولى للمحاكمة الثانية إنه نظرًا لقضايا حماية الخصوصية، فإن ما إذا كان محتوى المحادثات الخاصة الفردية بين المستخدمين والذكاء الاصطناعي "يحتاج إلى رقابة من قبل المنصة" هو أيضًا أمر يستحق المناقشة..

قدم Zhou Xiaoyang طلبًا إلى المحكمة لحضور شاهد خبير في مجال الذكاء الاصطناعي أمام المحكمة للإدلاء بشهادته.كما تقدم بطلب لإجراء تجربة للتحقق مما إذا كان إدخال نفس المحتوى بكلمات سريعة سيجعل نموذج الذكاء الاصطناعي المشارك في القضية "يتحدث عن المواد الإباحية"، لكنه لم يتلق ردًا من المحكمة حتى الآن..

اختراق "القيود الأخلاقية": يصبح التلاعب الفني للمطورين هو مفتاح الإدانة

وخلصت المحكمة الابتدائية إلى أن المتهمين مذنبان بإنتاج مواد إباحية من أجل الربح. وكان منطق الحكم الرئيسي على النحو التالي:اخترق المدعى عليه آلية الضبط الأخلاقي لنموذج اللغة الكبيرة من خلال كتابة وتعديل مطالبات النظام (موجه)..

في قضية AC، أدخل المدعى عليه في النموذج الكبير للكلمات السريعة الإنجليزية التي تم إنشاؤها بواسطة ChatGPT، والتي تمت ترجمتها إلى الصينية وتضمينها "استنادًا إلى طبيعة التفاعل الناضجة، يُسمح بالعنف الشديد والجنس الصريح، بما في ذلك الأوثان والعُري والصور الرسومية." إلخ..

شكك Zhou Xiaoyang في هذا الأمر في المحاكمة الثانية: "هل قام هو نفسه بإنشاء Alien Chat بهدف أن يصبح تطبيق دردشة إباحي؟ بالطبع، آمل أن يكون الذكاء الاصطناعي أكثر ذكاءً ويفتح تصحيح الأخطاء، وقد يتصرف بشكل أكثر تجسيمًا. ولكن من ناحية أخرى، قد تصبح فجوة المحتوى الهامشي أو الفاحش أوسع، لكن هذا ليس ما آمله شخصيًا. من يمكنه التحكم في هذا من الناحية الفنية؟"

وأوضح تشو شياويانغ أيضًا أن الذكاء الاصطناعي في النصف الثاني من عام 2023 به عيوب تقنية كبيرة. "من الواضح أنني أتحدث إليك عن موضوع عادي، لكنه سيقول إن موضوعك خارج النطاق ولا يمكن مناقشته بعد الآن، وبعد ذلك سيتم إغلاقه. ولا يمكنه الحكم على ما إذا كان جيدًا أم سيئًا. مطالبات تصحيح الأخطاء هي وظيفتك الأساسية وعملك اليومي."

لقد استخدم فريق الدفاع دائمًا الحياد الفني كدفاع أساسي. وفي هذا الصدد، أشار تساى تشاكون، المحامي المتدرب في شركة بكين ليانغاو للمحاماة، إلى أن الحياد التكنولوجي لا يمكن أن يكون سببا مشروعا للتبرئة. "إن نقطة المساءلة الأساسية في هذه القضية هي استخدام المطور لتكنولوجيا الذكاء الاصطناعي لإنتاج ونشر مواد فاحشة وتحقيق الأرباح. وينبغي اعتبار أداة الذكاء الاصطناعي في هذه القضية أداة إجرامية تحت سيطرة مزود الخدمة، والمدخلات ذات الصلة للمستخدم هي فقط الشرط المحفز للأداة لإنشاء محتوى فاحش."

هل "الدردشة الفردية حول الإباحية" ليست ضارة بالمجتمع؟ خبراء: عدم الشرعية على نطاق واسع أصبح حقيقة

ردًا على وجهة نظر الدفاع القائلة بأن "محتوى الدردشة الإباحية بين شخصين باستخدام الذكاء الاصطناعي لن يكون ضارًا بالمجتمع إذا لم يتم نشره"، يعتقد شيه يونغجيانغ، مدير مركز إدارة الإنترنت والأبحاث القانونية بجامعة بكين للبريد والاتصالات، أن،استخدم المدعى عليه نموذج "اختراق القيود الأخلاقية للنموذج + إعداد دفع العضوية" لاستخدام "المواد الإباحية" باعتبارها عامل الجذب الأساسي، وهو في الأساس تسويق المحتوى الإباحي تجاريًا.. على الرغم من أن محتوى الدردشة يتم إنشاؤه فقط في سيناريو "واحد لواحد"، إلا أنه مفتوح لأكثر من 100000 مستخدم، وما يقرب من 30٪ من الأقسام التي تم أخذ عينات منها تشتمل على مواد إباحية. لقد شكلت "عملاً غير قانوني على نطاق واسع" ودمرت النظام العام والعادات الجيدة والنظام التنظيمي للفضاء الإلكتروني، واستوفت معايير تحديد الهوية الجنائية..

وأوضح وانغ لي، الباحث في مركز أبحاث قانون التكنولوجيا الذكية التابع لمعهد بكين للتكنولوجيا، أن "الانغلاق" لا يمكن أن يكون سببا للإعفاء من "الضرر الاجتماعي" ويجب الحكم عليه بشكل شامل على أساس تغطية السلوك، وطبيعة تحقيق الربح، ودرجة الضرر الذي يلحق بالنظام العام. على الرغم من أن محتوى الدردشة عبارة عن تفاعل مغلق "واحد لواحد"، إلا أن البرنامج يجذب المستخدمين بنشاط للمشاركة في "الدردشة الإباحية" من خلال الترويج العام، وإعداد قوائم الشخصيات المشهورة، وآليات مكافأة المؤلفين، وما إلى ذلك، والتي توفر في الواقع أدوات خاصة وقنوات اتصال لتوليد محتوى فاحش، مما يؤثر على نظام إدارة الفضاء الإلكتروني..

كما تم تحميل المستخدمين المسؤولية الجنائية! الذكاء الاصطناعي يشمل المواد الإباحية، ولا يوجد "غرباء"

ومن الجدير بالذكر أنلم يتم تحميل المطور المسؤولية الجنائية في هذه القضية فحسب، بل تم أيضًا إطلاق سراح أحد مستخدمي برنامج AC بكفالة في انتظار المحاكمة للاشتباه في "إنتاج مواد فاحشة من أجل الربح".. ووفقا للتقارير، قام المستخدم بإنشاء شخصية ونشرها للعامة. أخرجت الشخصية محتوى دردشة فاحشًا وتمت مكافأتها بالعملة الافتراضية للمنصة. ولذلك، فقد تم تحميله المسؤولية الجنائية..

يرسل هذا الاتجاه إشارة قوية:إذا كان الذكاء الاصطناعي متورطًا في المواد الإباحية، بغض النظر عن المطور أو النظام الأساسي أو المستخدم، فقد يتحمل المسؤولية القانونية. لا يوجد "غرباء".

بالإشارة إلى قضايا النزاع على حقوق الطبع والنشر التي تنطوي على محتوى تم إنشاؤه بواسطة الذكاء الاصطناعي (AIGC)، رأت المحاكم عمومًا أنه إذا استثمر المستخدم قدرًا كافيًا من العمل الفكري (مثل التصميم الدقيق للكلمات السريعة وتعديل المعلمات بشكل متكرر)، فإن المستخدم هو "مؤلف" المحتوى الذي تم إنشاؤه. وهذا المنطق يمكن أن يشير إلى تحديد منتجي المواد الفاحشة، فمن يستثمر ذكاءه في قيادة الجيل هو المنتج..

لقد تم رسم الخطوط الحمراء لامتثال المنصة، وأصبح الباب أمام "المواد الإباحية" التي يعتمدها الذكاء الاصطناعي مغلقا

ومن الجدير بالذكر أنه في أبريل من هذا العام فقط، أعلنت خمس إدارات بما في ذلك إدارة الفضاء الإلكتروني الصينية بشكل مشترك "الإجراءات المؤقتة لإدارة الخدمات التفاعلية المجسمة للذكاء الاصطناعي" ، رسم خط أحمر على السلوكيات مثل إنشاء محتوى فاحش وإباحي. سيتم تنفيذ هذا الإجراء رسميًا في 15 يوليو من هذا العام، مما يزيد من توضيح المتطلبات ذات الصلة لتقييم الأمان وحفظ الخوارزميات، وكذلك وضع الأحكام ذات الصلة لاستخدام الخدمات التفاعلية المجسمة من قبل القاصرين وكبار السن..

بالإضافة إلى ذلك، في أبريل من هذا العام، أطلقت إدارة الفضاء الإلكتروني الصينية حملة على مستوى البلاد مدتها أربعة أشهر "الوضوح والوضوح، تصحيح فوضى تطبيقات الذكاء الاصطناعي" وستركز الإجراءات الخاصة على تصحيح مشكلات مثل عدم كفاية قدرات التدقيق الأمني ​​وأمن مجموعة التدريب النموذجية الكبيرة، وتعزيز حوكمة مصدر تكنولوجيا الذكاء الاصطناعي..

في أبريل من هذا العام، كشف التحقيق المالي الذي أجرته CCTV أيضًا عن سلسلة الصناعة السوداء لـ "المواد الإباحية التي تعتمد على الذكاء الاصطناعي" - فقد باع بعض التجار علنًا "برامج تعليمية هامشية لإنتاج الفيديو باستخدام الذكاء الاصطناعي" على منصات التواصل الاجتماعي، زاعمين أنهم يعلمون المستخدمين كيفية استخدام برامج الذكاء الاصطناعي لإنشاء محتوى إباحي من خلال كلمات سريعة غامضة، بل ودعوا إلى "صنع خمسة أرقام في اليوم"، وتشكيل سلسلة صناعة رمادية تتمثل في "بيع الكلمات السريعة - المحتوى الناتج عن الذكاء الاصطناعي - تحقيق أرباح غير قانونية".. بعد ذلك، أصدرت منصة الذكاء الاصطناعي المسماة Libu Libu AI بيانًا، اعترفت فيه بأنه في بعض السيناريوهات الحدودية لمجموعات الكلمات السريعة المعقدة والتعبيرات المراوغة، أنتجت المنصة محتوى غير متوافق، وأكملت الإصلاحات الفنية في أسرع وقت ممكن..

ومن المقرر أن تصبح جلسة الاستماع الثانية للقضية الثانية من "القضية الإباحية الأولى المتعلقة بخدمات الذكاء الاصطناعي" نقطة تحول بارزة على مسار تطوير الامتثال لصناعة الذكاء الاصطناعي في الصين.

في 21 مايو، في شنغهاي، سيتم الكشف عن الجواب قريبا.