يسعى المشرعون الأمريكيون إلى تطوير تشريعات لوقف الصور العارية باستخدام الذكاء الاصطناعي وعمليات الاحتيال العميق

يستهدف مشروع القانون أيضًا على وجه التحديد المواد الإباحية العميقة التي تعتمد على الذكاء الاصطناعي، قائلاً إن "أي وصف رقمي أو إعادة إنتاج صوتي رقمي يحتوي على مواد اعتداء جنسي على الأطفال، أو يكون جنسيًا صريحًا، أو يحتوي على صور حميمة" يلبي تعريف الضرر الوارد في مشروع القانون.

مشروع القانون المقترح هو مشروع قانون مصاحب لمشروع قانون مماثل في مجلس الشيوخ يسمى قانون تعزيز الأصالة وتعزيز الفنون وضمان السلامة في الترفيه (NOFAKESAt)، والذي تم تقديمه في أكتوبر الماضي في أعقاب حادثة مزامنة الشفاه العاطفية التي قام بها دريك. تم تقديم مشروع القانون الجديد في نفس اليوم الذي تم فيه تقديم إجراء آخر من قبل المشرعين في ولاية تينيسي يسمى قانون ضمان سلامة الشبه والصوت والصورة (ELVISact).

ولأن مشاريع القوانين هذه تبدو كلياً أو جزئياً وكأنها استجابة لثورات المشاهير، فإن السؤال الكبير هو ما إذا كانت ستحمي، في الممارسة العملية، الملكية الفكرية للأشخاص العاديين ــ وليس فقط نجوم البوب ​​الذين يعقدون صفقات قياسية بملايين الدولارات.

وقالت كاري غولدبرغ، المحامية المتخصصة في قضايا التزييف العميق وغيرها من قضايا التحرش عبر الإنترنت، لموقع Motherboard: "تمت صياغة مشروع القانون مع الأخذ في الاعتبار حقوق الملكية التي يتمتع بها المشاهير وفناني التسجيل في أشكالهم وأصواتهم. ومع ذلك، فإن نظامنا القانوني يتعامل مع الملكية الفكرية للمشاهير بشكل مختلف عن الملكية الفكرية للشخصيات غير العامة".

وقال غولدبرغ إن المثال الأكثر شيوعًا هو صور المصورين. ويسمح القانون ببعض سبل الانتصاف للمشاهير عندما يتم التقاط صورهم دون إذن واستخدامها لأغراض تجارية. لكن بالنسبة للأشخاص العاديين، فإن حقوق صورهم تعود فقط إلى الشخص الذي التقطها، وليس هناك ما يمكنهم فعله حيال نسخ صورهم لأسباب أخرى غير الربح - ما لم يكن لديهم المال اللازم لإنفاقه على إجراءات قانونية باهظة الثمن وطويلة في كثير من الأحيان.

بالنسبة للأشخاص العاديين، عندما يتم استغلال صورتهم، لا يكون ذلك عادة لتحقيق مكاسب تجارية ولكن لإحراجهم أو مضايقتهم؛ وفي هذه الحالة، نادرًا ما يكون مرتكب الخطأ هو الشخص الذي لديه الموارد اللازمة لجعل الأمر مفيدًا للضحية لرفع دعوى قضائية.

ويهدف مشروع القانون الجديد إلى النص على أن لكل شخص الحق في التحكم في صوته وشكله لمنع التزييف العميق، لكن الأحكام الخاصة بغير المشاهير ستعتمد إلى حد كبير على ما إذا كان الضحية يمكنه إثبات تعرضه للأذى. على وجه التحديد، يعني هذا إثبات أن "التزييف العميق" تسبب في "أذى جسدي أو جسدي"، أو تسبب في "اضطراب عقلي شديد"، أو كان ذا طبيعة جنسية صريحة.

وبطبيعة الحال، كل هذا مجرد محاولة لتطبيع سطح مشكلة أكبر، وهي أن شركات التكنولوجيا تستخدم البيانات التي يتم جمعها من الإنترنت لبناء أنظمة ذكاء اصطناعي ضخمة من دون اتخاذ تدابير قوية لتخفيف الضرر الذي ستسببه هذه الأنظمة حتما. في الدعوى القضائية الحالية المرفوعة ضد OpenAI منشئ ChatGPT، جادلت الشركة مؤخرًا بأنه لا ينبغي معاقبتها لاستخدام مواد غير قانونية ومحمية بحقوق الطبع والنشر لتدريب نماذج الذكاء الاصطناعي الخاصة بها لأنه "من المستحيل" إنشاء نظام ذكاء اصطناعي دون القيام بذلك.

لكن طبيعة أنظمة الصندوق الأسود للذكاء الاصطناعي التي أنشأتها شركات مثل OpenAI، وMicrosoft، وMeta تضمن حدوث هذه الأشياء السيئة. اكتشف الباحثون مؤخرًا أكثر من 3000 صورة لمواد الاعتداء الجنسي على الأطفال في مجموعة بيانات ضخمة تستخدم لتدريب كل أنظمة الذكاء الاصطناعي الرئيسية تقريبًا في السوق. تعمل الشركات أيضًا على التأكد من أن أنظمة الذكاء الاصطناعي الخاصة بها تعمل على تصفية المحتوى غير القانوني، مع العثور على مواد إباحية مزيفة في نتائج بحث الصور على Google وBing. إحدى المشاكل الرئيسية هي أن هناك العديد من التطبيقات التي أنشأتها شركات صغيرة أو أفراد مخصصون لإنشاء عُري غير موافق عليه بواسطة الذكاء الاصطناعي، والتي يتم الإعلان عنها على منصات التواصل الاجتماعي الكبرى وبيعها في متاجر التطبيقات.

وفي نهاية المطاف، قال جولدبيرج، لا يمكن معالجة هذه المشكلات بشكل كامل إلا إذا تمت مساءلة الشركات التي تقوم ببناء أنظمة الذكاء الاصطناعي هذه. : "ما يحتاجه مجتمعنا حقًا هو مكافحة الذكاء الاصطناعي والتزييف العميق على المستوى النظامي، ومتابعة المنتجات الضارة في الأسواق الرئيسية مثل App Store وGoogle Play، والتي توجد في السوق لغرض وحيد هو التلاعب بالصور. نحن بحاجة إلى الضغط على محركات البحث حتى لا توجه الأشخاص لاستخدام هذه المنتجات أو الترويج لمواقع الويب التي تنشر هذه الصور. نحتاج إلى مطالبتهم بتزويد الضحايا بعملية بسيطة لخدمة إزالة المحتوى."