أصبحت تقنيات الذكاء الاصطناعي شائعة على نحو متزايد، مثل الانتشار المستقر (وهي تكنولوجيا مفتوحة المصدر تعمل على توليد الصور استنادا إلى مطالبات نصية) وأدوات "تبديل الوجه" التي تستبدل وجه الضحية في مقطع فيديو أو صورة بوجه ممثل إباحي. يمكن إنشاء صور مزيفة غير واقعية باستخدام أدوات بسيطة لتحرير الصور كانت موجودة منذ سنوات.
ويُعتقد أيضًا أن التطبيقات التي تدعي أنها قادرة على "خلع ملابسها بنقرة واحدة" هي أدوات يمكن استخدامها في بعض الحالات ومتاحة للتنزيل مجانًا في متاجر التطبيقات. قد تبدو هذه الصور الحديثة المزيفة أكثر واقعية ويصعب التعرف عليها على الفور على أنها مزيفة.
فرانشيسكا ماني، 15 عامًا، طالبة في السنة الثانية في مدرسة ويستفيلد الثانوية في نيوجيرسي. وقالت: "لقد صدمت لأنني تعرضت للخيانة أنا والفتيات الأخريات من قبل زملائنا في الصف، مما يعني أنه كان من الممكن أن يحدث ذلك لأي شخص".
يقول السياسيون والخبراء القانونيون إن هناك القليل من سبل الانتصاف المتاحة لضحايا المواد الإباحية التي ينتجها الذكاء الاصطناعي والمزيفة بعمق، والتي غالبًا ما تظهر وجوه الضحايا مضغوطة على أجسادهم العارية.
يمكن أن تكون الصور ومقاطع الفيديو واقعية بشكل مخيف، وقد أصبحت التكنولوجيا المستخدمة في إنشائها متطورة ويمكن الوصول إليها على نحو متزايد، وفقًا لماري آن فرانكس، الخبيرة القانونية في وسائل الإعلام الصريحة غير التوافقية.
وبعد شهر من الحادث الذي وقع في مدرسة ويستفيلد الثانوية، قالت فرانشيسكا ووالدتها، دوروتا ماني، إنهما ما زالا لا يعرفان هوية أو عدد الأشخاص الذين صنعوا الصور، أو عدد الأشخاص الذين تم التقاطهم، أو ما إذا كانوا لا يزالون موجودين. بالإضافة إلى ذلك، ليس من الواضح ما هي العقوبات، إن وجدت، التي فرضتها المنطقة التعليمية.
وجهت مدينة ويستفيلد مدارس ويستفيلد العامة للتعليق، لكن المدرسة رفضت التعليق. نقلاً عن السرية، قالت المنطقة التعليمية سابقًا إنها "لن تنشر أي معلومات حول الطلاب المتهمين بإنتاج صور عارية مزيفة، ولا الإجراءات التأديبية التي واجهوها".
وقال المشرف ريموند جونزاليس للمنفذ الإخباري إن المنطقة "ستستمر في تثقيف الطلاب ووضع مبادئ توجيهية واضحة لضمان استخدام هذه التقنيات الجديدة بشكل مسؤول داخل المدرسة وخارجها".
في رسالة بريد إلكتروني حصلت عليها NBC News، أخبرت مديرة المدرسة الثانوية، ماري أسفينديس، أولياء الأمور في 20 أكتوبر أن المدرسة تحقق في مزاعم الطلاب بأن بعض زملائهم في الفصل استخدموا الذكاء الاصطناعي لإنشاء صور إباحية من الصور الأولية.
وفي ذلك الوقت، اعتقد مسؤولو المدرسة أن أي صور تم إنشاؤها قد تم حذفها ولم يتم توزيعها، وفقًا للمذكرة.
وكتب أسفينديس: "هذا حادث خطير للغاية"، وحث الآباء على مناقشة استخدام التكنولوجيا مع أطفالهم. "تتيح التقنيات الجديدة تزييف الصور، ويجب على الطلاب أن يكونوا على دراية بالتأثير والضرر الذي يمكن أن تحدثه هذه الإجراءات على الآخرين."
وعلى الرغم من أن فرانشيسكا لم تر صورًا لها أو للآخرين، إلا أن والدتها قالت إن مدير ويستفيلد أخبرها أن أربعة أشخاص حددوا فرانشيسكا على أنها الضحية. قدمت فرانشيسكا تقريرًا للشرطة، لكن لم يستجب قسم شرطة ويستفيلد ولا مكتب المدعي العام لطلبات التعليق.
وقال السيناتور عن ولاية نيو جيرسي، جون برامنيك، إن سلطات إنفاذ القانون أعربت له عن مخاوفها من أن الحادث لن يرتفع إلا إلى مستوى "ادعاء التحرش عبر الإنترنت، على الرغم من أنه كان ينبغي بالتأكيد أن يصل إلى مستوى جريمة أكثر خطورة". وقال: "إذا وضعت عُريًا على وجه طفل، فهذا بالنسبة لي يعتبر استغلالًا إباحيًا للأطفال". وقال عضو الكونجرس الجمهوري إنه على الرغم من أن الضرر الناجم عن الصور الحقيقية أو التي تم التلاعب بها قد يكون هو نفسه، إلا أن قوانين الولاية حاليًا لا تذهب إلى حد كافٍ لمعاقبة منشئي المحتوى.
وأضاف: "إنها نفس الطريقة التي يقع بها المتاجرون بالجنس مع الأطفال ضحايا". "إنها ليست مهينة للشباب فحسب، بل إنها تشهير بشخص ما. أنت لا تعرف أبدًا ما الذي سيحدث لتلك الصورة، ولا تعرف أبدًا أين تم توزيعها ومتى ستعود لتطارد هذه الفتاة الصغيرة."
وقال برامنيك إن مشروع قانون معلق في نيوجيرسي سيحظر المواد الإباحية المزيفة ويفرض عقوبات جنائية ومدنية على الكشف دون موافقة. وقال إنه بموجب مشروع القانون، سيواجه المدانون بالسجن لمدة تتراوح بين ثلاث وخمس سنوات و/أو غرامة قدرها 15 ألف دولار.
فرانكس هو أستاذ القانون ورئيس مبادرة CyberCivilRights، وهي منظمة غير ربحية تحارب المواد الإباحية غير التوافقية.
تختلف قوانين الولاية التي تستهدف التزييف العميق في نطاقها بشكل كبير. بعض هذه القوانين، مثل تلك الموجودة في تكساس ووايومنغ، تجرم التزييف العميق للمواد الإباحية بدون موافقة. ولدى ولايات أخرى، مثل نيويورك، قوانين تسمح فقط للضحايا برفع دعاوى مدنية.
وقال فرانكس إن القوانين "متنوعة" وليست شاملة بما فيه الكفاية، وقد تم التشكيك في دستوريتها. وقالت: "لذلك سيكون لديك جميع أنواع التهم الجنائية، وستكون تلك صعبة في هذه الحالات لأن الجناة قاصرون، وهذا في حد ذاته يخلق مشاكل".
ربما مجرد غيض من فيض
من غير الواضح عدد الشباب الذين وقعوا ضحايا للصور العارية التي أنشأها الذكاء الاصطناعي. يقول مكتب التحقيقات الفيدرالي (FBI) إنه من الصعب إحصاء عدد القاصرين الذين يتم استغلالهم جنسيًا. لكن الوكالة قالت إن عدد القضايا المفتوحة التي تنطوي على جرائم ضد الأطفال قد ارتفع. وقال مكتب التحقيقات الفيدرالي لشبكة NBC News إن هناك أكثر من 4800 حالة في عام 2022، ارتفاعًا من أكثر من 4100 حالة في العام السابق.
وقالت الوكالة: "يأخذ مكتب التحقيقات الفيدرالي الجرائم ضد الأطفال على محمل الجد ويعمل مع شركائنا في إنفاذ القانون على مستوى الولاية والمحلية والقبلية للتحقيق في حقائق كل ادعاء"، مضيفة أن الضحايا يمكن أن يواجهوا تحديات كبيرة في محاولة منع توزيع الصور أو إزالتها من الإنترنت.
وقال فرانكس إنه من المحتمل أن يكون هناك المزيد من الحوادث، وأنها سوف تتزايد. وقالت: "الحوادث التي نسمع عنها والتي تظهر على السطح ربما تكون مجرد قمة جبل الجليد". "من المحتمل أن هذا يحدث كثيرًا الآن ولم تكتشفه الفتيات بعد، أو ربما اكتشفنه، أو أن المدرسة تتستر عليه." "
وفي مدرسة إسحاق الثانوية في ولاية واشنطن، قال ممثل المنطقة إن حادثة وقعت في منتصف أكتوبر "تتضمن صورًا زائفة للطلاب تم إنشاؤها بواسطة الذكاء الاصطناعي" لا تزال تؤثر على الجسم الطلابي.
وفي بلدة ألمندراليخو الإسبانية، قالت الأمهات إن العشرات من بناتهن في سن المدرسة الإعدادية تعرضن لصور عارية لأطفالهن تم إنشاؤها بواسطة الذكاء الاصطناعي، باستخدام تطبيق "يجردهن" من ملابسهن. وتقوم الشرطة المحلية في نيوجيرسي وولاية واشنطن وإسبانيا بالتحقيق في قضايا المدارس الثانوية.
حذر مكتب التحقيقات الفيدرالي في إعلان للخدمة العامة في يونيو من أن التكنولوجيا المستخدمة لإنشاء صور ومقاطع فيديو إباحية غير موافقة تتحسن باستمرار ويتم استخدامها للمضايقة وإرسال الرسائل الجنسية للابتزاز.
وفي الوقت نفسه، دعت الرابطة الوطنية للمدعين العامين الكونجرس في سبتمبر/أيلول إلى دراسة تأثير الذكاء الاصطناعي على الأطفال وسن تشريعات لحماية الأطفال من الذكاء الاصطناعي.
وفي رسالة وقعها 54 مدعيًا عامًا في الولايات والأقاليم، أعربت المجموعة عن قلقها من أن "الذكاء الاصطناعي يفتح حدودًا جديدة للانتهاكات ويجعل الملاحقات القضائية أكثر صعوبة". وجاء في الرسالة: "نحن في سباق مع الزمن لحماية أطفال أمتنا من مخاطر الذكاء الاصطناعي".
قالت فرانشيسكا ووالدتها إنهما يخططان للسفر إلى واشنطن العاصمة في ديسمبر لحث أعضاء الكونجرس شخصيًا على اتخاذ إجراءات مع الاستمرار في الدعوة إلى تحديث السياسات داخل النظام المدرسي والسعي للمساءلة عما حدث.
وقالت دوروتا ماني "نعلم جميعا أن هذا ليس حادثا منعزلا. ولن يكون أبدا حادثا معزولا. هذا يحدث طوال الوقت. علينا أن نتوقف عن التظاهر بأن الأمر لا يهم".
كان الارتفاع في الحوادث التي تستهدف فتيات المدارس الثانوية مدفوعًا بانتشار تطبيقات الذكاء الاصطناعي العميقة والمواقع الإباحية العميقة التي تنشئ مثل هذه المواد وتشاركها وتبيعها.
وجد تقرير صدر عام 2019 من قبل شركة Sensity، وهي شركة مقرها أمستردام تتتبع الوسائط الناتجة عن الذكاء الاصطناعي، أن 96% من الأخبار المزيفة العميقة التي تم إنشاؤها في ذلك الوقت كانت جنسية صريحة وتضمنت نساء لم يوافقن على إنشائها. العديد من الضحايا لا يدركون وجود أخبار مزيفة. لا يوجد شيء يمكن للآباء والأطفال فعله لمنع استخدام صورهم لإنشاء أخبار مزيفة. وبدلاً من ذلك، تحتاج المدارس وجهات إنفاذ القانون المحلية إلى أن تكون مثالاً للجناة في القضايا التي تشمل عامة الناس لردع الآخرين عن إنشاء مواد مزيفة عميقة.
وقال فرانكس: "إذا كان بإمكانك أن تتخيل أن مدارس نيوجيرسي أو سلطات نيوجيرسي تستجيب بطريقة دراماتيكية وهامة لتكون قدوة وتشديد العقوبات وإيداع الناس في السجن، فقد يتم ثنيك عن ذلك". "إذا لم تفعل ذلك، فستصبح مجرد أداة أخرى يستخدمها الرجال والفتيان لاستغلال وإذلال النساء والفتيات، وليس لدى القانون أي شيء ليقوله عن ذلك".