حذرت هيئة رقابية أمنية من أن الصور المولدة بواسطة الذكاء الاصطناعي للاعتداء الجنسي على الأطفال أصبحت "أسوأ كابوس لك" وتهدد بإرباك الإنترنت. قالت مؤسسة مراقبة الإنترنت (IWF) إنها اكتشفت ما يقرب من 3000 صورة مسيئة تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تنتهك بشكل واضح قانون المملكة المتحدة.

وقالت المنظمة، ومقرها المملكة المتحدة، إن الصور الواقعية الحالية لضحايا الانتهاكات يتم إدخالها في نماذج الذكاء الاصطناعي، والتي تولد بعد ذلك صورًا جديدة.

وأضافت المجموعة أن التكنولوجيا استخدمت أيضًا لإنشاء صور لمشاهير "مصغرين" ثم تم تصويرهم كأطفال في مشاهد الاعتداء الجنسي. تشمل الأمثلة الأخرى لمواد الاعتداء الجنسي على الأطفال (CSAM) استخدام أدوات الذكاء الاصطناعي لالتقاط صور "عارية" لأطفال يرتدون ملابس موجودة على الإنترنت.

وحذر المنتدى الدولي للمرأة هذا الصيف من أن الأدلة على سوء الاستخدام الناجم عن الذكاء الاصطناعي بدأت في الظهور، لكنه قال إن أحدث التقارير أظهرت أن استخدام التكنولوجيا يتسارع. وقالت سوزي هارجريفز، الرئيس التنفيذي للاتحاد الدولي لرفع الأثقال، إن "أسوأ كابوس" للمنظمة أصبح حقيقة.

وقالت: "في وقت سابق من هذا العام، حذرنا من أن صور الذكاء الاصطناعي قد لا يمكن تمييزها قريبًا عن الصور الحقيقية لأطفال يتعرضون للاعتداء الجنسي، وأننا قد نبدأ في رؤية مثل هذه الصور تنتشر بأعداد أكبر". "لقد تجاوزنا الآن تلك المرحلة. ومن المثير للخوف أننا نرى المجرمين يتعمدون تدريب الذكاء الاصطناعي الخاص بهم على صور الضحايا الحقيقيين الذين تعرضوا للإيذاء. ويتم الآن تضمين الأطفال الذين تعرضوا للاغتصاب في الماضي في سيناريوهات جديدة لأن شخصًا ما، في مكان ما، يريد رؤيته."

وقال المنتدى الدولي للمرأة إنه رأى أيضًا أدلة على بيع الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي عبر الإنترنت. وتستند أحدث النتائج إلى تحقيق استمر لمدة شهر في منتديات إساءة معاملة الأطفال على شبكة الإنترنت المظلمة. وحققت في 11108 صورة في المنتدى، 2978 منها انتهكت قانون المملكة المتحدة من خلال تصوير الاعتداء الجنسي على الأطفال.

يعد الاعتداء الجنسي على الأطفال (CSAM) الناتج عن الذكاء الاصطناعي غير قانوني بموجب قانون حماية الطفل لعام 1978، الذي يجرم أخذ وتوزيع وحيازة "صور غير لائقة أو زائفة" للأطفال. وقال المنتدى الدولي للمرأة إن الغالبية العظمى من المواد غير القانونية التي وجدها تنتهك قانون حماية الطفل، حيث تم تصنيف أكثر من خمس الصور ضمن الفئة (أ)، وهي أخطر فئة من المحتوى الذي يمكن أن يصور الاغتصاب والاعتداء الجنسي.

كما يجرم قانون الطب الشرعي والعدالة لعام 2009 الصور غير المحظورة للأطفال، مثل الرسوم الكاريكاتورية أو الرسومات. ويخشى الاتحاد الدولي لرفع الأثقال أن تؤدي موجة من أسلحة الاعتداء الجنسي على الأطفال التي ينشئها الذكاء الاصطناعي إلى صرف انتباه وكالات إنفاذ القانون عن اكتشاف الانتهاكات الحقيقية ومساعدة الضحايا.

وقال هارجريفز: "هذه المادة لديها القدرة على إرباك الإنترنت إذا لم نسيطر على هذا التهديد".

قال دان سيكستون، كبير مسؤولي التكنولوجيا في IWF، إن أداة توليد الصور StableDiffusion، وهي نموذج ذكاء اصطناعي متاح للجمهور يمكن تعديله للمساعدة في إنشاء CSAM، كان منتج الذكاء الاصطناعي الوحيد الذي تمت مناقشته في المنتدى.

"إننا نشهد نقاشًا حول إنشاء محتوى باستخدام StableDiffusion، وهو برنامج متاح للعامة."

وقالت شركة StabilityAI، الشركة البريطانية التي تقف وراء StableDiffusion، إنها "تحظر إساءة استخدام منصتنا لأي غرض غير قانوني أو غير أخلاقي، وتنص سياساتنا بوضوح على أن هذا يشمل CSAM".

وتقول الحكومة إن مشروع قانون الأمن السيبراني الذي من المقرر أن يصبح قانونًا سيغطي الاعتداءات الجنسية التي ينشئها الذكاء الاصطناعي ويطلب من شركات التواصل الاجتماعي منعها من الظهور على منصاتها.