في الآونة الأخيرة، كشفت دعوى قضائية جماعية موسعة عن حالة فظيعة لاستخدام الذكاء الاصطناعي لإنتاج مواد الاعتداء الجنسي على الأطفال (CSAM). لم يتهم المدعي شركة X Platform وشركة الذكاء الاصطناعي التابعة لها xAI ببناء أدوات ذكاء اصطناعي ضارة "بنقرة واحدة" فحسب، بل انتقد أيضًا المنصة بشدة لإخفاء معلومات المستخدم الرئيسية عمدًا أثناء التحقيقات المتعلقة بالجرائم الجنسية للأطفال وإعاقة تصرفات وكالات إنفاذ القانون.
وفقًا للدعوى القضائية، في مارس من هذا العام، انتحر رجل بعد أن اكتشفت الشرطة أنه استخدم نموذج Grok الخاص بشركة xAI لمعالجة صور ابنة زوجته عندما كان عمرها 11 عامًا إلى 7000 صورة ومقاطع فيديو جنسية صريحة. وفقًا للشكوى، كان نظام الحماية الخاص بـ Grok غير نشط تقريبًا عند إنشاء هذه الصور التي تحتوي على محتوى زنا المحارم والاغتصاب. لم يكن الأمر كذلك إلا بعد أن أدخل الرجل تعليمات غير قانونية واضحة للغاية مثل "الاغتصاب الجماعي" حتى أطلق النظام آلية إبلاغ عبر الإنترنت إلى المركز الوطني للأطفال المفقودين والمستغلين (NCMEC).
ومع ذلك، لم يتم حل القضية بنجاح بعد الاتصال بالشرطة. وأشار الفريق القانوني للمدعي إلى أنه على الرغم من أن القانون يتطلب من المنصات توفير البيانات الرئيسية بما في ذلك عناوين IP عند الإبلاغ عن الاعتداءات الجنسية العنيفة، فقد رفضت شركة xAI مرارًا وتكرارًا التعاون مع الشرطة وتحقيقات NCMEC. وذكرت الوثيقة أن شركة XAI "أعاقت التحقيق من جميع الجوانب" لعدة أسابيع، مما جعل من الصعب على ضباط إنفاذ القانون تحديد مكان المشتبه به واعتقاله. ولم يتم الكشف عن حقيقة الجريمة، التي استمرت لعدة أشهر وتضمنت آلاف الصور المزورة بواسطة الذكاء الاصطناعي، إلا بعد أن صادرت الشرطة أخيرًا معدات المشتبه به من خلال مذكرة تفتيش. وانتحر الرجل بعد إطلاق سراحه بكفالة، مما تسبب في صدمة نفسية كبيرة للفتاة الضحية.
وهذه الحالة ليست حالة معزولة. صرح محامي المدعي أن تقييم NCMEC في أوائل عام 2026 أظهر أن 90% من هذه التقارير المقدمة بواسطة xAI لا يمكن تحويلها إلى إجراءات إنفاذ القانون بسبب نقص المعلومات الأساسية. واتهمت عائلات الضحايا شركة XAI بوضع الأرباح التجارية قبل سلامة الأطفال والسماح لمنتجاتها بأن تصبح أدوات للمجرمين لإيذاء الأطفال على الرغم من علمهم بإمكانية إساءة استخدام التكنولوجيا. وفي مواجهة الاتهامات ذات الصلة، نفى مؤسس XAI Elon Musk سابقًا استخدام Grok لإنشاء مثل هذا المحتوى.
تحدد الدعوى أيضًا Stability AI كمدعى عليه. تزعم الشكوى أن نموذج Stability AI مفتوح المصدر هو الدعم الفني الأساسي للعديد من تطبيقات الطرف الثالث "خلع الملابس بنقرة واحدة"، وأن الشركة عمدت إلى تخفيف إعدادات الحماية لإنشاء محتوى صريح من أجل الاستيلاء على حصة السوق. تشير التقارير البحثية ذات الصلة إلى أن عائلة نماذج Stable Diffusion تمثل حاليًا القوة الدافعة الرئيسية وراء سلوك "التجريد بنقرة واحدة" على الإنترنت.
ردًا على ذلك، رد متحدث باسم Stability AI بأن الشركة ملتزمة بمنع إساءة استخدام التكنولوجيا، وخاصة إنشاء ونشر CSAM، وقال إنه تم تنفيذ إجراءات حماية أمنية صارمة وأن أي اتهام للشركة بإهمال الأمن هو اتهام كاذب. وتسعى الدعوى الجماعية حاليًا إلى ضم جميع المواطنين الأمريكيين المتضررين من هذه التكنولوجيا. وحذرت الوكالات ذات الصلة من أنه مع شعبية الذكاء الاصطناعي التوليدي، زاد عدد التقارير المتعلقة بالاستغلال الجنسي للأطفال باستخدام الذكاء الاصطناعي بشكل حاد، وأصبح غياب شركات التكنولوجيا في مساعدة التحقيقات عائقًا رئيسيًا أمام العدالة.