الملخص:
في 6 تشرين الثاني (نوفمبر)، وفقًا لرويترز، رفع والدا فتاة أمريكية دعوى قضائية ضد شركة Google والشركة الأم Alphabet، متهمين ابنتهما البالغة من العمر 13 عامًا باستخدام Gemini من خلال جهاز Chromebook الذي أصدرته المدرسة ووضع خطط للانتحار والجنازة في محادثات استمرت لعدة أشهر. وتزعم الشكوى أن جيميني فشل في توجيه الفتاة إلى قنوات المساعدة الواقعية في الوقت المناسب وساعدها على إخفاء حالتها العقلية.
الشكوى الأصلية
تستخدم الشكوى اسم "إيما" كاسم مستعار للفتاة. لقد صادفت وضع Gemini AI Mode في خريف عام 2025 من خلال بحث Google على جهاز Chromebook الخاص بها، وكانت تطرح في البداية أسئلة تعليمية في الغالب. وذكر المدعي أنه مع زيادة وتيرة الاستخدام، بدأت إيما تثق في الجوزاء بشأن قضايا مثل العلاقات الأسرية، والضغط النفسي، وإيذاء النفس؛ اعتبارًا من مارس 2026، قامت بتبادل آلاف الرسائل مع برج الجوزاء كل شهر.
قال والدا الفتاة إنهما ليس لديهما أي فكرة عن إمكانية وصول كمبيوتر المدرسة إلى برنامج Gemini. لم تكن الأسرة على علم بوضعهم حتى اكتشف برنامج المراقبة بالمدرسة وثيقة تخطيط جنازة كتبتها إيما وأثارت تنبيهًا. وبعد ذلك قامت والدة الفتاة بتسجيل الدخول إلى حساب مدرستها واكتشفت أن ابنتها كانت تكتب رسالة انتحار، فتدخل والدها، بحسب الشكوى.
يعتقد المدعي أن Google قامت بدمج Gemini في البحث ونظام ChromeOS والمنتجات التعليمية دون إبلاغ المدارس وأولياء الأمور بشكل كامل بالمخاطر ذات الصلة، مما يسمح للقاصرين باستخدام الذكاء الاصطناعي لفترة طويلة دون إشراف. وتزعم الشكوى أيضًا أن جوجل لم تزود أولياء الأمور بسجلات كاملة لمحادثات الذكاء الاصطناعي في حسابات الطلاب، مما يزيد من صعوبة فهم الآباء لاستخدام أطفالهم.
تم رفع القضية في البداية أمام المحكمة العليا لمقاطعة سانتا كلارا في كاليفورنيا، ثم تم تحويلها لاحقًا إلى المحكمة الفيدرالية بواسطة Google. قدم المدعي عدة مطالبات بما في ذلك عيوب تصميم المنتج، والفشل في تقديم التحذيرات، والإهمال والإخفاء الاحتيالي، واتهم Google بانتهاك "قانون Chatbot المصاحب" في كاليفورنيا وطلب تعويضًا ماليًا وانتصافًا زجريًا.
وقال المتحدث باسم جوجل خوسيه كاستانيدا إن الشركة تراجع هذه المزاعم. وقالت جوجل إنها عملت مع متخصصين طبيين وخبراء أكاديميين لتصميم ميزات للمستخدمين الشباب للوصول إلى دعم الطوارئ والموارد الموثوقة.
كما أعلنت Google هذا الأسبوع أنه سيتم إيقاف تشغيل Gemini افتراضيًا في حسابات طلاب المدارس، ويمكن لمسؤولي المدارس أن يقرروا ما إذا كانوا يريدون إعادة تمكينه أم لا. ومع ذلك، إذا أرادت المدرسة أن يستمر الطلاب في استخدام بحث Google، فإنها لا تزال بحاجة إلى قبول وظائف البحث مثل الملخصات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.
التعليقات