في الآونة الأخيرة، رفعت أم كندية دعوى قضائية أمام المحكمة العليا في مقاطعة سان فرانسيسكو في الولايات المتحدة، متهمة فيها ChatGPT من OpenAI بوجود عيوب في التصميم، مما أدى بشكل غير مباشر إلى انتحار ابنتها أليس البالغة من العمر 24 عامًا.يُذكر أن أليس بدأت استخدام ChatGPT في عام 2023. وفي عام 2024، وقعت في معضلة نفسية عميقة وأسرت للذكاء الاصطناعي بمشاعرها السلبية وأفكارها الانتحارية عدة مرات.
وفي إحدى الرسائل، اعترفت أليس بأنها كانت على وشك الانهيار العقلي ولم تجرؤ على البقاء بمفردها.
في بداية المحادثة، اقترحت ChatGPT عليها الاتصال بالخط الساخن للتدخل في الأزمات ومرافقتها للتحدث.
لكن بعد أن رفضت أليس طلب المساعدة، بدأ الذكاء الاصطناعي في التقييم السلبي لخط الإنقاذ الساخن، قائلا إن خدمته غير مبالية والعملية جامدة، مما جعل أليس تتخلى تماما عن فكرة طلب المساعدة المهنية.
وذكرت الشكوى أيضًا أن نموذج ChatGPT-4o المعني لم ينهي المحادثة الخطيرة في الوقت المناسب، ولم يدفع المحتوى غير الطبيعي إلى عملية المراجعة اليدوية. لقد استمر فقط في توجيه المستخدمين لمواصلة الاتصال، مما أدى في النهاية إلى تفويت فرصة الإنقاذ الحاسمة.
لقد تم إيقاف هذا الإصدار من النموذج منذ فترة طويلة بسبب الإفراط في تلبية احتياجات المستخدمين والمخاطر الأمنية البارزة. كما شاركت في العديد من الدعاوى القضائية المتعلقة بالشباب.
رداً على هذه الدعوى القضائية..ذكرت OpenAI أنها تعاونت مع خبراء الصحة العقلية لتحسين منطق استجابة الذكاء الاصطناعي في سيناريوهات الطوارئ، وأضافت قنوات المساعدة المحلية، وتذكيرات الراحة وغيرها من الوظائف، ونقلت المحادثات الحساسة إلى نموذج بعامل أمان أعلى، وأنشأت لجنة خبراء لحل المشكلات ذات الصلة.
لقد دق هذا الحادث أيضًا ناقوس الخطر بالنسبة لصناعة الذكاء الاصطناعي. وبينما تعمل المنتجات الذكية على تطوير التكنولوجيا، يجب عليها أيضًا تحسين آليات الحماية الأمنية الخاصة بها.
