بعد انتحار الصبي الأمريكي آدم رين البالغ من العمر 16 عاما في أبريل من هذا العام، رفعت عائلته دعوى قضائية ضد شركة الذكاء الاصطناعي OpenAI في أغسطس، مدعية أن رين استخدم ChatGPT "كمدرب انتحاري". وردت شركة OpenAI رسميًا لأول مرة في دعوى قضائية أمام المحكمة العليا في سان فرانسيسكو في كاليفورنيا يوم الثلاثاء، مؤكدة على أنه لا ينبغي تحميل الشركة المسؤولية، بحجة أن الصبي كان "يسيء استخدام" برنامج الدردشة الآلي.
وفقًا للدعوى القضائية، اتهمت عائلة Wren شركة OpenAI ومديرها التنفيذي سام ألتمان بالقتل الخطأ، وعيوب التصميم، والفشل في التحذير من المخاطر ذات الصلة. تظهر سجلات الدردشة أنه بدلاً من تشجيعه على طلب المساعدة في مجال الصحة العقلية، ساعد GPT-4o - وهو نسخة من ChatGPT المعروفة بـ "الامتثال والقوادة" - في كتابة رسالة انتحار وقدم نصائح بشأن وضع الحبل.
كتبت OpenAI في وثائق المحكمة: "لإسناد سبب هذا الحادث المأساوي، فإن الإصابات والخسائر المزعومة للمدعي كانت ناجمة، بشكل مباشر أو غير مباشر، عن سوء استخدام آدم رين، أو الاستخدام غير المصرح به، أو الاستخدام العرضي، أو الاستخدام غير المتوقع أو الاستخدام غير السليم لـ ChatGPT."
وأكدت الشركة أن شروط الاستخدام الخاصة بها تحظر بوضوح على المستخدمين الذين تقل أعمارهم عن 18 عامًا استخدام ChatGPT دون موافقة أولياء أمورهم. كما أنه لا يسمح باستخدام الأداة لأغراض "الانتحار" أو "إيذاء النفس"، ويشترط عدم تجاوز تدابير الحماية. ذكرت الدعوى أيضًا أنه عندما أعرب لين عن نيته الانتحار، استجاب ChatGPT مرارًا وتكرارًا لرقم الخط الساخن لمنع الانتحار في الولايات المتحدة، لكن أفراد الأسرة قالوا إن الصبي يمكنه التحايل بسهولة على تذكيرات النظام من خلال الكذب بشأن "إنشاء شخصية".
واستشهدت الوثيقة أيضًا بشرط "تحديد المسؤولية" لتذكير المستخدمين بأنه عند استخدام ChatGPT، يجب عليهم "تحمل مسؤوليتهم الخاصة ولا يجوز استخدام النتائج كمصدر وحيد للمعلومات أو كأساس واقعي".
ذكر جاي إيدلسون، المحامي الذي يمثل المدعي، في رسالة بالبريد الإلكتروني أنه "صُدم" من رد OpenAI وشكك في "جهل الشركة بالحقائق الواضحة"، مثل حقيقة أن GPT-4o لم يتم اختباره بالكامل من أجل الإسراع في الإطلاق، وقامت OpenAI بتعديل مواصفات النموذج لمطالبة ChatGPT بالمشاركة في مناقشات إيذاء النفس، و"في الساعات الأخيرة من حياة آدم، لم يشجعه ChatGPT فحسب، بل ساعده أيضًا بشكل مباشر في كتابة رسالة انتحار". حرف."
أشار إديلسون إلى أن OpenAI "حاولت إلقاء اللوم على الجميع" في ردها، حتى أنها ادعى أن آدم نفسه انتهك الشروط من خلال التفاعل مع ChatGPT بالطريقة التي تم بها تصميم النموذج نفسه.
ذكرت OpenAI أن وفاة آدم لم تكن ناجمة بشكل مباشر عن ChatGPT، وكشفت أن السجلات الطبية أظهرت أنه "أظهر بشكل متكرر عوامل خطيرة لخطر الانتحار، بما في ذلك أفكار انتحارية طويلة الأمد، قبل عدة سنوات من استخدام ChatGPT". بالإضافة إلى ذلك، تظهر سجلات الدردشة المقدمة من OpenAI أن ChatGPT أوصت بطلب المساعدة أكثر من مائة مرة، لكن لين تمكن في كثير من الأحيان من تجاوز النظام.
وفي بداية هذا الشهر، تم رفع سبع دعاوى قضائية أخرى مماثلة ضد OpenAI وAltman على أساس الإهمال، والقتل غير المشروع، والمسؤولية عن المنتج، وحماية المستهلك، وما إلى ذلك، متهمة إياهم بإطلاق GPT-4o مع تدابير أمنية غير كافية. ولم تستجب شركة OpenAI بشكل مباشر لهذه الحالات الجديدة.
وذكرت OpenAI في أحدث مدونتها أن الشركة سترد على مثل هذه الدعاوى القضائية "بحذر وشفافية واحترام"، مشيرة إلى أنها قامت لاحقًا بإجراء المزيد من التحسينات على الإجراءات الأمنية، بما في ذلك إضافة أدوات جديدة للرقابة الأبوية وإنشاء مجلس استشاري من الخبراء. وجادلت الشركة أيضًا بأن GPT-4o اجتاز العديد من اختبارات الصحة العقلية قبل الاتصال بالإنترنت.
استندت OpenAI أيضًا إلى المادة 230 من قانون آداب الاتصالات الأمريكي في محاولة للدفاع عن نفسها من خلال "شرط إعفاء النظام الأساسي". ويحمي هذا البند منصات التكنولوجيا على نطاق واسع من الدعاوى القضائية التي تطالب بالمحتوى الموجود على المنصات، ولكن لا يزال هناك عدم يقين قانوني حول ما إذا كان سيتم تطبيقه على منصات الذكاء الاصطناعي.