أصدرت شركة OpenAI مؤخرًا بيانات توضح أن أكثر من مليون مستخدم يناقشون موضوع الانتحار عند التواصل مع ChatGPT كل أسبوع. ووفقا للبيانات الجديدة الصادرة عن الشركة، فإن حوالي 0.15% من مستخدمي ChatGPT النشطين يجرون محادثات مع "خطط أو نوايا انتحارية واضحة" كل أسبوع. مع الأخذ في الاعتبار أن ChatGPT لديه أكثر من 800 مليون مستخدم نشط أسبوعيًا، فقد تجاوز عدد المحادثات ذات الصلة المليون.
وأشار OpenAI إلى أن نسبة مماثلة من المستخدمين يظهرون اعتماداً عاطفياً كبيراً على ChatGPT، حيث تظهر على "مئات الآلاف" علامات الذهان أو الهوس كل أسبوع. وأكدت الشركة أنه على الرغم من أن مثل هذه المحادثات المتطرفة "نادرة للغاية"، إلا أنها لا تزال تؤثر على آلاف المستخدمين كل أسبوع.
يعد الكشف عن المعلومات بمثابة مبادرة من OpenAI لتحسين قدرة الذكاء الاصطناعي على الاستجابة للمواضيع الحساسة في مجال الصحة العقلية. وقالت الشركة إنه تمت استشارة أكثر من 170 خبيرًا في الصحة العقلية أثناء تطوير الإصدار الأحدث من ChatGPT. قال هؤلاء الخبراء إن الإصدار الأخير من ChatGPT "أكثر ملاءمة واتساقًا من الإصدار القديم" في الردود ذات الصلة. ظهرت العديد من التقارير مؤخرًا حول تأثير الذكاء الاصطناعي على قضايا الصحة العقلية. أشارت بعض الدراسات إلى أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي قد تشجع المستخدمين على اعتناق معتقدات خطيرة وحتى إثارة التفكير الوهمي.
أصبحت قضايا الصحة العقلية تحديًا أساسيًا لـ OpenAI. في وقت سابق من هذا العام، رفعت OpenAI دعوى قضائية ضد الشركة لأن والدا صبي يبلغ من العمر 16 عامًا اختارا في النهاية إنهاء حياته بعد تبادل محتوى متعلق بالانتحار مع ChatGPT. كما حذر المحامون العامون في كاليفورنيا وديلاوير شركة OpenAI من أنها بحاجة إلى تعزيز إجراءات الحماية للمستخدمين المراهقين.
وفي وقت سابق من هذا الشهر، قال سام ألتمان، الرئيس التنفيذي لشركة OpenAI، على منصات التواصل الاجتماعي إن الشركة "تمكنت من التخفيف من مشكلات الصحة العقلية الخطيرة". ومع ذلك، لم يتم الإعلان عن التدابير المحددة ذات الصلة. ويبدو أن الأرقام الصادرة هذا الأسبوع تدعم هذا الالتزام وتعكس الطبيعة الواسعة النطاق للمشكلة. وكشف ألتمان أيضًا أن الشركة ستخفف بعض القيود، بما في ذلك السماح للمستخدمين البالغين بالتواصل مع الذكاء الاصطناعي للحصول على محتوى مثير.
وتُظهِر البيانات الرسمية أن الإصدار الأحدث من GPT-5 أكثر احتمالاً بنحو 65% لتحقيق النتائج المرجوة في الاستجابات للصحة العقلية مقارنة بالإصدار السابق؛ وفي تقييم الردود على موضوع الانتحار، بلغت نسبة التزام النسخة الجديدة من GPT-5 91%، بينما بلغت نسبة التزام النسخة القديمة 77%. كما عزز الإصدار الجديد من GPT-5 الحماية الأمنية أثناء المحادثات الطويلة، مما يعوض عيوب الحماية المنخفضة للإصدار القديم أثناء المحادثات الطويلة.
بالإضافة إلى ذلك، أطلقت OpenAI أيضًا معيارًا جديدًا للتقييم يدمج الاعتماد العاطفي وأزمات الصحة العقلية غير الانتحارية في معايير السلامة النموذجية للذكاء الاصطناعي. أطلقت الشركة أيضًا المزيد من أدوات الإشراف الأبوي وتقوم بتطوير أنظمة للتعرف تلقائيًا على المستخدمين القاصرين وتزويدهم بإجراءات أمنية أكثر صرامة.
على الرغم من أن GPT-5 قد حقق تحسينات في الأمان مقارنة بسابقه، إلا أن OpenAI لا يزال يفتح نماذج الذكاء الاصطناعي الأقدم والأقل أمانًا لملايين المستخدمين الذين يدفعون. انطلاقا من البيانات الحالية، لا تزال بعض المخاطر المتعلقة بالصحة العقلية موجودة، ولا يزال من غير الواضح ما إذا كان من الممكن حل المشكلة بالكامل.