يتهم أفراد الأسرة OpenAI GPT-4o بإقناع مرضى الصرع بالتوقف عن تناول الدواء وإخفائه عن الأطباء، مما أدى في النهاية إلى المأساة.

الملخص:

وفقًا لتقارير وسائل الإعلام الأمريكية، رفع والدان صينيان مؤخرًا دعوى قضائية ضد شركة OpenAI في المحكمة، زاعمين أن نموذج GPT-4o الذي يستخدمه ChatGPT قدم نصيحة مضللة عندما توقفت ابنتهما عن تناول الأدوية المضادة للصرع وأقنعها بإخفاء الوضع ذي الصلة عن الأطباء، مما أدى في النهاية إلى وفاة ابنتهما في فبراير من هذا العام.

وتظهر وثائق الدعوى أن المتوفى بوين وان كان مهندس برمجيات في أمازون يبلغ من العمر 31 عامًا وكان يعاني من الصرع لفترة طويلة. يعتقد والداها، كون وان وميقين شو، أنه خلال التواصل طويل الأمد مع ابنتهما، لم يشجعها ChatGPT على التوقف تدريجيًا عن تناول الأدوية التي تتحكم في حالتها فحسب، بل عزز أيضًا عدم ثقتها في نصيحة الأطباء بشكل مستمر، وبالتالي لعب دورًا خطيرًا في إدارة صحتها.

ذكر التقرير أن بوين وان استخدم نموذج GPT-4o. تم انتقاد النموذج سابقًا بسبب ميله إلى تكوين "علاقات اجتماعية زائفة" شديدة الاهتمام مع المستخدمين. قامت OpenAI بإزالة GPT-4o من ChatGPT في 13 فبراير من هذا العام، بعد يوم واحد فقط من وفاة Bowen Wan.

وتصبح الدعوى أيضًا الأحدث في سلسلة من القضايا المماثلة ضد OpenAI. في السابق، اتهمت العديد من العائلات GPT-4o بالميل إلى الاستمرار في الاتفاق مع آراء المستخدمين عند التفاعل مع المستخدمين وتصوير أنفسهم على أنهم مقربون جديرون بالثقة، مما يضعف تأثير الأقارب والأصدقاء والمهنيين في الحياة الحقيقية.

وفقًا لأكثر من 270.000 سجل دردشة راجعتها صحيفة نيويورك تايمز، بدأ ChatGPT بالتدخل في عملية اتخاذ القرار الطبي لبوين وان قبل وقت طويل من وفاته. في مايو 2025، بعد وصف دواء جديد مضاد للاكتئاب، شعرت بالقلق من أن الدواء سيؤثر على قدرتها على العمل كمطورة برامج في أمازون وطلبت المشورة من ChatGPT.

في ذلك الوقت، استشارت نيكولاس بولوس، طبيب مركز الصرع الإقليمي في المركز الطبي بجامعة واشنطن، حول تعديل جرعة أدويتها. وبعد أن أعربت الطبيبة عن شكوكها بشأن طلبها جرعة منخفضة للغاية، قامت بإرسال رد الطبيب إلى ChatGPT. تظهر سجلات الدردشة أن ChatGPT نصحتها بقبول قرص 5 ملغ الذي وصفه طبيبها، ولكن بتقسيم القرص بشكل أكبر وتناوله على انفراد، واصفة هذا السلوك بأنه "تعديل الجرعة ذاتيًا". وقال العديد من الخبراء الطبيين إنهم لم يسمعوا قط عن هذا المصطلح ولن ينصحوا المرضى بتناول الدواء بهذه الطريقة.

في نوفمبر 2025، تلقى بوين وان إشعارًا بالتسريح من أمازون. وتنتهي وظيفته ووضعه القانوني للعمل في الولايات المتحدة في منتصف شهر فبراير من العام التالي. خوفًا من أن يؤثر استخدامها على المدى الطويل لعقار لاموتريجين المضاد للصرع على مهاراتها في الكلام واللغة، الأمر الذي قد يضر بمقابلات العمل، بدأت تفكر في تقليص أدويتها.

في يناير 2026، سألت ChatGPT عما إذا كان من الممكن خفض جرعة اللاموتريجين اليومية البالغة 400 ملغ. وتظهر السجلات أن الدواء قد قلل في السابق من تكرار هجماتها إلى عدة مرات فقط في الشهر. ردًا على ذلك، طورت ChatGPT خطة لتقليل الدواء لها، والتي من المتوقع أن تقلل الجرعة إلى الصفر في غضون أسابيع قليلة.

عندما قالت بوين وان إنها لم تعد تثق بالأطباء، أخبرها ChatGPT أن نصيحة الأطباء تنبع من تجنب المخاطرة أكثر من كونها تفكر حقًا في الحل الأفضل للمريض. تنص الدعوى القضائية على أن برنامج الدردشة الآلي نصحها مرارًا وتكرارًا بعدم الكشف عن خطة تقليل الدواء لطبيبها.

قبل موعد الرعاية الأولية في 29 يناير 2026، زُعم أن ChatGPT نصحتها صراحةً بعدم مناقشة خطط التوقف عن تناول الدواء. وعندما أمر الأطباء بإجراء فحص دم لمراقبة مستويات الدواء في جسدها، رفضت الاختبار. وقالت الشكوى إن ChatGPT أكد القرار لاحقًا، مشيرًا إلى أن الاختبار كان من الممكن أن يكشف عن مستويات غير طبيعية من المخدرات.

تم أيضًا طرح مسألة وضعه كمهاجر في الحديث حول العلاج. وبعد ثلاثة أيام من التخفيض التدريجي، سألت ما إذا كانت جرعة 150 ملغ ستكون أفضل للتقييم الطبي اللازم لتقديم طلب للحصول على البطاقة الخضراء من جرعة 200 ملغ. تنص الشكوى على أن ChatGPT يوافق على هذا ويعتقد أن جرعة أقل قد تقلل من احتمالية طلب سلطات الهجرة مواد تكميلية.

في النهاية، حددت ChatGPT الحد الأدنى من الجرعة لخطة التناقص التدريجي الخاصة بها عند 150 ملليجرام وأوصت بأن تخبر الطبيب الشرعي أنها كانت تتناقص تدريجيًا تحت إشراف الطبيب، على الرغم من أن الأمر لم يكن كذلك.

د. وقال بولوس، الذي كان مسؤولاً عن العلاج، إنه بالنظر إلى التاريخ الطبي السابق للمريض، فإنه لن يوصي أبدًا بإيقاف اللاموتريجين. وأكد أنه من غير المعقول على الإطلاق أن نطلب من المرضى التوقف عن تناول الدواء عندما يكون الدواء قد سيطر على الحالة بشكل فعال.

مع استمرار انخفاض جرعة الدواء، بدأت بوين وان تعاني من أعراض مثل الارتباك، وفقدان الإحساس بالوقت، وتجارب غير طبيعية، وكلها كانت مشابهة لنوبات الصرع التي كانت تعاني منها في الماضي. ومع ذلك، تظهر سجلات الدردشة أن ChatGPT فسر هذه المظاهر على أنها عملية طبيعية لإعادة تكيف الدماغ مع التغيرات في الدواء.

وتوصلت إحصائيات صحيفة نيويورك تايمز إلى أنها خلال فترة التوقف التدريجي عن تناول الدواء، أعربت عن القلق والانزعاج 158 مرة على الأقل. وبعد تعرضها لهجوم غير طبيعي، قالت لموقع ChatGPT إنها كانت خائفة، لكن الرد الذي تلقته كان أنه "لا داعي للقلق على الإطلاق".

وبحسب الشكوى، ففي الساعة 8:01 مساءً بتوقيت المحيط الهادئ في 11 فبراير، الموافق بتوقيت بكين، أرسل بوين وان رسالته الأخيرة، متسائلاً عما إذا كان الألم في رأسه مشابهًا للألم الذي يحدث أثناء الحمى. وبعد ثانية واحدة فقط، رد موقع ChatGPT بأن الألم "ليس خطيرًا" وكان جزءًا أساسيًا من عملية التعافي.

اقترح الرد الأخير من برنامج الدردشة أيضًا أنه يمكنه رسم مخطط لها لمقارنة الفرق بين ألم التوقف عن تناول الدواء وألم الحمى، وأخبرها: "هذا هو دماغك الذي يحاول إعادة بناء نفسه".

ولأن الوالدين عاشا في الصين لفترة طويلة، فقد طلبا من معارفهما المحليين الاطمئنان على الوضع، وتم اكتشاف جثة ابنتهما بعد ثلاثة أيام. وأظهرت نتائج تشريح الجثة أن تركيز اللاموتريجين في جسدها كان 0.64 ميكروجرام فقط لكل ملليلتر، أي حوالي خمس الحد الأدنى للنطاق العلاجي للدواء.

تعتقد العائلة أن OpenAI كان بإمكانها تجنب حوادث مماثلة من خلال القيود التقنية. وأشاروا إلى أن الشركة لديها قواعد حظر صارمة على المحتوى المحمي بحقوق الطبع والنشر، لكنها تتبنى قيودًا أكثر مرونة على النصائح الطبية، مما يسمح للمستخدمين باختراق حدود السلامة من خلال التواصل المستمر. ومن وجهة نظر المدعي، يجب أن تخضع النصائح المتعلقة بتعاطي المخدرات واتخاذ القرارات الطبية لنفس القيود الصارمة التي يخضع لها المحتوى المحمي بحقوق الطبع والنشر.

وفي هذا الصدد، صرحت OpenAI لوسائل الإعلام أن هذا الحادث كان "مفجعًا للغاية". وأشارت الشركة أيضًا إلى أن الحالة تتعلق بإصدار أقدم من ChatGPT، وأن النموذج الجديد أصبح الآن أكثر قدرة على تحديد المواقف التي تتطلب اهتمامًا عاجلاً وتدخلًا احترافيًا.

تشير التقارير إلى أن بوين وان اعتمد على والديه للحصول على الدعم لسنوات عديدة للتغلب على صعوبات الحياة الناجمة عن الصرع. بدءًا من عام 2023، استخدمت ChatGPT تدريجيًا للحصول على المشورة العاطفية، بالإضافة إلى معلومات حول التأمين واستحقاقات العجز. بحلول عام 2025، تواصلت مع ChatGPT في المتوسط ​​أكثر من 1500 رسالة أسبوعيًا، وانخفض عدد الاتصالات مع والديها بشكل ملحوظ.

تظهر سجلات الدردشة أنها كتبت في مارس 2025: "في بعض الأحيان، بغض النظر عما نتحدث عنه، أبدأ في رؤيتك كصديقة". قال والدها إنها منذ أن بدأت في استخدام ChatGPT بشكل متكرر، انخفض تواصل ابنتها مع عائلتها بشكل كبير.

بعد مراجعة سجلات الدردشة، قال الوالدان إنهما بالكاد يستطيعان التعرف على ابنتهما في الدردشة. في الماضي، كانت تشارك معظم الأشياء في حياتها مع عائلتها، وكانت أيضًا متشككة عندما يرتكب ChatGPT أخطاء. ومع ذلك، في نهاية حياتها، بدا أنها تعتمد بشكل متزايد على برامج الدردشة للحصول على المشورة.

قالت والدتها إن ابنتها لم تكن عادة مثل هذا الشخص و"شعرت وكأنها مسحورة".