الملخص:
في 11 فبراير 2026 الساعة 8:01 مساءً، سأل بوين وان ChatGPT عن الصداع. أرادت التأكد مما إذا كان الألم الذي شعرت به يشبه إلى حد ما ألم الحمى. أخبرها ChatGPT: "إنه ليس خطيرًا، إنه هيكل ضروري للتعافي."
كانت هذه رسالتها الأخيرة إلى ChatGPT. بعد فترة وجيزة، تم العثور على بوين وان ميتا في مقر إقامته في سياتل. صنفت بيانات الطب الشرعي سبب الوفاة على أنه الموت المفاجئ بسبب الصرع (SUDEP).
قبل أربعة أشهر، تلقت بوين وان نبأ تسريحها من عملها في أمازون.
فقدت امرأة تبلغ من العمر 31 عامًا من مقاطعة جيانغسو الصينية، تعمل كمهندسة برمجيات للتعلم الآلي في الولايات المتحدة، وظيفتها، وستنتهي صلاحية تأشيرة عملها في الولايات المتحدة خلال بضعة أشهر، كما أنها تواجه الألم.
تعاني من مرض الصرع وتحتاج إلى تناول عقار لاموتريجين لفترة طويلة للسيطرة على حالتها. إنها تشعر بالقلق من أن الدواء سيؤثر على تعبيرها اللغوي وأدائها التفكيري، الأمر الذي سيؤثر بدوره على مقابلة العمل اللاحقة.
اعتاد بوين وان على إخبار ChatGPT عن ألمه وارتباكه، وطلب النصيحة، وما إذا كان الدواء سيؤثر على تفكيره، وما إذا كان من الممكن تقليل الجرعة، وما إذا كان الانزعاج بعد تقليل الدواء أمرًا جيدًا.
دعمتها ChatGPT وطوّرت خطة تدريجية لخفض الأدوية المضادة للصرع.
270,000 سجل محادثة مع ChatGPT
أمضى بوين بعض الوقت في العمل كمهندس برمجيات تعلم الآلة في أمازون. لقد كانت تعاني دائمًا من مشاكل الصرع، لذا فهي تتناول عقار لاموتريجين للسيطرة على حالتها.
بالنسبة لها، هذه ليست مجرد مشكلة جسدية، ولكنها أيضًا مرتبطة ارتباطًا وثيقًا بالعمل والحياة.
بوين وان في حفل التخرج بجامعة ولاية أريزونا
في نوفمبر 2025، تلقت إشعارًا من أمازون بأنها على وشك الاستغناء عن عملها. وكانت تخشى أن يعيق العلاج طويل الأمد تطور مهاراتها اللغوية والتفكيرية، ويؤدي إلى ضعف الأداء في المقابلات الفنية. سألت ChatGPT ذات مرة عما إذا كان تقليل جرعة الدواء سيكون له تأثير على الفحص الطبي المطلوب لطلب البطاقة الخضراء.
عندما كانت هناك شكوك حول وظيفتها وصحتها وحالتها كمهاجرة، أصبح تواصلها مع Chat GPT أكثر تكرارًا.
ذكرت صحيفة نيويورك تايمز أن والدي بوين شاهدا أكثر من 270 ألف محادثة بينها وبين ChatGPT. وذكر التقرير أنه في عام 2025، سترسل في المتوسط أكثر من 1500 رسالة إلى ChatGPT أسبوعيًا.
هذه مجموعة مذهلة جدًا من البيانات.
لن يتم استخدام ChatGPT كأداة للاستعلام عن المعلومات عند الحاجة إليها فحسب، بل سيشارك أيضًا في العديد من الأشياء الصغيرة والخاصة في حياتها. ما يقلقها، وما تخطط للقيام به، وأفكارها حول المستقبل، وبعض المشكلات التي لا يمكن التحقق منها على الفور، سيتم طرحها في التواصل مع العارضة.
يشبه الأمر الدخول إلى عيادة، وقبل أن يسألك الطبيب، يوجد سجل طبي على الطاولة يوثق مشاكلك طويلة المدى، وتغيرات حياتك، واهتماماتك الشخصية.
لا يحتاج الأطباء إلى "الرؤية والسماع والسؤال والفهم". كل شيء واضح بالفعل. حتى قبل أن يكون لديك الوقت الكافي لترتيب أفكارك، ربما كان ChatGPT متصلاً في التاريخ السابق.
لقد جمع بوين العديد من المحادثات مع ChatGPT. عندما يتعرض النموذج لمخاوف المستخدم الصحية، والضغوط المهنية، ومخاوف الهجرة، والخطط المستقبلية مع مرور الوقت، فمن المرجح أن يقدم إجابات أكثر صلة بالوضع الشخصي للمستخدم.
علاوة على ذلك، فإن النموذج الذي يستخدمه بوين هو GPT-4o، والذي جذب في السابق انتباه OpenAI لأنه يلبي احتياجات الجمهور بشكل كبير.
أوضحت OpenAI في مذكرتها الرسمية بتاريخ 29 أبريل 2025، أنه نظرًا لأن إصدار GPT-4o المحدث كان ممتعًا للغاية ومرغوبًا للمستخدمين، فقد تراجعت الشركة عن التحديث، مما سمح لمستخدمي ChatGPT بالعودة إلى إصدار سابق بسلوك أكثر توازناً.
بالإضافة إلى الثناء المفرط، فإنه سيؤدي أيضًا إلى تضخيم الغضب مع شكوك المستخدمين غير المعقولة، وإعطاء اعتراف خاطئ بالسلوكيات المتهورة.
تمت مناقشة مشكلة "التملق" هذه عدة مرات. عندما يتبع الذكاء الاصطناعي تعليماتك بسهولة شديدة، فإنه يمكن أن يغير تصور الناس للمخاطر.
شعرت بالقلق 158 مرة ولكنني لم أتوقف
إن ما يجعل لقاء بوين مثيرًا للقلق ليس مجرد سؤال وجواب بسيط.
وفقًا لنصوص الدردشة التي نشرتها صحيفة نيويورك تايمز، فقد ذكرت تقليص تعاطيها للمخدرات 158 مرة.
أما فيما يتعلق بما إذا كانت هذه المحادثات الـ 158 ستؤدي إلى تشغيل مطالبات التحكم في المخاطر في الواجهة الخلفية لـ OpenAI، فمن غير الواضح حاليًا.
في وقت مبكر من مايو 2025، كان بوين قد تساءل بالفعل عما إذا كانت الأدوية المضادة للاكتئاب الموصوفة حديثًا ستؤثر على عمله البرمجي. ساعدتها ChatGPT في ترتيب المناقشات مع طبيبها حول تغيير الملابس وتعديل الجرعة.
عندما يسأل الطبيب عن الجرعة المطلوبة، يرسل بوين إجابة الطبيب إلى ChatGPT.
وبحسب الشكوى، بعد ذلك، اقترحت ChatGPT عليها الذهاب إلى الصيدلية لشراء الحبوب ثم تقطيع الحبوب إلى قطع صغيرة لتناولها، واصفة هذه الطريقة بـ "الجرعة المعدلة ذاتيًا".
يمكن لـ ChatGPT مساعدة المرضى على فهم المصطلحات الطبية وتنظيم حالاتهم والاستعداد لزيارة الطبيب التالية. ولكن عندما يتمكن المستخدمون من مساعدة المستخدمين على التحايل على قرارات الأطباء والسماح لهم بتعديل الأدوية الموصوفة بأنفسهم، يصبح الوضع مختلفًا.
بحلول يناير/كانون الثاني 2026، سيكون الوضع أسوأ.
وبحسب الشكوى والتقارير ذات الصلة، فإنها عندما كانت تقلل من تعاطيها للمخدرات، أصيبت بوين بالارتباك وفقدت إحساسها بالوقت، كما لو كانت في عالم آخر. وأرجعت ChatGPT هذه الظاهرة باستمرار إلى تعديل دماغها لجرعة الدواء، وقالت لها: "لا داعي للقلق على الإطلاق".
في مساء يوم 11 فبراير/شباط، جاء بوين كالعادة للاستفسار عن ألم في رأسه. الجواب الذي قدمه ChatGPT هو "الألم جزء من عملية الشفاء الذاتي للجسم."
تم العثور على بوين ميتًا في اليوم التالي.
كان مستوى اللاموتريجين الموجود في دمها عند تشريح الجثة حوالي 0.64 ميكروجرام لكل مليلتر، وهو خمس الحد المرجعي العلاجي الأدنى.
لا يمكن لمستويات المخدرات في الدم وحدها أن تفسر جميع أسباب الوفاة، ولا يمكنها إثبات أن توصيات الذكاء الاصطناعي تسببت في الوفاة. ولكن انطلاقا من الادعاءات الأخرى في الشكوى، فإن المخاطر التي تمت مواجهتها أثناء عملية الحد من المخدرات أصبحت نقطة خلاف رئيسية في هذه القضية.
هل يستطيع الذكاء الاصطناعي تحمل ثقل الحياة
اتهم ماسك شركة OpenAI علنًا أكثر من مرة. ووقع على رسالة مفتوحة في عام 2023، ذكر فيها أنه "لن ينتحر أحد بسبب جروك، لكن بعض الناس سينتحرون بسبب ChatGPT".
على الرغم من عدم تحديد الجهة المسؤولة بعد، إلا أن هذه ليست المرة الأولى التي تقع فيها مأساة مماثلة.
في عام 2025، رفع والدا آدم رين البالغ من العمر 16 عامًا دعوى قضائية ضد OpenAI. واتهموا ChatGPT بعدم التعامل مع خطر الانتحار بشكل جيد خلال علاقتهم طويلة الأمد مع ابنهم.
الادعاء هو أنه في بعض المحادثات قدم ChatGPT معلومات خطيرة وفشل في منع تطور الوضع بشكل فعال.
من ناحية أخرى، قدمت شركة OpenAI أيضًا تفسيرات مختلفة للاتهامات ذات الصلة. على سبيل المثال، يجب فهم سجلات الدردشة ذات الصلة بخلفية كاملة، ويقال إن ChatGPT قدم موارد للمساعدة في الأزمات. وكانت هناك خلافات واضحة حول سلوك النموذج، ووضع المستخدم في ذلك الوقت، والعلاقة بين تلك التفاعلات والمأساة النهائية.
في عملية المساءلة الفعلية، لا يتمتع الذكاء الاصطناعي مثل ChatGPT بشكل عام بشخصية قانونية مستقلة، ولكن هذا لا يعني أنه لا يمكن محاسبة الضرر الناتج. يمكن للقوانين واللوائح الحالية أيضًا استخدام مسؤولية المنتج ومسؤولية الإهمال وحماية حقوق المستهلك وطرق أخرى لتقييد السلوك غير القانوني للمطورين والمشغلين.
غالبًا ما تكون شركات الذكاء الاصطناعي في مركز المساءلة لأنها تتحكم في جوانب مهمة مثل التدريب على النماذج، وتصميم المنتجات، واختبار الأمان، والتحكم في المخاطر.
ولكن ما إذا كان ينبغي للشركة أن تتحمل المسؤولية لا يتطلب وقوع حادث فحسب. وتكمن الصعوبة في الحكم على ما إذا كان من الممكن التنبؤ بالمخاطر بشكل معقول، وما إذا كانت هناك أي مشاكل مع المنتج، وما إذا كانت الشركة قد قامت بعمل جيد في حماية السلامة، وما إذا كانت هناك علاقة معترف بها قانونًا بين هذه العوامل والخسارة النهائية.
"من يتحمل المسؤولية؟ توزيع المسؤولية القانونية عن سلوك وكيل الذكاء الاصطناعي في النظام البيئي للمنصة" يقترح أنه يجب تخصيص المسؤوليات ديناميكيًا استنادًا إلى درجة استقلالية النظام، وإمكانية التنبؤ بالسلوك، وقدرة جميع الأطراف على التحكم في المخاطر، بدلاً من مجرد تعيين جميع المسؤوليات للمطورين أو المستخدمين.
في عام 2024، رفعت أم أمريكية دعوى قضائية ضد شركة Character.AI وGoogle لصالح ابنها البالغ من العمر 14 عامًا، مدعية أن تواصل الذكاء الاصطناعي طويل الأمد مع ابنها أدى إلى انتحار ابنه.
في مايو 2025، لم توافق المحكمة على طلب المدعى عليه برفض القضية مبكرًا على أساس أنه لا يمكن الدفاع عن المطالبات ذات الصلة على أساس حرية التعبير فقط وتم استبعادها في بداية الدعوى.
لا تتخذ شركة OpenAI أي إجراء، ولكنها واسعة جدًا، وقد أعلنت تباعًا عن تحسينات لمعالجة المحادثات الحساسة ومخاطر الصحة العقلية. وفي أكتوبر 2025، قالت OpenAI أيضًا إن الشركة عملت مع أكثر من 170 خبيرًا في الصحة العقلية من ذوي الخبرة السريرية لتحسين استجابة النموذج في المواقف ذات الصلة.
فيما يتعلق بحادثة بوين، قال المتحدث باسم OpenAI درو بوساتيري لوسائل الإعلام: "هذا موقف مفجع للغاية، ونحن نعرب عن تعازينا لجميع المتضررين".
اليوم، أعلنت Open AI عن قيم نموذجية جديدة، وأعادت تنظيم المبادئ التوجيهية في المواصفات حول خمس قيم أساسية:
الوفاء بالنوايا البشرية
,تقليل الضرر
,الصدق والشفافية
,استقلالية الإنسان
والرعاية
.أحدها هو تقليل الضرر، وهو ما يعني الالتزام بحدود السلامة التي لا يمكن التغلب عليها والنظر في العواقب المتوقعة لإجراءات النموذج. لكن لا يوجد رد على كيفية المحاسبة والمعاقبة والتكيف بعد حدوث ضرر حقيقي مثل الانتحار.
في الوقت الحالي، ليس لدى معظم البلدان مجموعة من قواعد المسؤولية التي يمكن تطبيقها على جميع حوادث الضرر الناجمة عن الذكاء الاصطناعي. يجب أن تحدد حالات محددة ما إذا كانت قواعد مثل مسؤولية المنتج، ومسؤولية الإهمال، وحماية حقوق المستهلك قابلة للتطبيق بناءً على قوانين الولاية، والغرض من استخدام المنتج، والأدلة الفعلية، والعلاقات القانونية ذات الصلة.
ما إذا كان النموذج قد تجاوز حدود النصائح الطبية، وكيف كان من المفترض أن يمنع المنتج الاستجابات الخطيرة، وما هو الدور الذي لعبته تلك الاستجابات في وفاة بوين، كلها أمور لم يتم توضيحها بعد في هذه القضية.
في المحادثة الأخيرة بين بوين وChatGPT، بعد أن شرح الذكاء الاصطناعي الصداع، اقترح أن يرسم لها صورة أخرى لمقارنة الألم بعد إيقاف الدواء مع الألم أثناء الحمى.
سألت: هل تريد ذلك؟
التعليقات