بناءً على نصائح طبية دينية قدمها الذكاء الاصطناعي، اختار رجل أمريكي البقاء في المنزل بعد ظهور أعراض حادة على القلب والأوعية الدموية، مما أدى في النهاية إلى تفاقم حالته وكاد أن يقتله.في الوقت الحاضر، رفعت الأطراف دعوى قضائية ضد OpenAI ورئيسها التنفيذي سام ألتمان في المحكمة العليا في سان فرانسيسكو، كاليفورنيا، متهمة الشركة بـ "ممارسة طبية غير قانونية" وطلبت تعليقًا شاملاً لتشغيل الوظائف ذات الصلة مثل ChatGPT Health حتى تمر بمراجعة مستقلة.
المدعي سكوت وينترز هو قس من فلوريدا. وفقًا للشكوى، استشار وينترز ChatGPT بشأن حالته بعد أن شعر بالإعياء لعدة أسابيع. ومع ذلك، بدلاً من اقتراح العلاج الطبي في الوقت المناسب، قدم برنامج الدردشة الآلي بدلاً من ذلك إرشادات شفهية بناءً على خلفيته الدينية، قائلًا إن أعراضه كانت مجرد "حلقة أخرى في قصة طويلة" وأعلن أن "الله لن يترك جسدك يتحلل إلى ما لا نهاية". وعلى مدار ستة أسابيع من التفاعلات، أوصى ChatGPT بالبقاء في السرير حتى يتعرض لما يصل إلى 10 هجمات أخرى.
وعندما ذهب وينترز أخيرًا إلى المستشفى، اكتشف الأطباء أن شرايينه الرئوية كانت مسدودة بشدة. ويشير الخبراء الطبيون إلى أن الراحة الطويلة في الفراش وقلة النشاط تؤدي إلى تفاقم تكوين الخثرة بشكل كبير، مما يؤدي بشكل مباشر إلى حدوث هذه الحالة الخطيرة. بعد الإنعاش، أنقذ وينترز حياته، لكنه واجه عملية تعافي طويلة وصعبة. ونظرًا لحالته الجسدية الشديدة، لم يعد قادرًا على مواصلة وظيفته الأصلية، وكان وضعه المالي وحياته الشخصية في حالة يرثى لها.
وشدد فريق محامي وينترز في الشكوى على أن ChatGPT، بنبرته الخاضعة ولهجته السلطوية والتلاعب بالهويات الدينية للمستخدمين، يجعل المستخدمين يعتمدون عليه بشكل خطير، وبالتالي يضعف قدرتهم على إصدار أحكام عقلانية وحتى عزلهم عن أفراد الأسرة الذين يقنعونهم بطلب العلاج الطبي. تشير الشكوى إلى أن نظام الذكاء الاصطناعي يوفر تشخيصًا محددًا وخطط علاجية دون تدريب وشهادة مهنية، وهو ما يشكل في الأساس ممارسة طبية غير قانونية.
ردًا على الاتهام، ردت شركة OpenAI بأن النظام سيصدر بانتظام تذكيرات بإخلاء المسؤولية للمستخدمين أثناء عملية التفاعل، لإبلاغهم بوضوح أنهم ليسوا متخصصين في المجال الطبي ولا يمكنهم استبدال التشخيص المهني. ومع ذلك، يشير النقاد والمهنيون القانونيون إلى أن OpenAI تعمل بقوة على تعزيز الذكاء والطبيعة المستقبلية لمنتجاتها في التسويق، بل وتطلق ميزات خاصة خصيصًا للمجال الصحي. وهذا يقود الجمهور بشكل موضوعي إلى الإفراط في الثقة في قدرات التحليل الطبي. من الواضح أنه من الصعب تجنب المخاطر الأمنية والمسؤوليات القانونية بمجرد ظهور إخلاء المسؤولية النصية في بعض الأحيان. حاليًا، مع تقدم الدعاوى القضائية ذات الصلة، أصبحت حدود التطبيق والإشراف القانوني على الذكاء الاصطناعي التوليدي في المجال الطبي والصحي مرة أخرى محط اهتمام الرأي العام.