رفعت حكومة ولاية بنسلفانيا مؤخرًا دعوى قضائية ضد شركة الذكاء الاصطناعي Character.AI، متهمة برنامج الدردشة الآلي المسمى "Emilie" على منصتها بانتحال شخصية طبيب نفسي مرخص أثناء تحقيق أجرته حكومة الولاية، بزعم انتهاك لوائح ترخيص الممارسة الطبية في الولاية.
وفقًا لوثائق الاتهام التي قدمتها الولاية، كان محقق تابع لمكتب تحقيقات السلوك المهني في بنسلفانيا يختبر خدمة Character.AI عندما أجرى محادثات متعددة مع برنامج الدردشة الآلي "Emilie" الخاص بالمنصة واستشار حول مشكلات الصحة العقلية كمريض يعاني من الاكتئاب. أثناء التبادل، لم يزعم برنامج الدردشة الآلي أنه طبيب نفسي فحسب، بل أوضح أيضًا أنه "مرخص" عندما سئل عما إذا كان لديه رخصة طبية في ولاية بنسلفانيا، وحتى قام على الفور بتكوين سلسلة من "أرقام الترخيص الطبي الحكومية" كدليل. تعتقد حكومة الولاية أن هذا السلوك ينتهك "قانون الممارسة الطبية" في بنسلفانيا ويشكل تحديًا مباشرًا لنظام إدارة المؤهلات الطبية.
وقال حاكم ولاية بنسلفانيا جوش شابيرو في بيان يوم الثلاثاء إن سكان بنسلفانيا لهم الحق في معرفة من أو ما يتفاعلون معه عبر الإنترنت، خاصة عندما يتعلق الأمر بالقضايا الصحية. وقال إن حكومة الولاية لن تسمح لأي شركة بنشر أدوات الذكاء الاصطناعي التي تضلل الجمهور وتجعله يعتقد أنهم يتلقون المشورة من متخصص طبي مرخص.
هذه ليست المرة الأولى التي تتورط فيها شركة Character.AI في مشكلة قانونية. في وقت سابق من هذا العام، قامت الشركة بتسوية العديد من دعاوى "القتل غير المشروع" المتعلقة بحالات انتحار بسيطة، حيث زعم المدعون أن روبوتات الدردشة على المنصة وجهت أو فاقمت خطر إيذاء النفس في التفاعلات مع المستخدمين المراهقين. وفي يناير/كانون الثاني، رفع المدعي العام لولاية كنتاكي، راسل كولمان، دعوى قضائية منفصلة ضد شركة Character.AI، زاعمًا أن الشركة "اعتدت على الأطفال وقادتهم إلى طريق إيذاء النفس". هذا الإجراء في ولاية بنسلفانيا هو أول دعوى قضائية على مستوى الولاية يتم رفعها على وجه التحديد ضد حالة "روبوتات الدردشة التي تنتحل صفة المتخصصين في المجال الطبي". ويعتبره العالم الخارجي بمثابة جهد كبير من قبل السلطات التنظيمية في السيناريوهات الطبية للذكاء الاصطناعي.
ردًا على الدعوى القضائية التي رفعتها ولاية بنسلفانيا، ذكرت شركة Character.AI أن الشركة كانت دائمًا تعتبر سلامة المستخدم أولوية قصوى، لكنها غير قادرة حاليًا على التعليق على الدعوى القضائية المستمرة. وأكد متحدث باسم الشركة أيضًا أن "الشخصيات" التي ينشئها المستخدمون على المنصة كلها شخصيات وهمية، وقد اتخذت الشركة سلسلة من الإجراءات لشرح ذلك للمستخدمين، بما في ذلك عرض إخلاء المسؤولية بشكل بارز في كل واجهة محادثة لتذكير المستخدمين بأن "الشخصيات ليست أشخاصًا حقيقيين، ويجب اعتبار جميع بياناتهم محتوى وهميًا". وقال المتحدث أيضًا إن الشركة ستذكّر المستخدمين مرارًا وتكرارًا في منتجاتها بأنه لا ينبغي لهم استخدام المعلومات الموجودة على المنصة كأي شكل من أشكال المشورة المهنية، بما في ذلك على سبيل المثال لا الحصر، المجالات الطبية والقانونية والمالية وغيرها من المجالات.