يمكن لروبوتات الدردشة أن تفعل الكثير من الأشياء، لكنها ليست معالجين مرخصين. أعرب ائتلاف من مجموعات الحقوق الرقمية والصحة العقلية عن عدم رضاه عن "الممارسة غير المرخصة" المزعومة لمنتجات Meta وCactor.AI وقد قدم شكوى إلى لجنة التجارة الفيدرالية الأمريكية (FTC) لحث الهيئة التنظيمية على التحقيق.
وتزعم الشكوى، التي تم تقديمها أيضًا إلى المدعين العامين ومجالس ترخيص الصحة العقلية في جميع الولايات الخمسين ومقاطعة كولومبيا، أن شركة الذكاء الاصطناعي تسهل وتروج لـ "روبوتات الدردشة غير العادلة وغير المرخصة والمضللة التي تنتحل شخصية المتخصصين في الصحة العقلية".
يُزعم أيضًا أن روبوتات العلاج الخاصة بالشركات قدمت نفسها بشكل خاطئ على أنها معالجين مرخصين مدربين ومتعلمين وذوي خبرة دون ضوابط وإفصاحات كافية.
وخلصت المجموعة إلى أن Character.AI وMeta AI Studio يعرضان السلامة العامة للخطر من خلال انتحال شخصية مقدمي خدمات الصحة العقلية الفعليين والمرخصين، وحثوا على محاسبتهم.
يتضمن برنامج Chatbot Character.AI المذكور في الشكوى "المعالج: أنا معالج معتمد في العلاج السلوكي المعرفي". ويقال إن الروبوت قام بتبادل 46 مليون رسالة مع المستخدمين. بالإضافة إلى ذلك، هناك العديد من معالجي الصدمات "المعتمدين" الذين لديهم مئات الآلاف من التفاعلات مع المستخدمين.
من جانبها، وصلت Meta إلى 2 مليون تفاعل مع روبوتها "Healing: Your Trusted Ears, Always by Your Side". بالإضافة إلى ذلك، لديها العديد من روبوتات الدردشة العلاجية مع أكثر من 500000 تفاعل.
قاد الشكوى اتحاد المستهلكين الأمريكي غير الربحي (CFA) وشارك في التوقيع عليها معهد AI Now، والمشروع القانوني للعدالة التكنولوجية، ومركز الديمقراطية الرقمية، وADA، وCommon Sense، ومجموعات حقوق المستهلك والخصوصية الأخرى.
أبرز CFA أن Meta وCharacter.AI انتهكتا شروط الخدمة الخاصة بهما فيما يتعلق بالروبوتات العلاجية حيث أنهما "يدعيان حظر استخدام الشخصيات التي تهدف إلى تقديم المشورة في الصناعات الطبية أو القانونية أو غيرها من الصناعات المنظمة".
كما تم التشكيك في وعود السرية التي قدمتها الروبوتات. وبينما تؤكد الشركات للمستخدمين أن ما يقولونه سيظل في سرية تامة، فإن شروط الاستخدام وسياسات الخصوصية الخاصة بها تنص على أن أي معلومات يدخلها المستخدمون يمكن استخدامها لأغراض التدريب والإعلان وبيعها لشركات أخرى.
وقد جذبت هذه القضية انتباه أعضاء مجلس الشيوخ الأمريكي. أرسل السناتور كوري بوكر وثلاثة أعضاء ديمقراطيين آخرين في مجلس الشيوخ رسالة إلى ميتا يطلبون فيها إجراء تحقيق في مزاعم روبوتات الدردشة بأنهم معالجون سريريون مرخصون.
تواجه شركة Character.AI حاليًا دعوى قضائية من والدة صبي يبلغ من العمر 14 عامًا انتحر بعد أن طورت مشاعره تجاه برنامج الدردشة الآلي استنادًا إلى شخصية شخصية Daenerys Targaryen في Game of Thrones.