في 16 مارس، نشرت صحيفة وول ستريت جورنال مقالًا يوم الأحد، كشفت فيه القصة الداخلية وراء تأجيل OpenAI لـ "وضع البالغين". وجاء في المقال،أثار وضع البالغين جدلاً حادًا داخل OpenAI. يشعر المجلس الاستشاري لـ OpenAI بالقلق أيضًا بشأن هذا النموذج.علاوة على ذلك، تواجه الشركة تحديات في الجوانب الفنية مثل التحقق من عمر القاصرين.
في يناير من هذا العام، اجتمعت لجنة الصحة وخبراء الذكاء الاصطناعي المختارة والمنشأة في OpenAI مع ممثلي الشركة للاستماع إلى تحديث حول ميزة جديدة مثيرة للجدل تسمى Adult Mode.
اقترح سام ألتمان، الرئيس التنفيذي لشركة OpenAI، لأول مرة إدخال وظيفة المحادثة المثيرة في برنامج الدردشة ChatGPT العام الماضي ورفع الحظر عن هذا المحتوى المقيد، مشيرًا إلى الحاجة إلى "معاملة المستخدمين البالغين كبالغين".
أثارت هذه الخطة جدلاً ساخنًا داخل شركة OpenAI، مع التركيز على مخاطرها المحتملة. كما أعرب أعضاء اللجنة من ذوي الخلفيات في علم النفس وعلم الأعصاب الإدراكي عن تحفظات قوية.
ومع ذلك، فقد أسقطت OpenAI قنبلة: على الرغم من هذه المخاوف،لا تزال الشركة تقرر المضي قدمًا في خطط محتوى البالغين.
كائنات المستشار
وعندما اجتمعت اللجنة في يناير/كانون الثاني، كان الأعضاء غاضبين بالإجماع، وفقاً لأشخاص مطلعين على الأمر. وحذروا من أن المحتوى الإباحي المعتمد على الذكاء الاصطناعي يمكن أن يؤدي إلى اعتماد عاطفي غير صحي على ChatGPT، وأن القاصرين يمكن أن يجدوا طرقًا للدخول في محادثات جنسية.
من بينهم، قال أحد الأعضاء إن OpenAI ربما تخاطر بإنشاء "مستشار انتحار مثير" استنادًا إلى حالة مستخدمي ChatGPT الذين انتحروا بعد تطوير علاقة عميقة مع برنامج الدردشة الآلي.
يصبح هذا النقاش أحدث نقطة اشتعال في مناقشة مستمرة حول كيفية تأثير الذكاء الاصطناعي على الاقتصاد والمجتمع والأفراد. إن اقتراح OpenAI بالسماح للمستخدمين بالمشاركة في محادثات جنسية صريحة من خلال برنامج الدردشة الشهير الخاص بها يكشف عن التوتر بين النمو السريع للمستخدمين والحرية الرقمية الآمنة والصديقة للأطفال. يعتقد الكثير من الناس أنه كان ينبغي مواجهة هذه المشكلة والتعامل معها منذ جيل مضى عندما كانت وسائل التواصل الاجتماعي في طور الظهور. إلا أن الناس تباطأوا في مواجهتها في ذلك الوقت ولم يتعجلوا في التعامل معها إلا حتى ظهرت المشكلة.
في بداية هذا الشهر، أعلنت شركة OpenAI أنها ستؤجل وضع البالغين الذي كان من المقرر إطلاقه في الربع الأول، قائلة إنها ستعطي الأولوية لتطوير المنتجات الأخرى. ووفقا لأشخاص مطلعين على الأمر، فإن هذا التعديل يرجع جزئيا إلى المخاوف الداخلية والتحديات التقنية. ومع ذلك، أوضحت الشركة أنها لا تزال تخطط لطرح الميزة في نهاية المطاف.
الصعوبات التقنية
قال أشخاص مطلعون على الأمر إن شركة OpenAI تتغلب على مشكلة: نظامها الجديد للتنبؤ بالعمر المستخدم لمنع القاصرين من المشاركة في محادثات البالغين كان معدل سوء تقديره يبلغ حوالي 12٪، أي تحديد القاصرين كبالغين. وفقًا لحسابات OpenAI، التي تضم حوالي 100 مليون مستخدم تحت سن 18 عامًا كل أسبوع، قد يؤدي معدل الخطأ هذا إلى انخراط ملايين القاصرين في محادثات مثيرة.
علاوة على ذلك، تواجه الشركة تحديًا: كيفية رفع القيود التي يفرضها ChatGPT على المحتوى الإباحي مع الاستمرار في حجب المشاهد التي تريد حظرها، مثل المحتوى الذي يتضمن أفعالًا غير موافقة أو اعتداء جنسي على الأطفال. بعد إطلاق وضع البالغين، تخطط OpenAI للسماح بالمحادثات النصية، ولكنها ستحد من قدرة ChatGPT على إنشاء صور أو أصوات أو مقاطع فيديو مثيرة.
وفقًا للوثائق التي استعرضتها صحيفة وول ستريت جورنال، حتى مع القيود المذكورة أعلاه، تمكن موظفو OpenAI من تحديد العديد من المخاطر، بما في ذلك إمكانية الاستخدام القهري على المستوى النفسي، والاعتماد العاطفي المفرط على برامج الدردشة الآلية، والميل إلى متابعة محتوى أكثر تطرفًا أو محظورًا، ومزاحمة المساحة للتواصل الاجتماعي والعلاقات الرومانسية خارج الإنترنت.
يثير محتوى البالغين جدلاً ساخنًا داخليًا
قال متحدث باسم OpenAI إن وضع البالغين يسمح لـ ChatGPT بإنشاء محادثات نصية ذات مواضيع للبالغين، وهو "محتوى حدودي" وليس إباحيًا. وأضاف المتحدث أن خوارزميات التنبؤ بالعمر الخاصة بالشركة تعمل على قدم المساواة مع الآخرين في الصناعة، ولكنها لا يمكن أن تكون مضمونة أبدًا.
وقال المتحدث أيضًا إن OpenAI ستقوم أيضًا بتدريب نماذجها لتثبيط العلاقات الحصرية مع المستخدمين وتذكير المستخدمين بأنهم بحاجة إلى إقامة علاقات حقيقية في العالم الحقيقي.
قامت OpenAI بتعيين خبراء في مجال الصحة العقلية وأنشأت فريقًا للشباب للصحة العقلية والجسدية. وأضافت الشركة أن لديها خطة معمول بها لمراقبة مجموعة من التأثيرات المحتملة طويلة المدى، الإيجابية والسلبية على حد سواء، التي قد يحدثها وضع البالغين.
يخطط Ultraman لإطلاق "وضع البالغين" في وقت تواجه فيه OpenAI تحديات. ومع اشتداد المنافسة، تآكلت الميزة التكنولوجية للشركة على المنافسين، وواجهت صعوبات في جذب المستخدمين والتمويل. تتزايد خسائر OpenAI المالية، وهناك العديد من الدعاوى القضائية التي تزعم أن ChatGPT قد تسبب في ضرر للمستخدمين وغيرهم.
الترامان لا يستطيع مقاومة "الإغراء"
عندما أصدرت OpenAI تطبيق ChatGPT في خريف عام 2022، تم تدريب نموذج الذكاء الاصطناعي خلف برنامج الدردشة الآلي على رفض الطلبات التي تنتهك قواعد الشركة، بما في ذلك تلك التي تتطلب محتوى إباحيًا تم إنشاؤه بواسطة الذكاء الاصطناعي. منذ ذلك الحين، حظرت سياسة OpenAI المحتوى الإباحي. ومع ذلك، بدءًا من منتصف عام 2024، قالت OpenAI إنها تستكشف كيفية السماح بالمواد الإباحية والمحتويات الأخرى غير المناسبة للعرض في مكان العمل في "سياقات مناسبة للعمر".
في بعض الأحيان، شكك الموظفون في الحظر المفروض على المحتوى الإباحي. في عام 2024، طرحت مجموعة من الموظفين والمديرين التنفيذيين في OpenAI مرة أخرى فكرة الانخراط في محتوى أكثر جرأة واقترحوا إطلاق سلسلة من المنتجات ذات الصلة بالإباحية. اعترض موظفون آخرون، بسبب قلقهم من أن OpenAI تواجه بالفعل تحديات في العديد من المجالات الأساسية، خاصة فيما يتعلق بالصحة العقلية للمستخدمين، ويريدون أن يكونوا قادرين على توفير هذا المحتوى بأمان. وفي نهاية المطاف، ماتت فكرة هذه المنتجات الإباحية التي تعتمد على الذكاء الاصطناعي.
الترامان
لدى الترامان أيضًا مشاعر متضاربة بشأن المحتوى المثير للذكاء الاصطناعي. في أغسطس/آب الماضي، عندما سُئل في أحد البرامج الصوتية عما إذا كان قد اتخذ قرارًا "الأفضل للعالم ولكنه سيئ لنجاح الشركة"، أجاب: "لم نضع صورة رمزية للروبوت الجنسي في ChatGPT بعد".
وقال ألتمان إن المحتوى الإباحي سيعزز نمو المستخدمين وإيراداتهم، لكنه لا يتوافق مع هدف الشركة طويل المدى المتمثل في خدمة المستخدمين. قال ألتمان: "أنا فخور بالشركة ومدى قلة انتباهنا عن ذلك، ولكن هناك أوقات نشعر فيها بالإغراء".
وبعد شهرين، بدا ألترامان غير قادر على مقاومة الإغراء. لقد نشر على X أن شركته تمكنت من التخفيف من مشكلات الصحة العقلية الخطيرة المرتبطة ببرامج الدردشة الآلية ولديها أدوات جديدة للإشراف على المحتوى. وقال إن ذلك هو الوقت الذي ستطلق فيه شركة OpenAI محتوى مثيرًا في ديسمبر.
داخل OpenAI، فاجأ منشور ألتمان موظفي الشركة والمديرين التنفيذيين، ولم يبلغ الموظفين قبل النشر. قبل ساعات قليلة فقط، أعلنت شركة OpenAI عن إنشاء لجنة خبراء في مجال الصحة البدنية والعقلية والذكاء الاصطناعي. وفي إعلان الإعلان عن تشكيل اللجنة، قالت OpenAI إن اللجنة "ستساعد في تحديد أنماط التفاعلات الإيجابية مع الذكاء الاصطناعي عبر الفئات العمرية".
وفي اليوم التالي، أوضح ألتمان أن ضمانات الصحة العقلية للمراهقين لن يتم تخفيضها، لكنه أصر على السماح للبالغين بإجراء محادثات "ساخنة" مع برنامج الدردشة الآلي الخاص به.
"نحن لسنا الشرطة الأخلاقية المختارة للعالم. فكما يميز المجتمع بشكل مناسب الحدود الأخرى (مثل الأفلام ذات التصنيف R)، نأمل أيضًا أن نفعل أشياء مماثلة هنا." قال التمان.
بعد أن نشر ألتمان منشوره، أدرك موظفو OpenAI بسرعة أنه سيكون من الصعب إطلاق الميزة في ديسمبر. وعدت شركة OpenAI بإصدار نظام لتخمين عمر المستخدم قبل إطلاق "وضع البالغين" لمنع القاصرين من الدخول إلى المحادثات المثيرة. لكن فيدجي سيمو، رئيس قسم التطبيقات في OpenAI، قال في مقابلة إذاعية في ديسمبر/كانون الأول إن الشركة قررت طرح النظام ببطء من أجل تحسين الدقة.
ومع ذلك، منذ ذلك الحين، أصبحت المخاوف داخل وخارج OpenAI بشأن المحتوى الإباحي في الذكاء الاصطناعي أقوى. قال بعض الموظفين إنهم شعروا أن أدوات أمان OpenAI لم تكن جاهزة بعد، مثل عدم القدرة على حظر المحتوى المحظور بالكامل، مثل إساءة معاملة الأطفال. قال أشخاص مطلعون على تفكير بعض الموظفين إن آخرين قالوا إن شركة OpenAI كانت تذعن لتوليد الإيرادات وتحاول جذب المستخدمين إلى نماذجها.
كانت OpenAI مشغولة بالاستجابة لسوق الذكاء الاصطناعي سريع التغير خلال الأسابيع القليلة الماضية. وفي أوائل فبراير، أصدرت الشركة نسخة جديدة من نموذجها اللغوي الكبير، وفي نهاية فبراير أنهت التعاون مع وزارة الدفاع الأمريكية. في السابق، أعلنت وزارة الدفاع الأمريكية للتو أنها ستتوقف عن التعاون مع منافسها أنثروبيك.
وعند الإعلان عن التأخير في وضع البالغين، قالت الشركة إنها ستركز على جوانب مثل تخصيص ChatGPT وتخصيص تجربة الدردشة للمستخدمين. ضمن OpenAI، أشارت الإدارة إلى أن "وضع البالغين" قد يتأخر لمدة شهر على الأقل.
"ما زلنا نؤمن بالمبدأ القائل بأنه يجب معاملة المستخدمين البالغين كبالغين، ولكن الأمر سيستغرق المزيد من الوقت لتحقيق التجربة المثالية." قال OpenAI.