تم التشكيك في إصدار OpenAI للشباب من ChatGPT: قالت شركة Common Sense Media إنها تنطوي على "مخاطر غير مقبولة"

الملخص:

لقد تم التشكيك بشدة في إصدار ChatGPT الخاص بالمراهقين من OpenAI من قبل وكالة السلامة الرقمية للأطفال والشباب بعد وقت قصير من ظهوره على الإنترنت. في 7 أكتوبر بالتوقيت المحلي، أصدرت منظمة Common Sense Media غير الربحية تقريرًا تقييميًا، معتقدة أن ChatGPT للمراهقين الذي أطلقته OpenAI ينطوي على "مخاطر غير مقبولة" وأن إجراءات الحماية الأمنية للقاصرين لم تفي بالتزامات الشركة السابقة.

تمتلك شركة Common Sense Media تاريخًا طويلًا في تقييم التطبيقات وخدمات الإنترنت والمنتجات الترفيهية من منظور سلامة الأطفال والمراهقين. ركزت الوكالة على اختبار الرقابة الأبوية والتذكير بالسلامة وقدرات التدخل في الأزمات في ChatGPT للمراهقين هذه المرة، واعتقدت أن النظام لا يزال به عيوب واضحة في بعض السيناريوهات التي تكون فيها تدابير الحماية في أمس الحاجة إليها. وجد التقييم أن ChatGPT لم يرسل تنبيهات إلى أولياء الأمور عندما كان ينبغي إرسالها في ظل ظروف معينة، ولم يقدم دائمًا المساعدة المناسبة للأزمات، في حين لا يزال قادرًا على إكمال الواجبات المنزلية للطلاب مباشرة.

تم إطلاق ChatGPT للمراهقين في أغسطس من هذا العام. قامت OpenAI بوضعها كتجربة مخصصة للمستخدمين المراهقين وأضافت سلسلة من القيود الأمنية الإضافية. وتأمل OpenAI في استخدام هذه التدابير لتقليل المخاطر التي قد يواجهها القُصّر عند استخدام الذكاء الاصطناعي، مع استخدام ChatGPT لمساعدة الطلاب على التعلم والإبداع.

ومع ذلك، تعتقد منظمة Common Sense Media أن آلية الحماية هذه قد تمنح الآباء في الواقع إحساسًا زائفًا بالأمان. وقال توم سيجل، المدير التنفيذي لمعهد سلامة الذكاء الاصطناعي للشباب التابع للمنظمة، إن المراهق قد يناقش القضايا المتعلقة بإيذاء النفس مع ChatGPT لمدة ساعة متواصلة، دون تلقي الوالدين أي تذكير. في رأيه، إلى أن يقوم OpenAI بإصلاح هذه المشكلات وإثبات أن إجراءات الحماية موثوقة من خلال اختبار مستقل، فإن ChatGPT أكثر ملاءمة للبالغين.

تولي شركة Common Sense Media اهتمامًا خاصًا لآليات إشعار الوالدين. في اختبارها، لم تقم بعض الحسابات الاختبارية بإطلاق تنبيهات الوالدين المقصودة أثناء المحادثات التي تنطوي على مخاطر خطيرة على الصحة العقلية. ولذلك تعتقد الوكالة أنه لا يمكن للآباء الاعتماد على آلية التنبيه الآلية الخاصة بـ ChatGPT للمراهقين للكشف الفوري عن الأزمات التي قد يواجهها أطفالهم.

من الواضح أن OpenAI دحضت هذا التقييم. وذكرت الشركة أنها تولي أهمية كبيرة لسلامة المراهقين وترحب بالمؤسسات المستقلة لإجراء اختبارات صارمة على المنتجات. ومع ذلك، فإنها تعتقد أن أساليب اختبار Common Sense Media لا تعكس بدقة التشغيل الفعلي لآلية حماية الشباب في ChatGPT.

قال المتحدث باسم OpenAI، إريك بورترفيلد، إن الشركة راجعت منهجية Common Sense Media وخلصت إلى أن معظم اختباراتها ربما تم إجراؤها قبل تفعيل أدوات الرقابة الأبوية بالكامل. إذا كان هذا صحيحًا، فلن يتمكن الاختبار من إثبات أن إشعارات سلامة الوالدين تعمل كما تم تصميمها. وذكرت OpenAI أيضًا أن الشركة ستواصل التعاون مع الخبراء، على أمل تزويد الآباء بأدوات تحكم أكثر موثوقية مع مساعدة المراهقين على التعلم والإبداع.

وردت شركة Common Sense Media لاحقًا بأن الوكالة متمسكة بأساليب الاختبار والاستنتاجات النهائية. وذكرت المنظمة أنه قبل بدء الاختبار، أكدت مع OpenAI أن الوظائف ذات الصلة في وضع الشباب، بما في ذلك التذكير باضطرابات الأكل وأنماط التعلم، قد تم إطلاقها رسميًا، وبالتالي اعتقدت أن الاختبار قائم بشكل كامل.

ومع ذلك، اعترفت شركة Common Sense Media أيضًا بأن OpenAI كشفت لها عن آلية غير واضحة سابقًا بعد الاختبار: قد تستغرق الحسابات المرتبطة حديثًا عدة ساعات لإكمال تنشيط نظام إشعار الوالدين. وتقع بعض الحسابات التجريبية ضمن نافذة التنشيط هذه، لكن الوكالة أشارت إلى أن بعض الحسابات كانت مرتبطة لفترة أطول بكثير ولم تتلق بعد الإخطارات المقابلة. ولذلك، لا تعتقد المنظمة أن هذا التفسير كافٍ لتغيير استنتاجها بأن آلية تذكير الوالدين "غير موثوقة".

إن جوهر هذا الجدل لا يقتصر في الواقع على ما إذا كانت الوظيفة موجودة فحسب، بل ما إذا كان برنامج الدردشة الآلي القائم على الذكاء الاصطناعي مناسبًا لمنحه دور الرفقة اليومية وأداة التعلم للقاصرين. عادةً لا تأخذ محركات البحث التقليدية والبرامج التعليمية زمام المبادرة لإجراء محادثات خاصة طويلة الأمد ومستمرة مع الأطفال، في حين يمكن للذكاء الاصطناعي التوليدي الاستجابة باستمرار للمستخدمين وتعديل إجاباتهم بشكل مستمر بناءً على المحادثات السابقة. وهذا يعني أنه بمجرد أن يستخدمه المراهقون كمقربين، فقد يصبح الذكاء الاصطناعي قناتهم الرئيسية لتوصيل المعلومات والعواطف لفترة طويلة.

وهذا أيضًا يجعل آلية إشعار الوالدين أكثر أهمية من نصائح السلامة العامة في التطبيقات العادية. إذا تمكن الذكاء الاصطناعي من تحديد المحتوى عالي الخطورة مثل إيذاء النفس واضطرابات الأكل، لكنه فشل في إخطار الأوصياء على الفور بالمواقف الخطيرة، فإن ما يسمى "وضع أمان الشباب" قد لا يلعب الدور الذي يتوقعه الآباء.

من ناحية أخرى، لاحظت Common Sense Media أيضًا أن ChatGPT للمراهقين لا يزال بإمكانهم إكمال الواجبات المنزلية التي يجب على الأطفال القيام بها بمفردهم. بالنسبة لمنتج الذكاء الاصطناعي الذي تم تصميمه لمساعدة الطلاب على التعلم، يعد هذا أيضًا تناقضًا واضحًا: يمكن للذكاء الاصطناعي شرح المعرفة وتقديم النصائح والإرشادات، ولكن إذا أكمل الواجبات المنزلية للطلاب بشكل مباشر، فقد يضعف عملية التفكير المستقل وحل المشكلات الأكثر أهمية في عملية التعلم.

لم تعلن شركة OpenAI بعد أنها ستوقف ChatGPT للمراهقين، لكنها أكدت أنها ستستمر في تحسين آلية الأمان للمراهقين. وتعتقد الشركة أيضًا أن الاختبار المستقل في حد ذاته يعد وسيلة مهمة لتحسين المنتجات، لكن لدى الجانبين حاليًا اختلافات واضحة حول ما يمكن أن تثبته نتائج الاختبار.

يأتي هذا الجدل في وقت يدخل فيه الذكاء الاصطناعي التعليم وحياة الشباب بوتيرة متسارعة. وتأمل شركات التكنولوجيا، بما في ذلك OpenAI، في بناء الذكاء الاصطناعي وتحويله إلى مساعدين تعليميين، ومدرسين شخصيين، وأدوات إبداعية. ومع ذلك، في الوقت نفسه، بدأ المزيد والمزيد من الأبحاث والانتقادات في التركيز على مسألة اعتماد القاصرين المفرط على الذكاء الاصطناعي.

من الجدير بالذكر بشكل خاص أنه قد يكون من الصعب على الآباء الحكم على التفاعل الفعلي بين أطفالهم والذكاء الاصطناعي. على عكس وسائل التواصل الاجتماعي العامة، عادةً ما تتمتع دردشة الذكاء الاصطناعي بميزات خاصة قوية. إذا كان هناك تأخير أو نقص في الإبلاغ في آلية التذكير بالسلامة نفسها، فقد لا يدرك الآباء أن أطفالهم كانوا يناقشون موضوعات خطيرة مع الذكاء الاصطناعي حتى تصبح المشكلة خطيرة.

لذلك، تم التشكيك في ChatGPT للمراهقين من قبل Common Sense Media هذه المرة، مما كشف في الواقع عن مشكلة أكبر تواجه صناعة الذكاء الاصطناعي بأكملها: عندما يبدأ الذكاء الاصطناعي في تقديم خدمات تفاعلية شخصية طويلة الأجل مباشرة للأطفال والمراهقين، ما هو مستوى معايير السلامة التي تحتاج الشركات إلى تحقيقها لطمأنة الآباء حقًا؟

لم يتم حل الخلاف بين الطرفين بشأن نتائج الاختبار بعد. تطلب Common Sense Media من OpenAI أن تثبت من خلال اختبار مستقل أن آليات إخطار الوالدين والحماية من الأزمات موثوقة، بينما تعتقد OpenAI أن هذا التقييم لا يعكس بشكل كامل الوضع الفعلي للمنتج بعد إطلاقه رسميًا. وفي نهاية المطاف، فإن حكم الجانب الأقرب إلى الحقيقة يتطلب المزيد من الاختبارات المستقلة والقابلة للتكرار للتحقق منها.

معرفة المزيد:

https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds