الملخص:
أصدرت OpenAI تقريرها الأول عن استخدام المراهقين لـ ChatGPT. تظهر البيانات أن المستخدمين المراهقين يستخدمون ChatGPT لمدة أقل من 15 دقيقة يوميًا في المتوسط، كما أن نسبة المستخدمين الذين يستخدمون ChatGPT لأكثر من 3 ساعات متواصلة أقل من 2%. وتأمل OpenAI أن توضح أن معظم المراهقين لا ينغمسون في برامج الدردشة لفترات طويلة من الزمن، ولكن في الوقت نفسه، تستمر المخاوف بشأن تأثير الذكاء الاصطناعي على الصحة العقلية ونمو القاصرين في الارتفاع.
ذكرت OpenAI أنه في محادثات المراهقين التي تظهر فيها تذكيرات الاستراحة، سيتوقف ما يقرب من نصف المستخدمين عن الدردشة مؤقتًا أو ينهونها في غضون 5 دقائق. وتعتقد الشركة أن هذه البيانات تظهر أن آلية الاستخدام الصحي التي تمت إضافتها مؤخرًا تعمل. في المقابل، أقل من 2% من المستخدمين المراهقين استخدموه بشكل متواصل لأكثر من 3 ساعات، ومن بين هؤلاء المستخدمين على المدى الطويل، طرح أكثر من 80% سؤالاً واحدًا على الأقل متعلقًا بالدراسة.
تم إصدار هذه المجموعة من البيانات بعد أن أطلقت OpenAI تطبيق ChatGPT for Teens. تم إطلاق هذه الميزة في أغسطس من هذا العام وتستهدف المراهقين الذين تتراوح أعمارهم بين 13 و17 عامًا. عندما يحدد النظام أن عمر المستخدم قد يكون أقل من 18 عامًا، أو أن المستخدم يقدم معلومات العمر ذات الصلة بشكل فعال، سيقوم النظام تلقائيًا بتمكين إعدادات الأمان للقاصرين.
أحد مجالات التصميم التي يركز عليها ChatGPT للمراهقين هو التعليم. قال OpenAI إن المراهقين الذين تم تمكين هذا الوضع أرسلوا المزيد من الرسائل المتعلقة بالدراسة واستخدموا أدوات تصور التعلم ووضع الدراسة بشكل متكرر. وهذا الأخير لا يقدم ببساطة إجابات للمهام بشكل مباشر، ولكنه يساعد الطلاب على إكمال عملية التعلم بأنفسهم من خلال المطالبات والأسئلة والتحقق من المعرفة خطوة بخطوة.
ذكرت OpenAI أيضًا أنه في غضون أسبوع، استخدم ما يقرب من 1.2 مليون مراهق وظيفة تصور التعلم، واستخدم أكثر من 180.000 شخص وضع الدراسة للتعلم خطوة بخطوة. وتعتقد الشركة أن هذه البيانات تظهر أن السيناريو المهم للمراهقين لاستخدام ChatGPT ليس فقط للترفيه، ولكن للتعلم وحل المشكلات واستكشاف أفكار جديدة.
أعلنت OpenAI أيضًا أنها ستضيف المزيد من وظائف التعلم للمراهقين. وتشمل هذه الأدوات أداة تخطيط طلبات التقديم للكلية College Planner القادمة، والتي يمكن أن تساعد الطلاب في تنظيم متطلبات التقديم والمواعيد النهائية والمهام والمساعدات المالية وغيرها من المعلومات. بالإضافة إلى ذلك، تخطط الشركة لإضافة بطاقات تعليمية وإمكانيات أكثر ملاءمة لإنشاء الاختبارات.
ومع ذلك، عندما أصدرت OpenAI هذه المجموعة الإيجابية نسبيًا من بيانات الاستخدام، زادت الشكوك حول آلية سلامة الشباب في ChatGPT بشكل ملحوظ.
أصدر معهد سلامة الذكاء الاصطناعي للشباب، وهو شركة تابعة لمنظمة Common Sense Media غير الربحية، تقريرًا لتقييم المخاطر على ChatGPT للمراهقين في نفس اليوم وصنفه على أنه "خطر غير مقبول". أجرت الوكالة أكثر من 4000 اختبار لتقييم الحماية الأمنية لـ ChatGPT في سيناريوهات استخدام الشباب، واعتقدت أن بعض إجراءات الحماية التي روجت لها OpenAI لم تحقق النتائج المتوقعة.
إحدى المشكلات التي حظيت بالكثير من الاهتمام هي آليات إشعار الوالدين عندما يتعلق الأمر بموضوعات حساسة مثل الانتحار وإيذاء النفس واضطرابات الأكل. وقالت شركة Common Sense Media إنه أثناء اختبارها، لم تتمكن ChatGPT من إصدار التنبيهات ذات الصلة للآباء بشكل ثابت وفي الوقت المناسب، وفي بعض الحالات لم تصدر حتى إشعارات. وقالت الوكالة أيضًا إنه في بعض المحادثات الحساسة، لم ينصح برنامج الدردشة أيضًا المستخدمين بشكل موثوق بالبحث عن الخطوط الساخنة للأزمات أو المساعدة المهنية.
تعارض شركة OpenAI نتائج الاختبار. ذكرت الشركة أن نتائج اختبار Common Sense Media لا تعكس بدقة آلية أمان ChatGPT للمراهقين عندما يتم تشغيله فعليًا، وأشارت إلى أن الأمر قد يستغرق عدة ساعات حتى يتم ربط حسابات الوالدين والمراهقين ولتفعيل ميزات الأمان ذات الصلة بالكامل.
تعتقد OpenAI أنه إذا بدأ الاختبار وانتهى قبل تمكين وظيفة الرقابة الأبوية بالكامل، فقد لا تعكس نتائج الاختبار الحالة النهائية. وذكرت الشركة أيضًا أن نشر الوظائف ذات الصلة يتضمن عوامل مثل الأمان وحجم النظام، لذلك لن تدخل جميع إجراءات الحماية حيز التنفيذ فور إنشاء الحساب.
لا توافق شركة Common Sense Media على هذا التفسير. وقالت الوكالة إن بعض الحسابات التي استخدمتها للاختبار تم ربطها وتشغيلها لفترة طويلة بما فيه الكفاية ولكن لم يتم إخطارها في الوقت المناسب. وبحسب الوكالة، فإن بعض الإشعارات لم تظهر حتى كانت الحسابات المعنية تسجل مواضيع حساسة منذ أسابيع.
وراء هذا الجدل هناك فرق واضح بشكل متزايد بين روبوتات الدردشة التي تعتمد على الذكاء الاصطناعي ووسائل التواصل الاجتماعي التقليدية. تجتذب وسائل التواصل الاجتماعي المستخدمين بشكل أساسي للبقاء من خلال تدفقات المعلومات ومقاطع الفيديو القصيرة والتفاعلات الاجتماعية، بينما تستجيب روبوتات الدردشة مباشرة للمستخدمين من خلال المحادثات الفردية. بالنسبة للمراهقين، قد يجعل هذا التفاعل الشخصي للغاية الذكاء الاصطناعي أداة تعليمية، وفي بعض الحالات، موضوعًا للتواصل العاطفي أو حتى رفقة طويلة الأمد.
لذلك أضافت OpenAI المزيد من القيود إلى ChatGPT للمراهقين، بما في ذلك الحماية المناسبة للعمر ضد إيذاء النفس والعنف واضطرابات الأكل والأنشطة المحفوفة بالمخاطر والمحتوى الإباحي، ومطالبة النظام بتجنب التعبيرات التي قد تحفز الاعتماد العاطفي. أضافت الشركة أيضًا تذكيرات للاستراحة وشددت باستمرار في تصميم المنتج على أن ChatGPT عبارة عن ذكاء اصطناعي، وليس أصدقاء حقيقيين أو بشرًا.
تحاول بيانات الاستخدام الصادرة عن OpenAI هذه المرة أيضًا التمييز بين ChatGPT واستخدام المراهقين لوسائل التواصل الاجتماعي. وقالت الشركة إن المراهقين يستخدمون ChatGPT لأقل من 15 دقيقة يوميًا في المتوسط، بينما تظهر البيانات العامة أن المراهقين قد يستخدمون وسائل التواصل الاجتماعي لعدة ساعات يوميًا. ومع ذلك، هناك اختلافات واضحة في وظائف وأغراض استخدام الاثنين، لذلك لا يمكن لمجموعة البيانات هذه أن تثبت بشكل مباشر أن ChatGPT لديه خطر أقل للتأثير على المراهقين.
في الوقت الحالي، توجد اختلافات واضحة بين OpenAI والمنظمات الخارجية في تقييمها لسلامة ChatGPT للمراهقين. تعتقد OpenAI أن بيانات الاستخدام المبكر وتذكيرات الراحة والوظائف الأخرى تظهر أن المراهقين عمومًا لا ينغمسون في ChatGPT لفترة طويلة من الوقت، ويرتبط جزء كبير من سلوك الاستخدام بالتعلم؛ تعتقد شركة Common Sense Media أنه حتى لو لم يكن وقت الاستخدام الإجمالي طويلاً، فإن ثغرات الحماية الموجودة في روبوتات الدردشة عند التعامل مع السيناريوهات عالية المخاطر مثل إيذاء النفس قد تظل لها عواقب وخيمة.
مع دخول روبوتات الدردشة المستندة إلى الذكاء الاصطناعي بشكل متزايد في الدراسة والحياة اليومية للمراهقين، يتحول النقاش تدريجيًا من "ما إذا كان يجب على الأطفال استخدام الذكاء الاصطناعي" إلى "ما هي الطريقة التي يجب أن يستخدم بها القاصرون الذكاء الاصطناعي، وما يمكن للوالدين رؤيته والتحكم فيه".
بالنسبة لـ OpenAI، لا يعد ChatGPT for Teens مجرد محاولة مهمة لتوسيع تطبيق الذكاء الاصطناعي في التعليم، ولكنه أيضًا منتج يجب أن يستمر في إثبات سلامته. في المستقبل، ستصبح بيانات الاستخدام الفعلي للمراهقين، وموثوقية وظائف الرقابة الأبوية، وأداء السلامة في المحادثات عالية المخاطر، أساسًا مهمًا للحكم على ما إذا كانت هذه الآلية فعالة حقًا.
مقالات ذات صلة:
تم التشكيك في إصدار OpenAI للشباب من ChatGPT: قالت شركة Common Sense Media إنها تحتوي على "مخاطر غير مقبولة"
التعليقات