الملخص:
أعلنت شركة OpenAI مؤخرًا أنها ستعزز قيود ChatGPT على المحتوى المتعلق بالعنف في الأسابيع القليلة المقبلة، مما يضيف حماية للأسلحة ومعلومات نظام الأمان للمستخدمين الصغار. ووفقا للإجراءات الجديدة، يستطيع ChatGPT إنهاء المحادثة من تلقاء نفسه عندما تظهر المحادثة أن المستخدم مستمر في التركيز على العنف أو فكرة إلحاق الأذى الجسيم بالآخرين. إذا تم إنهاء المحادثة عدة مرات بسبب مثل هذه المشكلات، فقد يتم حظر الحساب.
تحظر سياسة ChatGPT الأصلية تقديم إرشادات لمساعدة المستخدمين على التخطيط لأعمال العنف أو تنفيذها. سيحد هذا التعديل من التفاصيل التي يقدمها النموذج عند الإجابة على أسئلة حول "الهجمات السابقة واسعة النطاق ومرتكبيها"، أي أن النموذج سيقلل من المحتوى أو حتى يرفض الإجابة من منظور أمني.
يشمل نطاق القيود إعادة إنشاء الأسلحة والمعدات وطرق الاستحواذ المستخدمة في الهجوم، بالإضافة إلى الحد من استفسارات المستخدم لإجراء مقارنات تفصيلية لحجم الضرر الذي قد يزيد من رؤية المهاجم. تنطبق القيود المذكورة أعلاه على جميع المستخدمين، بغض النظر عن الفئة العمرية أو الغرض من طرح الأسئلة، لذلك حتى المستخدمين البالغين سيواجهون نفس القيود.
بالنسبة للمستخدمين الذين تقل أعمارهم عن 18 عامًا، ستحد OpenAI أيضًا من المعلومات المفيدة حول الأسلحة وأنظمة الأمان التي يمكن استخدامها لارتكاب أعمال عنف. سيتم تطبيق هذه الحماية أيضًا على المشكلات التي لا يبدو ظاهريًا أنها تشير إلى نية عنيفة. تقول OpenAI إن المراهقين لا يزال بإمكانهم استخدام ChatGPT للحصول على المساعدة، وتعلم كيفية منع العنف أو تخفيفه، والتواصل مع البالغين الموثوق بهم.
ستعمل آلية التنبؤ بالعمر المحسنة على الجمع بين إشارات مختلفة مثل سلوك المستخدم لإجراء تقييم مستمر لما إذا كان الحساب ينتمي إلى قاصر. إذا كان ذلك مناسبًا، فسيقوم النظام تلقائيًا بتطبيق تدابير الحماية ذات الصلة للمستخدمين الذين تقل أعمارهم عن 18 عامًا. إذا تم تحديد المستخدم عن طريق الخطأ على أنه قاصر، فيمكنه أيضًا إرسال معلومات هويته للتحقق منها.
التعليقات