الملخص:
وفقًا للتقارير الصادرة عن 404 Media، هناك مشروع يسمى Project Lily قيد التشغيل ضمن OpenAI: تقوم OpenAI بتعيين مئات من مراجعي الكلمات الفوريين من مصادر خارجية لقراءة المحادثات بين المستخدمين الحقيقيين وChatGPT يدويًا لتحسين جودة الاستجابات.
يوجد مرشح للخصوصية ولكنه ليس دقيقًا بدرجة كافية:
في الظروف العادية، لا يمكن لمراجع الكلمات الفوري رؤية اسم المستخدم، وستتم تصفية المحادثة أولاً من خلال عامل تصفية الخصوصية لحذف المعلومات الشخصية. ومع ذلك، تعترف OpenAI أيضًا بأن آلية التصفية قد تفوت معلومات شخصية، وأن المحادثات القصيرة تكون عرضة للمشاكل بشكل خاص.
عادةً ما تأتي واجهة المراجعة أيضًا مع ملخص لذاكرة المستخدم. سيلخص ملخص الذاكرة الأسئلة والاهتمامات والمواقف السابقة للمستخدم، وما إلى ذلك. وفي بعض الأحيان يمكنه أيضًا استنتاج موقع المستخدم من خلال الذاكرة. غالبًا ما يرى المدققون المحادثة الكاملة مع السياق.
يسجل المراجع الإجابات بشكل أساسي:
وُصف العمل بأنه ميكانيكي ومتكرر، وتم الإبلاغ عن أن الأجر بالساعة يزيد عن 50 دولارًا. المهمة الرئيسية للمراجع هي تسجيل الإجابات بدلاً من التحقق من الحقائق. على سبيل المثال، يحتاج المراجع إلى الحكم على ما إذا كانت الإجابة التي يقدمها النموذج ذات صلة، وما إذا كان لها نكهة الذكاء الاصطناعي الواضحة، وما إذا كان هناك سلوك وعظ، وما إذا كان هناك إساءة استخدام للتعبيرات، وما إذا كان هناك سلوك تملق، وما إذا كان النموذج سيكتب النموذج كشخص لديه خبرة في الحياة.
أما فيما يتعلق بما إذا كانت الإجابات المقدمة بواسطة النموذج تحتوي على أخطاء واقعية، فهذه ليست وظيفة المدقق. ففي نهاية المطاف، المدققون ليسوا موسوعات ولا يمكنهم معرفة الحقيقة الكاملة لجميع الأحداث، لذلك من الطبيعي أن يرى المستخدمون الإجابات التي يقدمها النموذج تحتوي على أخطاء واقعية.
النموذج المحسن الذي يتم تمكينه افتراضيًا هو المفتاح لمشاركة البيانات:
تتيح إصدارات ChatGPT المجانية وإصدارات Plus وPro استخدام الدردشة لتحسين المنتجات بشكل افتراضي. عند تمكين هذه الوظيفة، سيتم تفويض محتوى الدردشة الخاص بالمستخدم إلى OpenAI لتحسين المنتج. إن المراجعين الخارجيين في خطة Lily للتحقق من محتوى المحادثة هم فقط أحد استخدامات البيانات. ومن الطبيعي أن يتم استخدام البيانات لأغراض أخرى، مثل الاستمرار في تدريب النموذج.
يستخدم العديد من المستخدمين ChatGPT كمقرب مؤقت، ويتحدثون عن الأسرة والصحة والمزيد من الأمور الخاصة. قال بعض المراجعين إن العديد من المستخدمين قد لا يعرفون أن محادثاتهم قد تتم قراءتها من قبل أشخاص حقيقيين، لذا فكر فيما إذا كان هذا أمرًا مخيفًا.
التعليقات