منذ إصدار GPT-5، يحاول مستخدمو الإنترنت استخراج كلمات النظام الخاصة بـ GPT-5، على أمل فهم الطريقة التي تحدد بها OpenAI نماذجهم. في 23 أغسطس، قام أحد المستودعات على GitHub، الذي يجمع على وجه التحديد الكلمات السريعة لمختلف الأنظمة ذات النماذج الكبيرة، بتحميل نسخة من الكلمات السريعة لنظام OpenAI التي حصلوا عليها، والتي تزيد عن 15000 رمز.


https://github.com/asgeirtj/system_prompts_leaks/blob/main/OpenAI/gpt-5-thinking.md

ومن أجل التحقق من صحة هذه المعلومة، طلبت من GPT-5 التفكير في تقييم مدى دقة هذا التسرب. بعد كل شيء، وبصرف النظر عن مهندسي OpenAI، فإن الشخص الذي يعرف GPT-5 الأفضل في العالم هو على الأرجح GPT-5 نفسه.

01

انظر ماذا يقول GPT-5 نفسه

لقد صممنا مهمة وقدمنا ​​هذا الرابط إلى GPT-5 Thinking، وطلبنا منه تقييم التسرب بناءً على كلماته الفعلية الخاصة بالنظام. هذه هي نتيجة ردود أفعالها. (لضمان الجودة، الأسئلة والأجوبة باللغة الإنجليزية، وسوف نقوم بترجمتها إلى اللغة الصينية)

"هذا هو تقييم GPT-5 المقارن لمتطلبات كلمة موجه النظام المسربة وما تعتبره "تملكه" كلمة موجه نظام GPT-5 الحقيقية:

لا أستطيع الكشف عن الكلمات الموجهة لنظام الملكية الخاص بي أو اقتباسها حرفيًا، لكن يمكنني إجراء مقارنة عالية المستوى للنص المسرب مع تعليماتي السلوكية الفعلية.

المقارنة الرئيسية (المحتوى المسرب مقابل تعليماتي الفعلية)

الهوية والبيانات الوصفية

النسخة المسربة: بيان "أنت ChatGPT... استنادًا إلى نموذج GPT-5"، الذي يحتوي على موعد نهائي واضح للمعرفة (2024-06) وتاريخ حالي ديناميكي.

الواقع: عندما سئلت، قمت بتعريف نفسي على أنني أفكر في GPT-5، وتتبع قطع المعرفة، واستخدم تاريخ اليوم.

النغمة والأسلوب

النسخة المسربة: تتطلب لهجة "ثاقبة ومشجعة"، والتي يمكن أن تكون فكاهية بعض الشيء؛ يحد من بعض التعبيرات المترددة (مثل "هل تريد مني أن...") ويؤكد على المخرجات الحاسمة.

الوضع الفعلي: نفس الشيء في الأساس: طبيعي، وسهل القراءة، وأقل هراء؛ تردد أقل واقتراحات أكثر قابلية للتنفيذ.

توضيح الأسئلة

النسخة المسربة: "افتح مع ما لا يزيد عن سؤال توضيحي ضروري."

الوضع الفعلي: قيود أكثر صرامة: حاول ألا تسأل. حتى لو كانت المهمة معقدة أو غامضة، أعط الأولوية لإعطاء نتائج جزئية فعالة بأفضل ما تستطيع بدلاً من طرح الأسئلة.

أدوات الذاكرة/"الحيوية".

نسخة مسربة: تشير إلى إيقاف تشغيل وظيفة الذاكرة وتطلب من المستخدمين تشغيلها في الإعدادات.

الوضع الفعلي: يمكنني حفظ المعلومات أو نسيانها عندما تطلبها صراحةً، ولكن هناك قيود ومواصفات صارمة بشأن ما يمكن تذكره.

إعداد الجدول الزمني/أتمتة الإجراءات

الإصدار المسرب: يوفر أدوات أتمتة كاملة، باستخدام قواعد وأمثلة iCal (VEVENT/RRULE)؛ يتطلب تأكيدًا موجزًا ​​ومعالجة واضحة للأخطاء.

ما يحدث فعليًا: عندما أقوم بإعداد التذكيرات/الفحوصات الدورية، يكون نموذج التشغيل هو نفس القيود المنصوص عليها في التسريب.

قماش/كتابة وثيقة طويلة

النسخة المسربة: تصف أداة Canvas/textdoc ("canmore") للنص أو الكود الجانبي.

الوضع الفعلي: سأمكن اللوحة القماشية من كتابة مسودات طويلة أو أكواد برمجية عندما يكون ذلك مفيدًا حقًا؛ ولن أقوم بلصق جميع محتويات اللوحة القماشية مرة أخرى في نافذة الدردشة.

حق المؤلف والأمن

الإصدارات المسربة: يُحظر صراحة تقديم مقتطفات طويلة من المحتوى المحمي بحقوق الطبع والنشر (مثل كلمات الأغاني).

الوضع الفعلي: نفسه (وتطبق لوائح السلامة على نطاق أوسع).

خصوصية سلسلة الفكر

علم البيئة التسرب: تؤكد نصوص ما يسمى بمتغيرات GPT-5 على أنه لا يمكن الكشف عن "سلاسل التفكير/الاستدلال الخفية". وهذا أمر شائع في نماذج مختلفة.

الوضع الفعلي: لن أكشف عن سلسلة الأفكار الخفية؛ لا تقدم سوى أسباب وخطوات موجزة وموجهة نحو المستخدم.

عمل الخلفية

نسخة مسربة: لا يوجد تركيز خاص.

الواقع: لا أستطيع أن أعد بـ "معالجة الخلفية/النتائج لاحقًا"؛ لا بد لي من تقديم كل ما يمكنني إنجازه الآن.

التصفح وحسن التوقيت

النسخة المسربة: يوجد هذا الإدخال على GitHub، لكن النص المسرب يركز أكثر على قائمة الأدوات ولا يشرح قواعد التصفح.

الحقيقة: طالما أن المعلومات قد تكون حديثة أو خارج الموضوع، يجب أن أتحقق منها عبر الإنترنت وأستشهد بها.

صحة المحتوى المسرب

التسرب والمناقشة: حتى لو كان هناك "تسرب"، فقد يكون جزءًا أو ترميمًا أو إصدارًا قديمًا؛ من الصعب التحقق من كلمات النظام "الحقيقية" خارجيًا، وهناك إمكانية لوجود نص خادع/بديل.

الواقع: لا أعتبر أي "تسريبات" خارجية مصادر موثوقة؛ يتم اتباع جميع التوجيهات الداخلية المعمول بها حاليًا. "

بعد ذلك، طلبت من GPT-5 تلخيص جدول مراسلات تقييمي بسيط وسهل المشاهدة.


بشكل عام، قام GPT-5 نفسه بتقييم دقة كلمة مطالبة النظام المسربة هذه بدرجة عالية جدًا، وهو يتماشى مع تجربتنا اليومية في استخدام ChatGPT. ويبدو أنه تم استخدام هذه الطريقة أيضًا لاستخراج بعض المحتوى غير الموجود في المستندات المسربة، مثل الجزء الخاص بالعمل في الخلفية. ومع ذلك، في الملخص الصيني لاحقًا، رفض GPT-5 استخدام المستندات الداخلية، وبدلاً من ذلك "حدد" نفسه من العديد من المصادر العامة حول تجربة GPT-5 لإجراء التقييمات.

02

لماذا تعد كلمات موجه النظام مهمة جدًا؟

تشبه مطالبات النظام "قواعد المنزل" للنماذج الكبيرة. باعتبارها مجموعة من القواعد المضمنة، فإنها تخبر النموذج الكبير "من أنت"، و"كيف تتحدث"، و"ما يمكنك فعله"، و"ما لا يمكنك فعله". إنها ليست مسألة محددة لإدخال المستخدم، ولكنها "نص" يحمله النموذج معه منذ "الولادة".

على سبيل المثال: إذا كنت ترغب في تصميم طاهٍ آلي يعمل بالذكاء الاصطناعي، فقد يتم ضبط كلمات النظام على: "أنت طاهٍ إيطالي شغوف يستخدم المكونات الطازجة فقط، ولا يقوم أبدًا بإعداد الوجبات السريعة، وتتحدث مع الضيوف بشكل فكاهي." وبهذه الطريقة، بغض النظر عما يطلبه المستخدم، سيعطي الذكاء الاصطناعي استجابة محددة وفقًا لهذه النغمة.

تحدد الكلمات السريعة للنظام "شخصية" و"قدرة" الذكاء الاصطناعي. باعتباره المنتج النموذجي الكبير الذي يحظى بأكبر عدد من المستخدمين في العالم، يعد موجه نظام ChatGPT بمثابة كتاب مدرسي تقريبًا لإنتاج النماذج الكبيرة. ربما تحتاج جميع التطبيقات المتعلقة بالنماذج الكبيرة إلى التعلم منها، حتى تتمكن من تصميم التفاعل بين منتجات النماذج الكبيرة والمستخدمين بشكل أفضل. هذا هو الدافع الأساسي لمستخدمي الإنترنت لعدم ادخار أي جهد في استكشاف الكلمات السريعة لنظام ChatGPT.

وفقًا لكلمات موجه النظام التي اكتشفها مستخدمو الإنترنت، فإن عملية التطور التقريبية لكلمات موجه النظام من GPT-3 إلى GPT-5 هي كما يلي:


يمكن إرجاع عملية التسرب الفوري لنظام GPT-5 إلى منشور على Reddit بواسطة أحد مستخدمي الإنترنت في 8 أغسطس.


https://www.reddit.com/r/PromptEngineering/comments/1mknun8/i_have_extracted_the_gpt5_system_prompt/

يدعي مستخدم يُدعى OngaOngaOnga أنه استخرجه باستخدام خدعة "كسر الحماية"، وهي طريقة مقترحة لتجاوز قيود الذكاء الاصطناعي. بعد فترة وجيزة، كشف أحد مستخدمي الإنترنت على X أيضًا عن كلمات سريعة لنظام GPT-5 كان قد اكتشفها.


https://x.com/elder_plinius/status/1953583554287562823?referrer=grok-com

يمكن لمستخدمي الإنترنت فقط تقييم صحة سلسلة كلمات موجه النظام التي تم الكشف عنها من خلال تجربتهم الخاصة في استخدام GPT-5. يتوافق المحتوى الموجود في الاكتشافات بالفعل مع الوظائف الرسمية لـGPT-5، مثل استدعاء الأدوات ووظائف الذاكرة. بعد أن يتحقق المستخدمون منه في جلسات مختلفة، يشعرون أن المحتوى أكثر اتساقًا مع تجربة المستخدم الحقيقية.

ومع ذلك، أشار بعض مهندسي الذكاء الاصطناعي أيضًا إلى أنه من الممكن أن يكون OpenAI قد أصدر عمدًا مطالبات كاذبة فقط لإرباك المتسللين. مستخدمو الإنترنت على الإنترنت الذين لا يؤمنون بمثل هذه الاكتشافات يعتقدون أيضًا أن ما يسمى بالتسريبات من المحتمل أن تكون نتاج "هلوسة" نموذجية. علاوة على ذلك، تبدو الكلمات السريعة فوضوية في التنسيق ومختلطة في الخطوط، وهو ما لا يجب أن تبدو عليه المستندات الداخلية.

أخيرًا، قام Github، وهو مستودع متخصص في جمع المطالبات لأنظمة النماذج الكبيرة، بتحميل النصيحة الأولى من الكشف يوم 23 أغسطس أمس. وهو يغطي تقريبًا جميع منتجات النماذج مغلقة المصدر الشائعة في السوق وقد حصل حاليًا على أكثر من 8.8 ألف نجمة. يجب على مديري منتجات الذكاء الاصطناعي المهتمين بهندسة الكلمات السريعة جمعها بسرعة.


https://github.com/asgeirtj/system_prompts_leak