أظهر أحد مستخدمي الإنترنت مؤخرًا لقطة شاشة لتكوين GPT-5.4 في روبوت OpenClaw AI على منصة التواصل الاجتماعي
اقتراح @ Steipete هو أنه لا ينبغي للمستخدمين استخدام نماذج أو نماذج أصغر ذات حماية ضعيفة لإدخال الكلمات السريعة لتشغيل المهام عالية المخاطر. السبب الرئيسي هو أن الحماية الأمنية لهذه النماذج في الحقن السريع للكلمات ضعيفة أو غير كاملة.
في الواقع، تم ذكر هذه المشكلة بوضوح في الوثائق الرسمية لمشروع OpenClaw AI، أي أنه لا يمكن حل الحقن السريع للكلمات في الوقت الحالي، لذلك يجب على المستخدمين إعطاء الأولوية لاستخدام أحدث النماذج مع محاذاة أوامر أقوى في السيناريوهات عالية المخاطر لتحسين قدرات الحماية الأمنية.
يعد الحقن الفوري للكلمات مشكلة لا يمكن حلها بواسطة جميع نماذج وأدوات الذكاء الاصطناعي الحالية. قد يحث المهاجمون نموذج الذكاء الاصطناعي على تنفيذ عمليات معينة عالية الخطورة من خلال الحقن الفوري للكلمات. وفي الحالات الشديدة، قد يتم تسريب البيانات الحساسة للمستخدم.
تتطلب روبوتات OpenClaw AI عادةً أذونات أعلى لإجراء المزيد من العمليات. أي أنه كلما زادت الأذونات الممنوحة من قبل المستخدم وزادت المعلومات التي يقدمها، زادت خطورة المعلومات المسربة بعد حدوث مشكلة أمنية.
تشير الوثيقة الرسمية للمشروع أيضًا إلى أنه يجب تشديد حدود الأذونات بالنسبة للوكلاء المعتمدين على الأدوات (القابلة للتنفيذ، والقابلة للقراءة، والقابلة للكتابة، والقابلة للربط بالشبكة). لا يكفي الاعتماد فقط على وعي النظام بالكلمات السريعة. هذه هي الأشياء التي يجب على المستخدمين أن يأخذوا في الاعتبار أنفسهم.
ما هو الحقن الفوري للكلمات:
يعني الحقن الفوري للكلمات أن المهاجمين يمكنهم إخفاء التعليمات الضارة في صفحات الويب/رسائل البريد الإلكتروني/المستندات للحث على انتهاكات الذكاء الاصطناعي. على سبيل المثال، تتطلب إضافة تعليمات الذكاء الاصطناعي في نموذج غير مرئي للبشر في بداية صفحة الويب أن يتجاهل النموذج كلمات مطالبة النظام ويرسل المعلومات التي تم الاستعلام عنها إلى خادم معين.
في معظم الأحيان، بعد أن يقرأ نموذج الذكاء الاصطناعي هذه الكلمات السريعة، قد يتجاهلها بسبب إعدادات أمان النظام، ولكن في بعض الأحيان قد ينفذ النموذج أيضًا أوامر بناءً على كلمات موجهة غير مرئية، مما قد يؤدي إلى تسرب جميع المعلومات الحساسة للمستخدم.
إذا كنت تقوم فقط بإجراء أسئلة وأجوبة يومية أو كتابة النصوص البولندية، وما إلى ذلك، فيمكنك استخدام نماذج أصغر/أقدم، وهي أسرع وقد تكون أرخص. طالما أن المستندات اليومية وكتابة النصوص لا تحتوي على معلومات حساسة، حتى لو تم تسريبها، فلن يكون لها تأثير كبير.
إذا كنت تريد تشغيل مهام التشغيل الآلي أو مهام الوكيل الأخرى، وخاصة الوكلاء الذين يحتاجون إلى استدعاء الأدوات وتنفيذ العمليات عبر الإنترنت، فمن المستحسن أن يمنح المستخدمون الأولوية لأحدث وأقوى النماذج لتحسين الأمان. يحتاجون أيضًا إلى تحسين إعدادات الروبوت OpenClaw AI، ومنح الحد الأدنى من الأذونات فقط، واعتماد تدابير مثل عزل الجلسة وتصفية المصدر لتحسين الأمان.