في 12 مارس، أطلقت الأكاديمية الصينية لتكنولوجيا المعلومات والاتصالات رسميًا إعداد سلسلة من المعايير للوكلاء المساعدين الأذكياء (Claw)، وعززت بشكل منهجي بناء أنظمة المعايير المتعلقة بالوكلاء المساعدين الأذكياء. "متطلبات القدرة على مصداقية المنتج للوكيل المساعد الذكي (Claw)"، باعتبارها جزءًا مهمًا من سلسلة المعايير هذه، أصبحت الآن مفتوحة للصناعة لجذب الوحدات المشاركة والخبراء لهذا المعيار. سيقوم المعيار بفرز المتطلبات ذات الصلة حول الجودة التي يمكن التحكم فيها والسلوك الجدير بالثقة لمنتجات Claw، بما في ذلك حقوق المستخدم التي يمكن التحكم فيها، وعمليات التنفيذ الشفافة، والمخاطر السلوكية التي يمكن التحكم فيها، وقدرات النظام الأساسي والأداة الجديرة بالثقة.
بالأمس، نشرت الأكاديمية الصينية لتكنولوجيا المعلومات والاتصالات (CAICT) تدوينة تشير إلى أن أداة وكيل الذكاء الاصطناعي مفتوحة المصدر OpenClaw حظيت بشعبية كبيرة على الإنترنت مؤخرًا.ولكنه يثير أيضاً تحديات أمنية خطيرة.
وقد حلل وي ليانغ، نائب مدير الأكاديمية الصينية لتكنولوجيا المعلومات والاتصالات، أن وكيل "Lobster" يتم تحديثه حاليًا وتكراره بسرعة كبيرة، وقد أصلحت النسخة الرسمية الأخيرة بالفعل نقاط الضعف المعروفة.لكن هذا لا يعني القضاء على المخاطر الأمنية بشكل كامل.
تحتوي هذه الأداة على ميزات عالية السلطة مثل اتخاذ القرار المستقل واستدعاء موارد النظام.بالإضافة إلى ذلك، فإن حدود ثقة النظام غير واضحة، ويفتقر سوق حزم المهارات حاليًا إلى عمليات تدقيق أمنية صارمة، وهناك العديد من المخاطر الخفية الكامنة في الداخل.
قال Wei Liang إنه عندما يستدعي الوكيل نموذج اللغة الكبيرفمن السهل إساءة فهم محتوى تعليمات المستخدم وإجراء عمليات ضارة لا رجعة فيها، مثل حذف الملفات.
بمجرد أن يستخدم المستخدمون حزم مهارات الطرف الثالث المزروعة برموز ضارة، سيواجهون خطر تسرب البيانات الأساسية أو حتى سيطرة المتسللين على النظام بأكمله. لذلك، حتى لو قام المستخدم بترقيته إلى الإصدار الأحدث،إذا لم يتم اتخاذ تدابير وقائية مستهدفة، فسيظل من الصعب مقاومة هجمات الشبكة الخارجية.
أوصى Wei Liang بأنه في الاستخدام اليومي، لا ينبغي للمستخدمين فقط ترقية البرامج وتحديثها في الوقت المناسب، ولكن أيضًا الالتزام الصارم بمبادئ الحماية الأمنية المتمثلة في "الحد الأدنى من الأذونات، والدفاع النشط، والتدقيق المستمر".
بالإضافة إلى ذلك، بمجرد اكتشاف المستخدمين لثغرات أمنية أو مواجهة هجمات على هؤلاء العملاء، يمكنهم الإبلاغ عنها على الفور إلى منصة تبادل معلومات التهديدات والثغرات الأمنية التابعة لوزارة الصناعة وتكنولوجيا المعلومات. ستقوم المنصة على الفور بتنظيم البحث والحكم والتصرف الأمني وفقًا للقوانين واللوائح.