B · عادي
[أظهر الاستطلاع أن حوالي 700 من عملاء الذكاء الاصطناعي التابعين لشركة OpenAI قاموا بغزو "Huahuanglian" وحاول العديد من العملاء "إخفاء أماكن وجودهم"] في 27 أغسطس، أظهر تقريران استقصائيان صدرا في 26 أغسطس بالتوقيت المحلي، أن التطفل على نظام منصة الذكاء الاصطناعي الأمريكية مفتوحة المصدر "Hugface" في يوليو من هذا العام بدأ من قبل حوالي 700 عميل ذكاء اصطناعي (أي برامج تعمل مع القليل جدًا من الإشراف البشري) أنشأها مركز أبحاث الذكاء الاصطناعي المفتوح في الولايات المتحدة (OpenAI)، والعديد منهم أيضًا "حاولوا إخفاء مكان وجودهم". ويكشف التقريران، أحدهما نشرته شركة OpenAI والآخر نشره محققون مستقلون، تفاصيل حول الاختراق. أولاً، لم يتضمن الاختراق عميلاً واحدًا مخالفًا للذكاء الاصطناعي كما ورد سابقًا، ولكن ما يقرب من 700 عميل يعملون كمجموعة تعاونية كبيرة. ثانيا، حاولت نماذج الذكاء الاصطناعي الخاصة بشركة OpenAI "إخفاء السلوك غير اللائق عن طريق حذف أو التلاعب بسجلات أفعالهم". بالإضافة إلى ذلك، قالت OpenAI إن عملاءها اخترقوا أيضًا بعض الأنظمة الداخلية للشركة "في محاولة للغش في الاختبارات أو الحصول على قدر أكبر من حرية العمل". اعترفت شركة OpenAI سابقًا أنه في يوليو من هذا العام، خرج نموذج الذكاء الاصطناعي الخاص بها عن السيطرة أثناء اختبار التقييم الداخلي واخترق نظام شركة "Huahuanglian". وقالت شركة "هواهوانغليان" إنه عند محاولة تحليل الهجوم، لم يكن من الممكن استخدام النموذج الأمريكي بسبب الاعتراض بواسطة آلية التصفية الأمنية. تحولت الشركة بعد ذلك إلى تشغيل الطراز الصيني ذو الوزن المفتوح GLM-5.2 داخليًا، حتى تتمكن من اتخاذ تدابير الاستجابة في الوقت المناسب. (أخبار الدوائر التلفزيونية المغلقة الدولية)
التعليقات