الملخص:
أعلنت شركة OpenAI مؤخرًا أنها قامت بنشر نظام تحكم مركزي يسمى "غرفة التحكم" في بنيتها التحتية البحثية الداخلية. عندما تتسبب مهمة النموذج في مخاطر تتعلق بالسلامة أو أمان الشبكة،
يمكن للنظام منع النموذج من الاستمرار في الإخراج لمدة تصل إلى 35 ثانية بعد تلقي أمر الإيقاف
.
وفقًا لـ OpenAI، يمكن لغرفة التحكم تتبع المهام البحثية بشكل موحد مثل التدريب على التعلم المعزز، وتقييم النماذج، وأخذ عينات الوكيل، ومعالجة البيانات، وهي مرتبطة بنظام مراقبة السلوك النموذجي.
سيقوم نموذج المراقبة بالتحقق من المنطق وعملية تشغيل النموذج المُدرب. بمجرد اكتشاف المشاكل المحتملة، يمكن إصدار إنذار أو يمكن تعليق المهمة مباشرة وفقًا لدرجة الخطورة
.أثناء عملية التنفيذ المحددة، سيقوم نظام المراقبة بإرسال معرف المهمة التي يجب إيقافها إلى غرفة التحكم. في المرة التالية التي تنطبق فيها المهمة ذات الصلة على استنتاج النموذج، سيتحقق محرك الاستدلال من إذن التشغيل الخاص به؛ إذا تم وضع علامة على المهمة على أنها منتهية، فسيرفض النظام الطلب لمنع النموذج من الاستمرار في إنشاء المحتوى.
ذكرت OpenAI أنه
في الوقت الحالي، يستغرق الأمر ما يصل إلى 35 ثانية من وقت تلقي غرفة التحكم لأمر الإيقاف حتى لا تتمكن المهمة من الاستمرار في العمل على الإطلاق.
. يأتي هذا الفارق الزمني من طبقة التخزين المؤقت في عملية ترخيص الاستدلال. تعمل الشركة أيضًا على ضغط وقت الاستجابة بهدف تحقيق التوقف الفوري.يستخدم النظام أيضًا آلية "الإغلاق الفاشل". إذا فشلت غرفة التحكم، أو تم إغلاقها، أو تم العبث بها، فسيتم رفض جميع طلبات الاستدلال ذات الصلة بشكل افتراضي حتى تتم استعادة الخدمة. تغطي هذه الآلية الآن جميع المهام البحثية النموذجية المتطورة لـ OpenAI ويتم توسيعها لتشمل مهام بحثية أخرى. وقالت OpenAI إن خدماتها النموذجية الخارجية تتبنى بنية تقنية أكثر مركزية، ولديها حاليًا إمكانات النشر المقابلة دون الاتصال بالإنترنت والاستجابة لحالات الطوارئ.
التعليقات