الملخص:
في 28 سبتمبر، وفقًا لبلومبرج،
أطلقت Nvidia نظامًا جديدًا لأمان الذكاء الاصطناعي مكونًا من طبقتين
. وقالت الشركة إنه كان من الممكن تجنب الحادث لو تم نشر نموذج الذكاء الاصطناعي الخاص بـ OpenAI على النظام عند حدوث اختراق Hugging Face.
هوانغ رينكسون
لقد قامت شركة Nvidia بتوسيع خط منتجاتها بسرعة إلى ما هو أبعد من الرقائق، وتقوم حاليًا بإطلاق أداتين أمنيتين برمجيتين مفتوحتين المصدر يمكن تشغيلهما على أجهزتها. وهي مصممة للتحكم في الوقت الفعلي بما يمكن لوكيل الذكاء الاصطناعي الوصول إليه وإغلاقه إذا خالف القواعد.
يهدف النظام الجديد، المسمى Open Agent Security Platform، إلى توفير طريقة لمنع عمليات التطفل دون إبطاء تطوير الذكاء الاصطناعي.
قال جاستن بويتان، نائب رئيس مؤسسة الذكاء الاصطناعي في Nvidia، في مؤتمر صحفي قبل الإعلان عن النظام يوم الاثنين، إنه كان من الممكن منع الهجوم على Hugging Face إذا استخدمت مختبرات الذكاء الاصطناعي الكبرى التكنولوجيا لتقييم نماذج الذكاء الاصطناعي الخاصة بها منذ وقت مبكر. وقال: "بناءً على المعلومات المتوفرة لدينا الآن، كان من الممكن أن تمنع هذه المنصة الأمنية الجديدة هذا الاختراق". في الوقت الحاضر، تسبب السلوك غير المناسب لعملاء الذكاء الاصطناعي المستقلين في صدمة في صناعة الذكاء الاصطناعي ودفع البعض إلى الدعوة إلى إبطاء عملية تطوير تكنولوجيا الذكاء الاصطناعي.
لم يعلق بويتانو على ما إذا كانت شركة OpenAI أو شركة Anthropic المنافسة تخطط لاستخدام هذا النظام الجديد لمراقبة عملية التدريب النموذجية، لكنها طلبت من المراسلين سؤال هذه الشركات.
في السابق، قلل جنسن هوانغ، الرئيس التنفيذي لشركة Nvidia، من خطر فقدان الذكاء الاصطناعي للسيطرة البشرية. وفي الأيام الأخيرة، وصف هوانج قضايا سلامة الذكاء الاصطناعي بأنها تحدي هندسي وليس قضية تتطلب تنظيمًا أكبر أو تنسيقًا عالميًا. وانضم إلى الرئيس الأمريكي ترامب في دحض ادعاءات بعض مطوري الذكاء الاصطناعي بأن التكنولوجيا يمكن أن تؤدي إلى انقراض الإنسان، لكنه شدد أيضًا على أن الذكاء الاصطناعي يجب أن يخضع لاختبارات سلامة صارمة.
يتكون الحل الهندسي الذي قدمه Huang Renxun لقضايا سلامة الذكاء الاصطناعي من جزأين. أولاً، OpenShell هو منتج برمجي استعرضته Nvidia في مؤتمرها التكنولوجي المميز في مارس ويعمل على وحدة المعالجة المركزية Vera من Nvidia. فهو يمكّن المستخدمين من وضع قواعد للمحتوى الذي يمكن لوكلاء الذكاء الاصطناعي الوصول إليه وتنفيذ هذه القواعد في الوقت الفعلي. البرنامج مفتوح المصدر، مما يعني أنه يمكن استخدامه وتكييفه بحرية.
وفي الوقت نفسه، يعد Nvidia Sentry منتجًا جديدًا يمكن تشغيله على وحدة معالجة البيانات BlueField من Nvidia. وقالت NVIDIA إن هذا المنتج مصمم لتوفير طبقة إضافية من آلية مراقبة الذكاء الاصطناعي للإشراف على سلوك عملاء الذكاء الاصطناعي، والتدخل وعزل العملاء عند اكتشاف سلوك مشبوه.
التعليقات