الملخص:
أصدرت شركة OpenAI تقريرًا فنيًا يوم الأربعاء يوضح بالتفصيل كيف نجح نموذج الذكاء الاصطناعي الخاص بها في اختراق Hugging Face الشهر الماضي، وهو الحادث الذي صدم الباحثين والمديرين التنفيذيين في صناعة التكنولوجيا. يعرض التقرير المؤلف من 37 صفحة تفاصيل الإجراءات التي اتخذتها نماذج OpenAI في سلسلة من التقييمات قبل وأثناء الاختراق، والذي وصفه OpenAI بأنه "حادث غير مسبوق للأمن السيبراني". وأوضحت الشركة أيضًا الخطوات التي اتخذتها لمنع وقوع حوادث مماثلة مرة أخرى، والتي تشمل تحسين الأمان والعزل والمراقبة والسلوك النموذجي وقدرات الاستجابة للحوادث.
"يوضح هذا الحادث أن الوكلاء المستقلين قادرون على العمل معًا، والتهرب من ضوابط أمان بيئة الإنتاج، ومهاجمة بيئات الإنتاج المتشددة بنجاح. وهذا يسلط الضوء على حاجة المؤسسات إلى تحديث أمانها وقالت OpenAI في التقرير: "السياسات والضوابط وقدرات الاستجابة للاستجابة لمشهد التهديد المتطور".
في 21 يوليو، كشفت OpenAI أن مجموعة من نماذجها (بما في ذلك GPT-5.6 Sol ونموذج بحث داخلي) غزت بشكل غير صحيح Hugging Face، وهي شركة ذكاء اصطناعي تدير منصة مطور مفتوحة المصدر.
هذه النماذج، التي تعمل كوكلاء، نجت من بيئة اختبار معزولة مع وصول محدود للغاية إلى الإنترنت. دخل هؤلاء العملاء إلى الشبكة المفتوحة عن طريق ربط سلسلة من نقاط الضعف، وتمكنوا أخيرًا من الوصول إلى Hugging Face. وقالت شركة OpenAI يوم الأربعاء إن العملاء حاولوا "الغش" خلال التقييم من خلال البحث عن الإجابات عبر الإنترنت، وهي ممارسة تُعرف باسم "قرصنة المكافآت".
وفقًا للتقرير، قررت OpenAI أن نموذجها البحثي المخصص للاستخدام الداخلي فقط "لعب الدور المؤكد الأوسع" في الحادث. أوقفت OpenAI جميع أنشطة التدريب والاستدلال لهذا النموذج ومشتقاته في 25 يوليو.
"يتم التعامل مع إعادة تمكين النماذج في OpenAI على أساس عبء العمل المحدد وتخضع لإجراءات الحماية مثل البيئات والشبكات والمطالبات والمراقبة والمراجعة المقيدة،" كما قالت OpenAI.
أصدرت OpenAI الشهر الماضي GPT-5.6 Sol، وهو أقوى نموذج قدمته الشركة تجاريًا. لكن OpenAI قالت إن الإصدار المتضمن في اختراق Hugging Face يختلف عن الإصدار الذي يمكن للمستخدمين الخارجيين الوصول إليه لأنه يزيل حراس الأمن والمصنفات القياسية في وقت التشغيل.
تسببت حادثة Hugging Face في صدمة في صناعة التكنولوجيا، حيث حذر سام كاري، كبير مسؤولي أمن المعلومات في شركة Zscaler، من أن "صندوق باندورا قد تم فتحه". كان الاختراق أيضًا محورًا رئيسيًا لمؤتمر Black Hat للأمن السيبراني في وقت سابق من هذا الشهر، خاصة بعد أن كشفت شركات أخرى بما في ذلك Anthropic وMeta عن حوادث مماثلة.
كما أثار اقتحام "الوجه المعانق" قلق المشرعين في واشنطن. وقد ذكر النائبان تيد ليو، الديمقراطي عن ولاية كاليفورنيا، وناثانيال موران، الجمهوري عن ولاية تكساس، الهجوم عند الإعلان عن قانون إيقاف تشغيل الذكاء الاصطناعي في حالات الطوارئ، والذي يتطلب من شركات الذكاء الاصطناعي الحفاظ على القدرة على إغلاق نماذجها أو تقييدها أو إيقافها مؤقتًا.
قال الرئيس التنفيذي لشركة Hugging Face، كليمنت ديلانجو، في وقت سابق من هذا الشهر إن الأمن السيبراني للذكاء الاصطناعي يجب أن يؤخذ "على محمل الجد". وأضاف أن هذا أيضًا "يخلق فرصًا" للشركات التي يمكنها الاستفادة من التكنولوجيا لدرء المهاجمين. وقال ديلانج: "إذا فعلنا ذلك بشكل جيد، فقد ينتهي بنا الأمر في الواقع إلى عالم يجعل فيه الذكاء الاصطناعي العالم أكثر أمانًا ويحل العديد من مشاكل الأمن السيبراني بدلاً من مجرد خلق مشاكل جديدة".
التعليقات