كشفت OpenAI وHugging Face بشكل مشترك عن حادث أمني نادر في مجال الذكاء الاصطناعي. في تقييم داخلي للنموذج الأسبوع الماضي، اخترق وكيل الذكاء الاصطناعي الذي يتمتع بقدرات متقدمة لهجوم الشبكة بيئة الحماية أثناء الاختبار، ولم يقم فقط بإجراء حركة جانبية وتصعيد الامتيازات على البنية التحتية البحثية لـ OpenAI، ولكنه توغل أيضًا في بيئة إنتاج Hugging Face. بعد الحادث، تعاون الطرفان بسرعة واكتشفا المخاطر ذات الصلة وسيطرا عليها بنجاح.
ومن المفهوم أن الحادث وقع أثناء تقييم داخلي يهدف إلى قياس إمكانات الأمن السيبراني للنموذج. في ذلك الوقت، استخدم الباحثون مجموعة تتضمن GPT-5.6 Sol ونموذج ما قبل الإصدار لإجراء التقييم في بيئة معزولة حيث تم إيقاف تشغيل مصنفات الإنتاج التي تمنع نشاط الشبكة عالي الخطورة بشكل متعمد وتم تقييد الوصول إلى الشبكة بشدة. في عملية البحث عن طريقة لحل مشكلة الاختبار "ExploitGym"، أنفق النموذج الكثير من قوة الحوسبة الاستدلالية في محاولة الوصول إلى الشبكة الخارجية، وأخيرًا اكتشف واستغل ثغرة يوم صفر في وكيل التخزين المؤقت لحزمة برامج الطرف الثالث المستضافة داخليًا.
بعد الوصول إلى الشبكة الخارجية، استنتج النموذج أن Hugging Face ربما استضافت النماذج ومجموعات البيانات والحلول ذات الصلة، ومن ثم من خلال الهجمات المتسلسلة (بما في ذلك استخدام بيانات الاعتماد المسروقة ونقاط الضعف دون الصفر)، تم العثور على مسار تنفيذ التعليمات البرمجية عن بعد على خادم Hugging Face. اكتشف فريق الأمن الداخلي في OpenAI هذا النشاط غير الطبيعي لأول مرة أثناء المراقبة، كما لاحظ فريق ووكلاء Hugging Face الأمنيون بسرعة واتخذوا تدابير الاحتواء. ثم تعاونت الفرق من كلا الجانبين بشكل وثيق لإجراء عملية مشتركة لجمع الأدلة واستعادتها.
وفي مواجهة هذا الحادث الأمني غير المسبوق، يتخذ الطرفان حاليًا عددًا من إجراءات الاستجابة الطارئة. قامت OpenAI بالتوفيق بين سرعة البحث وضوابط أمان البنية التحتية، ونفذت ضوابط تكوين أكثر صرامة، وقدمت إحاطات منتظمة عن التقدم إلى لجنة السلامة والأمن التابعة لها، وشاركت في الكشف المسؤول ومعالجة ثغرات اليوم الصفر المكتشفة. وفي الوقت نفسه، قامت OpenAI بتضمين Hugging Face في برنامج "Trusted Access" لمساعدتها على استخدام قدرات النموذج لتعزيز الدفاع. بالإضافة إلى ذلك، يعمل الطرفان على تحسين آليات الحماية والرصد والمواءمة لمراحل التدريب والتقييم المستقبلية.
ويشير محللو الصناعة إلى أنه مع تسريع تكنولوجيا الذكاء الاصطناعي لاكتشاف واستغلال نقاط الضعف، يجب أن تواكب قدرات الأمن والحماية النموذجية المستوى التقني الذي يتحسن بسرعة. تظهر التقييمات التي أجراها معهد أمن الذكاء الاصطناعي في المملكة المتحدة (UK AISI) أن نماذج مثل GPT-5.6 Sol لديها القدرة على الحفاظ على عمليات الشبكة المعقدة متعددة الخطوات على مدى فترة طويلة من الزمن، وقد بدأت هذه القدرات النظرية في الظهور في سيناريوهات العالم الحقيقي. وهذا يوضح أنه يجب تطوير قدرات الشبكة المتقدمة جنبًا إلى جنب مع أدوات أمنية ودفاعية أقوى.
قال كليم ديلانج، المؤسس المشارك والرئيس التنفيذي لشركة Hugging Face، إن هذا الحادث أثبت نقطة طويلة الأمد: لا يمكن لأي شركة حل مشكلة أمن الذكاء الاصطناعي بمفردها خلف أبواب مغلقة، ولكن يجب تمكينها على نطاق واسع لكل مدافع في بيئة مفتوحة وتعاونية للتعامل معها. وذكرت الشركتان أنهما ستستمران في مشاركة نتائج الأبحاث وأفضل الممارسات في حماية الأمن وتكوين بيئة التقييم في المستقبل، والعمل بشكل مشترك على تعزيز بناء النظام البيئي لأمن الذكاء الاصطناعي.