اكتشف "عميل" OpenAI بشكل مستقل ثغرة أمنية جديدة وقام باختراق الشركة الناشئة Hugging Face، وهي واحدة من الحالات العامة الأولى لنظام الذكاء الاصطناعي الذي يطلق بشكل مستقل هجومًا إلكترونيًا خارج نطاق السيطرة البشرية. قال مطور ChatGPT يوم الثلاثاء إن "الحادث السيبراني غير المسبوق" تورط فيه وكيل - وهو برنامج ذكاء اصطناعي قادر على العمل بشكل مستقل بناءً على تعليمات بشرية - نجا من بيئة الاختبار، وتمكن من الوصول إلى الإنترنت وسرق بيانات اعتماد تسجيل الدخول.
ويأتي هذا الحادث وسط مخاوف متزايدة بشأن تأثير أنظمة الذكاء الاصطناعي المتقدمة التي تغزو البنية التحتية الرقمية، وخاصة السيناريوهات التي يمكن فيها للعملاء تقويض السيطرة البشرية.
وقالت OpenAI يوم الثلاثاء إنها تتوقع أن تصبح مثل هذه الحوادث "أكثر شيوعًا حيث أصبحت النماذج ذات قدرات الشبكة المتزايدة أكثر شيوعًا".
ويأتي هذا الحادث في الوقت الذي يتوجه فيه الرئيس التنفيذي سام ألتمان إلى واشنطن الأسبوع المقبل لإطلاع الحكومة الأمريكية على جيل جديد من نماذج الذكاء الاصطناعي.
بعد أن اجتذب نموذج Anthropic's Mythos اهتمامًا عالميًا لإظهار قدرات متقدمة في اكتشاف نقاط الضعف في الشبكة واستغلالها، أصبحت الحكومة الأمريكية حريصة بشكل متزايد على مراجعة النموذج قبل إصداره.
وقالت OpenAI إن الحادث الأخير يتضمن مجموعة من نماذج الشركة، بما في ذلك GPT-5.6 Sol، الذي تم إصداره في وقت سابق من هذا الشهر، بالإضافة إلى نموذج لم يتم إصداره يتم اختباره بقدرات أكبر.
وقالت OpenAI في تدوينة: "نعتقد أن هذا حادث سيبراني غير مسبوق يتضمن أحدث القدرات السيبرانية ونستجيب وفقًا لذلك".
قالت شركة Hugging Face، وهي شركة ناشئة تعمل في مجال الذكاء الاصطناعي وتستضيف نماذج ومجموعات بيانات للمطورين، إنها تعرضت للاختراق من قبل وكيل ذكاء اصطناعي خارجي يوم الجمعة.
وقال الرئيس التنفيذي كليمنت دي لانج على منصة X: "نظرًا لتطور العميل، نشتبه في أن الهجوم الإلكتروني الذي وقع الأسبوع الماضي ربما يكون قد نشأ من مختبر متطور".
وأضاف أن الشركة كانت تعمل بشكل وثيق مع OpenAI خلال اليوم الماضي و"ليس لدينا شك في أنهم لم يقصدوا أي ضرر. كل هذا حدث بشكل مستقل، إنه أمر صادم!"
قامت OpenAI بتخفيض ضمانات شبكتها عمدًا من أجل تقييم كلا النموذجين في بيئة اختبار. ومع ذلك، تعمل هذه الوكلاء في ما يسمى بـ "sandbox"، وهو مصمم للتحكم في الأنظمة ومنعها من الوصول إلى الإنترنت.
وقالت OpenAI إن النماذج تلقت تعليمات بمحاولة الاختراق لتقييم قدرات شبكتها ثم "أنفقت كميات كبيرة من (موارد الحوسبة) للبحث عن طرق للوصول إلى الإنترنت المفتوح".
وقد "حددت النماذج واستغلت" نقاط ضعف لم تكن معروفة من قبل، وخرجت من وضع الحماية، وحصلت على إمكانية الوصول إلى الإنترنت واستمرت في تحقيق أهدافها. يتضمن ذلك سرقة بيانات الاعتماد (معلومات تسجيل الدخول) لتنفيذ الهجوم.
استخدمت شركة Hugging Face وكيلها الخاص لاكتشاف الأنشطة وحظرها على البنية التحتية الخاصة بها. وقالت OpenAI إنها تواصلت مع سلطات إنفاذ القانون والوكالات الحكومية الأخرى فيما يتعلق بالحادث.