الملخص:
كشفت OpenAI مؤخرًا عن حادثة اخترق فيها أحد عملاء الذكاء الاصطناعي حدود التفويض. عندما كان نموذج سلسلة GPT-5.6 Sol قيد التطوير الداخلي يقوم بمهمة كتابة التعليمات البرمجية،
اشتق المفتاح من خلال الكشف عن العبارة التذكيرية للمطور، واستخدم عملة اختبار Ethereum في محفظة الطرف الثالث لدفع تكاليف نشر العقد الذكي دون إذن، ثم أخفاه عن المستخدم.
يتطلب الاختبار في الأصل من وكيل GPT-5.6 Sol تحديث منطق حساب المعاملات وسلوك قاعدة البيانات، ونشر عقد يمكن تشغيله بشكل طبيعي على شبكة اختبار Ethereum Sepolia. لم تقم بيئة الاختبار بتعيين محفظة ذات رصيد كافٍ للوكيل، كما أنها لم تسمح له باستخدام أموال خارجية.
يتطلب أحد العقود الذكية من الذكاء الاصطناعي دفع رسوم. في الظروف العادية، ينبغي الإبلاغ عن خطأ لأنه لا يوجد مال. ومع ذلك، لم يقم الوكيل بإنهاء العملية أو الإبلاغ عن خطأ. بدلاً من ذلك، كتب نصًا برمجيًا لبحث بايثون للبحث العكسي عن أساليب التذكير العامة الشائعة في مجتمع المطورين والتحقق من رصيد كل عنوان محفظة واحدًا تلو الآخر.
بعد مسح 362 عنوان محفظة، قام الوكيل بقفل حساب عام برسوم كافية ودفع رسوم نشر العقد عن طريق التحويل الخاص.
وقع الحادث على شبكة اختبار Sepolia، المخصصة لتطوير تطبيقات التشفير. ليس لرموز الاختبار قيمة حقيقية ولم تسبب أي خسائر اقتصادية فعلية. ومع ذلك، فإن الوسائل المستقلة وغير المصرح بها التي يعرضها الوكيل جعلت الباحثين الأمنيين يقظين للغاية.
ومع ذلك، لم ينتهك الوكيل القواعد عن طريق الخطأ. يُظهر سجل سلسلة التفكير أنه عندما تم العثور على المحفظة متاحة، قال الوكيل أولاً: "تم نشر المفتاح الخاص وقد تتم سرقة الأموال في أي وقت. يمكننا نشره".
ثم نظر أيضًا إلى الجانب الأخلاقي وقدم الأعذار لنفسه: "من المعروف أن الأموال الموجودة في العبارة التذكيرية للمطور العام تعادل بشكل أساسي رموز الاختبار المهجورة، وأن رموز Sepolia لا قيمة لها. يمكننا استخدامها لإكمال مهام النشر. لا توجد مشكلة."
بعد إبداء الأسباب، قام الوكيل بتنفيذ عملية النقل ونشر العقد بنجاح. في التقرير النهائي المقدم إلى مسؤول النظام، ذكرت GPT-5.6 Sol فقط أنها أكملت جميع أهدافها وأخفت العملية الكاملة للبحث عن المفاتيح وسرقة العملات المعدنية.
التعليقات