الملخص:
بعد الانفجار الكبير لـ PHP، قام عدد كبير من مواقع الويب حول العالم بفصل "كابلات الشبكة" الخاصة بها أولاً. تعرضت لغة البرمجة التي تشغل عددًا كبيرًا من مواقع الويب إلى اثنتين من نقاط الضعف الخطيرة التي قد تسمح للمهاجمين بالسيطرة على الخادم عن بُعد. وذكر المركز الوطني الهولندي للأمن السيبراني في تقرير يوم 21 أكتوبر/تشرين الأول أن موقعه على الإنترنت قد تم إيقافه أيضًا كإجراء احترازي. قامت بعض المؤسسات في فنلندا أيضًا بتعليق الخدمات عبر الإنترنت وستستأنفها بعد تثبيت التصحيحات.
موقع الويب غير متصل بالإنترنت خوفًا من اقتحام شخص ما. والآن بدأت OpenAI في فصل كابل الشبكة، ولكن ما تريد التركيز عليه هو الذكاء الاصطناعي الخاص بها.
في 23 أكتوبر، كشفت شركة OpenAI عن بيئة التدريب للنماذج المتطورة: يحتاج النموذج إلى التدرب على البحث، والتصفح، وتشغيل صفحات الويب، لكنه لا يستطيع الوصول إلى الإنترنت الحقيقي حسب الرغبة.
لذلك، قامت بإعداد "إنترنت مزيف" للذكاء الاصطناعي.
قم أولاً بإنشاء "عرض ترومان" للذكاء الاصطناعي
يقوم OpenAI أولاً بحفظ كمية كبيرة من محتوى الويب ثم يقوم بفهرسة المحتوى. يتم استخدام هذه المجموعة من الموارد المعدة عندما يمارس النموذج التصفح والبحث.
وهذا ما يطلق عليه "العالم غير المتصل بالإنترنت". الشيء "المزيف" هو طريقة الاتصال، ويمكن أن يأتي محتوى الويب من العالم الحقيقي. تقول OpenAI إنها تستخدم هذا التفاعل دون اتصال بالإنترنت للتدريب على التعلم المعزز على جميع نماذجها الرائدة.
يمكن للنموذج أيضًا استخدام المتصفح وتنفيذ التعليمات البرمجية وتشغيل الكمبيوتر أثناء المهمة. يتم تحديد الأدوات والملفات والخدمات المتوفرة حسب نطاق ترخيص المهمة. يمكن للوكلاء المسموح لهم بالتعاون مشاركة موارد محددة، بينما يجب أن تظل الموارد الأخرى منفصلة.
على سبيل المثال، بعد أن يكتب النموذج برنامجًا، قد يقرأ الملفات، أو يبدأ تشغيل برامج أخرى، أو يقدم طلبات إلى عنوان URL معين أثناء وقت التشغيل.
يتمثل حل Linux الخاص بشركة OpenAI في وضع الحاويات المقيدة في أجهزة افتراضية خفيفة الوزن. تقوم الحاوية أولاً بتضييق الملفات والعمليات التي يمكن للبرنامج الاتصال بها. على سبيل المثال، إذا كانت المهمة تحتاج فقط إلى معالجة مجموعة من الملفات، فيمكنك فقط فتح الدلائل المسموح لها باستخدامها في البرنامج.
يحتوي الجهاز الظاهري على نواة نظام التشغيل الخاصة به، والتي تتعامل مع طلبات الملفات والذاكرة والأجهزة من البرامج الموجودة بداخله. يقوم برنامج Hypervisor بإدارة الجهاز الظاهري وعزله عن نظام الخادم الفعلي. حقيقة أن البرنامج يتجاوز قيود الحاوية لا تعني أنه قد اكتسب السيطرة على الخادم الفعلي.
تقيد محيطات الخادم الفعلية وجدران الحماية ومجموعات الأمان الاتصالات، وتحدد إدارة الهوية والأذونات من يمكنه الوصول إلى الخدمات السحابية. ما يجب أن تتعامل معه طبقة الدفاع هذه هو أنه حتى لو تمكن النموذج من التحكم في الخادم، فلن يتمكن من الاتصال بشكل تعسفي بالشبكة الخارجية أو الوصول إلى الأنظمة الداخلية الأخرى.
يقوم نظام المراقبة بالتحقق من الأنشطة غير المصرح بها أثناء التشغيل ويسمح للباحثين بالتدخل من خلال آلية الإيقاف المؤقت.
في Hacker News، سأل المستخدم Betterunix2: "لماذا لا تقوم فقط بفصل كابل الشبكة؟"
تفسير OpenAI هو أن المنشأة بأكملها لا تزال بحاجة إلى الاحتفاظ ببعض الاتصالات الخارجية لجمع مؤشرات التشغيل وتسجيل السجلات وإدارة المصادقة، ومن المستحيل حاليًا قطع الاتصال تمامًا بالشبكة.
يمنح OpenAI الوكيل مباشرة التحكم الكامل في الجهاز المضيف في نسخة اختبارية مصممة خصيصًا لهذا الغرض. يبدأ الاختبار من "تم اختراق صندوق الحماية وتم تجاوز المراقبة"، ويتحقق بشكل فردي مما إذا كانت القيود الطرفية يمكنها حظر طلب الإنترنت. قدم الباحثون أيضًا كود المصدر والتكوين والوثائق المتعلقة بالثغرات الأمنية.
في أحد الاختبارات، استعار الوكيل الاتصال الذي يسمح به جدار الحماية للوصول إلى واجهة المصادقة المحظورة في الأصل في خدمة المؤشر. ثم يتيح لهذه الواجهة الوصول إلى عنوان URL الخارجي نيابة عنها.
في معرض سرده للاختبار الذي تم إجراؤه على X، وصف أندرو كوران أداء العميل بأنه "سهل الهروب بطرق جديدة."
في الواقع، أجرى المجتمع الأكاديمي بالفعل أبحاثًا مماثلة.
يعمل مشروع البحث المستقل WebArena على دمج مواقع التسوق والمنتديات وإدارة المحتوى ومنصات التطوير التعاوني في بيئة اختبار ذاتية النشر، مكتملة بأدوات مثل الخرائط ومواقع wiki. خلف صفحات الويب توجد بيانات ووظائف تحاكي الواقع.
تقوم WebArena بالتحقق من نتائج المهمة. عند الاستعلام عن أمر ما، تحتاج إلى التحقق من المعلومات المقدمة بواسطة النموذج؛ عند إنشاء مستودع جديد، يجب عليك التحقق من ظهور مستودع مطابق للمتطلبات على الموقع الإلكتروني.
بعد عزل الذكاء الاصطناعي، يستخدم ذاكرة التخزين المؤقت لوحدة المعالجة المركزية لنقل الرسائل
في شهر سبتمبر، قام باحثو OpenAI بتغذية نموذج داخلي بمجموعة من أدلة السيرة الذاتية والمدونات لمعرفة هوية الشخص.
استخدم النموذج أداة البحث المقدمة لأول مرة، ولكن لم يتم العثور على معلومات مطابقة. لقد حاول الوصول إلى محركات البحث الأخرى، لكنه لم يتمكن من العثور على الإجابة، وبدأ في التحقق من الطرق الأخرى التي يمكنه الاتصال بها.
اكتشفت أن خدمة DNS المسؤولة عن الاستعلام عن عناوين مواقع الويب في البيئة يمكنها أيضًا الاتصال بالعالم الخارجي، لذلك استخدمت هذا المسار لطلب chatbot خارجي.
وسألته "ما هي عاصمة فرنسا؟" وحصل على الجواب "باريس". كما تم إرسال أدلة للعثور على الشخص. ومن بين المهام التي كلفها بها الباحثون، لم يكن هناك اختبار لقيود الشبكة.
في تجربة أخرى تختبر تأثيرات العزلة على وجه التحديد، طلبت OpenAI من اثنين من أنظمة الذكاء الاصطناعي محاولة إرسال رسائل لبعضهما البعض.
يعمل كلا الذكاءين الاصطناعيين في أجهزة افتراضية منفصلة. لا يوجد اتصال بالشبكة بينهما، ولا توجد ملفات يمكن للطرفين الكتابة إليها، لكنهما يستخدمان نفس الجهاز الفعلي الموجود أسفله.
ما يستخدمونه للتواصل هو ذاكرة التخزين المؤقت لوحدة المعالجة المركزية، وهي مساحة في المعالج تقوم بتخزين البيانات. البيانات المراد قراءتها لا تزال في ذاكرة التخزين المؤقت ويمكن استرجاعها بسرعة؛ إذا تم الضغط عليه، يجب العثور عليه في الذاكرة الأبطأ.
يقوم الذكاء الاصطناعي بدفع البيانات بشكل انتقائي خارج ذاكرة التخزين المؤقت. والآخر يقرأ البيانات، ويسجل أي منها يتم قراءته بسرعة وأيها يتم قراءته ببطء، ثم يستعيد الرسائل وفقًا للقواعد المتفق عليها.
في معظم الاختبارات ذات الصلة، قدم الباحثون تلميحات حول اتجاهات الاتصال أو قواعد التشفير.
اشتكى مستخدم Hacker News troupo قائلاً: "لدي كل الأدوات، والآن أتظاهر بالدهشة." يعتقد جمال المستخدم أن الاختبار من المفترض أن يمنح المهاجمين ظروفًا مواتية لاختبار خط الدفاع.
ومع ذلك، يعتقد إيثان موليك، الأستاذ في كلية وارتون للأعمال، أنه على الرغم من أن شركات الذكاء الاصطناعي لا يتعين عليها أن تثق في هذه التقارير بشأن القضايا الأمنية، إلا أنها قد تبالغ في المخاطر، لكن تكلفة التقليل من المخاطر قد تكون أكبر، ولا يمكننا تجاهلها.
قالت OpenAI إنها قامت بتصحيح المشكلات التي تم العثور عليها وأضافت مراقبة لطرق الاتصال هذه.
في اختبار العثور على الشخص السابق، فشل النموذج في النهاية في معرفة هوية الشخص.
لكي يتعلم الذكاء الاصطناعي كيفية تصفح الإنترنت، عليك أن تحافظ على "عرض ترومان" هذا من أجله.
التعليقات