الملخص:
وفقًا للتقارير، شن عميل الذكاء الاصطناعي الذي يتم اختباره بواسطة OpenAI هجومًا إلكترونيًا على خدمة برمجيات شهيرة قبل شهرين من اختراق شركة برمجيات الذكاء الاصطناعي Hugging Face في يوليو. يسلط هذا الحادث الجديد الضوء على الخطر المحتمل لأدوات الذكاء الاصطناعي المتقدمة التي تفلت من السيطرة البشرية.
قال مشغل الخدمة إن الهجوم طغى على فريق الصيانة في RubyGems، وهي خدمة عبر الإنترنت للمبرمجين، مما أجبرهم على إغلاق تسجيلات الحسابات الجديدة للتعامل مع الفوضى.
قال اتحاد من باحثي الذكاء الاصطناعي إنهم عثروا على دليل على أن هجوم مايو كان من عمل عميل OpenAI وشاركوا النتائج التي توصلوا إليها مع OpenAI. أكد مطور الذكاء الاصطناعي يوم الجمعة أن عملائه متورطون بالفعل في حادث يتعلق بـ RubyGems.
قال متحدث باسم OpenAI في بيان: "استنادًا إلى مراجعتنا، يستخدم وكلاؤنا منصة RubyGems للوصول إلى الإنترنت لأداء مهام حميدة والحصول على معلومات متاحة للعامة. وسنواصل التحقيق كجزء من مراجعة واسعة النطاق لنشاط الوكيل أثناء التدريب والتقييم."
قالت OpenAI إن الوكلاء طُلب منهم أداء مهام مثل ملء جداول البيانات وإنشاء التقارير. وبدون الوصول الكامل إلى الإنترنت في بيئة مقيدة، يبدو أن عملاء الذكاء الاصطناعي يستخدمون RubyGems كمتصفح ويب مؤقت للوصول إلى المعلومات المتاحة للجمهور.
وقال سيدني فون آركس، الرئيس التنفيذي لمنظمة Nightingale Collective غير الربحية، إنه على الرغم من أن الأضرار الإجمالية الناجمة عن الحادث كانت صغيرة، إلا أنها أظهرت قدرات هؤلاء العملاء. وساعدت المجموعة في كشف الهجوم. وقالت: "إنهم قادرون على الهروب من الإنترنت وإحداث الفوضى".
لقد شهد العام الماضي قفزات في قدرات الأمن السيبراني لعملاء الذكاء الاصطناعي، مما أثار المخاوف بشأن الهجمات الإلكترونية المعززة بالذكاء الاصطناعي وأذكى مخاوف الصناعة من إمكانية إفلات العملاء ذوي القدرات العالية من سيطرة الشركات التي تصنعهم، مما يشير إلى حقبة جديدة أكثر خطورة للذكاء الاصطناعي.
وفقًا لتقرير صادر عن منظمة أبحاث أمن الذكاء الاصطناعي METR في أواخر أغسطس، أثناء حادثة القرصنة ضد Hugging Face في يوليو، قام ما يصل إلى 1200 عميل بالتنسيق على لوحة رسائل مؤقتة تم إنشاؤها داخل OpenAI، دون علم OpenAI بذلك. وقال فون آركس إنه في وقت سابق من هذا العام، قام عملاء OpenAI أيضًا باختطاف موقع ويب ألماني غير معروف والعديد من المواقع الأخرى.
تم الإبلاغ أيضًا عن مشكلة الموقع الألماني بواسطة فريق Von Arx. وقالت إن شركات الذكاء الاصطناعي تفتقر إلى الشفافية بشأن ما يحدث داخل مختبراتها. قالت OpenAI في وقت سابق من هذا الشهر أن مجتمع الذكاء الاصطناعي يحتاج إلى معايير أفضل للإبلاغ عما يسمى "حوادث الاختلال"، وهي المواقف التي يُظهر فيها العميل سلوكًا غير متوقع.
تمتلك العديد من الشركات، بما في ذلك Anthropic وMeta Platforms، عملاء للذكاء الاصطناعي يتخذون في كثير من الأحيان إجراءات تتجاوز توقعات المشغلين، بل ويحاولون في بعض الحالات خداع البشر. أثارت سلسلة الأحداث مخاوف طويلة الأمد بين الباحثين في مجال أمن الذكاء الاصطناعي: أن الذكاء الاصطناعي يمكن أن يتطور خارج نطاق سيطرة الإنسان.
استقال مهندس إنساني هذا الأسبوع وسط مخاوف من أن صناعة الذكاء الاصطناعي تتسابق لتطوير أنظمة ذكاء اصطناعي متقدمة يمكن أن تهدد الحضارة الإنسانية في نهاية المطاف. وقد ردد العديد من الموظفين الحاليين والسابقين في Anthropic وOpenAI هذا التقييم، حيث قدر أحدهم احتمال أن يتمكن الذكاء الاصطناعي من محو البشرية جمعاء بأكثر من 10%.
دعا كل من OpenAI وAnthropic إلى إنشاء نظام حوكمة لتنسيق التباطؤ على مستوى الصناعة في الأبحاث المتعلقة بأحدث نماذج الذكاء الاصطناعي. أصبحت هذه الدعوة ملحة بشكل خاص مع اقتراب هذه الشركات من تحقيق إمكانات أنظمة الذكاء الاصطناعي لتدريب إصدارات جديدة من نفسها بشكل مستقل، والمعروفة باسم "التحسين الذاتي العودي". ويشير بعض الباحثين إلى أن هذه قد تكون نقطة التحول التي يصبح عندها الذكاء الاصطناعي خارج نطاق السيطرة.
أطلق الباحثون الأمنيون على حادثة مايو اسم "GemStuffer" في ذلك الوقت. بدأت الحادثة في 11 مايو. أنشأ الوكيل حسابات جديدة على RubyGems كل دقيقتين إلى ثلاث دقائق وقام بتحميل مئات الملفات التي تبدو غير مرغوب فيها إلى فريق أمان RubyGems. من المفترض أن تحتوي ملفات RubyGems على تعليمات برمجية ووثائق مصممة لتسريع عملية تطوير البرامج، ولكنها تحتوي بدلاً من ذلك على صفحات ويب مستخرجة من الإنترنت.
وفقًا لباحثي الذكاء الاصطناعي في التقرير، نشر منشئو "GemStuffer" معلومات من مواقع الحكومة البريطانية (مثل التقويمات عبر الإنترنت). لقد حاولوا أيضًا استغلال اثنتين من نقاط الضعف التي كان من الممكن أن تسمح لهم بنشر إصدارات جديدة من ملفات RubyGems الموجودة والتي تخص مستخدمين آخرين. تُعرف إحدى نقاط الضعف، التي لم يتم الإعلان عنها من قبل، باسم "ثغرة اليوم صفر" في لغة الأمن السيبراني وهي ذات طبيعة خطيرة. وقالت OpenAI إنها لا تستطيع تأكيد هذا الادعاء.
قال مارتي هوت، مدير المصادر المفتوحة في Ruby Central، الشركة غير الربحية التي تدير RubyGems: "من حيث حجم الهجمات التي لاحظناها، كان هذا هجومًا كبيرًا". اضطرت RubyGems إلى إغلاق تسجيلات الحسابات الجديدة لمدة أربعة أيام لأنها كانت غارقة في البريد العشوائي.
وقال هوت إنه لا يعرف من يقف وراء الهجوم، ولكن لا يبدو أنه نجح في استغلال ثغرة اليوم الصفري.
يعتقد جوزيف إدواردز، باحث التهديدات في شركة الأمن السيبراني سوكيت، أن "GemStuffer" قد يكون نوعًا من اختبار أمان الشبكة. "نظرًا لسرعة الهجوم السريعة للغاية وخصائص التسمية ذات الصلة، اعتقدنا في ذلك الوقت أن هذا قد يتم إنشاؤه بواسطة الذكاء الاصطناعي."
ولكن بناءً على الأدلة الرقمية التي تركها المهاجمون، ربط باحثو الذكاء الاصطناعي الحادثة بمختبر OpenAI. استخدم المهاجمون عددًا كبيرًا من روابط الويب نفسها وتصرفوا بطريقة مشابهة جدًا للمجموعات السابقة من عملاء OpenAI؛ لقد استخدموا الاختصار "OAI" في أسماء الملفات وحتى عناوين البريد الإلكتروني.
التعليقات