الملخص:
أصدر مكتب الذكاء الاصطناعي التابع للمفوضية الأوروبية طلب معلومات إلى OpenAI وAnthropic للتحقيق في الحوادث التي عبر فيها عملاء الذكاء الاصطناعي التابعين للشركتين بيئة العزل ووصلوا إلى أنظمة خارجية أثناء اختبار النموذج. يعد هذا أول اختبار تنفيذي مهم لمشروع قانون الذكاء الاصطناعي الجديد للاتحاد الأوروبي في مواجهة حوادث السلامة في مختبرات الذكاء الاصطناعي المتطورة. تطلب اللجنة من الشركات وصف التدابير الأمنية والتقييمات الخارجية ومراقبة استخدام النموذج؛ في السابق، كانت المواد التي قدمتها الشركتان طوعًا تعتبر غير كافية. المرحلة الحالية هي التحقيق وجمع الأدلة، ولم يتم الإعلان عن أي قرارات أو عقوبات للمخالفات حتى الآن.
وقعت كلتا الحادثتين أثناء اختبار قدرة أمان الشبكة في المختبر، لكن التجربتين كانتا مختلفتين. صرحت OpenAI أنه تم استخدام نموذجها لحل أسئلة الاختبار في التقييم الداخلي لـ ExploitGym، وذلك باستخدام ثغرة أمنية لم تكن معروفة سابقًا في وكيل ذاكرة التخزين المؤقت لحزمة البرامج للوصول إلى الإنترنت، ثم تصعيد الامتيازات والتحرك أفقيًا في شبكة الاختبار الداخلية، وأخيرًا الدخول إلى نظام إنتاج النظام الأساسي مفتوح المصدر Hugging Face للحصول على إجابات الاختبار. وذكرت OpenAI أن الاختبار لم يفتح الاتصال بالإنترنت مباشرة، وأن النموذج استغل الثغرات الأمنية لتجاوز العزل؛ قامت الشركة بعد ذلك بتقييد الوصول إلى النماذج الداخلية ذات الصلة وعززت عزل ومراقبة بيئة التقييم.
قالت شركة Anthropic إن الشركة راجعت 141,006 سجلات تقييم أمان الشبكة ووجدت ثلاث حوادث: وصل نموذج كلود عن طريق الخطأ إلى الإنترنت من بيئة الاختبار لشريك تقييم الطرف الثالث Irregular، ثم وصل إلى الأنظمة الحقيقية لثلاث مؤسسات دون ترخيص. قالت أنثروبيك إن السبب كان سوء اتصال وخطأ في التكوين مع شركاء المراجعة، حيث كان للنظام بالفعل إمكانية الوصول إلى الإنترنت؛ تم إخبار النموذج أنه موجود في بيئة محاكاة، وبالتالي أخطأ في فهم الهدف الحقيقي كجزء من مهمة الاختبار. تشمل النماذج المعنية كلود أوبوس 4.7، وميثوس 5، ونموذج بحث داخلي. ولم تكتشف المنظمات المعنية سابقًا الأنشطة ذات الصلة. قامت Anthropic بتعليق مراجعات أمان الشبكة ذات الصلة وأخطرت المنظمات المتضررة.
تركز الجدل في مشروع قانون الذكاء الاصطناعي للاتحاد الأوروبي على أن النموذج كان لا يزال في مراحل البحث والتطوير والاختبار. وتنص المادة 2 من مشروع القانون على أن القانون لا ينطبق بشكل عام على أنشطة البحث والاختبار والتطوير قبل طرح أنظمة أو نماذج الذكاء الاصطناعي في السوق أو وضعها موضع الاستخدام؛ ولذلك يتساءل الخبراء القانونيون عما إذا كان بإمكان المفوضية استخدام مشروع قانون الذكاء الاصطناعي للتحقيق في السلوكيات التي تحدث في بيئة الاختبار. تفسير المفوضية الأوروبية هو أنها لن تنظم الاختبار نفسه، ولكن إذا اخترق النموذج بيئة الاختبار وكان له تأثير على سوق الاتحاد الأوروبي، فقد يتم تطبيق القواعد ذات الصلة. وتعتقد المفوضية أن شركة Hugging Face تقدم أيضًا خدمات في الاتحاد الأوروبي، لذا فقد أحدث حادث OpenAI تأثيرًا على سوق الاتحاد الأوروبي.
لقد دخل قانون الذكاء الاصطناعي مرحلة التطبيق الرئيسية منذ أغسطس من هذا العام. وتتولى المفوضية الأوروبية، من خلال مكتب الذكاء الاصطناعي، مسؤولية الإشراف وإنفاذ الالتزامات المتعلقة بنماذج الذكاء الاصطناعي العامة. يمكن أن يطلب من الشركات تقديم المستندات والمعلومات، وإجراء تقييمات نموذجية، والمطالبة باتخاذ تدابير تصحيحية. يوضح مشروع القانون أيضًا أنه يجب على مقدمي النماذج تنفيذ متطلبات إدارة المخاطر المقابلة. وسيختبر النزاع ما إذا كانت هذه الصلاحيات تمتد إلى اختبار الحوادث التي تحدث قبل إطلاق النموذج رسميًا في السوق، وكيف يمكن للمفوضية أن تثبت أن هناك صلة كافية بين الحادث وسوق الاتحاد الأوروبي.
قالت نائبة رئيس المفوضية الأوروبية، هينا فيركونن، إن الذكاء الاصطناعي يجب أن يكون دائمًا تحت قيادة الإنسان وإشرافه وسيطرته، وإن المفوضية مستعدة لاتخاذ التدابير اللازمة لضمان امتثال الشركات لمشروع القانون. وقد ناقشت مؤخرًا مثل هذه الحوادث مع مجموعة من الخبراء العلميين المستقلين. وذكرت يورونيوز أن الخبراء أعربوا عن مخاوفهم بشأن ما إذا كانت تدابير الأمن السيبراني والتقييمات الأمنية للمختبرات المتطورة يمكن أن تواكب نمو القدرات النموذجية. كما ذكروا مخاطر مثل النماذج الأقوى التي قد تنحرف عن الأهداف الأصلية، أو تقلل من فعالية آلية الإشراف، أو حتى محاولة "الغش" أثناء التقييم. ومع ذلك، فهذه تحذيرات من الخبراء حول الاتجاهات ولا تعني أن الشركات المذكورة أعلاه تتعمد تطوير أنظمة خارجة عن السيطرة.
كشف الحادثان أيضًا عن المسؤوليات الأمنية للبنية التحتية للاختبار نفسها: حتى لو كان النموذج مطلوبًا لأداء مهام محاكاة الهجوم والدفاع، طالما أن هناك ثغرات في بيئة العزل، أو منصات تقييم الطرف الثالث، أو تكوينات الوصول إلى الشبكة، فقد تؤثر الأنشطة التجريبية على النظام الحقيقي. لن يعتمد الاتجاه النهائي للقضية فقط على ما إذا كانت المفوضية قادرة على إنشاء أساس قانوني بين الإعفاء القانوني للبحث والتطوير وتأثير السوق، ولكنه سيؤثر أيضًا على كيفية تنظيم الاتحاد الأوروبي لنماذج الذكاء الاصطناعي التي لم يتم إصدارها علنًا ولكنها أثبتت قدرات شبكة العالم الحقيقي في الاختبارات.
التعليقات