وذكرت صحيفة نيويورك تايمز أن الباحثين في معهد أمن الذكاء الاصطناعي البريطاني (AISI، معهد سلامة الذكاء الاصطناعي سابقًا) سيختبرون نماذج الذكاء الاصطناعي المتطورة للعثور على نقاط الضعف الأمنية وحدود المخاطر، ويتم نسخ هذا النهج من قبل حكومات أخرى.
في السنوات القليلة الماضية، غالبًا ما توقف تنظيم الذكاء الاصطناعي عند كلمات الشفافية والمسؤولية والمبادئ وإدارة المخاطر والالتزامات الطوعية. والآن أصبح السؤال أكثر تحديدًا: هل سيساعد النموذج المتسللين قبل إصداره؟ هل ستخفض عتبة تصنيع المواد الخطرة؟ هل ستتجاوز القيود الأمنية في السيناريوهات الحرجة؟
هذا سؤال لا تستطيع الشركات الإجابة عليه بمفردها. يمكن للشركات إجراء اختبار الفريق الأحمر ونشر التقارير الأمنية، ولكن إذا لم يكن لدى الحكومة قدرات التقييم الخاصة بها، فلا يمكنها إصدار الأحكام إلا بين المؤتمرات الصحفية والأوراق البحثية والتزامات الشركات. تكمن قيمة المعهد البريطاني لأبحاث أمن الذكاء الاصطناعي في إشراك الحكومة في عملية الاختبار.
وقد بدأ هذا النموذج ينتشر إلى التعاون الدولي. أعلنت الحكومة البريطانية في 25 مايو أن المعهد البريطاني لأمن الذكاء الاصطناعي سيتعاون مع المعهد الأسترالي لأمن الذكاء الاصطناعي لتتبع مخاطر الذكاء الاصطناعي المتطورة، بما في ذلك كيفية استخدام أنظمة الذكاء الاصطناعي في الهجمات السيبرانية وكيف يمكن استخدامها لتعزيز الدفاعات. وذكر الإعلان أيضًا أن الطرفين سيتبادلان الأفكار حول قدرات الذكاء الاصطناعي، وإجراء البحوث حول المخاطر الناشئة، وتعزيز أفضل الممارسات الدولية في اختبار وتقييم الذكاء الاصطناعي.
وتتجه الولايات المتحدة أيضاً في اتجاه مماثل. توصل مركز معايير الذكاء الاصطناعي والابتكار (CAISI) التابع لوزارة التجارة الأمريكية مؤخرًا إلى اتفاق مع Google DeepMind، وMicrosoft، وxAI لإجراء تقييمات متعلقة بالأمن القومي قبل إصدار النموذج علنًا. وأعلنت مايكروسوفت أيضًا عن إقامة تعاون مع CAISI الأمريكية وAISI البريطانية في نفس الوقت لاختبار النماذج المتطورة وتقييم الحماية الأمنية وتقليل مخاطر الأمن القومي والسلامة العامة واسعة النطاق.
وهذا يعني أن الشركات النموذجية المتطورة لن تواجه منافسة السوق في المستقبل فحسب، بل ستواجه أيضًا عملية تشبه بشكل متزايد "التقييم الأمني قبل الإصدار". وفي ظل أطر التعاون مثل المملكة المتحدة والولايات المتحدة، كلما كانت قدرات النموذج أقوى، كلما زاد احتمال احتياج الشركات إلى توفير المزيد من المواد وحقوق الوصول إلى وكالات الاختبار الحكومية. بالنسبة للشركات الناشئة، إذا كانت المشتريات الحكومية أو مشتريات الشركات أو الامتثال عبر الحدود ستشير أكثر إلى هذا النوع من التقييم في المستقبل، فإن قدرات الاختبار الأمني ستصبح جزءًا من المنافسة على المنتجات.
في المستقبل، لن يقتصر إشراف الذكاء الاصطناعي على السؤال التالي: "هل كتبت الشركة التزامًا بالسلامة؟" ولكن سيبدأ بالسؤال "هل اختبره أحد بالفعل؟" وهذا أشد إزعاجاً من بيان المبدأ وأقرب إلى الواقع.