الملخص:
دعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic، إلى التحكم في سرعة التحسن في قدرات نماذج الذكاء الاصطناعي المتطورة لكسب الوقت لإجراء التقييمات الأمنية وإجراءات الحماية. واقترح تعيين مقيمين مستقلين دائمين، وتنسيق معايير السلامة للمطورين الرئيسيين، وتعزيز إدارة المخاطر عبر الحدود والتعاون في مجال الرقابة.
يتمتع المقيمون المستقلون بإمكانية الوصول الداخلي
اقترح أمودي أن توفر شركات الذكاء الاصطناعي المتطورة إمكانية الوصول المستمر على مستوى الموظفين تقريبًا إلى فرق التقييم المستقلة المؤهلة حتى يتمكنوا من مراجعة اختبار النماذج والإبلاغ عن المخاطر وأطر السلامة وعمليات التعامل مع الحوادث.
تلتزم شركة أنثروبيك بكونها أول من قام بتنفيذ هذا الإجراء. سيتمتع الموظفون الخارجيون بإمكانية وصول مماثلة لتلك التي يتمتع بها فريق تقييم المخاطر بالشركة وسيكونون قادرين على نشر الاستنتاجات دون التحكم التحريري لشركة Anthropic.
لا يزال هذا الترتيب بحاجة إلى حل مشكلات مثل اختيار المقيمين ومصادر التمويل والتزامات السرية. تعتبر الأوزان النموذجية والبنية التحتية للتدريب ونقاط الضعف الأمنية معلومات حساسة للغاية، كما أن توسيع حقوق الوصول سيؤدي أيضًا إلى زيادة متطلبات أمن المعلومات.
يحد تنسيق الصناعة من منافسة الكفاءات غير المحمية
وتدعو التوصية الثانية مختبرات الذكاء الاصطناعي الكبرى إلى تطوير معايير مشتركة لاختبار المخاطر، وعتبات السلامة، وشروط إصدار النماذج. يعتقد أمودي أن الضغط التنافسي قد يدفع الشركات إلى تسريع التدريب وإطلاق الوتيرة، مما يجعل من الصعب على التدابير الوقائية مواكبة القدرات النموذجية في الوقت المناسب.
لقد اعتمدت سياسة التوسع المسؤول لشركة Anthropic آلية متدرجة. عندما تتجاوز النماذج حدود مخاطر البحث والتطوير البيولوجية أو السيبرانية أو الآلية أو فقدان السيطرة، تحتاج الشركات إلى زيادة مستويات حماية النشر وأمن المعلومات.
قد يشتمل التعاون بين المؤسسات على حدود مكافحة الاحتكار. هناك مصلحة عامة في العمل معًا لتطوير معايير اختبار السلامة، لكن الترتيبات قد تظل خاضعة للتدقيق التنظيمي إذا كانت تقيد اللاعبين الصغار من دخول السوق، أو تنسق إطلاق المنتجات أو تقلل المنافسة.
يغطي التعاون الدولي المخاطر العابرة للحدود
وتتعلق التوصية الثالثة بالتعاون الحكومي الدولي، بما في ذلك إنشاء الحد الأدنى من الترتيبات الأمنية مع المنافسين الاستراتيجيين مثل الصين. ويعتقد أمودي أن النماذج والتكنولوجيات من الممكن أن تتدفق عبر الحدود، وقد يؤدي إبطاء سرعة التنمية في دولة أو مؤسسة منفردة إلى نقل أنشطة البحث والتطوير عالية المخاطر إلى مناطق ذات لوائح تنظيمية أضعف.
تشمل المخاطر المحتملة التي أدرجتها Anthropic استخدام النماذج لمساعدة أنشطة الأسلحة البيولوجية، والاكتشاف على نطاق واسع لنقاط ضعف البرامج، والهجمات على البنية التحتية الحيوية، وخروج أنظمة الذكاء الاصطناعي عن سيطرة المطورين. ويشارك الذكاء الاصطناعي تلقائيًا في تطوير نماذج الجيل التالي، مما قد يؤدي أيضًا إلى تسريع تحسينات القدرات.
تقترح الشركة أن يقوم المطورون المتطورون بنشر بطاقات النظام وتقارير المخاطر المنتظمة، وقبول المراجعة المستقلة، وتوفير المعلومات اللازمة للوكالات الحكومية المعينة. وينبغي للحكومات أن تتمتع بسلطات محدودة لمنع أو تأخير نشر النماذج التي يمكن أن تسبب أضرارا كارثية، مع وضع عتبات وآليات استئناف واضحة.
لم يتم بعد ترجمة دعم الصناعة إلى اتفاقية
يدعم سام ألتمان، الرئيس التنفيذي لشركة OpenAI، منح المُقيّمين المستقلين إمكانية الوصول الداخلي، وقال إن OpenAI ستتبنى ترتيبات مماثلة. كما دعم الرئيس التنفيذي لشركة Google DeepMind ديميس هاسابيس ورئيس شركة xAI إيلون موسك علنًا الاتجاه العام لـ Amodei.
لم تشكل البيانات ذات الصلة بعد اتفاقية صناعية ملزمة. ما هي مؤشرات القدرة التي ستؤدي إلى التباطؤ أو التعليق، وما إذا كانت المراجعات المستقلة سيكون لها تأثير إلزامي، وكيف سيتم إنفاذ الاتفاقيات عبر الحدود، لا يزال يتعين تحديدها بشكل أكبر من قبل الشركات والحكومات.
التعليقات