الملخص:
تخطط OpenAI للسماح لمؤسسات الطرف الثالث بتقييم المخاطر الأمنية في وقت مبكر من دورة تطوير نماذج الذكاء الاصطناعي (AI)، وهي خطوة تهدف إلى مواصلة الجهود لمعالجة المخاوف المحيطة بالضرر المحتمل للذكاء الاصطناعي. سيعلن مطور ChatGPT في منشور مدونة يوم الثلاثاء أنه يخطط لجعل الوكالات الخارجية تجري تقييمات أمنية فنية أثناء التدريب والتقييم ونشر نماذج الذكاء الاصطناعي الجديدة.
تدرج OpenAI أيضًا الأولويات التي تعتقد أنها ضرورية لتكون هذه التقييمات فعالة، بما في ذلك "الآليات المستقلة القوية، والدقة العلمية، والممارسات الأمنية القوية، والمساءلة الواضحة".
قالت لمى أحمد، المسؤولة عن معظم أعمال المراجعة الأمنية للشركة بالتعاون مع خبراء خارجيين، إنه في السابق، كانت OpenAI عادةً ما تقدم مثل هذه المؤسسات بشكل أساسي لإجراء تقييمات أمنية وتقييم قدرات النموذج قبل إصدار النموذج.
"مع ارتفاع المخاطر والآثار المحتملة، بالإضافة إلى النشر، نريد أيضًا التأكد من النظر في الجوانب الحاسمة مثل التدريب والتقييم،" كما قال أحمد في مقابلة.
بالنسبة لبعض الوظائف الأكثر حساسية، قد تسمح شركة OpenAI للمقيمين الخارجيين بالدخول إلى مقر الشركة لإجراء التقييمات، وهي ممارسة جربتها الشركة في الماضي، كما قال أحمد.
دعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic PBC المنافسة لـ OpenAI، مؤخرًا صناعة الذكاء الاصطناعي إلى دعم تباطؤ التطوير، وقال إنه سيتم اعتماد تدابير أمنية جديدة، بما في ذلك إدخال وكالات تقييم تابعة لجهات خارجية. وقد أيد سام ألتمان، الرئيس التنفيذي لشركة OpenAI، هذا النهج لاحقًا. قالت شركة Anthropic في أواخر الأسبوع الماضي إنها ستستعين بمقيمين من شركة Accenture لاختبار سلامة نماذج الذكاء الاصطناعي المتطورة الخاصة بها.
قالت شركة OpenAI في منشور بالمدونة إن الشركة تجري مناقشات مع المؤسسات التي قد تشارك في مثل هذه التقييمات. وقال أحمد إن أهداف التفاوض تشمل المؤسسات التي تعاونت في الماضي والمؤسسات التي لم تتعاون من قبل، بما في ذلك مؤسسات أبحاث الذكاء الاصطناعي METR وRedwood Research. وكانت شركة OpenAI قد كلفت هاتين المؤسستين سابقًا بالتحقيق في اختراق نموذجها لنظام Hugging Face.
"تتحمل مختبرات الذكاء الاصطناعي مسؤولية تهيئة الظروف للمراجعة الفعالة مع حماية المعلومات الحساسة،" هذا ما قالته OpenAI في منشور بالمدونة.
التعليقات