الملخص:
صرحت شركة OpenAI في 9 سبتمبر بالتوقيت المحلي، أنها ستعمل على تعزيز إنشاء نظام وطني لسلامة الذكاء الاصطناعي في الولايات المتحدة، وهو نظام إلزامي ويعتمد على القدرات النموذجية وتصنيف المخاطر. تقترح الشركة اختبارات موحدة وتقييمًا مستقلاً والأمن السيبراني ومتطلبات الإبلاغ عن الحوادث الكبرى لعدد قليل من المعامل الكبيرة التي تطور نماذج حديثة.
نشرت OpenAI مقالًا بعنوان "نافذة سياسة الذكاء الاصطناعي مفتوحة. نحن بحاجة إلى اتخاذ الإجراءات اللازمة."
وفي الوقت نفسه، تدعم OpenAI رسميًا أربعة مشاريع قوانين تتعلق بالذكاء الاصطناعي والتي أقرتها جمعية كاليفورنيا. وقالت الشركة إن بعض هذه الفواتير لم تكن مدعومة منها من قبل، وأن تعديل موقفها جاء بسبب التحسن السريع الأخير في قدرات الطراز.
تركز أهداف الإشراف على مطوري النماذج المتطورة
قال كريس لين، مدير الشؤون العالمية في OpenAI، في المقال إن الذكاء الاصطناعي بدأ في تسريع بعض أعمال تطوير النماذج والمواءمة. ورغم أن "التحسين الذاتي العودي" القادر بشكل مستقل على تعزيز تطوير نماذج الجيل التالي لم يظهر بعد، فإن الالتزامات الطوعية من جانب الشركات وحدها لم تعد كافية للتعامل مع المخاطر ذات الصلة.
توصي OpenAI بأن تتضمن الأنظمة التنظيمية الفيدرالية ما يلي:
إمكانيات النموذج الموحد ومعايير اختبار الأمان؛
التقييم الفني الذي تجريه وكالة مستقلة؛
حماية أكثر صرامة لأمن الشبكة للنماذج، وقوة الحوسبة، وبيئات البحث والتطوير؛
قواعد واضحة للإبلاغ عن حوادث السلامة الكبرى؛
مؤشر مشترك لقياس درجة مشاركة الذكاء الاصطناعي في تطوير النموذج؛
آلية لإبطاء أو إيقاف تطوير النموذج ونشره عندما لا يمكن استيفاء حدود الأمان.
تشدد الشركة على أن الالتزامات ذات الصلة يجب أن تكون متناسبة مع قدرات النموذج والمخاطر، ويجب أن تنطبق بشكل أساسي على عدد صغير من المختبرات التي تتمتع بموارد كافية لتطوير أحدث الأنظمة. ولا ينبغي فرض نفس المتطلبات على الشركات الناشئة والمطورين الصغار والباحثين العاديين.
تدعو OpenAI أيضًا إلى عدم ترجمة الإشراف على سلامة النماذج المتطورة إلى قيود شاملة على نماذج الوزن المفتوح، حتى لا تضعف المنافسة، أو تعزز مزايا المؤسسات الكبيرة، أو تشجع نقل أنشطة البحث والتطوير إلى الخارج.
تغطي أربعة مشاريع قوانين في كاليفورنيا التقييم والتدقيق والشباب والأمن البيولوجي
نظرًا لأن الكونجرس لم ينشئ نظامًا وطنيًا بعد، قالت OpenAI إنها ستستمر في دعم التشريعات على مستوى الولاية التي من شأنها تحسين معايير السلامة. مشاريع قوانين ولاية كاليفورنيا الأربعة التي تدعمها الشركة رسميًا هذه المرة هي:
SB 813
: إنشاء آلية مستقلة لإصدار شهادات وكالة التحقق لتمكين وكالات الطرف الثالث المؤهلة من تقييم ما إذا كانت أنظمة ونماذج الذكاء الاصطناعي تتوافق مع قوانين الولاية.AB 1405
: إنشاء نظام تسجيل لمؤسسات التدقيق بالذكاء الاصطناعي ووضع معايير لمؤسسات التدقيق من حيث الاستقلالية والشفافية والقدرات المهنية والمساءلة.SB 1119
: بالنسبة للقاصرين الذين يستخدمون برامج الدردشة المصاحبة، يلزم التحقق من العمر وتقييم المخاطر والتدقيق المستقل والرقابة الأبوية وإجراءات حماية المحتوى الضار.AB 1864
: مطالبة مقدمي خدمات تخليق الجينات والشركات المصنعة لمعدات التوليف المكتبي بتنفيذ معايير الفحص الفيدرالية لتقليل مخاطر استخدام الذكاء الاصطناعي لإنشاء تهديدات بيولوجية.
وقع حاكم كاليفورنيا جافين نيوسوم على SB 813 وAB 1405 في 9 سبتمبر. ويضع الأول إطارًا تنظيميًا للتحقق المستقل من الذكاء الاصطناعي، بينما ينشئ الأخير دليلاً لمؤسسات تدقيق الذكاء الاصطناعي على مستوى الولاية ومعايير الممارسة ذات الصلة. كان SB 1119 وAB 1864 لا يزالان معلقين لدى الحاكم.
قال OpenAI إنه تم تعديل بعض مواضعه بسبب القفزة في قدرات النموذج
لم تعرب شركة OpenAI عن معارضتها السابقة لجميع مشاريع القوانين الأربعة المذكورة أعلاه. كان البيان الدقيق للشركة هو أن "بعض مشاريع القوانين" التي لم تدعمها في الماضي قد تقرر دعمها بعد إعادة تقييم التطورات الأخيرة في قدرات النموذج.
يوضح هذا التغيير أن OpenAI تقبل آلية تنظيمية أكثر إلزامية وإشراف خارجي، بما في ذلك عمليات التدقيق المستقلة، والتحقق من السلامة من طرف ثالث، والكشف عن الحوادث الخطيرة. واقترحت الشركة أيضًا أنه عندما يتجاوز النموذج الضوابط الأمنية للمؤسسات الأخرى دون تصريح أثناء عملية التطوير أو التقييم ويصل إلى حد كبير إلى الأنظمة المحمية والمعلومات السرية أو يعدلها أو يدمرها، يجب على المطور إخطار الطرف المتأثر كتابيًا على الفور.
ومع ذلك، لا يزال المحتوى الذي أعلنته OpenAI بمثابة مبادرة سياسية. ولم يصدر الكونجرس الأمريكي بعد قانونًا وطنيًا لسلامة الذكاء الاصطناعي بناءً على ذلك. لا تزال هناك حاجة إلى تحديد عتبات القدرة المحددة، والوكالات التنظيمية، وتعريفات الحوادث، والمسؤوليات القانونية، والعلاقة بين القواعد الفيدرالية وقوانين الولاية في التشريعات اللاحقة.
التعليقات