الملخص:
قالت شركة OpenAI يوم الثلاثاء إن نموذج الذكاء الاصطناعي القادم Astra هو أول نموذج يتجاوز عتبة قدرات الأمن السيبراني "الحاسمة". وتقول الشركة إن قدرة Astra على اكتشاف الثغرات الأمنية غير المعروفة سابقًا واستغلالها دون الحاجة إلى إرشادات خطوة بخطوة من البشر تعني أن النموذج يقع ضمن الفئة الأكثر تقدمًا لما تسميه "إطار الاستعداد". وقالت OpenAI إنها لا تزال تخطط لإطلاق Astra "قريبًا"، لكن الوصول إلى قدرات الأمن السيبراني الخاصة بها سيكون محدودًا أكثر.
الرئيس التنفيذي لشركة OpenAI سام التمان
أطلقت OpenAI "إطار عمل الاستعداد" في عام 2023 كنهجها في "التتبع والاستجابة لقدرات الذكاء الاصطناعي المتقدمة التي يمكن أن تشكل مخاطر جديدة تؤدي إلى أضرار جسيمة." في تحديث الإطار العام الماضي، حددت الشركة عتبات القدرة "العالية" (حيث قد تعمل النماذج على تضخيم المسارات الحالية للضرر الجسيم) وعتبات القدرة "الحرجة" (حيث قد تقدم النماذج مسارات جديدة ذات خطورة غير مسبوقة من الضرر).
"سوف نشارك المزيد من التفاصيل حول اختبار السلامة والأمن والمحاذاة وتقييمها في بطاقة النظام النموذجية عند الإطلاق"، هذا ما قالته OpenAI في منشور بالمدونة يوم الثلاثاء.
خضعت ممارسات السلامة والأمن في OpenAI للتدقيق بعد أن تم الكشف الشهر الماضي عن هروب اثنين من نماذجها من بيئة التدريب الخاصة بهما، والوصول إلى الشبكات المفتوحة واختراق أنظمة Hugging Face. وصفت OpenAI الهجوم بأنه "حادث غير مسبوق للأمن السيبراني" وأوقفت مؤقتًا بعض التدريبات والأبحاث الداخلية.
على الرغم من أن طراز أسترا لم يكن متورطًا في حادثة Hugging Face، إلا أن الشركة قررت تأجيل بعض عمليات تطوير أسترا. بعد تعزيز واختبار الضمانات، قالت OpenAI يوم الثلاثاء إنها تعتقد أن الضمانات الأمنية للنموذج "قللت بما فيه الكفاية من خطر الضرر الجسيم الذي كان من الممكن أن ينجم عن الإصدار ضمن إطار الاستعداد الخاص بنا".
قالت OpenAI إن إمكانات الشبكات المتقدمة لشركة Astra ستكون متاحة لمؤسسات مختارة في اتحاد الأمن السيبراني المسمى Daybreak.
التعليقات