أعلنت شركة OpenAI يوم الثلاثاء عن إطلاق مجموعة أدوات موجهة لسياسة السلامة موجهة للشباب للمطورين، بهدف مساعدة تطبيقات الطرف الثالث على دمج قواعد السلامة لحماية القاصرين من بداية تصميمهم. تتوفر مجموعة الأدوات كمجموعة من مطالبات "سياسة سلامة الشباب" القابلة للاستدعاء مباشرةً ويمكن استخدامها مع نموذج الأمان المرجح مفتوح المصدر الخاص بـ OpenAI gpt-oss-safeguard.
قالت OpenAI إن المطورين لا يحتاجون إلى البدء من الصفر بشأن كيفية تصميم آليات السلامة للقاصرين، ويمكنهم استخدام هذه المجموعة من الكلمات السريعة مباشرة "لتعزيز" تطبيقات الذكاء الاصطناعي الحالية أو المطورة حديثًا. تركز هذه السياسات على مجالات حساسة مثل العنف التصويري والمحتوى الإباحي، وصورة الجسم والسلوك الضار، والأنشطة والتحديات المحفوفة بالمخاطر، ولعب الأدوار الرومانسية أو العنيفة، والسلع والخدمات المقيدة بالفئة العمرية. تؤكد الشركة على أن سياسات الأمان هذه يتم توفيرها في شكل كلمات سريعة، بحيث يمكن تكييفها بسهولة مع نماذج أخرى غير gpt-oss-safeguard، ولكن من المتوقع أن يكون التأثير أفضل عند استخدامها داخل النظام البيئي الخاص بـ OpenAI.
في تطوير السياسة، تعمل OpenAI مع أطراف ثالثة في مجال سلامة الشباب والمحتوى، بما في ذلك هيئة مراقبة سلامة الذكاء الاصطناعي Common Sense Media وevery.ai. قال روبي تورني، رئيس قسم الذكاء الاصطناعي والتقييم الرقمي في Common Sense Media، في بيان له إن هذه السياسات السريعة المبنية على الكلمات تساعد في إنشاء حد أدنى أمني ذي معنى للنظام البيئي بأكمله، كما تتيح طريقة الإصدار مفتوح المصدر لجميع الأطراف التعديل والتحسين المستمر بمرور الوقت.
يشير OpenAI في مدونة مصاحبة إلى أنه حتى الفرق ذات الخبرة غالبًا ما تكافح في الممارسة العملية لترجمة الأهداف الأمنية المجردة إلى قواعد ملموسة وقابلة للتنفيذ. وتعتقد الشركة أن هذا الانحراف يمكن أن يؤدي إلى ثغرات في تدابير الحماية، ومعايير التنفيذ غير المتسقة، وحتى الحجب المفرط، لذا فإن السياسات الواضحة والمحددة بشكل جيد هي أساس رئيسي لبناء نظام أمني فعال.
تعترف OpenAI أيضًا بأن هذه المجموعة من السياسات لا يمكنها حل جميع التحديات المعقدة لسلامة الذكاء الاصطناعي بشكل أساسي. لكن الشركة أكدت على أن الأداة الجديدة تمثل توسيعًا إضافيًا لإجراءاتها الأمنية الحالية، بما في ذلك أدوات الرقابة الأبوية على مستوى المنتج، والتنبؤ بالعمر، ووظائف أخرى. في عام 2025، قامت OpenAI بتحديث مواصفات السلوك (Model Spec) لنموذج اللغة الكبير الخاص بها لتوضيح كيفية استجابة النموذج وتقييده عند مواجهة المستخدمين الذين تقل أعمارهم عن 18 عامًا.
ومع ذلك، تواجه شركة OpenAI أسئلة حول سجل السلامة الخاص بها. تواجه الشركة حاليًا العديد من الدعاوى القضائية المرفوعة من قبل أفراد عائلات المستخدمين الذين انتحروا بعد الاستخدام المفرط لـ ChatGPT. وتزعم الدعوى القضائية أن بعض العلاقات الخطيرة تشكلت بعد أن تجاوز المستخدمون أمان برنامج الدردشة الآلي، وأنه لا توجد دفاعات للنموذج الحالي "غير قابلة للاختراق" حقًا. على هذه الخلفية، تعتقد الصناعة عمومًا أنه على الرغم من أن سياسة سلامة الشباب مفتوحة المصدر هذه ليست الحل النهائي، إلا أنها توفر مسار امتثال سهل الاستخدام نسبيًا للمطورين المستقلين والفرق الصغيرة، وتعتبر خطوة جديدة إلى الأمام في تعزيز ممارسات سلامة الذكاء الاصطناعي للقاصرين.
يتعلم أكثر:
https://github.com/openai/teen-safety-policy-pack