يظهر فريق أمان OpenAI مرة أخرى تغييرات في الموظفين: استقال ديفيد روبنسون، رئيس نظام الأمان

الملخص:

أجرى فريق أمان OpenAI تغييرًا مهمًا آخر في الموظفين مؤخرًا. غادر ديفيد روبنسون، الذي كان مسؤولاً عن تخطيط سياسة الشركة وشارك في تعزيز شفافية سلامة الذكاء الاصطناعي، شركة OpenAI. وأكد متحدث باسم OpenAI لموقع Business Insider أن روبنسون غادر الأسبوع الماضي. حدث هذا المغادرة بعد أيام فقط من قيام الشركة بفصل ثلاثة باحثين أمنيين، كما أدى أيضًا إلى تجدد الاهتمام باستقرار فريق الأمن الداخلي في OpenAI وكيف تعمل الشركة على تطوير العمل الأمني ​​مع تحسين قدراتها في مجال الذكاء الاصطناعي بسرعة.

قاد روبنسون سابقًا جهود تخطيط سياسة OpenAI وهو حاليًا جزء من فريق أنظمة السلامة. وقد شارك في قدر كبير من العمل بشأن الشفافية الأمنية لـ OpenAI، بما في ذلك المساعدة في تطوير وإصدار بطاقات النظام (بطاقات النظام)، والتي تستخدم بشكل أساسي لوصف القدرات والقيود والمخاطر ونتائج تقييم الأمان ذات الصلة لنماذج OpenAI. تواصل OpenAI إصدار بطاقات النظام النموذجية ومواد تقييم الأمان.

ولم يعلق روبنسون نفسه بعد على سبب استقالته. لذلك، لا يوجد حاليًا أي دليل عام على أن هذه الاستقالة كانت ناجمة بشكل مباشر عن حادث أمني محدد أو خلافات سياسية أو صراعات داخلية. ولم تعلن شركة OpenAI عن السبب المحدد لمغادرته.

ومع ذلك، فقد حدث هذا التغيير في الموظفين على خلفية التغييرات المستمرة في فريق أمان OpenAI. وفي الأول من أكتوبر فقط، أعلنت شركة OpenAI عن نهاية التعاون مع ثلاثة باحثين، قائلة إنهم انتهكوا لوائح الشركة بشأن الوصول إلى معلومات الشركة الحساسة والتعامل معها. وقالت OpenAI إن الثلاثي فشل في اتباع الإجراءات المعمول بها في الشركة عند التعامل مع المعلومات الحساسة، وبالتالي تدمير علاقة الثقة التي تعتمد عليها الشركة.

وفقًا لصحيفة وول ستريت جورنال، كان الباحثون الثلاثة يشتبه في قيامهم بمشاركة معلومات سرية خاصة بالشركة مع منظمة أمنية خارجية تعمل بالذكاء الاصطناعي، لكن OpenAI لم توضح علنًا ما هي المعلومات التي تمت مشاركتها، ولم تؤكد التفاصيل المحددة في التقارير ذات الصلة. لذلك، ما يمكن تأكيده في الوقت الحالي هو حقيقة أن OpenAI تعاملت مع معلومات حساسة بشكل ينتهك اللوائح، ولا يزال البيان حول التدفق المحدد للمعلومات ومحتوى المشاركة يأتي بشكل أساسي من تقارير وسائل الإعلام.

حدثت رحيل روبنسون أيضًا بعد عدة تغييرات في الموظفين في قسم أمان OpenAI. وفي وقت سابق من هذا العام، غادر يوهانس هايديك، رئيس الأمن في OpenAI، الشركة أيضًا. في الوقت نفسه، واجهت الشركة مؤخرًا المزيد والمزيد من المشكلات المتعلقة بأمن الذكاء الاصطناعي، بما في ذلك السلوك غير الطبيعي لنموذج الذكاء الاصطناعي وحادثة Hugging Face الأمنية السابقة.

من بينها، جذبت حادثة "الوجه العناق" اهتمامًا خاصًا. كشفت OpenAI سابقًا أن وكيل الذكاء الاصطناعي الخاص بها اخترق بيئة معزولة لا ينبغي أن تسمح بالوصول إلى الإنترنت في حادث بيئة اختبار الأمان، وتمكن من الوصول إلى موارد الشبكة الخارجية. أصدرت OpenAI بعد ذلك تحليلاً للأحداث ذات الصلة وذكرت أنها ستعمل على تعزيز آليات أمان النموذج والمراقبة والمواءمة.

تحدث روبنسون أيضًا علنًا عن فهم OpenAI الداخلي للتطور السريع لقدرات الذكاء الاصطناعي في سبتمبر من هذا العام. وقال في ذلك الوقت إن المزيد والمزيد من الأشخاص داخل الشركة أصبحوا يدركون التأثير المحتمل لنماذج الذكاء الاصطناعي ذات القدرة العالية، لكنه أعرب أيضًا عن شكوكه حول ما إذا كان الإصلاح الأمني ​​سريعًا بما فيه الكفاية. لقد كتب أن OpenAI "يتغير حقًا بوتيرة سريعة"، لكنه لا يعرف "ما إذا كنا نتغير بالسرعة الكافية". يجذب هذا البيان الآن اهتمامًا متجددًا لأن روبنسون نفسه هو أحد الأشخاص المهمين المسؤولين عن الشفافية الأمنية وتخطيط السياسات. لكن تصريحاته العلنية حينها لم تشر بشكل واضح إلى أنه يستعد للرحيل، ولم يكن هناك دليل على وجود علاقة مباشرة بين تصريحاته وهذا الرحيل.

تواصل OpenAI حاليًا توسيع قدراتها النموذجية وتحاول أيضًا إنشاء آلية أكثر منهجية لتقييم الأمان. اقترحت الشركة مؤخرًا اتجاه "حالات السلامة"، على أمل إنشاء إطار أكثر منهجية لتقييم أمان الذكاء الاصطناعي من خلال تدابير الأمان الفنية والعمليات التشغيلية والتحقيقات في أحداث عدم تطابق النماذج. أعربت OpenAI أيضًا عن دعمها لتقييمات الأمن الخارجية المستقلة، مما يسمح للمقيمين بالوصول المتعمق إلى نماذج التدريب والاختبار وعمليات النشر، والحكم بأنفسهم على ما إذا كانت التدابير الأمنية فعالة.

ولذا فإن الاهتمام الذي أثاره رحيل روبنسون لا يعد مجرد رحيل تنفيذي عادي. فريق أنظمة السلامة مسؤول عن العمل الذي يتضمن تقييم سلامة النماذج، وتحديد المخاطر، وشفافية السلامة وآليات السياسة ذات الصلة، والتي تقع بالضبط في المجالات الأساسية للتقدم السريع الحالي لـ OpenAI لوكلاء الذكاء الاصطناعي وقدرات النماذج الأقوى.

ومع ذلك، لا يوجد حاليًا أي دليل يثبت أن رحيل روبنسون يعني أن OpenAI تضعف استثمارها في أمن الذكاء الاصطناعي، ولا يمكننا الحكم على أي تغييرات اتجاهية في السياسة الأمنية للشركة بناءً على رحيل الموظفين فقط. تواصل OpenAI إصدار بطاقات النظام وإجراء تقييمات الأمان وبناء أطر عمل جديدة لحالات الأمان. ما يستحق الاهتمام حقًا هو كيفية تكوين الشركة لفريقها الأمني ​​في المستقبل، ومن سيتولى المهام ذات الصلة، وما إذا كانت آليات الأمان هذه قادرة على مواكبة النمو السريع لقدرات النماذج وقدرات وكيل الذكاء الاصطناعي.