الملخص:
لقد منحت شركة Anthropic للمقيمين الخارجيين إمكانية الوصول إلى مستوى الموظف الداخلي تقريبًا لتقييم مخاطر نموذجها الكبير. تفي هذه الخطوة بوعد الشركة بمواصلة تعزيز آليات حماية السلامة استجابةً للمخاوف الخارجية من أن تكنولوجيا الذكاء الاصطناعي قد تكون خارجة عن السيطرة بشكل كارثي.
تعاونت METR، وهي منظمة غير ربحية، مع مختبرات الذكاء الاصطناعي الرائدة مثل OpenAI، وAnthropic، وGoogle، وMeta. والآن يتمركز فريق METR في مكتب مطور Claude ويتمتع بإمكانية الوصول إلى معداته وأنظمته الداخلية.
يشعر العالم الخارجي بقلق متزايد بشأن المخاطر التي قد تجلبها أنظمة الذكاء الاصطناعي الأكثر قدرة على الاقتصاد، وأمن الشبكات، بل وحتى البشرية جمعاء. يعد السماح لوكالات التقييم التابعة لجهات خارجية بتحمل مسؤوليات أكبر أحد تدابير التنفيذ الأساسية التي تقترحها مختبرات الذكاء الاصطناعي الكبرى.
في سبتمبر من هذا العام، اقترح الرئيس التنفيذي لشركة Anthropic، داريو أمودي، خطة لإرسال مدققين خارجيين إلى مختبر الذكاء الاصطناعي الرئيسي، والذي نادرًا ما كان مدعومًا من قبل اثنين من المنافسين الرئيسيين، سام ألتمان (OpenAI)، وإيلون ماسك (SpaceX).
يعد إعلان الخميس الخطوة الأولى في تنفيذ هذه الالتزامات. قال ألتمان إن اقتراح أموداي ممكن، لكن OpenAI لم تقدم بعد خططًا لإدخال مقيمين خارجيين.
قالت أنثروبيك يوم الخميس: "مع استمرار زيادة القدرات النموذجية، نحتاج إلى حماية أمنية أفضل وتقييمات أكثر صعوبة للمخاطر. ونأمل أن تقبل قراراتنا الإشراف العام، ولكن لا يمكن الكشف عن جميع المعلومات المتعلقة بأعمال السلامة للعالم الخارجي."
يعتقد منتقدو خطة أنثروبيك لإدخال مقيمين خارجيين أن هذه الآلية قد تؤدي إلى تضارب المصالح، واستخدام العلل السابقة لصناعة المحاسبة كمثال للدعوة إلى إدخال إشراف حكومي أكثر صرامة.
جادلت أنثروبيك بأن الكشف عن جميع المعلومات يمكن أن يستخدم من قبل جهات فاعلة أو منافسين ضارين؛ وأضافت أيضًا أن نموذج عمل هذه المجموعة من المقيمين يشبه نموذج الإشراف المصرفي: حيث تقوم الهيئات التنظيمية بإرسال مراجعين دائمين للعمل داخل البنوك الكبيرة.
وقالت الشركة: "إذا كانت العمليات المحفوفة بالمخاطر التي يقوم بها البنك تهدد المصالح العامة، فيجب أن تكون الأطراف الثالثة قادرة على اكتشاف المخاطر الخفية مقدمًا."
تتعرض شركة Anthropic أيضًا لضغوط لطمأنة المستثمرين بأن المشكلات المتعلقة بالأمن لن تؤثر على الاكتتاب العام الأولي المخطط له هذا العام، حيث من المتوقع أن تقدر قيمة الشركة بأكثر من 2 تريليون دولار. خصصت مواد العرض التقديمي لمستثمري الشركة هذا الأسبوع مساحة كبيرة للتعريف بتدابير الرقابة الأمنية الخاصة بها.
شاركت METR ذات مرة في التحقيق في اختراق نموذج OpenAI الخارج عن السيطرة إلى Hugging Face، وراجعت آلاف السجلات، وجهزت أجهزة الكمبيوتر المحمولة الخاصة بالمؤسسة لتنفيذ العمل.
في الوقت الحالي، قبلت Anthropic ستة موظفين من METR، وزودتهم بأجهزة الشركة والمساحات المكتبية، وزودتهم بإمكانية الوصول إلى الأدوات والأنظمة الداخلية على نفس مستوى فريق تقييم المخاطر الداخلي للشركة تقريبًا.
قال مختبر الذكاء الاصطناعي إنه يشجع الموظفين على مشاركة المعلومات مع المقيمين تمامًا كما يفعلون مع زملائهم في قسم المخاطر الداخلية.
لن تقوم شركة Anthropic بدفع رسوم إلى METR مقابل هذا التعاون. لا تقبل المؤسسة البحثية التبرعات من شركات الذكاء الاصطناعي وموظفيها. تأتي الأموال من تبرعات الأفراد ومنظمات الرعاية العامة والوكالات الحكومية مثل المعهد البريطاني لسلامة الذكاء الاصطناعي.
سيقوم المقيمون بإصدار تقرير التحليل إلى العالم الخارجي، وليس لدى Anthropic الحق في الاعتراض على إصدار التقرير. ولكن يمكن للشركات أن تطلب من المقيمين تنقيح فئات معينة من المعلومات، مثل بيانات العميل، والمحتوى المحمي بموجب امتياز المحامي وموكله، والتفاصيل حول بنية النموذج.
تواصل Anthropic أيضًا التعاون مع Accenture. وأعلن الطرفان الشهر الماضي أنهما أصبحا شريكين في الاختبارات الأمنية، والتزم كل منهما باستثمار ما لا يقل عن مليار دولار أمريكي لبناء نظام جديد للحماية الأمنية. هناك أيضًا منظمة اختبار تابعة لجهة خارجية، SecureBio، والتي تقوم على وجه التحديد بمراجعة المخاطر المتعلقة بالأسلحة الكيميائية والبيولوجية.
قالت شركة Anthropic: "نحن نرسل طوعًا مقيمين خارجيين ونعتقد أن جميع شركات الذكاء الاصطناعي المتطورة يجب أن تتبنى نفس النهج."
التعليقات