في الأسبوع الماضي، تلقت الحكومة الأمريكية معلومات من مهندسي الأمن السيبراني في أمازون وأصدرت أمرًا طارئًا لمراقبة الصادرات يطلب من الشركة "أ" التوقف عن تقديم نموذج Claude Fable 5 لأي مواطن غير أمريكي. وكان سبب إصدار أمر مراقبة التصدير هو أن مهندسي أمن الشبكات في أمازون وجدوا أن آلية أمان النموذج غير كافية ويمكنهم تجاوز الحدود الأمنية من خلال طرق معينة للحصول على محتوى حساس. واستنادًا إلى اعتبارات الامتثال، قامت الشركة "أ" بإزالة نموذج Claude Fable 5 مباشرةً على مستوى العالم.
أثناء إزالة النموذج، أصدرت إحدى الشركات أيضًا رسالة مفتوحة تتهم فيها حكومة الولايات المتحدة بعدم الشفافية في إصدار تعليمات مراقبة الصادرات. ولتحقيق هذه الغاية، أرسلت إحدى الشركات فريقًا فنيًا رفيع المستوى إلى واشنطن لإجراء مشاورات طارئة مع الحكومة الأمريكية. كان من المتوقع في الأصل أن تتم استعادة النموذج بعد وقت قصير من المشاورات الطارئة وأن تقوم الشركة بتطبيق حدود أمنية أكثر صرامة. ومع ذلك، فإن المفاوضات لا تسير بسلاسة في الوقت الحاضر.
ولم يتم رفع أمر المراقبة حتى بعد انتهاء المفاوضات:
السبب وراء إصدار حكومة الولايات المتحدة أمر مراقبة التصدير هو أنه يمكن كسر حماية Claude Fable 5 لتجاوز الحماية الأمنية، مما يسمح للمستخدمين العاديين بالحصول على إمكانات أمان شبكة قوية مماثلة لنموذج Claude Mythos Preview. قد يسبب هذا مخاطر خفية على أمن الإنترنت. بالطبع، تشعر حكومة الولايات المتحدة بالقلق من أن المستخدمين العاديين يمكنهم استخدام Claude Fable 5 لشن هجمات على البنية التحتية الأمريكية من خلال كسر الحماية، وبالتالي التأثير على السلامة العامة.
اعتقدت شركة أنثروبيك دائمًا أن مخاوف الحكومة الأمريكية مبالغ فيها، ولكن لا تزال هناك حاجة إلى المفاوضات لحل المشكلة، لذلك أرسلت الشركة مؤسسها المشارك وكبير مسؤولي الحوسبة، ورئيس الشؤون الخارجية، وقائد الفريق الأحمر الحدودي، وكبير الباحثين الأمنيين إلى واشنطن العاصمة للمشاركة في المفاوضات؛ وكان المشاركون من الحكومة الأمريكية في المفاوضات هم وزير التجارة الأمريكي وباحثون من المركز الأمريكي لمعايير الذكاء الاصطناعي والابتكار.
وفقًا للأخبار الصادرة عن WIRED، انتهت المفاوضات بين Anthropic والحكومة الأمريكية. ومع ذلك، لم ترفع الحكومة الأمريكية حظر مراقبة التصدير على نموذج Claude Fable 5، لذلك لا تزال في طريق مسدود. وقت الاسترداد لنموذج Claude Fable 5 بعيد جدًا. ذكرت أنثروبيك فقط أن كلا الطرفين يعملان بسرعة على الترويج لحل المشكلة، ورفضت الحكومة الأمريكية التعليق.
المشكلة الأساسية هي أن كسر الحماية لم يتم حله:
ولا يزال الخلاف الحالي بين الطرفين هو القضية الأمنية لنموذج Claude Fable 5. تعتقد أنثروبيك أن نموذج فئة ميثوس ممتاز بالفعل في العثور على نقاط الضعف واستغلالها كسلاح، لكنه ليس فريدًا من نوعه. يمكن للنماذج الأخرى أيضًا أن تفعل أشياء مماثلة، ولن تؤدي إزالة النموذج إلا إلى حرمان المدافعين عن أمن الشبكة من أفضل أدواتهم، مما سيؤدي بدلاً من ذلك إلى خلق حالة من عدم اليقين وحتى تعريض أمن الشبكة للخطر.
لقد كانت وجهة نظر حكومة الولايات المتحدة دائمًا هي أنها على استعداد لإيجاد طريقة لاستعادة Claude Fable 5 للاستخدام، ولكن الشرط الأساسي هو أن Anthropic يمكنها حل مشكلة كسر الحماية بشكل كامل. وإذا لم يكن من الممكن حل مشكلة الهروب من السجن، فسوف يكون من المستحيل رفع القيود التنظيمية عنها، لأن المخاطر الأمنية التي تشعر حكومة الولايات المتحدة بالقلق إزاءها لا تزال قائمة. ومع ذلك، من الصعب جدًا على نموذج الذكاء الاصطناعي أن يحل مشكلة كسر الحماية بشكل كامل، وهناك طرق للتجاوز بغض النظر عن مدى صرامة الحدود الأمنية.