أصدرت الحكومة الأمريكية مؤخرًا توجيهًا جديدًا لمراقبة الصادرات مستشهدة بتعليمات من وزارة الأمن القومي الأمريكية، والتي تتطلب من شركة Anthropic أن تعلق على الفور الوصول إلى نماذج Claude Fable/Mythos 5 من قبل جميع المواطنين الأجانب. حتى الموظفين الأجانب في الشركات الأمريكية في الولايات المتحدة لا يمكنهم الوصول إلى هذه النماذج. يؤدي هذا الحظر أيضًا بشكل مباشر إلى عدم قدرة الموظفين الأجانب في الشركة "أ" على استخدام Claude Fable/Mythos 5.
بناءً على متطلبات الامتثال، قررت الشركة "أ" التعليق الفوري لتوفير Claude Fable/Mythos 5 عالميًا. لا يمكن استخدام هذه النماذج بغض النظر عما إذا كانت موجودة في الولايات المتحدة أم لا. كما قامت منصات تعاونية أخرى، مثل Amazon AWS، بقطع الوصول على الفور. أما بالنسبة للوقت الذي يمكن فيه استعادة الوصول إلى النموذج، فقد لا يكون معروفًا حتى تناقش الشركة "أ" الأمر مع حكومة الولايات المتحدة.
قد تكون ذات صلة بنموذج الهروب من السجن:
بالأمس، نجح أحد خبراء الهروب من نموذج الذكاء الاصطناعي المعروف في كسر حماية نموذج Claude Fable/Mythos 5. هناك العديد من الطرق التي يستخدمها خبراء كسر الحماية، ولكن طالما تم الإعلان عنها، يمكن للمستخدمين الآخرين أيضًا محاولة استخدام هذه الطرق لكسر الحماية، وقد يكون معدل نجاح كسر الحماية مرتفعًا نسبيًا، مما يسمح للنموذج بتقديم إجابات مفصلة لمختلف المحتويات الحساسة.
ذكرت حكومة الولايات المتحدة في أمر مراقبة التصدير الصادر للشركة "أ" أنها اكتشفت طرقًا لتجاوز أو كسر نموذج Claude Fable 5. أكدت مراجعة الشركة "أ" للعروض التوضيحية لهذه التكنولوجيا المحددة أنه يمكن استخدام التكنولوجيا لتحديد عدد صغير من نقاط الضعف البسيطة التي تمت ملاحظتها مسبقًا والتي تبدو بسيطة نسبيًا ويمكن استغلالها بواسطة نماذج أخرى دون تجاوزها.
ومع ذلك، ليس من الواضح ما إذا كان العرض الفني المذكور هنا هو الطريقة التي يستخدمها خبراء كسر الحماية. ومع ذلك، وبالنظر إلى أن حكومة الولايات المتحدة لا تطلب تعليقًا كاملاً للوصول إلى النماذج، ولكنها تحظر فقط على المواطنين الأجانب استخدام هذه النماذج، فإن المشكلات التي اكتشفتها وكالة الأمن القومي الأمريكية قد لا تكون مرتبطة بشكل مباشر بتلك التي ذكرها خبراء الهروب من السجن. من المستحيل أن نقول إن الوكالة ستشير أيضًا إلى أفكار خبراء كسر الحماية للعثور على طرق كسر الحماية.
أعربت الشركة "أ" عن عدم رضاها في رسالة مفتوحة:
تدعي الشركة "أ" أنه لا يوجد حاليًا أي نموذج مقاوم للكسر بنسبة 100%، ولا يستطيع أي مختبر حاليًا العثور على حل عالمي لكسر الحماية. يمكن لاستراتيجية الدفاع المتعمق التي اعتمدها Claude Fable/Mythos 5 أن تجعل عملية الهروب من السجن أكثر صعوبة. إلى جانب تقنية المراقبة الشاملة، يمكن للشركة "أ" اكتشاف أي هجمات ناجحة ومنعها بسرعة، مما يمكن أن يقلل من خطر كسر حماية النموذج.
وذكرت الوكالة "أ" أيضًا أن الحكومة الأمريكية لم تقدم أي معلومات إفصاح تفصيلية من شأنها أن تؤدي إلى عواقب ضارة في حظر مراقبة الصادرات، مما يعني أن حلول كسر الحماية التي تم الكشف عنها إما غير ضارة تمامًا أو هي اكتشافات غير مهمة. من غير المعقول على الإطلاق أن تستدعي الوكالة "أ" البرامج التجارية التي تم نشرها لمئات الملايين من المستخدمين فقط بسبب الثغرات الأمنية المحتملة التي تم اكتشافها.
تعتقد الشركة "أ" أن حكومة الولايات المتحدة لديها الحق في منع نشر النماذج غير الآمنة، ولكن يجب ممارسة ذلك من خلال إجراءات قانونية شفافة وعادلة وواضحة ومبنية على حقائق فنية، بدلاً من اشتراط تنفيذ الضوابط المستندة فقط إلى التعليمات الشفهية. ولذلك فإن هذا الإجراء لا يتماشى مع المبادئ. تواصل الشركة "أ" التواصل مع حكومة الولايات المتحدة وتسعى جاهدة لاستعادة خدمة نموذج Claude Fable/Mythos 5 في أقرب وقت ممكن.