الملخص:
بالإضافة إلى تحسين قدرات النموذج، فقد تبين أيضًا أن الإصدار الأحدث من Claude Opus 5.5 من Anthropic قد أضاف آلية تقييد خاصة لسيناريوهات تطوير نماذج اللغات الكبيرة المتطورة. عندما يستخدم المستخدمون Opus 5.5 لتطوير النواة الأساسية لجيل جديد من نماذج الذكاء الاصطناعي، فقد لا يستخدم النظام أحدث Opus 5.5 مباشرة، ولكنه يعود تلقائيًا إلى Opus 5 بقدرات أقل. والأمر الأكثر جدارة بالملاحظة هو أنه تم اكتشاف حاليًا أن مجموعة القيود هذه تستهدف على ما يبدو بعض مسرعات الذكاء الاصطناعي التابعة لشركة Huawei وAmazon.
أوضحت Anthropic في وثيقة دعم Opus 5.5 أن النموذج يحتوي على مصنف مخصص "لتطوير LLM المتطور" ويغطي نطاقًا محدودًا من المهام، مثل تطوير kernel لبعض مسرعات التعلم الآلي. الغرض من هذا النوع من المصنفات هو تحديد ما إذا كان الطلب الحالي للمستخدم يتضمن تطوير نموذج اللغة الكبير المتطور نفسه. بمجرد تفعيل الشروط ذات الصلة، سيتراجع كلود تلقائيًا من Opus 5.5 إلى Opus 5.
يشير ما يسمى بنواة الذكاء الاصطناعي إلى سلسلة من عمليات الحوسبة على أدنى مستوى عند تشغيل نموذج الذكاء الاصطناعي. النواة مسؤولة عن تحديد كيفية استخدام النموذج لموارد الحوسبة والذاكرة الموجودة على الشريحة وكيفية إجراء العمليات الحسابية المختلفة. نظرًا لأن هذه العمليات تحدد بشكل مباشر كيفية تعيين الحسابات الرياضية للمعالج الفعلي، فإن تصميم kernel يؤثر بشكل مباشر على سرعة التشغيل واستخدام الذاكرة والدقة وتكلفة الاستدلال لنماذج اللغات الكبيرة. للتدريب على نماذج الذكاء الاصطناعي الأكثر تقدمًا وتشغيلها، غالبًا ما يكون تحسين النواة لمسرعات الذكاء الاصطناعي المحددة خطوة حاسمة.
تم اكتشاف هذا القيد لأول مرة بواسطة المستخدمين في وثائق الدعم بعد الإصدار الرسمي لـ Opus 5.5. استخدمت Anthropic سابقًا أدوات التصنيف في بعض النماذج لتحديد الطلبات التي يحتمل أن تكون محفوفة بالمخاطر، وهذه المرة طبقت آليات مماثلة بشكل أكبر لتطوير نماذج الذكاء الاصطناعي المتطورة.
أوضحت أنثروبيك أن هذه القيود لن تؤثر على الغالبية العظمى من الذكاء الاصطناعي التقليدي، وأبحاث التعلم الآلي، ومهام البرمجة العادية. فقط عندما يتعلق الأمر بعدد صغير من قدرات تطوير LLM المتطورة، قد يقوم النظام بتشغيل آلية التراجع. لذلك، بالنسبة للمطورين العاديين، لن يتأثر استخدام Opus 5.5 في البرمجة اليومية وتطوير تطبيقات الذكاء الاصطناعي وأبحاث التعلم الآلي بشكل أساسي.
ولكن بعد المزيد من الاختبارات، اكتشف بعض المستخدمين أن Opus 5.5 يبدو أنه يتعرف على وجه التحديد على بعض شرائح الذكاء الاصطناعي. وفقًا لنتائج الاختبار العام الحالي، تتضمن هذه المجموعة من المصنفات على الأقل شريحة Ascend 950DT من Huawei وشريحة Trainium3 AI التي طورتها أمازون ذاتيًا. ومع ذلك، إذا استخدم المطورون Opus 5.5 لتطوير النوى الأساسية لنماذج اللغات الكبيرة المتطورة لهذه الرقائق، فقد تتحول النماذج تلقائيًا إلى Opus 5.
ليس من المستغرب أن يتم تضمين شرائح هواوي في هذا التقييد. وقد عززت الأنثروبيك في السنوات الأخيرة حذرها ضد قدرة الكيانات الصينية على الحصول على نماذجها وترى أن تقطير النموذج هو قضية أمنية وأمنية قومية مهمة. يشير ما يسمى بالتقطير النموذجي إلى استدعاء نموذج أكثر قدرة بكميات كبيرة، واستخراج خصائص سلوكه وقدرته، ثم استخدام هذه البيانات لتدريب نموذج آخر. كشف تقرير استخبارات التهديدات الأخير الصادر عن Anthropic أن الشركة وجدت أن العديد من المنظمات ذات الصلة بالصين نفذت أنشطة التقطير غير المصرح بها ضد نماذج سلسلة Claude's Opus، وبالتالي عززت آليات تحديد الحساب واعتراض الطلبات وحماية عملية الاستدلال.
لقد أضافت Anthropic أيضًا إجراءات أكثر صرامة لمكافحة التقطير في Opus 5.5، بما في ذلك تقييد مستخدمي واجهة برمجة التطبيقات (API) من تعديل سياق المحادثة السابقة للنموذج لتجنب استخراج معلومات الاستدلال الداخلي للنموذج عن طريق التلاعب بالسياق بشكل متكرر. وذكرت الشركة أن مثل هذه الإجراءات تستهدف بشكل أساسي أنشطة استخراج القدرات الصناعية واسعة النطاق، بدلاً من الاستخدام العادي من قبل المستخدمين العاديين.
لذلك، عندما يكتشف Opus 5.5 طلبات تطوير النماذج المتطورة التي تتضمن مسرع الذكاء الاصطناعي من هواوي، قد يكون لآلية التقييد خلفيات تقنية وجغرافية واضحة. ومع ذلك، لا توجد حاليًا أدلة كافية لإظهار ما إذا كانت شركة Anthropic قد صممت هذه المجموعة من القواعد خصيصًا لشركة Huawei، أو ما إذا كانت تتضمن أنواعًا معينة من مسرعات الذكاء الاصطناعي ككل ضمن نطاق القيود.
الأمر المثير للدهشة حقًا هو أن Amazon Trainium 3 يبدو أيضًا أنه يتأثر بنفس الطريقة.
لا تعد أمازون شركة حوسبة سحابية عالمية كبيرة فحسب، ولكنها أيضًا شريك ومستثمر مهم لشركة Anthropic. يتم تقديم نموذج Anthropic's Claude نفسه لعملاء المؤسسات من خلال Amazon Web Services، في حين أن سلسلة Trainium عبارة عن شريحة تدريب واستدلال للذكاء الاصطناعي تم تطويرها بشكل مستقل بواسطة Amazon لتقليل اعتماد حوسبة الذكاء الاصطناعي السحابية على وحدات معالجة الرسومات Nvidia. لذلك، إذا قام Opus 5.5 بتقييد Trainium3 لتطوير نواة النموذج المتطور، فقد تتأثر Amazon بدلاً من ذلك بنفس مجموعة القيود الفنية مثل Huawei.
من غير الواضح ما إذا كان هذا الموقف متعمدًا من قبل Anthropic، أو ما إذا كان المصنف قد أخطأ في التقدير بشكل غير متوقع عند تحديد شريحة ذكاء اصطناعي معينة. تظهر الاختبارات ذات الصلة أن Opus 5.5 يبدو قادرًا على تحديد منصات الأجهزة المختلفة وتحديد ما إذا كان سيتم السماح بأحدث طراز بناءً على محتوى الطلب، لكن Anthropic لم توضح علنًا سبب قيام Trainium3 بتفعيل القيود في نفس الوقت مع Huawei 950DT.
يعتبر هذا الموقف جديرًا بالملاحظة بشكل خاص لأن شركة Anthropic أكدت سابقًا أن نماذجها يمكن تقديمها على نطاق واسع من خلال الأنظمة الأساسية السحابية مثل AWS، وقد وصل Opus 5.5 رسميًا إلى منصات مثل Amazon Web Services، وGoogle Cloud، وMicrosoft Azure. إذا امتد هذا القيد إلى المزيد من مسرعات الذكاء الاصطناعي لتدريب النماذج المتقدمة في المستقبل، فإن الشراكات بين شركات الحوسبة السحابية وشركات نماذج الذكاء الاصطناعي قد تتطلب تنسيقًا أكثر تعقيدًا بين قدرات النموذج ودعم الأجهزة والقيود الأمنية.
من منظور تقني، يعكس نهج Anthropic هذه المرة أيضًا اتجاهًا جديدًا: حيث يبدأ نموذج الذكاء الاصطناعي نفسه في مساعدة البشر على تصميم الجيل التالي من نماذج الذكاء الاصطناعي وتحسينه، يحتاج مصنعو النماذج إلى البدء في التمييز بين نوعي المهام: "استخدام الذكاء الاصطناعي لتطوير التطبيقات" و"استخدام الذكاء الاصطناعي لتطوير ذكاء اصطناعي أقوى".
بالنسبة للمبرمجين العاديين، فإن السماح لـ Opus 5.5 بالمساعدة في كتابة التطبيقات أو تصحيح الأخطاء البرمجية أو إجراء تجارب التعلم الآلي لا يؤدي عادةً إلى فرض قيود خاصة. ولكن إذا تم استخدام نفس النموذج لتطوير جوهر الحوسبة الأساسي للجيل التالي من نماذج اللغات الكبيرة المتطورة، فقد تعتبر Anthropic أن هذا قد دخل إلى مستوى خطر آخر وتجعل الطلب يعود تلقائيًا إلى النموذج الأقدم.
وهذا يعني أن نموذج الذكاء الاصطناعي نفسه أصبح تدريجيًا جزءًا من البنية التحتية للبحث والتطوير في مجال الذكاء الاصطناعي. في الماضي، كان تقييد استخدام النماذج يعني في الأساس تقييد بعض المحتوى الخطير أو المناطق الحساسة؛ الآن، بدأ مصنعو النماذج في النظر بشكل أكبر في قضايا مثل "من يمكنه استخدام أحدث النماذج لصنع نماذج الجيل التالي" و"ما إذا كان ينبغي لأحدث النماذج أن تساعد المنافسين على تحسين البنية التحتية لحوسبة الذكاء الاصطناعي الخاصة بهم".
في الوقت الحالي، لم توضح Anthropic علنًا سبب قيام Trainium3 بتفعيل القيود في نفس الوقت الذي يقوم فيه Huawei 950DT، كما لم يتم توضيح ما إذا كانت هذه الآلية ستستمر في الوجود في الإصدارات المستقبلية. مع بدء المزيد والمزيد من الشركات في تطوير مسرعات الذكاء الاصطناعي الخاصة بها، من المرجح أن يصبح هذا القيد على أجهزة معينة ومهام تطوير النماذج المتطورة مشكلة جديدة يتعين على مصنعي نماذج الذكاء الاصطناعي مواجهتها عند إجراء مقايضات بين الأمن، ومنع تقطير القدرات، وبيئة الأجهزة.
التعليقات