الملخص:
وفقًا لمحلل سلسلة التوريد Ming-Chi Kuo، فقد تم الآن إعادة تشغيل مشروع مسرع الذكاء الاصطناعي "Rubin CPX" الذي تم تعليقه سابقًا من NVIDIA وتم إعادة تصميم بنية الذاكرة. تم التخطيط في الأصل أن يكون هذا المنتج مزودًا بذاكرة فيديو GDDR7 بسعة 128 جيجابايت، ولكنه الآن مزود بذاكرة ذات نطاق ترددي عالي HBM4 بسعة 168 جيجابايت.
أعلنت Nvidia في نهاية العام الماضي أنها تخطط لتطوير مسرع مخصص يعتمد على عائلة Rubin GPU، وذلك بشكل أساسي لأحمال عمل الذكاء الاصطناعي واسعة النطاق. وبعد الإعلان عن المشروع، أفيد أنه تم تأجيله مؤقتًا، ولكن يبدو أن Nvidia قد أكملت إعادة التخطيط. سيتم نشر Rubin CPX في رفوف مستقلة، ويمكن تكوين كل حامل باستخدام 64 إلى 256 وحدة معالجة رسومات CPX مستقلة.
بخلاف وحدات معالجة الرسوميات Rubin التقليدية المسؤولة عن مهام فك التشفير، تُستخدم وحدات معالجة الرسوميات CPX بشكل أساسي في مرحلة "الملء المسبق" في عملية الاستدلال لنماذج اللغة الكبيرة وتكون مسؤولة عن معالجة سياق الإدخال وذاكرة التخزين المؤقت KV. تحاول NVIDIA فصل مهام التعبئة المسبقة وفك التشفير، حيث تتولى وحدة معالجة الرسومات CPX أعمال التعبئة المسبقة، ثم تتولى وحدة معالجة الرسوميات Rubin العادية مهمة فك التشفير، وبالتالي تحسين كفاءة الاستدلال الإجمالية.
يمكن لدرج الرف المجهز بـ 8 وحدات معالجة رسوميات CPX التعامل مع ما يصل إلى 1.34 تيرابايت من بيانات ما قبل النشر ذات السياق الطويل وذاكرة التخزين المؤقت ذات الصلة KV، وكلها تعتمد على ذاكرة HBM4. يمكن لـ HBM4 توفير نطاق ترددي أعلى للذاكرة، مما يساعد على تسريع معالجة بيانات السياق الطويلة. نظرًا لأن التصميم السابق لم يتطلب HBM4 مدمجًا، فيجب على Nvidia أيضًا إعادة تصميم عبوة الرقاقة، ومن المتوقع استخدام تقنية التغليف المتقدمة CoWoS-S أو CoWoS-L من TSMC.
فيما يتعلق بأداء الحوسبة، يعتمد Rubin CPX على تصميم شريحة متجانسة ويمكنه توفير 30 جيجا فلوب من أداء الحوسبة NVFP4، أو 30 PFLOPS. تدمج الشريحة أيضًا 4 محركات تشفير فيديو NVENC و4 محركات فك تشفير فيديو NVDEC، مما يسمح لها بإكمال أعباء العمل الأكثر كفاءة المتعلقة بالوسائط المتعددة دون الاعتماد على معالجات خارجية.
نظرًا لأن مقياس المعلمات لنماذج اللغات الكبيرة يقترب من مستوى التريليونات، فمن المتوقع أن يؤدي تسليم مهام التعبئة المسبقة ومهام فك التشفير إلى رفوف مختلفة إلى زيادة كبيرة في سرعة إنشاء الرمز المميز وتسليمه. توصي Nvidia أيضًا بالحفاظ على نسبة 1:1 من وحدات معالجة الرسومات CPX إلى وحدات معالجة الرسوميات Rubin العادية في حامل فك التشفير.
التعليقات