الملخص:
قامت NVIDIA بتعديل بعض مواصفات الأجهزة للجيل التالي من منصة حوسبة الذكاء الاصطناعي Vera Rubin، بما في ذلك عرض النطاق الترددي للذاكرة ذات النطاق الترددي العالي HBM4 وعرض النطاق الترددي للاتصال البيني عالي السرعة NVLink. ومقارنة بالمؤشرات المعلنة أو المتداولة سابقاً، فقد تراجعت المواصفات الجديدة، لكن عرض النطاق الترددي لشبكة التوسع الأفقي زاد. قد يعني هذا التغيير أن Nvidia تقوم بإعادة التوازن بين أداء الرقائق وقدرات التوريد وتكاليف النظام بناءً على الإنتاج الضخم الفعلي.
وفقًا لمواصفات منصة Vera Rubin التي أعلنتها NVIDIA حاليًا، فإن وحدة معالجة الرسوميات Rubin مزودة بذاكرة HBM4 بسعة 288 جيجابايت ونطاق ترددي للذاكرة يبلغ 19.2 تيرابايت/ثانية. في السابق، أعطت البيانات الفنية لـ NVIDIA مؤشرًا أقصى لعرض النطاق الترددي للذاكرة يبلغ 22 تيرابايت/ثانية. وبالمقارنة مع الاثنين، فإن القيمة المعلنة حاليًا أقل بحوالي 12.7%. من المهم ملاحظة أن Nvidia استخدمت سابقًا مقياس "الحد الأقصى الذي يمكن تحقيقه"، لذلك يعكس هذا التغييرات في أرقام المواصفات ولا يعني بالضرورة أن جميع المنتجات قد شهدت انخفاضًا متساويًا في الأداء الفعلي.
يعد HBM4 جيلًا جديدًا من تكنولوجيا الذاكرة ذات النطاق الترددي العالي الذي يستخدم واجهة ذاكرة أوسع لتوفير إمكانات إنتاجية أعلى للبيانات للتدريب والاستدلال على نماذج الذكاء الاصطناعي. مع استمرار حجم النموذج في التوسع، لا تتطلب وحدة معالجة الرسومات قوة حوسبة أقوى فحسب، بل يجب أيضًا أن تحصل بشكل مستمر على كمية كبيرة من معلمات النموذج والبيانات الوسيطة. إذا كان عرض النطاق الترددي للذاكرة غير كاف، حتى لو كانت وحدة الحوسبة لديها قوة حوسبة نظرية عالية، فقد لا تكون قادرة على ممارسة أدائها بالكامل بسبب انتظار البيانات.
لقد أدى النطاق الترددي العالي للذاكرة الذي اتبعته منصة Rubin سابقًا إلى توفير متطلبات فنية أعلى لسلسلة توريد HBM4. يحتاج مصنعو ذاكرة الفيديو إلى تلبية متطلبات استهلاك الطاقة والتبديد الحراري وسلامة الإشارة والموثوقية طويلة المدى بمعدلات نقل بيانات أعلى. كلما زادت مواصفات النطاق الترددي، زادت التحديات التي تواجهها عادة عمليات التحقق من التصميم والإنتاج الحجمي.
إذا خفضت NVIDIA متطلبات النطاق الترددي للذاكرة، فقد يتوسع نطاق شرائح HBM4 التي تلبي معايير المنتج، وستتاح للموردين أيضًا فرصة زيادة نسبة إخراج المنتجات المؤهلة. هذا لا يعني أنه يجب على الشركات المصنعة لذاكرة الفيديو إعادة تصميم مجموعة المنتجات بالكامل، ولكنه قد يسمح لبعض المنتجات التي لا يمكنها الوصول إلى أعلى أهداف الأداء السابقة ولكنها لا تزال تلبي المتطلبات الجديدة بدخول نظام التوريد، وبالتالي تحسين قدرات التوريد الإجمالية.
بالإضافة إلى النطاق الترددي للذاكرة، قامت Nvidia أيضًا بتعديل مواصفات التوصيل البيني NVLink لشريحة Vera Rubin الفائقة. وفقًا لمعلومات المنتج الحالية، تم تعديل عرض النطاق الترددي NVLink لشريحة Vera Rubin الفائقة من 7.2 تيرابايت/ثانية السابقة إلى 6 تيرابايت/ثانية، بانخفاض قدره 16.7% تقريبًا. NVLink هي تقنية الربط البيني من NVIDIA للاتصال عالي السرعة بين وحدات معالجة الرسومات. إنه يلعب دورًا مهمًا في تبادل البيانات والتدريب الموازي النموذجي ومهام استدلال الذكاء الاصطناعي المعقدة في أنظمة GPU المتعددة.
في مجموعات الذكاء الاصطناعي الكبيرة، يجب تبادل التدرجات وقيم التنشيط والبيانات الوسيطة الأخرى بشكل متكرر بين وحدات معالجة الرسومات. يعد التواصل بين وحدات الحوسبة المختلفة أمرًا مهمًا بشكل خاص للنماذج الكبيرة ذات البنى الهجينة المتخصصة. لذلك، قد يؤثر تقليل مؤشر النطاق الترددي NVLink على أداء بعض المهام كثيفة الاتصال، لكن التأثير النهائي لا يزال يعتمد على بنية النموذج وطريقة جدولة البرنامج والتحميل الفعلي. لا يمكن حساب إجمالي فقدان طاقة الحوسبة ببساطة بناءً على نسبة تقليل عرض النطاق الترددي.
وفي الوقت نفسه، قامت Nvidia بزيادة مقاييس النطاق الترددي لبعض الشبكات واسعة النطاق. تظهر البيانات الموجودة أن النطاق الترددي لشبكة التوسع الأفقي لشريحة Vera Rubin الفائقة قد زاد من 0.8 تيرابايت/ثانية سابقًا إلى 0.9 تيرابايت/ثانية. يُستخدم هذا النوع من الشبكات بشكل أساسي لربط عقد حوسبة مختلفة، مما يسمح لمراكز البيانات بتنظيم عدد كبير من وحدات معالجة الرسومات في مجموعة حوسبة موحدة. يمكن أن تساعد زيادة النطاق الترددي للشبكة في تحسين قدرات نقل البيانات بين العقد، خاصة عندما يلزم إكمال مهام الحوسبة بشكل تعاوني عبر الخوادم.
يعكس هذا التعديل لواحد لأسفل وواحد لأعلى علاقة المفاضلة في تصميم منصات حوسبة الذكاء الاصطناعي: تعتبر قدرات الاتصال داخل وحدة معالجة الرسومات وداخل الخزانة مهمة، ولكن مع توسع نطاق المجموعة، قد يصبح الاتصال عبر العقد أيضًا عاملاً يحد من الأداء العام. قد تقوم Nvidia بإعادة تخصيص ميزانية الأداء في تصميمات النظام بناءً على احتياجات التطبيق الفعلية.
ومع ذلك، فإن تغيير المواصفات في حد ذاته لا يثبت أن شركة Nvidia أكدت أن هناك نقصًا في ذاكرة الفيديو، ولا يمكنه وحده إثبات أن خفض المؤشر هو زيادة الإنتاج. لا تزال هناك حاجة إلى الحكم على التفسيرات ذات الصلة بناءً على تقدم الإنتاج الضخم للمورد، وحالة شهادة المنتج، والمعلومات اللاحقة التي كشفت عنها Nvidia.
بالنسبة لسلسلة توريد HBM4، قد تؤدي تعديلات المواصفات إلى تغيير تركيز المنافسة بين الموردين. في السابق، كان على الشركات المصنعة أن تسعى جاهدة لتحقيق سرعات أعلى لنقل البيانات؛ إذا قامت Nvidia بتقليل متطلبات النطاق الترددي لمنتجات الإنتاج الضخم، فقد تصبح المنافسة أكثر تركيزًا على الإنتاجية وحجم العرض واستهلاك الطاقة والاستقرار والتكلفة. ونتيجة لذلك، قد يحصل الموردون الذين يمكنهم تقديم منتجات مؤهلة على نطاق واسع على المزيد من الفرص.
من منظور النظام الأساسي بأكمله، لا تعتمد Vera Rubin فقط على النطاق الترددي للذاكرة لتحديد الأداء. إن قوة الحوسبة لوحدة معالجة الرسومات، وسعة ذاكرة الفيديو، والتوصيل البيني من شريحة إلى شريحة، وبنية الشبكة، وتحسين البرامج تحدد بشكل مشترك أداء النظام. يحتوي تكوين خزانة Vera Rubin NVL72 المعلن عنه رسميًا من Nvidia على 72 وحدة معالجة رسومات Rubin ويربط وحدات معالجة رسوميات متعددة من خلال الجيل السادس من NVLink لدعم تدريب الذكاء الاصطناعي ومهام الاستدلال على نطاق واسع.
لذلك، حتى لو كانت بعض مؤشرات الأجهزة أقل من الأهداف المبكرة، فقد تحقق Vera Rubin أداءً أعلى من خلال بنية الحوسبة وسعة ذاكرة الفيديو والتحسين على مستوى النظام. ما يستحق الاهتمام حقًا هو ما إذا كانت Nvidia قادرة على توسيع الشحنات كما هو مخطط لها بعد تعديل المواصفات، وما إذا كان التدريب الفعلي على النموذج وأداء الاستدلال يلبي توقعات العملاء.
التعليقات