الملخص:
تخطط شركة Groq، وهي شركة شرائح استدلال تعمل بالذكاء الاصطناعي استحوذت عليها NVIDIA، لإدخال تقنية DRAM المكدسة ثلاثية الأبعاد في منتجات الجيل التالي من LPU (وحدة معالجة اللغة) لتحل محل حل SRAM المستخدم على نطاق واسع حاليًا. ويعني هذا التعديل أن الشركة ستركز أكثر على زيادة سعة تخزين الرقائق في المستقبل للتكيف مع الطلب المتزايد على نماذج الذكاء الاصطناعي واسعة النطاق.
في وقت سابق من هذا العام، أعلنت NVIDIA عن منتج الحامل Groq LPX وأدرجته في نظام Vera Rubin البيئي لتعزيز أداء استدلال الذكاء الاصطناعي. دخل الرف الإنتاج الضخم الكامل في أغسطس من هذا العام. وفقًا لنتائج الاختبار المبكرة، عند العمل جنبًا إلى جنب مع خادم NVL72، يمكن للنظام تحقيق سرعة استدلال تبلغ 3400 رمزًا في الثانية، مما يسجل رقمًا قياسيًا جديدًا للأداء.
تم تصميم الجيل الحالي من Groq LPU بذاكرة SRAM سعة 500 ميجابايت ونطاق ترددي للذاكرة يصل إلى 150 تيرابايت/ثانية. في حامل LPX، تم تكوين النظام مع 256 من هذه الرقائق، مما يوفر إجمالي 128 جيجابايت من سعة SRAM و640 تيرابايت/ثانية من إمكانيات النطاق الترددي الموسع. يمكن لوحدة Groq LPU واحدة أن توفر حوالي 1.20 PFLOPs من قوة الحوسبة FP8.
ولكن بالنسبة للجيل القادم من المنتجات، تستعد شركة Groq لاتخاذ مسار مختلف تمامًا. تخطط الشركة للتخلي عن اعتمادها فقط على SRAM وبدلاً من ذلك اعتماد DRAM ودمجها مع تقنية التغليف ثلاثية الأبعاد المكدسة (3D stacked) لإنشاء بنية جديدة. بالمقارنة مع SRAM، فإن أكبر ميزة لـ DRAM هي أنها يمكن أن توفر سعة تخزين أعلى بكثير من SRAM، ولكن على حساب النطاق الترددي المنخفض نسبيًا وسرعة الوصول.
قال مصدر في صناعة أشباه الموصلات إن شركة Groq لديها خطط لإدخال تقنية التغليف ثلاثي الأبعاد في الجيل التالي من الرقائق، وسيتغير كائن التراص من SRAM الحالي إلى DRAM. يتم تفسير هذه الخطوة على نطاق واسع في الصناعة على أنها رغبة Groq في زيادة سعة تخزين الرقائق بشكل كبير. على الرغم من أن SRAM سريع للغاية، إلا أن توسيع سعته محدود؛ بالمقارنة، على الرغم من أن DRAM أبطأ، إلا أنها أكثر ملاءمة لبناء أنظمة تخزين واسعة النطاق.
باستخدام تقنية التراص ثلاثية الأبعاد، يمكن لـ Groq تكديس طبقات متعددة من ذاكرة الوصول العشوائي الديناميكية (DRAM) في شريحة بنية رأسية واحدة واستخدام تقنية TSV (عبر السيليكون) لتحقيق اتصالات بين الطبقات. يشبه مفهوم التصميم هذا إلى حد كبير كيفية تنفيذ الذاكرة ذات النطاق الترددي العالي الحالية HBM. بالمقارنة مع عبوات DRAM التقليدية، فإن حل التراص ثلاثي الأبعاد لا يمكنه زيادة كثافة التخزين بشكل كبير لكل وحدة مساحة فحسب، بل يمكنه أيضًا تحسين كفاءة الطاقة وتقليل متطلبات المساحة.
انطلاقًا من المعلومات التي تم الكشف عنها حتى الآن، من الواضح أن تركيز ترقية منتج Groq قد تحول إلى سعة التخزين، في حين لا يزال يأمل في الاحتفاظ بأكبر قدر ممكن من مزايا النطاق الترددي العالي التي توفرها بنية SRAM الخاصة به. مع استمرار تزايد حجم نماذج الذكاء الاصطناعي التوليدية، تستمر الحاجة إلى ذاكرة ذات سعة كبيرة وعالية السرعة في النمو، لذلك من المتوقع أن يتم استخدام الجيل الجديد من رقائق Groq على نطاق أوسع.
ذكر التقرير أيضًا أن Groq قد لا تتخلى عن SRAM تمامًا في المستقبل، ولكنها ستقوم بتطوير خطوط إنتاج DRAM وSRAM بالتوازي لتوفير حلول متميزة وفقًا لسيناريوهات التطبيق المختلفة. بالنسبة لشركة NVIDIA، التي تقوم ببناء مصانع الذكاء الاصطناعي ومنصات الذكاء الاصطناعي، من المتوقع أيضًا أن يلعب هذا النوع من رقائق الاستدلال ذات السعة العالية دورًا أكثر أهمية في المستقبل.
التعليقات