ارتفعت أسعار الذاكرة 3-5 مرات هذا العام، مما أثر بشكل خطير على رغبة الجميع في استهلاك أجهزة الكمبيوتر والهواتف المحمولة. السبب وراء هذه الزيادة الهائلة في أسعار الذاكرة هو الطلب القوي على الذكاء الاصطناعي. يعلم الجميع أن الذكاء الاصطناعي لديه متطلبات عالية جدًا فيما يتعلق بسعة الذاكرة وعرض النطاق الترددي (بما في ذلك ذاكرة الفيديو على وحدات معالجة الرسومات)، ولكن إلى أي مدى يمكن أن تصل؟ يعد الجيل الثامن من مادة TPU التي أصدرتها Google قبل بضعة أيام أفضل مثال.
يفرق جهاز TPU v8 لهذا العام بين التدريب والتفكير لأول مرة. يركز V8T على تدريب الذكاء الاصطناعي. وعلى الرغم من أن جوجل تقول إن بإمكانها أيضًا القيام بالاستدلال، إلا أنها تستخدم بشكل أساسي للتدريب.يتم تكديس كل عقدة Pod مع 9,600 شريحة V8T، ويصل أداء FP4 إلى 121EFlops.، ويبلغ عرض النطاق الترددي للذاكرة 19.2 تيرابايت/ثانية، ويبلغ عرض النطاق الترددي للرقاقة الداخلية 400 جيجابايت/ثانية، وهو ما يقرب من 2-4 مرات تغيير.
يهدف V8i بشكل أساسي إلى أحمال استدلال الذكاء الاصطناعي، ويجب تقليل المواصفات كثيرًا. تحتوي كل عقدة على 1152 شريحة V8i فقط، ويتم تقليل قوة الحوسبة إلى 11.6EFlops، ويظل عرض النطاق الترددي للذاكرة دون تغيير عند 19.2 تيرابايت/ثانية.
ومن الجدير بالذكر أن سعة الذاكرة زادت بشكل ملحوظ هذه المرة.ويصل V8i أيضًا إلى ذاكرة HBM بسعة 331.8 تيرابايت، ويحتوي V8T على ذاكرة HBM كبيرة الحجم تبلغ 2PB. تم تجهيز كل شريحة V8T بذاكرة HBM بسعة 216 جيجابايت.
يتمثل مفهوم تصميم Google هذه المرة في كسر جدار الذاكرة الخاص باختناقات الذكاء الاصطناعي. إن 2PB HBM ليس فقط سعة إجمالية كبيرة جدًا، ولكنه يستخدم أيضًا كعنوان عالمي واحد داخل العقدة. على الرغم من أن وحدة معالجة الرسومات الخاصة بـ NVIDIA كانت قادرة سابقًا على تكديس ذاكرة HBM على مستوى PB من خلال تقنيات مثل NVLink، إلا أن الاتصال لا يمكنه تجاوز شبكة مركز البيانات التقليدية، مما سيؤدي إلى اختناقات في الأداء وزمن الوصول.
وقال لاري كارفاليو، كبير المستشارين في RobustCloud، إن كسر "جدار الذاكرة" يمثل تحولًا تنافسيًا كبيرًا محتملاً لشركة Google في مجال رقائق الذكاء الاصطناعي.
لكن بالنسبة للأشخاص العاديين، فإن إطلاق جوجل لذاكرة 2PB HBM لا يعد علامة جيدة، لأنه يعني أن طلب الذكاء الاصطناعي على الذاكرة لا يزال في ارتفاع.يجب أن تعلم أن ذاكرة HBM تستهلك عادةً سعة إنتاجية لرقاقة DRAM تزيد بمقدار 2-4 مرات عن ذاكرة DDR التقليدية.كلما زاد استخدام HBM، زادت سعة ذاكرة DDR المشغولة.
وحتى لو ارتفع الطلب، فإن شركات Samsung وSK Hynix وMicron وغيرها من الشركات ستعطي الأولوية لضمان الطلب على HBM، لكنها أوضحت سابقًا أنها لن تزيد الطاقة الإنتاجية للرقائق بشكل كبير. ومن الواضح أن النقص في رقائق الذاكرة سوف يصبح أكثر خطورة، ولا يمكن أن نتوقع انخفاض الأسعار بسرعة.
