الملخص:
توضح دراسة جديدة أجراها مطورو المجتمع أن بطاقات الرسومات NVIDIA GeForce RTX 30 Series وRTX 40 Series تخفي إمكانات الحوسبة التي تتجاوز المواصفات الرسمية بكثير. من خلال فتح البرامج الثابتة وتكوين الأجهزة الأساسية، نجح المطورون في إطلاق جزء من قوة الحوسبة المقيدة في الأصل، مما يسمح لبعض النماذج بتحقيق ما يصل إلى ضعف تحسين الأداء تقريبًا في سيناريوهات الذكاء الاصطناعي والحوسبة المصفوفية.
وفقًا للتقارير، فإن النواة المستخدمة في بطاقات الرسومات ذات البنية "Ampere" من سلسلة RTX 30 هي في الأساس نفس السيليكون الموجود في وحدات معالجة الرسوميات الاحترافية من NVIDIA، ولكن بعض قدرات الحوسبة للمنتجات المخصصة للمستهلكين مقيدة بسياسات البرامج والبرامج الثابتة. يمكن أن يؤدي حل إلغاء القفل الذي طوره أحد الباحثين إلى زيادة معدل إصدار التعليمات لعمليات FP/BF16 FMA إلى FP32، وهو مناسب لأنوية GA102 وGA103 وGA104 وGA106.
في الاختبارات الفعلية، تم تحسين أداء مضاعفة مصفوفة BF16 لـ RTX 3090 Ti بنسبة تصل إلى 80% تقريبًا. نظرًا لأن مضاعفة المصفوفة هي عملية أساسية مهمة لتشغيل معظم نماذج الشبكات العصبية، فإن هذا التحسين له أهمية واضحة بالنسبة للاستدلال المحلي للذكاء الاصطناعي ومهام التعلم الآلي.
وفي الوقت نفسه، حقق أيضًا مشروع فتح آخر لهندسة سلسلة RTX 40 "Ada Lovelace" طفرة كبيرة. يحقق هذا الحل ما يقرب من ضعف إنتاجية الحوسبة لـ FP16 وBF16 Tensor مع الحفاظ على دقة تراكم FP32.
بأخذ RTX 4090 كمثال، في اختبار إنتاجية Tensor FP16، يمكن أن تصل بطاقة الرسومات في الأصل إلى 165.6 TFLOPS، ولكن بعد تمكين إلغاء القفل، ارتفع الأداء إلى 331.6 TFLOPS، وهو ما يتضاعف تقريبًا. وهذا المستوى قريب من أو حتى يصل إلى القوة الحاسوبية لبعض المنتجات الاحترافية، مثل RTX 6000 Ada.
يعتقد الباحثون أن هذا يشير إلى أن نواة AD102 لديها قيود حوسبة اصطناعية في المنتجات المخصصة للمستهلكين، خاصة في مجالات حوسبة الذكاء الاصطناعي الرئيسية مثل مضاعفة المصفوفات وتراكمها. ستؤثر هذه القيود بشكل مباشر على كفاءة تشغيل تطبيقات الذكاء الاصطناعي مثل نماذج اللغات الكبيرة. حاليًا، تم تأكيد مشروع إلغاء القفل لدعم النماذج الأساسية AD102 وAD103 وAD106.
من الجدير بالذكر أن حلين لإلغاء القفل لسلسلة RTX 30 وسلسلة RTX 40 ظهرا في نفس الوقت تقريبًا، ويغطيان جيلين من معماريات GPU Ampere وAda Lovelace على التوالي. وذكر المطور أن هذه التعديلات يمكنها اجتياز آلية التحقق الكاملة لبرنامج تشغيل NVIDIA وتجاوز قيود إعادة تعيين مستوى وظيفة PCIe (FLR) بنجاح. لذلك، لا يزال من الممكن استخدام برنامج التشغيل الأصلي الرسمي ويمكن تشغيل برنامج الاختبار المتعلق بـ CUDA بشكل طبيعي.
تُظهر بيانات الاختبار أن كلاً من بطاقات الرسومات GA102 وAD102 تحافظ على نفس حد استهلاك الطاقة قبل إلغاء القفل وبعده. على سبيل المثال، في ظل إعداد إجمالي استهلاك طاقة اللوحة البالغ 450 واط، يأتي تحسين الأداء بالكامل من طاقة الحوسبة المتحررة بدلاً من الزيادات الإضافية في استهلاك الطاقة أو التردد.
بالنسبة للمستخدمين الذين يستخدمون نماذج اللغة المحلية الكبيرة، والذكاء الاصطناعي التوليدي، ومهام الحوسبة عالية الكثافة الأخرى، يمكن لقوة حوسبة Tensor الإضافية التي تم إصدارها تحسين كفاءة المعالجة المسبقة للكلمات ومراحل الاستدلال، وبالتالي تحقيق إنتاجية أعلى للرمز المميز وسرعة استجابة أسرع.
ومع ذلك، يذكر المطور أيضًا أن هذه التعديلات غير رسمية وقد تؤدي إلى إبطال ضمان بطاقة الرسومات. بالإضافة إلى ذلك، يجب تحميل الوحدات ذات الصلة أولاً أثناء مرحلة بدء تشغيل النظام بحيث يمكن إكمال عملية إلغاء القفل قبل أن يتولى برنامج تشغيل NVIDIA مسؤولية وحدة معالجة الرسومات. لذلك، يعد هذا النوع من الحلول أكثر ملاءمة للمستخدمين المتقدمين الذين لديهم قدرات تقنية معينة ومستعدون لتحمل المخاطر.
التعليقات