الملخص:
أعلنت شركة Qualcomm مؤخرًا عن مزيد من التفاصيل حول قدرات معالجة الذكاء الاصطناعي لـ Snapdragon 8 Elite Gen 6 Pro، وأبرزها ترقية Hexagon NPU الجديدة. وبعيدًا عن متابعة نمو قوة حوسبة الذكاء الاصطناعي في الماضي، تولي كوالكوم هذه المرة مزيدًا من الاهتمام لكفاءة تشغيل نموذج الذكاء الاصطناعي والوصول إلى الذاكرة والتحكم في استهلاك الطاقة، على أمل تمكين الجيل القادم من الهواتف المحمولة الرائدة من تشغيل نماذج الذكاء الاصطناعي التوليدية واسعة النطاق ووكلاء الذكاء الاصطناعي محليًا.
قالت شركة كوالكوم إنه نظرًا لأن الذكاء الاصطناعي التوليدي أصبح تدريجيًا سمة مهمة للهواتف الذكية، فإن نماذج الذكاء الاصطناعي نفسها تستمر في أن تصبح أكبر وأكثر تعقيدًا. بالنسبة للأجهزة المحمولة، فإن عنق الزجاجة الحقيقي ليس مجرد قوة الحوسبة، ولكن كيفية معالجة هذه النماذج بكفاءة في ظل استهلاك محدود للطاقة وعرض النطاق الترددي للذاكرة. لذلك، تمت إعادة تصميم وحدة NPU الخاصة بـ Snapdragon 8 Elite Gen 6 Pro في العديد من الجوانب.
إحدى الترقيات المهمة هي Element Accelerator الجديد. تم تحسين وحدة تسريع الأجهزة المخصصة هذه لعمليات محددة في حوسبة الذكاء الاصطناعي، والتي يمكنها تحسين كفاءة وحدة NPU عند تنفيذ أعباء العمل ذات الصلة. وبالمقارنة مع زيادة قوة الحوسبة القصوى لوحدة NPU، فإن هذا التصميم المتخصص يسمح للرقاقة بإكمال مهام الذكاء الاصطناعي المحددة بموارد أقل، وبالتالي تقليل استهلاك الطاقة في عملية الحوسبة.
يكتسب الجيل الجديد من Hexagon NPU أيضًا ذاكرة مشتركة أكبر. قالت شركة كوالكوم إن سعة الذاكرة المشتركة الكبيرة لديها زادت بنسبة 50٪ مقارنة بالجيل السابق. يسمح هذا الجزء من الذاكرة المشتركة عالية السرعة لوحدة NPU بحفظ البيانات المطلوبة بشكل أكثر ملاءمة أثناء تشغيل نموذج الذكاء الاصطناعي، وبالتالي تقليل الحاجة إلى الوصول المتكرر إلى ذاكرة النظام.
يعد هذا التغيير مهمًا بشكل خاص لنماذج اللغات الكبيرة. عند تشغيل الذكاء الاصطناعي التوليدي، تحتاج النماذج إلى معالجة كميات كبيرة من البيانات السياقية باستمرار، والتي يجب أن يستمر بعضها أثناء الاستدلال. إذا تم نقل هذه البيانات بشكل متكرر ذهابًا وإيابًا بين وحدة NPU وذاكرة النظام، فسيؤدي ذلك إلى زيادة زمن الوصول واستهلاك المزيد من الطاقة. ومن خلال إضافة ذاكرة مشتركة عالية السرعة يمكن استخدامها مباشرة داخل وحدة NPU، تأمل شركة Qualcomm في تقليل معالجة البيانات قدر الإمكان.
أحد العناصر التي استفادت بشكل كبير هي KV Cache. نظرًا لأن المستخدمين لديهم محادثات أطول وأطول مع مساعدي الذكاء الاصطناعي، تحتاج النماذج إلى حفظ المزيد والمزيد من المعلومات السياقية. سيزداد أيضًا حجم ذاكرة التخزين المؤقت KV وفقًا لذلك، وغالبًا ما يصبح عبئًا مهمًا على الذاكرة عند تشغيل النماذج الكبيرة محليًا. تسمح الذاكرة المشتركة الأكبر حجمًا ببقاء المزيد من البيانات ذات الصلة أقرب إلى وحدة الحوسبة، وبالتالي تحسين كفاءة استدلال الذكاء الاصطناعي.
تعتقد شركة كوالكوم أن هذه القدرة ذات أهمية خاصة لعملاء الذكاء الاصطناعي. بالمقارنة مع الذكاء الاصطناعي التقليدي القائم على الأسئلة والأجوبة، يحتاج وكلاء الذكاء الاصطناعي إلى إكمال خطوات متعددة بشكل مستمر، مثل فهم احتياجات المستخدم، وصياغة خطط التنفيذ، واستدعاء أدوات مختلفة، وتحليل النتائج التي تم إرجاعها، ثم المتابعة إلى الخطوة التالية. طوال العملية، يجب حفظ حالة النموذج والسياق بشكل مستمر، لذا فإن تقليل الوصول إلى الذاكرة يمكن أن يساعد في تقليل زمن الوصول والسماح بمهام الذكاء الاصطناعي المعقدة بالعمل بسلاسة أكبر.
تعني التحسينات التي أدخلتها شركة Qualcomm على وحدة NPU أيضًا أنه عندما تقوم الهواتف المحمولة بتشغيل الذكاء الاصطناعي في المستقبل، فإنها لا تحتاج بالضرورة إلى الاعتماد ببساطة على زيادة ذاكرة الوصول العشوائي للنظام لحل المشكلة. ومع تزايد حجم نماذج الذكاء الاصطناعي المحلية، واصلت شركات تصنيع الهواتف المحمولة زيادة سعة الذاكرة للمنتجات الرئيسية في السنوات الأخيرة. ومع ذلك، فإن زيادة ذاكرة الوصول العشوائي (RAM) لن تؤدي إلى زيادة تكاليف الأجهزة فحسب، بل ستؤدي أيضًا إلى زيادة استهلاك الطاقة والضغط على إمدادات الذاكرة. تحاول شركة كوالكوم التخفيف من هذه المشكلة على المستوى المعماري من خلال وضع المزيد من البيانات في ذاكرة مشتركة عالية السرعة داخل الشريحة.
بالإضافة إلى وحدة المعالجة العصبية (NPU)، تمت أيضًا ترقية وحدة المعالجة المركزية (CPU) ووحدة معالجة الرسومات (GPU) في Snapdragon 8 Elite Gen 6 Pro بشكل كبير. كشفت شركة Qualcomm سابقًا أن النظام الأساسي للجيل الجديد سيحتوي على تردد وحدة المعالجة المركزية يصل إلى 5 جيجا هرتز. وإذا تم تنفيذ هذه المواصفات أخيرًا وفقًا للمعلومات المعلنة حاليًا، فسوف تصبح عقدة رمزية للغاية في معالجات الهواتف المحمولة، لأن أعلى تردد لوحدات المعالجة المركزية للهواتف الذكية سيدخل رسميًا عصر 5 جيجا هرتز.
قدمت شركة Qualcomm أيضًا تقنية FlexCache لوحدات المعالجة المركزية (CPU). تتمثل الفكرة الأساسية أيضًا في تقليل اعتماد المعالج على ذاكرة النظام الخارجية واستخدام ذاكرة التخزين المؤقت الداخلية للرقاقة بشكل أكثر مرونة حتى تتمكن وحدة المعالجة المركزية من الحصول على البيانات بشكل أكثر كفاءة. بالنسبة للمعالجات المحمولة الحديثة، أصبحت كفاءة الوصول إلى البيانات بين ذاكرة التخزين المؤقت والذاكرة ذات أهمية متزايدة، لذلك يمكن لهذا التصميم تحسين التوازن بين الأداء وكفاءة الطاقة إلى حد ما.
شهدت وحدات معالجة الرسومات أيضًا تغييرات معمارية كبيرة. تصف شركة Qualcomm الجيل الجديد من وحدة معالجة الرسوميات Adreno بأنه ترقية معمارية مهمة جدًا لا تعمل على تحسين أداء الرسومات التقليدية فحسب، بل تعمل أيضًا على تعزيز قدرة وحدة معالجة الرسومات على أداء مهام الذكاء الاصطناعي.
أحد التغييرات المهمة هو إضافة Adreno Matrix Cores، وهي أنوية مخصصة لحسابات المصفوفات. تعد عمليات المصفوفة نوعًا مهمًا من العمليات الحسابية في نماذج الذكاء الاصطناعي الحديثة، لذا يمكن أن تساعد نوى المصفوفة المخصصة وحدات معالجة الرسومات على أداء الأعمال المتعلقة بالذكاء الاصطناعي بشكل أكثر كفاءة.
وهذا يعني أن منصات Snapdragon الرئيسية المستقبلية لن تقوم بتسليم جميع حسابات الذكاء الاصطناعي إلى وحدة NPU. اعتمادًا على المهام المحددة، يمكن لكل من وحدة المعالجة المركزية (CPU) ووحدة معالجة الرسومات (GPU) ووحدة المعالجة العصبية (NPU) القيام بأنواع مختلفة من العمل، وبالتالي تشكيل نظام حوسبة غير متجانس أكثر وضوحًا. بالنسبة للألعاب، يمكن لوحدة معالجة الرسومات إجراء جزء من حسابات الذكاء الاصطناعي أثناء استكمال عرض الرسومات التقليدية؛ بينما بالنسبة لأحمال العمل مثل الذكاء الاصطناعي التوليدي، يمكن لوحدة NPU أن تلعب دورًا أكثر أهمية.
أطلقت شركة Qualcomm أيضًا تقنية Adreno Neural Fusion لزيادة تعزيز الدمج بين الذكاء الاصطناعي وعرض الرسومات. يمكن لهذه التقنية استخدام خوارزميات الذكاء الاصطناعي لتحسين التأثيرات المرئية لشاشات الألعاب والمساعدة في تحقيق تأثيرات معالجة رسومات أكثر تقدمًا مع التحكم في استهلاك الطاقة.
هذا التصميم مناسب بشكل خاص لتقنيات الرسوميات التي تعمل بالذكاء الاصطناعي والتي تطورت بسرعة في السنوات الأخيرة، مثل الدقة الفائقة وتوليد الإطارات. تستمر دقة وتعقيد الصورة لألعاب الهاتف المحمول في الزيادة. إذا كانت جميع الصور تعتمد على الطرق التقليدية للعرض الأصلي، فسيزداد عبء وحدة معالجة الرسومات واستهلاك الطاقة بسرعة. يمكن أن يؤدي استخدام الذكاء الاصطناعي لإنشاء جزء من معلومات الصورة إلى تحقيق جودة أعلى للصورة النهائية بتكاليف عرض أقل.
من منظور البنية الشاملة، فإن ترقية الذكاء الاصطناعي لـ Snapdragon 8 Elite Gen 6 Pro لا تهدف فقط إلى جعل وحدة NPU أسرع، ولكن لمحاولة إعادة تصميم طريقة معالجة البيانات داخل SoC بالكامل. تحتوي وحدة NPU على ذاكرة مشتركة أكبر ومسرعات مخصصة. تعمل وحدة المعالجة المركزية على تقليل الاعتماد على ذاكرة النظام من خلال FlexCache، بينما تضيف وحدة معالجة الرسومات قدرات حوسبة مصفوفية متخصصة وتشارك في معالجة الرسومات من خلال تقنية الذكاء الاصطناعي.
يعكس هذا التغيير أن شرائح الهاتف المحمول تدخل مرحلة جديدة. في الماضي، عند قياس أداء شرائح SoC الرئيسية، كان الناس يركزون بشكل أساسي على نتائج تشغيل وحدة المعالجة المركزية ووحدة معالجة الرسومات، ولكن الآن أصبح عبء عمل الذكاء الاصطناعي عاملاً مهمًا في تحديد التجربة الفعلية للشريحة. بالنسبة للجيل القادم من الهواتف المحمولة، ما يهم حقًا ليس فقط مدى ارتفاع قوة الحوسبة القصوى للرقاقة، ولكن أيضًا ما إذا كان يمكنها تشغيل نماذج الذكاء الاصطناعي لفترة طويلة في ظل استهلاك محدود للطاقة، وما إذا كان يمكنها التحكم بشكل فعال في حركة البيانات بين وحدات الحوسبة والذكريات المختلفة.
يُظهر تركيز شركة كوالكوم بشكل خاص على الذاكرة المشتركة وتقليل الوصول إلى الذاكرة أيضًا أن المنافسة على الرقائق في عصر الذكاء الاصطناعي تتحول تدريجيًا من "حرب قوة حاسوبية" بسيطة إلى "حرب كفاءة نقل البيانات". بالنسبة لنماذج الذكاء الاصطناعي الكبيرة، يعد الحساب بحد ذاته أمرًا مهمًا، ولكن كيفية إرسال معلمات النموذج والسياق والنتائج الوسيطة إلى وحدة الحوسبة الصحيحة في الوقت المناسب ستؤثر أيضًا بشكل مباشر على الأداء النهائي واستهلاك الطاقة.
لذلك، ما هو جدير بالملاحظة حقًا بشأن Snapdragon 8 Elite Gen 6 Pro قد لا يكون مقدار التحسن في أداء الذكاء الاصطناعي الفردي، ولكن كوالكوم تحاول تمكين الهواتف المحمولة من التعامل مع مهام الذكاء الاصطناعي المتزايدة التعقيد محليًا من خلال التعاون الوثيق بين NPU ووحدة المعالجة المركزية ووحدة معالجة الرسومات وذاكرة التخزين المؤقت والذاكرة المشتركة.
نظرًا لأن مساعدي الذكاء الاصطناعي ووكلاء الذكاء الاصطناعي والتطبيقات التوليدية ووظائف ألعاب الذكاء الاصطناعي أصبحوا تدريجيًا جزءًا مهمًا من الهواتف المحمولة الرائدة، فقد تصبح هذه الفكرة المعمارية أيضًا اتجاهًا مهمًا لتطوير شرائح SoC المحمولة في المستقبل. بالمقارنة مع زيادة ذاكرة الوصول العشوائي للنظام بشكل مستمر، من المتوقع أن يؤدي استيعاب نماذج الذكاء الاصطناعي المتوسعة باستمرار من خلال آليات معالجة البيانات والتخزين المؤقت الأكثر كفاءة داخل الشريحة إلى تحقيق توازن أكثر معقولية بين الأداء واستهلاك الطاقة والتكلفة.
يجب التحقق من قدرة Snapdragon 8 Elite Gen 6 Pro على تحقيق هذه الأهداف التقنية من خلال الاختبار الكامل بعد إطلاق الجهاز الفعلي. ومع ذلك، انطلاقًا من المعلومات الصادرة حتى الآن، كان التركيز على ترقية منصة كوالكوم الرئيسية لهذا الجيل واضحًا للغاية: ليس فقط لجعل حسابات الذكاء الاصطناعي أسرع، ولكن أيضًا لجعل حسابات الذكاء الاصطناعي أكثر كفاءة، وتقليل تكاليف الذاكرة واستهلاك الطاقة للهواتف المحمولة من أجل تشغيل الذكاء الاصطناعي المحلي.
التعليقات