وصلت المنافسة العالمية لقوة الحوسبة بالذكاء الاصطناعي إلى نقطة تحول تكنولوجية كبرى! أعلنت Google مؤخرًا عن تقنية ضغط الذاكرة الجديدة بالذكاء الاصطناعي "TurboQuant"، والتي جذبت اهتمامًا كبيرًا في الصناعة. تدعي هذه التقنية أنها قادرة على تقليل متطلبات المساحة لـ "ذاكرة التخزين المؤقت للقيمة الرئيسية" الأكثر استهلاكًا للموارد (KV Cache) في مرحلة استدلال الذكاء الاصطناعي التوليدي إلى 1/6 من النسخة الأصلية دون التضحية بدقة النموذج، وزيادة سرعة الحساب بمقدار 8 مرات.
وقد أثارت هذه التكنولوجيا المتقدمة أيضًا مخاوف في السوق بأكملها من أن الطلب على الذاكرة سوف ينخفض إلى الهاوية. وانخفضت الأسهم الأمريكية المرتبطة بالتخزين مثل Micron وSandisk وWestern Digital.
ما هو بالضبط TurboQuant؟
أثناء عملية الاستدلال LLM (نموذج اللغة الكبيرة)، من أجل معالجة النصوص الطويلة، يجب على النظام تخزين معلومات المحادثة السابقة في ذاكرة التخزين المؤقت KV، والتي تشبه "دفتر ملاحظات محمول" يعمل بالذكاء الاصطناعي. مع زيادة طول المحادثة، فإن المعلومات التي يجب تخزينها في هذا الكمبيوتر الدفتري سوف تطغى بسرعة على الذاكرة ذات النطاق الترددي العالي (HBM) لوحدة معالجة الرسومات AI، لتصبح أكبر عنق الزجاجة في تشغيل الذكاء الاصطناعي.
تتمثل الميزة الأساسية لتقنية TurboQuant من Google في حل "ضجيج الذاكرة" (العلوي) الناتج عن تقنية ضغط الذاكرة التقليدية. تتكون التكنولوجيا من جزأين رئيسيين:
PolarQuant (تقدير الإحداثيات القطبية): يتم تمييز المتجهات التقليدية بإحداثيات XYZ، وتكون العملية مرهقة. يستخدم Google بدلاً من ذلك منطق "الإحداثيات القطبية" لتبسيط الاتجاهات المعقدة إلى "نصف القطر" و"الزاوية". وهذا يشبه تبسيط المعلومات التي كان من المفترض في الأصل تسميتها "المشي مسافة 3 كيلومترات شرقًا و4 كيلومترات شمالًا" إلى "المشي مسافة 5 كيلومترات بزاوية 37 درجة". هذا التحول في الهياكل الهندسية يقلل بشكل كبير من حمل معالجة البيانات.
QJL (Quantized Johnson-Lindenstrauss): هذه آلية تصحيح رياضية مبسطة للغاية بحجم 1 بت. يتم استخدام بت واحد إضافي فقط لتصحيح الخطأ المتبقي بدقة في عملية الضغط، بحيث أنه حتى إذا تم ضغط النموذج إلى 3 بتات فقط، فلا يزال بإمكانه تحقيق "خسارة دقة صفرية" في العديد من الاختبارات المعيارية مثل LongBench.
△في نموذج Llama-3.1-8B-Instruct، أظهر TurboQuant أداءً قويًا لضغط ذاكرة التخزين المؤقت KV في اختبار قياس LongBench، متفوقًا على طرق الضغط المختلفة (يشار إلى عرض البت بين قوسين).
اختارت Google أن تفتح المصدر الكامل لهذه المجموعة من التقنيات التي أصبحت بمثابة القدرة التنافسية الأساسية. إنه لا يعمل على تحسين كفاءة الاسترجاع للنماذج الكبيرة مثل Gemini فحسب، بل يقلل أيضًا من الاعتماد على الذاكرة للنماذج الكبيرة الأخرى ويمهد الطريق لتسريع تطوير الجانب النهائي للذكاء الاصطناعي.
وفقًا للقياسات الفعلية، على مسرع NVIDIA H100، تم تحسين أداء TurboQuant بما يصل إلى 8 مرات مقارنة بالحل غير المضغوط، ويمكن تركيب النموذج مباشرة دون إعادة التدريب. ويمكن أن يطلق عليه "السلاح السحري" لخفض التكاليف وزيادة الكفاءة في نشر الذكاء الاصطناعي.
△في مسرع NVIDIA H100، يُظهر TurboQuant تحسينات كبيرة في الأداء في حساب قيم منطق الانتباه في ذاكرة التخزين المؤقت لقيمة المفتاح، متفوقًا على خط الأساس JAX المُحسّن للغاية عند مستويات عرض البت المختلفة.
△يُظهر TurboQuant أداءً قويًا في الاسترجاع، حيث يحقق أفضل استدعاء 1@k في مجموعة بيانات GloVe (d=200) مقارنة بخطوط الأساس المختلفة للتكميم.
أطلق ماثيو برينس، الرئيس التنفيذي لشركة Cloudflare، وآخرون على TurboQuant Google اسم "لحظة DeepSeek" ويعتقدون أنه من المتوقع، مثل DeepSeek، أن تقلل بشكل كبير تكاليف تشغيل الذكاء الاصطناعي من خلال مكاسب عالية الكفاءة للغاية مع الحفاظ على قدرتها التنافسية من حيث النتائج.
هل ستنخفض متطلبات الذاكرة أم ستنشئ متطلبات أكبر؟
فيما يتعلق بتقنية TurboQuant، التي أثارت مخاوف بشأن الانخفاض الحاد في الطلب على الذاكرة في السوق بأكملها، فقد أعطى خبراء الصناعة والمؤسسات البحثية أيضًا وجهات نظر مختلفة تمامًا:
وأشار أندرو روشا، المحلل في ويلز فارجو:"عندما تصبح نافذة السياق (نافذة السياق) أكبر فأكبر، كان النمو الهائل لـ KV Cache في الأصل ضمانًا لزيادة الطلب على الذاكرة. لكن TurboQuant تهاجم منحنى التكلفة هذا بشكل مباشر. وبمجرد اعتمادها على نطاق واسع، سيتم وضع علامة على متطلبات المواصفات لسعة الذاكرة في مراكز البيانات بأسئلة كبيرة."
ومع ذلك، قدم بنك الاستثمار الشهير مورجان ستانلي ومنظمة الأبحاث Lynx Equity Strategies وجهات نظر مختلفة تمامًا.
ويعتقد مورجان ستانلي أن السوق ربما تجاهلت القانون الاقتصادي الذي يقول إن "تحسينات الكفاءة تدفع النمو الإجمالي".عندما يتم تخفيض تكلفة الذاكرة المطلوبة لحوسبة الذكاء الاصطناعي إلى 1/6 من التكلفة الأصلية، سيؤدي ذلك إلى انفجار هائل في الطلب على تطبيقات الذكاء الاصطناعي التي لم تكن قادرة في السابق على الاتصال بالإنترنت لأن الذاكرة كانت باهظة الثمن (مثل ترجمة النصوص الطويلة، وتوليد التعليمات البرمجية المعقدة)، وبدلاً من ذلك سوف تملأ أو حتى تتجاوز فجوة الذاكرة المضغوطة.
وهذه هي مفارقة جيفون، وهي أنه عندما يؤدي التقدم التكنولوجي إلى تحسين كفاءة استخدام الموارد (تقليل الكمية المطلوبة لأي استخدام واحد)، ولكن خفض التكلفة يؤدي إلى زيادة الطلب، فإن سرعة استهلاك الموارد تزيد بدلا من أن تتناقص.
وأشار جوزيف مور، محلل مورجان ستانلي، وفريقه في مذكرة للمستثمرين صدرت يوم الخميس: "هناك تقارير تفيد بأن TurboQuant من Google سيقلل استخدام الذاكرة إلى 1/6 من النسخة الأصلية، لكن هذا يتجاهل أنهم يشيرون فقط إلى KV Cache، وليس الاستخدام العام للذاكرة.
"من الجدير بالذكر أن كلا من طرازي Gemini 3 و2.5 Pro من Google يحتويان على نوافذ سياق تبلغ مليون رمز، لكن Google كشفت أنها اختبرت نوافذ سياق تصل إلى 10 ملايين رمز باستخدام Gemini 1.5 Pro وحققت نتائج جيدة جدًا، ولكن نظرًا لارتفاع تكلفة الاستدلال، لم يطلقوا النموذج في النهاية". "ونتيجة لذلك، نتوقع أنه مع ظهور هذا النوع من الابتكار والتقنيات الأخرى، ستنخفض التكاليف وسيتم استخدام هذه التكنولوجيا لخدمة منتجات أكثر ذكاءً وحوسبة مكثفة."
وأشار مورجان ستانلي أيضًا إلى أن TurboQuant يعمل بشكل أساسي على تحسين ذاكرة التخزين المؤقت في "مرحلة الاستدلال"، وليس أوزان النموذج في "مرحلة التدريب". ولذلك، فإن التأثير على منطق شراء HBM (ذاكرة النطاق الترددي العالي) الذي يدعم التدريب الأساسي للذكاء الاصطناعي محدود نسبيًا.
في المقابل، يعتبر TurboQuant أكثر فائدة لنشر الذكاء الاصطناعي على الأجهزة الطرفية مثل الهواتف المحمولة وأجهزة الكمبيوتر المحمولة. نظرًا لأن الأجهزة المحمولة تحتوي على ذاكرة محدودة، فإن هذا النوع من تقنية الضغط الفعالة يسمح بتشغيل نماذج الذكاء الاصطناعي الأكثر قوة على الهواتف المحمولة، مما يؤدي بدوره إلى تحفيز ترقية شاملة لمواصفات الذاكرة في الأجهزة الطرفية المختلفة.
وفقًا لاستراتيجيات Lynx للأسهم،في حين أن مزودي الذكاء الاصطناعي سيحتاجون إلى الابتكار لمعالجة الاختناقات في الاستدلال التي تنشأ مع زيادة طول سياق الرمز المميز، فإن هذا لن يقلل من الطلب على الذاكرة والفلاش على مدى السنوات الثلاث إلى الخمس القادمة بسبب قيود العرض.