الملخص:
اليوم، تم إصدار أحدث نموذج لغة من Tencent Hunyuan، Hy4 flash. إجمالي كمية المعلمات للنموذج هو 224B (بما في ذلك 64B معلمات Engram)، ومعلمات التنشيط هي 12B فقط، وتدعم الوسائط المتعددة وطول السياق 1M. يعد Hy4 flash هو نموذج Hy الأكثر فعالية من حيث التكلفة حتى الآن: الإدخال هو 0.5 يوان لكل مليون رمز، والإخراج هو 2 يوان، ويلزم 0.02 يوان فقط عند الوصول إلى ذاكرة التخزين المؤقت. السعر أقل بكثير من Hy4. ص> ص>

وفقًا للتقارير، من أجل تحقيق أقصى فعالية من حيث التكلفة مع الأخذ في الاعتبار مستوى الذكاء والتطبيق العملي، قام فريق Hunyuan بسلسلة من العمل:
في مرحلة ما قبل التدريب، يضيف فلاش Hy4 ميزات معمارية مثل الاهتمام المختلط وLententMoE وEngram. يبلغ حجم ذاكرة التخزين المؤقت KV 1/24 فقط من Hy3 و1/6 من Hy4، ويضمن عدد كبير من تجارب سلم القياس أن التأثير يلبي التوقعات. ص>
في مرحلة ما بعد التدريب، يتم الحصول على مستوى ذكاء شامل قوي من خلال التقطير الذاتي Hy4، ثم يتم تقليل طول مخرجات المهمة الشاملة بنسبة 50% من خلال التعلم المعزز. ص>
في مرحلة التقييم، تم إنشاء مجموعة تقييم داخلي WorkIndex استنادًا إلى مهام WorkBuddy النموذجية، جنبًا إلى جنب مع المراجعات البشرية، للتركيز على تأثيرات المنتج للعمل اليومي، وطول مخرجات الجولة الواحدة، والوقت الشامل، بدلاً من نتائج القائمة العامة البعيدة عن العمل اليومي. ص>
في مرحلة الاستدلال، جنبًا إلى جنب مع Megakernel، وتكميم 4 بت، وdflash وغيرها من وسائل التحسين الأقصى، تتجاوز سرعة فك تشفير فلاش Hy4 150 نقطة في الثانية، ويمكن نشرها وتشغيلها على نطاق واسع بتكلفة منخفضة. ص>
في النهاية، يعد فلاش Hy4 أفضل قليلاً من معاينة Hy4 مع معلمات أكبر من حيث التأثير الإجمالي (إجمالي المعلمات 770 بايت، ومعلمات التنشيط 49 بايت)، ولكن التكلفة أقل بكثير. وفقًا للحسابات الشاملة المستندة إلى مجموعة التقييم الداخلي WorkIndex (التي تغطي مهام WorkBuddy النموذجية مثل إنتاج PPT وتعديلها، وتحرير المستندات، وإصلاح الجداول، ومعالجة الصوت والفيديو، والفهم البصري)، فإن تكلفة المهمة الواحدة لـ Hy4 flash هي فقط 1/13 من معاينة Hy4، و1/20 من Hy4، و1/8 من DeepSeek-V4.1-Flash-1027 (المستوى الأقصى، سعر الساعة المزدحمة). ص>
يُقال أنه تم إطلاق Hy4 flash على Tencent Cloud TokenHub وWorkBuddy وYuanbao وEnterprise WeChat وQQ وima وMarvis وغيرها من المنتجات، وسيتم توصيله قريبًا بـ OpenRouter. قبل 30 نوفمبر، يمكن للمستخدمين استخدام WorkBuddy مجانًا لفترة محدودة، واستخدام Tencent Cloud TokenHub API بخصم 50% لفترة محدودة. ص> ص>
التعليقات