أعلنت NVIDIA أن إطار تسريع الاستدلال TensorRT AI متوفر الآن على بطاقات الرسومات GeForce RTX، مع أداء يضاعف مباشرة أداء DirectML.TensorRT هو مُحسِّن للاستدلال تم إطلاقه بواسطة NVIDIA، والذي يمكنه تحسين كفاءة تشغيل نماذج الذكاء الاصطناعي بشكل كبير. هذه المرة، تقدم NVIDIA TensorRT إلى منصة RTX، بحيث يمكن لجميع مستخدمي بطاقة الرسومات RTX الاستمتاع بأداء أسرع للذكاء الاصطناعي.
وفقًا لـ NVIDIA، لا يدعم TensorRT Windows ML الأصلي فحسب، بل يمكنه أيضًا تحديد الأجهزة المناسبة تلقائيًا لتشغيل كل وظيفة من وظائف الذكاء الاصطناعي وتنزيل موفر التنفيذ المقابل، مما يبسط عملية التطوير إلى حد كبير.
من حيث الأداء،أظهرت NVIDIA بيانات المقارنة بين TensorRT وDirectML: في ComfyUI، يمكن للمستخدمين الذين يستخدمون TensorRT الحصول على ما يصل إلى ضعف تحسين الأداء؛ في DaVinci Resolve وVegas Pro يصل تحسن الأداء إلى 60%.
بالإضافة إلى ذلك، يوفر TensorRT for RTX فوائد أخرى، مثل أحجام ملفات مكتبة أصغر بمقدار 8 مرات وتحسينات سريعة لكل وحدة معالجة رسومات. لا تعمل هذه التحسينات على تحسين الأداء فحسب، بل تعمل أيضًا على تحسين تخزين البرنامج وإدارته.
سيتم إطلاق TensorRT لـ RTX رسميًا في يونيو. تواصل NVIDIA أيضًا توسيع مجموعات SDK الخاصة بالذكاء الاصطناعي وتقدم حاليًا الدعم لأكثر من 150 مجموعة SDK للذكاء الاصطناعي. سيتم إطلاق خمس عمليات تكامل جديدة لموردي البرامج المستقلين (ISV) هذا الشهر، بما في ذلك LM Studio وTopaz Video AI وBilibili وAutoDesk VRED وChaos Enscape.
