الملخص:
افتتح Framework رسميًا الطلبات المسبقة لكمبيوتر Framework Desktop الجديد المجهز بمعالج AMD Ryzen AI Max+ PRO 495 في 30 سبتمبر. على الرغم من أن سعر هذا الكمبيوتر المكتبي الصغير لحوسبة الذكاء الاصطناعي المحلية مرتفع للغاية، حيث يبدأ سعر إصدار DIY من 6,799 دولارًا أمريكيًا، إلا أنه تم بيع الدفعة الأولى من المنتجات بسرعة في غضون ساعات بعد دخولها عبر الإنترنت، مما يدل على أن هناك طلبًا قويًا على الذاكرة الموحدة ذات السعة الكبيرة لتشغيل نماذج الذكاء الاصطناعي الكبيرة محليًا.
يستخدم التكوين الرئيسي الذي أطلقه Framework معالج AMD Ryzen AI Max+ PRO 495، وهو معالج من الجيل الجديد يحمل الاسم الرمزي "Gorgon Halo"، ومجهز بذاكرة موحدة LPDDR5X-8533 بسعة 192 جيجابايت. بالمقارنة مع الحد الأقصى للتكوين السابق لـ Framework Desktop وهو 128 جيجابايت، يضيف الإصدار الجديد 64 جيجابايت من الذاكرة في المرة الواحدة، مما يسمح له بتحميل نماذج الذكاء الاصطناعي المحلية واسعة النطاق مباشرة على جهاز واحد دون الحاجة إلى وضع بعض أوزان النماذج بشكل متكرر في محركات أقراص SSD أو تشكيل مجموعة من خلال أجهزة كمبيوتر متعددة.
يستخدم Ryzen AI Max+ PRO 495 وحدة المعالجة المركزية Zen 5 ذات 16 نواة مع أقصى تردد تسارع يبلغ 5.2 جيجا هرتز، ومزود بذاكرة تخزين مؤقت من المستوى 3 بسعة 64 ميجابايت، وTDP افتراضي بقدرة 55 وات، وcTDP يصل إلى 120 وات، ووحدة معالجة الرسومات Radeon 8065S المدمجة. وحدة المعالجة المركزية (CPU) ووحدة معالجة الرسومات (GPU) تعملان على تحسين أداء الذكاء الاصطناعي. إطار عمل، 192 جيجا بايت هو الحل الأمثل لمشكلة الكمبيوتر الشخصي.
بالمقارنة مع Ryzen AI Max+ 395 السابق، لا يعمل PRO 495 على زيادة سعة الذاكرة فحسب، بل يحتوي أيضًا على ترددات أعلى لساعة وحدة المعالجة المركزية ووحدة معالجة الرسومات، ويزيد من معدل الذاكرة الموحدة إلى 8533 MT/s. إطار العمل، هو الحل الأمثل لمشكلة الذكاء الاصطناعي.
يتضمن الإصدار 192 جيجابايت المقدم من Framework هذه المرة إصدار DIY والإصدار المضيف الكامل للنظام المثبت مسبقًا. يبدأ إصدار DIY بسعر 6799 دولارًا ويتضمن ذاكرة موحدة بسعة 192 جيجابايت ولكن لا توجد مساحة تخزين مثبتة مسبقًا. بالنسبة للمستخدمين الذين لديهم SSD بالفعل أو يرغبون في اختيار حل التخزين الخاص بهم، يمكن أن يؤدي هذا التكوين إلى تقليل بعض التكاليف.
إذا اخترت النسخة الكاملة المثبتة مسبقًا، فسيصل السعر إلى 7449 دولارًا. يضيف هذا الإصدار محرك أقراص NVMe PCIe 4.0 SSD بسعة 2 تيرابايت ويأتي مثبتًا مسبقًا مع نظام التشغيل Fedora 44 KDE Plasma Edition. بمعنى آخر، بمجرد إضافة 2 تيرابايت SSD ونظام مثبت مسبقًا، فإن سعر الجهاز بأكمله أعلى بـ 650 دولارًا من إصدار DIY.
للمقارنة، يبلغ سعر جهاز Framework Desktop الحالي المزود بذاكرة Ryzen AI Max+ 395 وذاكرة 128 جيجابايت حوالي 3,449 دولارًا أمريكيًا. يحتوي الإصدار الجديد بسعة 192 غيغابايت على ذاكرة أكبر بنسبة 50% ومعالج تمت ترقيته، ولكن إصدار DIY أغلى بمرتين تقريبًا من الإصدار الأصلي بسعة 128 غيغابايت.
يرتبط هذا السعر المرتفع بشكل مباشر بالتوتر المستمر الأخير في سوق الذاكرة. لقد ذكر Framework عدة مرات من قبل أن تكلفة ذاكرة LPDDR5X عالية السعة آخذة في الارتفاع بشكل ملحوظ، وخاصة العرض الضيق لجزيئات الذاكرة عالية الكثافة 128 جيجابت، والتي لها تأثير واضح جدًا على تكلفة أجهزة الذاكرة الموحدة ذات السعة الكبيرة. وبالتالي فإن سعر هذا الإصدار 192 جيجابايت أعلى بكثير من التكوين العادي السابق لـ Framework Desktop.
في الواقع، صرح Framework قبل فتح المنتج رسميًا للطلب المسبق أنه نظرًا لمخزون الذاكرة المحدود، فإنه سيكون قادرًا فقط على توفير مجموعة من أنظمة Gorgon Halo بسعة 192 جيجابايت في البداية. وبعد بدء الطلبات المسبقة في 30 سبتمبر، تم بيع الدفعة الأولى من المنتجات بسرعة. وقالت شركة Framework لاحقًا إن الشركة تمكنت من تأمين مجموعة إضافية من الذاكرة، لذلك فتحت دفعة ثانية محدودة من الطلبات المسبقة.
من المتوقع أن يتم شحن الدفعة الثانية من المنتجات اعتبارًا من نوفمبر. ومع ذلك، يذكر Framework أيضًا المستهلكين بأن السعر والوقت اللازم لتسويق الدفعات القليلة التالية من المنتجات سيعتمدان على تكلفة موردي الذاكرة وإمداداتهم. حتى أن الشركة أوضحت أن سعر Framework Desktop قد يستمر في الارتفاع في الأشهر المقبلة.
بالنسبة لمستخدمي الذكاء الاصطناعي المحليين، تعد الذاكرة الموحدة بسعة 192 جيجابايت هي أكبر عامل جذب لهذا الجهاز. تعتمد أجهزة الكمبيوتر التقليدية عادةً على ذاكرة بطاقة رسوميات مستقلة لتشغيل نماذج الذكاء الاصطناعي الكبيرة، في حين أن سعة ذاكرة وحدات معالجة الرسومات المتطورة تكون عادةً محدودة ببطاقة واحدة. إذا لم يكن من الممكن وضع النموذج بالكامل في ذاكرة الفيديو، فيجب استخدام ذاكرة النظام أو حتى SSD لتبادل البيانات، وقد يتأثر الأداء بشكل كبير.
يعتمد Framework Desktop بنية تتشارك فيها حوسبة وحدة المعالجة المركزية (CPU) ووحدة معالجة الرسومات (GPU) والذكاء الاصطناعي (AI) في ذاكرة موحدة، والتي يمكنها تخصيص كمية كبيرة من الذاكرة مباشرةً لوحدة معالجة الرسومات (GPU). وتعني سعة التخزين البالغة 192 جيجابايت أنه يمكن للمستخدمين تشغيل نماذج محلية كبيرة جدًا في جهاز كمبيوتر صغير تبلغ سعته حوالي 4.5 لترًا. قال Framework أن الذاكرة الإضافية البالغة 64 جيجابايت لا يمكنها فقط تحميل نموذج واحد أكبر، ولكن أيضًا حفظ نموذجين أصغر في الذاكرة في نفس الوقت، مما يسمح للنموذج الأسرع أن يكون مسؤولاً عن التفاعلات الرئيسية، والسماح لنموذج آخر أكثر قدرة ولكن أبطأ بمعالجة المشكلات المعقدة.
يؤكد Framework أيضًا بشكل خاص على أن هذا التكوين جذاب للمستخدمين الذين يرغبون في تشغيل الذكاء الاصطناعي محليًا بالكامل. يمكن أن يبقى النموذج في الجهاز المحلي دون تحميل البيانات إلى السحابة. بالنسبة للسيناريوهات التي تتضمن الخصوصية أو التعليمات البرمجية المصدر أو بيانات الأعمال الحساسة، يمكن أن يؤدي التشغيل المحلي إلى تقليل الاعتماد على خدمات الذكاء الاصطناعي السحابية.
ومع ذلك، فإن الذاكرة الموحدة التي تبلغ سعتها 192 جيجابايت لا تعني أن جميع النماذج ذات مستوى المعلمات البالغ عددها 300 مليار يمكن تشغيلها بسرعة عالية. يؤثر حجم النموذج وطريقة التكميم وطول السياق وبصمة الذاكرة الفعلية على الأداء النهائي. تعمل الذاكرة ذات السعة الكبيرة على حل مشكلة "هل يمكن تثبيت النموذج"، وتعتمد سرعة استنتاج النموذج أيضًا على قوة حوسبة وحدة معالجة الرسومات وعرض النطاق الترددي للذاكرة وتحسين البرامج.
يبلغ الحجم الإجمالي لـ Framework Desktop حوالي 4.5 لترًا فقط، لذا فإن هذا الجهاز أقرب إلى محطة عمل محلية صغيرة جدًا تعمل بالذكاء الاصطناعي مقارنة بجهاز كمبيوتر صغير عادي بالمعنى التقليدي. بالإضافة إلى حوسبة الذكاء الاصطناعي، يمكنها أيضًا القيام بمهام مثل الألعاب والتطوير وعمل Linux المكتبي، ويواصل Framework التأكيد على مفهوم التصميم المعياري الخاص به.
في الوقت الحالي، يوفر Framework Desktop بالفعل تكوينات مختلفة للذاكرة مثل 32 جيجابايت و64 جيجابايت و128 جيجابايت، وأصبح الإصدار 192 جيجابايت هو النموذج الرئيسي لخط الإنتاج بأكمله لمستخدمي الذكاء الاصطناعي المحليين. مع استمرار AMD في تحسين سعة الذاكرة الموحدة وقدرات الحوسبة بالذكاء الاصطناعي، أصبحت بنية "وحدة المعالجة المركزية + وحدة معالجة الرسومات + الذاكرة المشتركة ذات السعة الكبيرة" أيضًا طريقًا مهمًا لتشغيل نماذج اللغات الكبيرة محليًا.
تم بيع الدفعة الأولى من سطح المكتب Framework بسعة 192 جيجابايت بسرعة على الرغم من السعر المبدئي البالغ 6,799 دولارًا أمريكيًا، مما يشير إلى أن بعض مطوري الذكاء الاصطناعي وعشاق النماذج المحلية لديهم طلب قوي للغاية على أجهزة الذاكرة الموحدة ذات السعة الكبيرة. ومع ذلك، فإن الدفعة الأولى من المنتجات في حد ذاتها محدودة بإمدادات الذاكرة، لذا فإن المنتجات المباعة لا تمثل بشكل مباشر النطاق العام للطلب في السوق بأكمله. ويظل المفتاح الحقيقي لتحديد ما إذا كان من الممكن زيادة شعبية هذا المنتج هو أسعار الذاكرة المستقبلية، والعرض، والطلب على الأجهزة المحلية لنماذج الذكاء الاصطناعي واسعة النطاق.
التعليقات