الملخص:
أصدرت Meta نموذج الذكاء الاصطناعي مفتوح الوزن Muse Spark Open في 15 أكتوبر، وتعاونت مع Apple لتحسين حل التشغيل المحلي للنموذج لـ Mac Studio. ذكرت Meta أن النموذج يحتوي على 816 مليار معلمة إجمالية، منها ما يقرب من 42 مليار يتم تنشيطها فعليًا لكل استدلال، ويدعم نافذة سياق تصل إلى مليون رمز، ويركز على البرمجة والتفكير المعقد ومهام وكيل الذكاء الاصطناعي. ومع جهازي Mac Studio مزودين بشريحة M5 Ultra وكل منهما مزود بذاكرة موحدة بسعة 512 جيجابايت، يمكن للمستخدمين تشغيل هذا الطراز واسع النطاق في بيئة سطح المكتب دون الحاجة إلى الاعتماد بشكل كامل على خدمات الذكاء الاصطناعي السحابية.
هذا التعاون ملفت للنظر للغاية. كان لدى Apple وMeta اختلافات كبيرة في سياسات الخصوصية وقواعد النظام الأساسي وبيئة التطبيقات في الماضي، ولكن هذه المرة قام الطرفان معًا بتعزيز تشغيل نموذج الوزن المفتوح على أجهزة Apple. شكر الرئيس التنفيذي لشركة Meta Mark Zuckerberg الرئيس التنفيذي لشركة Apple John Ternus على المشاركة في التعاون. صرح Ternus أيضًا علنًا أن Muse Spark Open يمكنه العمل بكفاءة على أجهزة سطح المكتب، مما يدل على إمكانات Mac Studio في حوسبة الذكاء الاصطناعي المحلية.
Muse Spark Open هو الإصدار المفتوح من عائلة نماذج Meta Muse. على عكس النماذج المغلقة التي لا يمكن الوصول إليها إلا من خلال الخدمات عن بعد، تسمح نماذج الوزن المفتوح للمستخدمين بالحصول على أوزان النماذج ونشرها بأنفسهم، وفقًا لشروط الترخيص. وهذا يمنح المطورين والباحثين والمؤسسات سيطرة أكبر على بيئة التشغيل والقدرة على تصميم عمليات الاستدلال الخاصة بهم وفقًا لاحتياجاتهم.
يحتوي النموذج على 816 مليار معلمة إجمالية، ولكنه يستخدم تصميم تنشيط متناثر، مع تنشيط حوالي 42 مليار معلمة فقط لكل استدلال. بمعنى آخر، لا يحتاج النموذج إلى تضمين جميع المعلمات في الحساب عند معالجة كل رمز مميز، ولكنه يستدعي الجزء المقابل وفقًا للمهمة ومحتوى الإدخال. يساعد هذا التصميم على تقليل مقدار حساب الاستدلال، لكنه لا يعني أنه يمكن تشغيل النموذج باستخدام الذاكرة المطلوبة لـ 42 مليار معلمة فقط، لأن أوزان النموذج الكامل لا تزال بحاجة إلى تخزينها أو إدارتها بطريقة أخرى.
تعد نافذة السياق مؤشرًا مهمًا آخر لـ Muse Spark Open. يدعم هذا النموذج مليون سياق Token ويمكنه نظريًا معالجة النصوص الطويلة جدًا أو قواعد التعليمات البرمجية أو المستندات المتعددة في مهمة واحدة. بالنسبة لمهام هندسة البرمجيات، يعني هذا أن النماذج لديها الفرصة للإشارة إلى كميات كبيرة من كود المصدر والمواد ذات الصلة في وقت واحد، مما يقلل من خطر فقدان المعلومات الهامة بسبب عدم كفاية السياق. ومع ذلك، لا يزال طول السياق الفعلي المتوفر وسرعة المعالجة وبصمة الذاكرة يعتمد على تكوين التشغيل المحدد وإطار عمل الاستدلال.
وقالت شركة Meta إن Muse Spark Open قد تم تحسينه ليناسب Mac Studio ويمكن تشغيله باستخدام بنية الذاكرة الموحدة لرقائق Apple. تتطلب أنظمة الرسومات المنفصلة التقليدية عادةً وضع أوزان النماذج في ذاكرة الفيديو، بينما تسمح بنية الذاكرة الموحدة من Apple لوحدة المعالجة المركزية ووحدة معالجة الرسومات بمشاركة نفس مجموعة الذاكرة. في Mac Studio الذي يدعم ذاكرة موحدة ذات سعة كبيرة، يمكن لوحدة معالجة الرسومات الوصول إلى ما يصل إلى 512 جيجابايت من الذاكرة الموحدة، مما يوفر أساسًا للأجهزة لتشغيل نماذج كبيرة ذات وزن مفتوح.
وفقًا لـ Meta، يمكن لجهازي Mac Studio تشغيل النموذج بشكل تعاوني من خلال إطار عمل البرنامج المقابل، بحيث يحتوي النظام على حوالي 1 تيرابايت من الذاكرة الموحدة. تتمتع شريحة M5 Ultra المجهزة بكل جهاز بنطاق ترددي للذاكرة يصل إلى 1.2 تيرابايت/ثانية. يعتقد Meta أن هذا التكوين يمكنه تشغيل Muse Spark Open محليًا أثناء استخدام آلية التنشيط المتناثر لقراءة بعض المعلمات المطلوبة لكل استنتاج رمزي فقط.
إن مفتاح هذا الحل ليس مجرد توصيل جهازي كمبيوتر، بل العمل معًا من خلال بنية ذاكرة موحدة وتقسيم النماذج وإطار الاستدلال، بحيث يمكن تشغيل النماذج التي تتطلب في الأصل بنية تحتية حوسبة واسعة النطاق على أجهزة سطح المكتب. يعمل إطار التعلم الآلي MLX من Apple على تشغيل النموذج على Apple Silicon، ويتم ضبط Meta وفقًا لذلك لـ Muse Spark Open.
ومع ذلك، من الضروري التمييز بين مفهومي قدرة النموذج على التحميل والتشغيل وإمكانية تشغيل النموذج بسرعة عالية. إن وجود ذاكرة كافية لا يحل سوى عقبة رئيسية واحدة في نشر النماذج الكبيرة جدًا. يؤثر تقسيم النموذج، والاتصال عبر الأجهزة، وعرض النطاق الترددي للذاكرة، واستخدام وحدة الحوسبة، وطول السياق، على سرعة الاستدلال النهائي. أكدت المعلومات الصادرة عن Meta هذه المرة على قابلية التشغيل وتكوين الأجهزة للنموذج، لكنها لم تقدم بيانات اختبار مرجعية كاملة تكفي للحكم بشكل كامل على الأداء الفعلي.
يعد السعر أيضًا أحد القيود المهمة لهذه الخطة. ولم تطلق شركة آبل رسميًا بعد جهاز Mac Studio المزود بذاكرة موحدة بسعة 512 جيجابايت، والذي من المتوقع أن يتوفر في نهاية شهر أكتوبر. تكلف نماذج Mac Studio المتطورة الحالية المزودة بذاكرة موحدة سعة 256 جيجابايت ما يزيد عن 10000 دولار أمريكي، لذلك من المتوقع أن يكون النظام الذي يتكون من نسختين بسعة 512 جيجابايت استثمارًا مكلفًا. بالنسبة للمستخدمين الأفراد العاديين، من الواضح أن هذا ليس حلاً محليًا منخفض التكلفة للذكاء الاصطناعي، ولكن بالنسبة لفرق التطوير والمؤسسات البحثية التي تحتاج إلى تشغيل نماذج كبيرة والتحكم في بيانات القيمة، فإنه يوفر بديلاً للخوادم التقليدية.
ذكرت Meta أن Muse Spark Open لا يمكن تشغيله فقط على Mac Studio، ولكن يمكن أيضًا استدعاؤه من خلال العديد من منصات الذكاء الاصطناعي السحابية، بما في ذلك Baseten وFireworks AI وGroq وModal وNebius وOpenRouter وTogether AI. بالنسبة للمستخدمين الذين يرغبون في تنزيل أوزان النماذج بأنفسهم، يمكن الحصول على الملفات ذات الصلة من خلال Amazon SageMaker AI وGoogle Cloud Model Garden وHugging Face وMicrosoft Foundry Models.
يستخدم هذا النموذج ترخيصًا يسمح باستخدام تجاري محدود، بدلاً من ترخيص عام مفتوح المصدر بدون قيود. لذلك، قبل استخدامه في المنتجات التجارية، لا يزال المطورون والمؤسسات بحاجة إلى قراءة شروط الترخيص المحددة بعناية والتأكد من ما إذا كانت طريقة النشر وحجم المستخدم وسيناريوهات التطبيق تلبي المتطلبات.
يعكس هذا التعاون أيضًا اتجاه التطوير الجديد الناشئ لحوسبة الذكاء الاصطناعي المحلية. في الماضي، كان تشغيل النماذج الكبيرة التي تحتوي على مئات المليارات من المعلمات يتطلب عادةً وحدات معالجة رسومات احترافية متعددة، وكميات كبيرة من ذاكرة الفيديو، ومجموعات خوادم معقدة. تحاول شركة Apple استخدام بنية ذاكرة موحدة وشرائح ذات نطاق ترددي عالي لتمكين أجهزة الكمبيوتر المكتبية المتطورة من استضافة نماذج أكبر حجمًا. على الرغم من أن هذا النهج لا يزال محدودًا من حيث التكلفة وأداء الاستدلال، فإنه يفتح إمكانيات جديدة للمستخدمين الذين لا يرغبون في إرسال جميع بياناتهم إلى السحابة.
بالنسبة لشركة Apple، يساعد Muse Spark Open أيضًا في توضيح مكانة Mac Studio في مجال تطوير الذكاء الاصطناعي. مع محاولة المزيد والمزيد من المطورين تشغيل النماذج محليًا، أصبحت سعة الذاكرة الموحدة وعرض النطاق الترددي تدريجيًا مؤشرات مهمة لقياس قدرات الذكاء الاصطناعي لأجهزة الكمبيوتر المتطورة. وتأمل Apple أنه من خلال النظام البيئي M5 Ultra وMLX، لن يكون Mac مناسبًا لتحرير الفيديو والتصميم ثلاثي الأبعاد وإنتاج الموسيقى فحسب، بل سيصبح أيضًا منصة محلية لتطوير الذكاء الاصطناعي والاستدلال.
بالنسبة لـ Meta، فإن إطلاق نموذج مفتوح الوزن ودعم التشغيل على أجهزة Apple سيساعد على توسيع تغطية المطورين لسلسلة Muse. يمكن للمستخدمين اختيار واجهة برمجة التطبيقات السحابية أو النشر المحلي وفقًا لاحتياجاتهم، ويمكن لـ Meta أيضًا جذب المزيد من المطورين لإنشاء تطبيقات وأدوات حول النموذج.
بشكل عام، لا تكمن أهمية Muse Spark Open في عدد 816 مليار معلمة فحسب، بل أيضًا في أنها توضح إمكانية الجمع بين نماذج الوزن المفتوح واسعة النطاق وأجهزة سطح المكتب المتطورة. يمكن لجهازي Mac Studio مزودين بذاكرة موحدة سعة 512 جيجابايت توفير حوالي 1 تيرابايت من مساحة الذاكرة للنموذج، مما يجعله مناسبًا للتشغيل المحلي، لكن التجربة الفعلية لا تزال تعتمد على سرعة الاستدلال وتكلفة الأجهزة وتحسين البرامج.
لا يكفي هذا التعاون لإثبات أن أجهزة الكمبيوتر الشخصية العادية يمكنها بسهولة تشغيل نماذج واسعة النطاق، ولكنه يوضح أن أجهزة الذكاء الاصطناعي المحلية تتطور نحو سعة ذاكرة أعلى وقدرات حوسبة تعاونية أقوى. مع استمرار تحسين بنية النماذج وبرامج الاستدلال، فإن بعض نماذج الذكاء الاصطناعي التي لم يكن من الممكن نشرها إلا في مراكز البيانات الكبيرة في الماضي قد تدخل تدريجيًا إلى الاستوديوهات والمختبرات وبيئات سطح المكتب للمطورين في المستقبل.
التعليقات