الملخص:
تُظهر تجربة أكملها أحد المطورين أن توصيل iPhone 17 Pro Max بجهاز MacBook Pro المزود بشريحة M4 Pro من خلال برنامج مخصص يمكن أن يحسن بشكل كبير كفاءة تشغيل نموذج اللغة المحلية الكبيرة. عند تشغيل الطراز Qwen3.8-27B، يتم تحسين أداء التعبئة المسبقة للنظام بنسبة تصل إلى 44%.
خلفية هذه التجربة هي أن نماذج اللغات الكبيرة لها متطلبات عالية للغاية على ذاكرة الفيديو وسعة ذاكرة النظام. على الرغم من أن جهاز MacBook Pro المزود بشريحة M4 Pro يحتوي على ذاكرة موحدة تبلغ سعتها 24 جيجابايت، إلا أنه لا يزال مقيدًا بسعة الذاكرة وحجم نافذة السياق عند تشغيل طراز كبير يحتوي على 27 مليار مستوى من المعلمات. لذلك حاول المطورون استخدام iPhone 17 Pro Max كعقدة حوسبة إضافية لتشغيل النماذج جنبًا إلى جنب مع MacBook Pro من خلال واجهة USB-C.
وفقًا للخطة التي أعلنها المطور، يكون جهاز MacBook Pro مسؤولاً عن معالجة مهام الحوسبة من الطبقة 1 إلى الطبقة 40 في كل دفعة مكونة من 256 رمزًا، وينقل بيانات التنشيط المتوسطة إلى iPhone في الوقت الفعلي. وبعد ذلك، يستخدم iPhone 17 Pro Max وحدة معالجة الرسومات في شريحة A19 Pro لمواصلة أداء عمليات الطبقة 41 إلى الطبقة 64، بينما يبدأ جهاز Mac في معالجة الدفعة التالية من البيانات في وقت واحد. من خلال تقسيم العمل هذا، يمكن لجهازين المشاركة في عملية استنتاج النموذج في نفس الوقت.
تظهر النتائج التجريبية أنه بالمقارنة مع تشغيل النموذج فقط على جهاز MacBook Pro، فإن سرعة التعبئة المسبقة تتحسن بشكل ملحوظ بعد تقديم iPhone. ضمن نافذة سياق 8K، تزيد سرعة المعالجة من 132 رمزًا في الثانية إلى 177 رمزًا، بزيادة قدرها 35%؛ ضمن نافذة سياق 16 كيلو بايت، يزداد الأداء من 109 رمزًا في الثانية إلى 157 رمزًا، بزيادة قدرها 44%؛ في سيناريو نافذة السياق 32 كيلو بايت، تزيد سرعة المعالجة من 101 رمزًا في الثانية إلى 130 رمزًا، أي بزيادة قدرها 29% تقريبًا.
بالإضافة إلى الحوسبة التعاونية لوحدة معالجة الرسومات، يشارك محرك الشبكة العصبية في شريحة A19 Pro أيضًا في بعض المهام. صرح المطورون أنه سيتم تحويل كل سياق تاريخي يبلغ 16 كيلو بايت إلى نموذج شبكة عصبية مخصص للمعالجة. على نطاق سياق 140,000 رمز مميز، يتم تقصير وقت كتابة رمز واحد من 279 مللي ثانية عند الاعتماد فقط على وحدة معالجة الرسومات إلى 176 مللي ثانية، مما يزيد من تحسين كفاءة التشغيل في سيناريوهات السياق الطويل.
ومع ذلك، فإن هذا الحل لا يخلو من القيود. وأشار المطورون إلى أن iPhone يساعد بشكل أساسي على تحسين أداء مرحلة التعبئة المسبقة، بينما في مهام إنشاء النص التي تقل عن 64 كيلو بايت، فإن معظم أعمال التفكير الفعلية لا تزال تتم بشكل أساسي بواسطة جهاز Mac. بالإضافة إلى ذلك، يتطلب هذا الحل دعمًا برمجيًا تم تطويره خصيصًا وهو غير مناسب حاليًا للنشر المباشر بواسطة المستخدمين العاديين.
ومع ذلك، توضح هذه التجربة إمكانات أجهزة Apple المخصصة للمستهلكين في مجال حوسبة الذكاء الاصطناعي المحلية. مع استمرار تحسن أداء شرائح الهاتف المحمول، قد يتم تشكيل نظام حوسبة تعاوني أكثر مرونة بين الهواتف الذكية والأجهزة اللوحية وأجهزة الكمبيوتر الشخصية في المستقبل، مما يقلل الاعتماد على تكوين أجهزة جهاز واحد لتشغيل نماذج الذكاء الاصطناعي الكبيرة.
التعليقات