الملخص:
تم تصميم جهاز Sony PlayStation 5 في الأصل كوحدة تحكم لألعاب الفيديو، ولكن يحاول مشروع تطوير مفتوح المصدر العثور على استخدام آخر لجهاز الألعاب هذا: تشغيل نماذج لغة كبيرة للذكاء الاصطناعي المحلي. من خلال كسر قيود نظام PS5، قام المطورون بنقل محرك الاستدلال مفتوح المصدر llama.cpp إلى وحدة التحكم واستخدموا أيضًا وحدة معالجة الرسومات الخاصة به لتشغيل نماذج كبيرة. يُظهر العرض الأخير أن جهاز PS5 العادي المتصدع يمكنه بالفعل تشغيل طراز Qwen 3.8 مع 27 مليار معلمة. باستخدام التكميم ذو البت المنخفض، تصل سرعة إنشاء النص إلى حوالي 20 رمزًا في الثانية.
وهذا يعني أن المضيف المستخدم في الأصل لتشغيل الألعاب يمكنه أيضًا العمل كخادم نموذج لغة محلي كبير دون الاعتماد على خدمات الذكاء الاصطناعي السحابية. يمكن للمستخدمين الوصول إلى الخدمات على المضيف من خلال جهاز كمبيوتر أو هاتف محمول في نفس الشبكة المحلية (LAN) والتحدث إلى النموذج. ومع ذلك، فهذه ليست ميزة مقدمة رسميًا من سوني، ولكنها تطبيق تجريبي يعتمد على ثغرات النظام والبرامج غير الرسمية ونتائج تنمية المجتمع.
يُطلق على المشروع اسم PS5LM وقد بدأه مطور GitHub كوبانوف. الفكرة الأساسية للمشروع ليست كتابة إطار تفكير جديد للذكاء الاصطناعي من الصفر، ولكن نقل الأداة مفتوحة المصدر llama.cpp، والتي تم استخدامها على نطاق واسع لتشغيل النماذج الكبيرة المحلية، إلى منصة PS5، ثم حل مشكلات التوافق تدريجيًا في نظام التشغيل المضيف وتخصيص الذاكرة وواجهة حوسبة وحدة معالجة الرسومات.
يستخدم PS5 معالج AMD المخصص. تستخدم وحدة المعالجة المركزية بنية Zen 2 وتحتوي على 8 مراكز؛ تعتمد وحدة معالجة الرسومات على بنية AMD RDNA. تم تجهيز المضيف بذاكرة موحدة GDDR6 بسعة 16 جيجابايت، وتحتاج وحدة المعالجة المركزية ووحدة معالجة الرسومات إلى مشاركة هذه الموارد. على الرغم من أن جهاز PS5 ليس جهازًا مصممًا خصيصًا لاستدلال الذكاء الاصطناعي، إلا أن وحدة معالجة الرسومات وذاكرة الفيديو ذات النطاق الترددي العالي توفر أساس الأجهزة لتشغيل نماذج اللغة المحلية.
اعتمد PS5LM في البداية وضع تشغيل بسيط نسبيًا، مما يسمح لنموذج اللغة بإجراء الاستدلال من خلال وحدة المعالجة المركزية المضيفة واستخدام متصفح PS5 الخاص لتوفير واجهة دردشة. ويمكن للمستخدمين تنزيل النموذج على المضيف، وإدخال الأسئلة من خلال وحدة التحكم DualSense ولوحة المفاتيح التي تظهر على الشاشة، ومن ثم عرض الإجابات التي تم إنشاؤها بواسطة النموذج.
أظهر هذا الإصدار المبكر قدرة جهاز PS5 على تشغيل نماذج لغات كبيرة، ولكنه سرعان ما واجه قيودًا على الأداء والذاكرة. وبما أن البرنامج يعمل في شكل حمولة، فإن الذاكرة التي يمكن استخدامها مقيدة ببيئة النظام. في البداية، يمكن تشغيل النماذج الأصغر فقط بشكل مستقر. تظهر وثائق المشروع أن الإصدار المبكر يدعم بشكل أساسي النماذج ذات أحجام المعلمات التي تبلغ حوالي 0.8B و2B، مع سرعة إنشاء نموذج 2B تبلغ حوالي 9 رموز في الثانية.
بالنسبة للمطورين الذين يرغبون في تشغيل نماذج أكبر على PS5، فإن مجرد السماح للبرنامج بالعمل على وحدة المعالجة المركزية ليس كافيًا. للاستفادة الكاملة من أداء الأجهزة للمضيف، يجب أن يكون محرك الاستدلال قادرًا على استدعاء وحدة معالجة الرسومات والحصول على مساحة ذاكرة كافية لتخزين معلمات النموذج وذاكرة التخزين المؤقت والبيانات قيد التشغيل الأخرى.
إن الإنجاز الحقيقي يأتي من تسريع GPU. قام المطورون أيضًا بتنفيذ بيئة تشغيل التطبيقات الأصلية على PS5، ومن خلال برنامج تشغيل الرسومات وواجهة حوسبة Vulkan التي طورها المجتمع، يمكن لـ llama.cpp استدعاء وحدة معالجة الرسومات المضيفة لإجراء حسابات الشبكة العصبية. بالمقارنة مع الحل السابق الذي كان يعتمد فقط على وحدة المعالجة المركزية، فإن هذا التغيير لا يحسن سرعة الاستدلال فحسب، بل يسمح أيضًا للبرنامج بالحصول على المزيد من الذاكرة المتوفرة لمحاولة تشغيل نماذج أكبر.
في العرض التوضيحي الأخير، نجح PS5 في تشغيل طراز Qwen 3.8 27B الذي أطلقه فريق Alibaba Tongyi Qianwen. يحتوي النموذج على 27 مليار معلمة ويستخدم بنية اهتمام هجينة. هدف التصميم هو توفير فهم قوي للغة واستدلال وقدرات إنشاء التعليمات البرمجية على موارد الأجهزة المحدودة نسبيًا.
ومع ذلك، لا يقوم PS5 بتحميل 27 مليار معلمة مباشرة في الذاكرة بدقة كاملة. من أجل تكييف النموذج مع ظروف الأجهزة الخاصة بالمضيف، استخدم المطورون تقنية التكميم منخفضة البت لضغط معلمات النموذج في مساحة تخزين أصغر. يستخدم العرض التوضيحي إصدارات كمية مثل IQ2_XXS، ويتراوح حجم ملف النموذج من عدة غيغابايت إلى 7 غيغابايت، ويعتمد الحجم المحدد على نظام التكميم.
يعد القياس الكمي تقنية أساسية في تشغيل النماذج المحلية الكبيرة. عادةً، يتم تخزين معلمات النموذج باستخدام تنسيق بيانات عالي الدقة، ولكن هذا يستهلك قدرًا كبيرًا من الذاكرة. من خلال ضغط المعلمات إلى قيم عرض بت أقل، يمكنك تقليل متطلبات الذاكرة بشكل كبير وتقليل كمية نقل البيانات أثناء الاستدلال. وتتمثل التكلفة في فقدان بعض المعلومات الدقيقة، مما قد يؤثر على جودة إجابة النموذج أو قدرته على التفكير أو أداء مهمة محددة. لذلك، فإن القدرة على تشغيل نموذج مكون من 27 مليار معلمة لا يعني أن PS5 يمكنه تشغيل نموذج بنفس الحجم بدقة كاملة.
تُظهر بيانات الاختبار الصادرة عن المطور أنه عند استخدام وحدة معالجة الرسومات لإجراء الاستدلال، يمكن أن تصل سرعة إنشاء النص لـ Qwen 3.8 27B إلى حوالي 20 رمزًا في الثانية. الرمز المميز هو الوحدة الأساسية لنماذج اللغات الكبيرة لمعالجة النص. إنه لا يعادل حرفًا صينيًا أو كلمة إنجليزية. لذلك، لا يمكن فهم 20 رمزًا في الثانية ببساطة على أنها تولد 20 حرفًا صينيًا في الثانية. ومع ذلك، فإن هذا سريع بما يكفي لجعل المحادثات التفاعلية تتمتع ببعض التطبيق العملي، بدلاً من مجرد عرض توضيحي تقني لإثبات أن النموذج يمكن أن ينطلق.
بالإضافة إلى نموذج كوين، أعلن نفس المشروع أيضًا عن نتائج اختبار النماذج الأخرى. تولد Gemma 4 E4B ما يقرب من 61 رمزًا في الثانية، بينما يصل Llama 3.2 3B إلى ما يقرب من 124 رمزًا في الثانية. تحتوي النماذج الصغيرة على معلمات أقل، وتتطلب حسابات وقراءات بيانات أقل، وبالتالي تحقق سرعات توليد أعلى بشكل عام.
لا يزال ينبغي اعتبار هذه النتائج بمثابة نتائج اختبار ينشرها المطورون ضمن تكوينات برامج وأجهزة محددة، بدلاً من معايير الصناعة التي تم التحقق منها من خلال منصة اختبار موحدة. تحتوي النماذج المختلفة على مقاييس معلمات مختلفة، وطرق القياس الكمي، وأطوال السياق، ومهام الحوسبة. لا يمكن الحكم على قدراتها الشاملة بناءً على عدد الرموز المميزة التي يتم إنشاؤها في الثانية فقط.
يوضح المشروع أيضًا إمكانية تحويل PS5 إلى خادم LAN AI. من خلال تشغيل واجهة خدمة متوافقة مع OpenAI API على المضيف، يمكن للأجهزة الأخرى إرسال الطلبات عبر نفس الشبكة والحصول على الإجابات التي تم إنشاؤها بواسطة النموذج. وبهذه الطريقة، لا يتعين على المستخدمين دائمًا مواجهة شاشة التلفزيون لتشغيل وحدة التحكم، ويمكنهم أيضًا الاتصال بالطراز المحلي على PS5 من خلال جهاز كمبيوتر أو هاتف محمول.
يعد هذا الأسلوب جذابًا للمستخدمين الذين يرغبون في نشر خدمات الذكاء الاصطناعي المحلية في شبكاتهم المنزلية. عندما يتم تشغيل النموذج محليًا، لا يلزم إرسال محتوى المحادثة اليومية إلى خدمات الذكاء الاصطناعي السحابية التابعة لجهات خارجية من حيث المبدأ، ولا يتعين على المستخدمين دفع رسوم الاستدلال السحابي بناءً على عدد المكالمات. ومع ذلك، لا تزال حماية الخصوصية الفعلية تعتمد على البرنامج المثبت، وتكوين الشبكة، وما إذا كان الجهاز لديه سلوكيات أخرى لنقل البيانات. لا يمكن اعتبار النظام آمنًا تمامًا بمجرد "التشغيل محليًا".
وفي الوقت نفسه، لا يزال تطوير PS5LM يعتمد على سلسلة من التقنيات غير الرسمية. يحتاج المستخدمون إلى جهاز PS5 يمكنه تشغيل برنامج الاختراق ذي الصلة واستخدام البرامج الثابتة للنظام المتوافقة وأدوات تحميل الحمولة. نطاق البرامج الثابتة المطبق المدرج في مستند المشروع هو 7.00 إلى 13.60، ولكن قد تختلف الوظائف المحددة والأداء والتوافق وفقًا لطراز المضيف وإصدار البرنامج.
لا يعني كسر وحدة التحكم أن جميع مستخدمي PS5 يمكنهم تثبيت البرنامج مباشرة. لا يمكن لإصدار البيع بالتجزئة العادي من PS5 تنزيل PS5LM وتشغيله من خلال متجر PlayStation مثل الألعاب العادية. يحتاج المستخدمون أولاً إلى حل مشكلات مثل أذونات الوصول إلى النظام، وتحميل البرامج غير الرسمية وبيئة التشغيل، والتي لا تزال تشكل حدًا معينًا للمستخدمين الذين ليسوا على دراية باختراق المضيف وتطوير البرامج.
بالإضافة إلى ذلك، قد يؤدي تعديل النظام المضيف إلى مخاطر أمنية واستقرارية، وقد يؤثر أيضًا على استخدام الخدمات عبر الإنترنت، ويتضمن شروط الخدمة ذات الصلة من Sony. يوصي المطورون بإجراء الأبحاث فقط على الأجهزة التي يمتلكونها أو التي سمحوا بها. بالنسبة لمستخدمي وحدة التحكم الذين يستخدمونها بشكل أساسي للألعاب العادية، وخاصة أولئك الذين يتصلون بشكل متكرر بشبكة PlayStation Network، ليست هناك حاجة لاختراق الجهاز بشكل متهور فقط لتشغيل الذكاء الاصطناعي المحلي.
من منظور الأجهزة، لا تقتصر أهمية هذه التجربة على السماح لوحدة التحكم في الألعاب بالإجابة على الأسئلة فحسب. ويوضح أيضًا أن وحدة معالجة الرسومات وذاكرة الفيديو عالية السرعة المثبتة في معدات الألعاب على مستوى المستهلك يمكنها أيضًا القيام ببعض الأعمال التي يتم إنجازها عادةً بواسطة معدات حوسبة مخصصة تعمل بالذكاء الاصطناعي بعد تعديل البرنامج المناسب.
غالبًا ما يتأثر استدلال نموذج اللغة الكبير بشكل كبير بسعة الذاكرة وعرض النطاق الترددي. عندما يقوم النموذج بإنشاء نص، فإنه يحتاج إلى قراءة عدد كبير من المعلمات بشكل مستمر والحفاظ على ذاكرة التخزين المؤقت الحساسة للسياق. تسمح بنية الذاكرة الموحدة لجهاز PS5 لوحدة المعالجة المركزية ووحدة معالجة الرسومات بمشاركة موارد الذاكرة عالية السرعة، ولكن يحتاج النظام نفسه أيضًا إلى شغل جزء منها، وبالتالي فإن المساحة المتاحة للنماذج أقل بكثير من السعة الاسمية البالغة 16 جيجابايت.
لهذا السبب يجب على المطورين حل مشكلات مثل التكميم وإدارة الذاكرة وواجهات حوسبة وحدة معالجة الرسومات في نفس الوقت. إن مجرد امتلاك وحدة معالجة رسومات قوية بدرجة كافية لا يضمن تشغيل النموذج بسلاسة؛ ما إذا كانت بنية النموذج مدعومة، وما إذا كان السائق يمكنه إجراء العمليات الحسابية المطلوبة، وما إذا كان النظام يمكنه توفير ذاكرة كافية لبرنامج الاستدلال، كلها ستؤثر على النتيجة النهائية.
توفر هذه النتيجة أيضًا مرجعًا مثيرًا للاهتمام لاختيار أجهزة الذكاء الاصطناعي المحلية. تقليديًا، كان المستخدمون الذين يريدون تشغيل نماذج لغة أكبر في المنزل يحتاجون في كثير من الأحيان إلى شراء جهاز كمبيوتر مزود ببطاقة رسومات منفصلة ودفع مبلغ إضافي مقابل سعة الذاكرة والتكلفة الإجمالية للجهاز. يحتوي جهاز PS5 بالفعل على وحدة معالجة رسومات قوية نسبيًا وذاكرة عالية السرعة، لذلك يأمل المطورون في إثبات أنه يمكن أيضًا إعادة استخدام أجهزة اللعبة الحالية دون الحاجة إلى شراء محطة عمل مخصصة للذكاء الاصطناعي.
لكن هذا لا يعني أن PS5 يمكن أن يحل محل أجهزة الكمبيوتر التي تعمل بالذكاء الاصطناعي بشكل كامل. لا تزال موارد أجهزتها محدودة بسبب التكوينات الثابتة وبصمة النظام وبيئات البرامج غير الرسمية. بالمقارنة مع أجهزة الكمبيوتر ذات ذاكرة رسومات أكبر وبرامج تشغيل ناضجة وأدوات تطوير غنية، يتطلب PS5 مزيدًا من أعمال التكيف الأساسية لتشغيل نماذج كبيرة، ولا يمكن للمستخدمين ترقية بطاقة الرسومات أو توسيع ذاكرة الرسومات بحرية مثل أجهزة الكمبيوتر العادية التي تعمل بالذكاء الاصطناعي.
من الناحية العملية، يعد هذا النوع من المشاريع حاليًا أكثر ملاءمة لعشاق التكنولوجيا ومطوري المصادر المفتوحة والمستخدمين المهتمين بالذكاء الاصطناعي المحلي لدراسة التفكير النموذجي وحوسبة وحدة معالجة الرسومات وبيئات التشغيل المدمجة. بالنسبة للمؤسسات التي تحتاج إلى تشغيل خدمات الذكاء الاصطناعي على مستوى الإنتاج بشكل ثابت، لا تزال خوادم GPU المخصصة أو أجهزة الكمبيوتر المحسنة بواسطة مجموعات البرامج الناضجة أكثر ملاءمة.
يعكس تطوير PS5LM أيضًا اتجاهًا في النظام البيئي للذكاء الاصطناعي مفتوح المصدر: فقد خفضت أطر الاستدلال النموذجي ونماذج الوزن المفتوح تدريجيًا عتبة تشغيل الذكاء الاصطناعي، بينما يواصل مطورو المجتمع محاولة نقل هذه الأدوات إلى منصات أجهزة مختلفة. في الماضي، كان يُنظر إلى وحدات تحكم الألعاب في المقام الأول على أنها أجهزة ترفيه مغلقة؛ الآن، وبفضل جهود مجتمعات التكسير والهندسة العكسية، أصبحت أيضًا منصات لاستكشاف حوسبة وحدة معالجة الرسومات وتطبيقات الذكاء الاصطناعي الأصلية.
بشكل عام، إنها محاولة فنية تمثيلية للسماح لجهاز PS5 المتصدع بتشغيل نموذج لغة كبير يحتوي على 27 مليار معلمة بسرعة حوالي 20 رمزًا في الثانية. إنه يوضح الاستخدام المحتمل لأجهزة وحدة التحكم في الألعاب ويثبت أيضًا أنه من خلال تكييف البرامج وضغط النماذج، يمكن تشغيل نماذج اللغة ذات نطاق معين على أجهزة الذكاء الاصطناعي غير التقليدية. ومع ذلك، لا يزال هذا الإنجاز مشروعًا مجتمعيًا يعتمد على بيئة متصدعة، ولا تزال هناك مسافة كبيرة بينه وبين الوظائف الرسمية التي يمكن للمستخدمين العاديين استخدامها دون عمليات معقدة.
التعليقات