الملخص:
تقوم شركة Apple بتطوير تطبيق جديد يسمى Harbour يهدف إلى تحويل أجهزة كمبيوتر Mac المجهزة برقائق Apple Silicon إلى خوادم استدلال خاصة تعمل بالذكاء الاصطناعي. وعلى عكس برامج الذكاء الاصطناعي المحلية التقليدية، لا يستطيع Harbour تشغيل نماذج لغات كبيرة على جهاز Mac واحد فحسب، بل يمكنه أيضًا توصيل أجهزة Mac متعددة من خلال واجهة Thunderbolt 5، ودمج الذاكرة الموحدة للأجهزة المختلفة في مجموعة أكبر من موارد الحوسبة، وبالتالي تشغيل نماذج الذكاء الاصطناعي التي لا يمكن لجهاز كمبيوتر واحد استيعابها بشكل مستقل.
وفقًا لتقرير MacRumors في 10 نوفمبر، يتم حاليًا اختبار هذا التطبيق بواسطة Claris، وهي شركة تابعة لشركة Apple، ولم يتم فتحه رسميًا للجمهور بعد. المنتج الأكثر شهرة لشركة Claris هو منصة قاعدة بيانات FileMaker لمستخدمي المؤسسات، لذلك قد يستهدف Harbour بشكل أساسي المؤسسات والمطورين والمستخدمين المحترفين الذين يحتاجون إلى التعامل مع البيانات الحساسة في المستقبل.
يتمثل الهدف الأساسي لـ Harbor في تمكين المستخدمين من نشر نماذج الذكاء الاصطناعي ذات الوزن المفتوح على أجهزة كمبيوتر Mac الخاصة بهم دون الاعتماد على الخوادم السحابية. وفقًا لمقدمة المنتج التي تم الكشف عنها حاليًا، يمكن إكمال جميع عمليات الاستدلال الخاصة بالذكاء الاصطناعي على الأجهزة المحلية، ولا يلزم تحميل المستندات والأسئلة والبيانات الأخرى المقدمة من قبل المستخدمين إلى خدمات سحابية خارجية.
ولهذا أهمية خاصة لمستخدمي المؤسسات. ترغب العديد من الشركات في استخدام نماذج لغة كبيرة لتحليل المستندات الداخلية أو كتابة التعليمات البرمجية أو معالجة معلومات العمل، ولكنها لا ترغب في إرسال بيانات العملاء والمعلومات المالية وأسرار العمل إلى موفري خدمات الذكاء الاصطناعي التابعين لجهات خارجية. يحاول Harbour تبسيط عملية النشر المحلية من خلال السماح للمؤسسات باستخدام أجهزة Mac الخاصة بها مباشرةً لتشغيل نماذج الذكاء الاصطناعي.
الميزة الأكثر جدارة بالملاحظة في هذا التطبيق هي أنه يدعم إنشاء مجموعة حوسبة مكونة من أجهزة Mac متعددة من خلال واجهة Thunderbolt 5.
لقد أضافت Apple دعم الوصول المباشر للذاكرة عن بعد (RDMA) استنادًا إلى Thunderbolt 5 في نظام التشغيل macOS Tahoe 26.2. باستخدام هذه التقنية، يمكن لأجهزة Mac المتصلة معًا الوصول إلى موارد الذاكرة التي توفرها الأجهزة الأخرى ذات الحمل المنخفض للاتصالات، مما يهيئ الظروف لاستدلال الذكاء الاصطناعي الموزع.
على سبيل المثال، قد لا يتمكن جهاز Mac المزود بذاكرة موحدة سعة 64 جيجابايت من تحميل نماذج لغات معينة بأحجام معلمات كبيرة بشكل مستقل. ومع ذلك، إذا تم توصيل عدة أجهزة Mac ذات ذاكرة كافية، فيمكن لـ Harbour تنسيق استخدام الذاكرة وقوة الحوسبة لهذه الأجهزة لتشغيل النماذج التي قد تتجاوز سعة جهاز واحد.
ومع ذلك، فإن هذا النوع من تجميع الذاكرة لا يعني أن ذاكرة أجهزة Mac المتعددة ستصبح مساحة تخزين تعادل تمامًا الذاكرة الموحدة للجهاز المحلي على مستوى الأجهزة. لا يزال الوصول عبر الأجهزة يتطلب نقل البيانات من خلال واجهة Thunderbolt، التي يختلف زمن الاستجابة وعرض النطاق الترددي الخاص بها عن بنية الذاكرة الموحدة داخل الشريحة. لذلك، لا يزال الأداء الفعلي يعتمد على كيفية توزيع النموذج على الأجهزة المختلفة وكيفية تنسيق النظام لمهام الحوسبة.
بالإضافة إلى تشغيل نماذج أكبر، يمكن للمجموعات متعددة الأجهزة أيضًا زيادة إمكانات المعالجة المتزامنة. بالنسبة للمؤسسات التي تحتاج إلى توفير خدمات الذكاء الاصطناعي لعدة موظفين في الوقت نفسه، يمكن لأجهزة Mac المتعددة مشاركة طلبات الاستدلال دون الحاجة إلى الاعتماد كليًا على محطة عمل واحدة عالية التكوين.
يحاول Harbor أيضًا حل مشكلة التكوين المعقدة التي طال أمدها في نشر الذكاء الاصطناعي المحلي.
في الوقت الحالي، على الرغم من أنه يمكن للمستخدمين تشغيل نماذج مفتوحة الوزن على أجهزة Mac من خلال أدوات مثل LM Studio وOllama، إذا كانوا يريدون توصيل أجهزة كمبيوتر متعددة في مجموعة، فإنهم عادةً ما يحتاجون إلى تثبيت برامج إضافية، وتكوين الشبكة، وإدارة مشاركة النماذج، وحل مشكلات الاتصال بين الأجهزة المختلفة.
وفقًا لوصف الوظيفة الذي تم الكشف عنه، يستطيع Harbour التعرف تلقائيًا على أجهزة Mac المتصلة عبر Thunderbolt 5 والمساعدة في إنشاء مجموعة. يحتاج المستخدمون فقط إلى توصيل الجهاز وبدء التطبيق، وسيقوم النظام تلقائيًا بإكمال التكوين الضروري. ليست هناك حاجة لاستخدام سطر الأوامر أو التمتع بخبرة احترافية في إدارة الخادم.
فيما يتعلق بإدارة النماذج، يوفر Harbour أيضًا واجهة تشغيل رسومية، مما يسمح للمستخدمين بتصفح النماذج ذات الوزن المفتوح وتنزيلها وتحميلها مباشرة. يتعامل التطبيق مع إدارة ملفات النموذج وتشغيل التكوين، مما يسمح للمستخدمين بالتركيز على العمل الفعلي.
يعادل هذا التصميم الجمع بين سهولة استخدام LM Studio وإمكانيات الاستدلال الموزع على أجهزة متعددة. بالنسبة للمستخدمين الذين ليسوا على دراية بالبنية التحتية المعقدة للذكاء الاصطناعي، إذا كان المنتج النهائي قادرًا على تحقيق هذه الوظائف، فسيتم تخفيض عتبة النشر المحلي لنماذج اللغات الكبيرة بشكل كبير.
ومع ذلك، فإن Harbour ليس المشروع الأول الذي يحاول توصيل أجهزة Mac متعددة لتشغيل نماذج الذكاء الاصطناعي. ظهرت سابقًا أداة مفتوحة المصدر تسمى Exo، والتي يمكنها استخدام أجهزة متعددة لأداء مهام استدلال الذكاء الاصطناعي بشكل مشترك. قد يكون الاختلاف الأكثر أهمية بين Harbour الذي طورته Apple هذه المرة هو تكامله مع الوظائف الأساسية لنظام التشغيل macOS وتوفيره لتجربة تشغيل أكثر بساطة لمستخدمي المؤسسات العاديين.
لا يزال هاربور حاليًا في مرحلة الاختبار المبكر. في السابق، ظهر التطبيق لفترة وجيزة في متجر التطبيقات، ولكن تمت إزالة الصفحة ذات الصلة لاحقًا. ولم تعلن شركة Apple رسميًا بعد عن موعد إصدار المنتج، أو ما إذا كان سيكون متاحًا مجانًا في النهاية.
تتطلب صفحة تطبيق الوصول المبكر لـ Harbor اسم شركة، مما يشير أيضًا إلى أن Apple قد تطلق المنتج لسوق المؤسسات أولاً، بدلاً من أن يكون أداة عامة يمكن لجميع مستخدمي Mac تنزيلها على الفور.
من منظور الأجهزة، قد يقوم هذا التطبيق أيضًا بتوسيع سيناريوهات التطبيق لأجهزة كمبيوتر Mac ذات سعة الذاكرة العالية. تسمح بنية الذاكرة الموحدة من Apple لوحدة المعالجة المركزية ووحدة معالجة الرسومات بمشاركة نفس مجموعة الذاكرة، لذلك عند تشغيل نماذج لغات كبيرة، أصبح Mac Studio وMac mini المجهزان بكميات كبيرة من الذاكرة الموحدة هو اختيار بعض المطورين لنشر الذكاء الاصطناعي المحلي.
إذا كان بإمكان Harbour السماح لعدة أجهزة Mac بالعمل معًا بشكل ملائم، فيمكن للمؤسسات إضافة المعدات تدريجيًا وفقًا للاحتياجات دون الحاجة إلى شراء محطة عمل مستقلة ذات تكوين أعلى وأكثر تكلفة في كل مرة.
ومع ذلك، تجدر الإشارة إلى أن الوظيفة الرئيسية التي كشف عنها Harbour حاليًا هي استنتاج الذكاء الاصطناعي، وليس التدريب الكامل للنماذج الكبيرة. يتضمن الاستدلال بشكل أساسي تحميل نموذج مُدرب وتوليد الإجابات، بينما يتطلب التدريب الكثير من الحسابات الإضافية ومزامنة التدرج وعمليات تحديث المعلمات. هناك اختلافات واضحة في متطلبات الأجهزة وأنظمة الاتصالات.
لا تعني هذه التقنية أن أي جهازي Mac يمكنهما تشكيل مجموعة ذكاء اصطناعي عالية الأداء بشكل مباشر. وفقًا لمقدمات المنتجات الحالية، تعتمد وظيفة تجميع ذاكرة الأجهزة المتعددة على Thunderbolt 5، لذلك يمكن فقط لأجهزة Mac المجهزة بواجهات متوافقة استخدام طريقة الاتصال هذه. بالنسبة للأجهزة القديمة التي لا تدعم Thunderbolt 5، لا يوجد حاليًا أي دليل على أن Harbour سيوفر نفس إمكانات التجميع.
إذا تم إطلاق Harbour رسميًا أخيرًا، فهذا يعني أن Apple تبدأ في المشاركة بشكل مباشر أكثر في سوق برمجيات البنية التحتية المحلية للذكاء الاصطناعي. في الماضي، كانت شركة Apple توفر بشكل أساسي أسس الأجهزة والأنظمة لأدوات تطوير الذكاء الاصطناعي التابعة لجهات خارجية من خلال شرائح Apple Silicon وmacOS؛ بينما قد يسمح Harbour لشركة Apple بتوفير مجموعة كاملة من الحلول بدءًا من تنزيل النماذج ونشرها وحتى التشغيل على أجهزة متعددة.
يتمتع هذا النموذج بجاذبية عملية للمؤسسات التي ترغب في تشغيل الذكاء الاصطناعي داخل شبكتها الداخلية وتجنب مغادرة البيانات الحساسة للأجهزة المحلية. ومع ذلك، لا تزال Apple أو Claris بحاجة إلى الإعلان عن مزيد من التفاصيل حول النماذج التي يمكن أن يدعمها Harbour في النهاية، وعدد أجهزة Mac التي يمكنها تشكيل مجموعة، وما هو أداء الاستدلال الفعلي، وما إذا كانت ستتبنى نموذج شحن.
التعليقات