إن التطور السريع لتكنولوجيا الذكاء الاصطناعي جعل العديد من المستخدمين لا ينفصلون عن الذكاء الاصطناعي في عملهم اليومي. ومع ذلك، فإن معظم الذكاء الاصطناعي الحالي يعتمد على السحابة، مما يعني أن البيانات المقدمة من قبل المستخدمين تنطوي على مخاطر تسرب محتملة. في هذا الوقت، تقدمت مؤسسة Mouzhi، التي تهتم بالخصوصية، إلى الأمام. أعلنت مؤسسة Mouzhi عن إطلاق مشروع جديد مفتوح المصدر يسمى Llamafile. الهدف من هذا المشروع مفتوح المصدر هو مساعدة الأشخاص على تشغيل نماذج لغوية كبيرة على أجهزتهم الخاصة. لا يتطلب وحدة معالجة رسومات (GPU) أو وحدة معالجة مركزية (CPU) أو وحدة معالجة عصبية (NPU) مخصصة (لكن يمكن تشغيله بشكل أفضل باستخدام وحدة معالجة الرسومات).
يعمل Llamafile عن طريق ضغط كل التعقيدات الخاصة بروبوت الدردشة الاصطناعي في ملف واحد، والذي يمكن بعد ذلك تشغيله على أنظمة التشغيل Windows وMac وLinux وOpenBSD وFreeBSD وNetBSD، ولا يتطلب أي تثبيت أو تكوين تقريبًا، أي أنه يمكن استخدامه خارج الصندوق.
يتم تشغيل هذا النوع من LLM بالكامل محليًا ولا يتطلب طاقة الحوسبة السحابية التي توفرها شركات تجارية خارجية. يتم أيضًا حفظ البيانات محليًا ولن تترك جهاز المستخدم. إذا كان المستخدم راغبًا، فيمكنه نسخ نموذج الروبوت بعد المحادثات اليومية إلى أجهزة أخرى للاستخدام المستمر دون إعادة تحسين الكلمات السريعة.
في الوقت الحاضر، مؤسسة Mozhi ليست الشركة الوحيدة التي ترغب في بناء الذكاء الاصطناعي المحلي. إن متغير Gemini AiCore الذي قدمته Google مؤخرًا إلى Pixel 8 Pro هو في الواقع ذكاء اصطناعي محلي يستخدم قوة الحوسبة للجهاز المحلي لإجراء عمليات معينة. ومع ذلك، لا يوجد حاليًا سوى القليل نسبيًا من المعلومات العامة حول AiCore.
تعتقد مؤسسة Mozhi أن المصدر المفتوح هو أحد أقوى الحلول لحل مشكلات الخصوصية المختلفة. يمكنه حل مشاكل الخصوصية والوصول والتحكم من خلال المصدر المفتوح، أي من يمكنه سماع محادثاتنا؟ كيف ستتم معالجة بياناتنا؟ من يحق له أن يقرر ما إذا كان الذكاء الاصطناعي يجيب أم لا على أسئلة معينة.
أما بالنسبة لمشروع Llamafile، فقد لاحظت مؤسسة Mozhi بعض المشاريع الواعدة. الأول هو مشروع Llama.cpp. يسمح هذا المشروع مفتوح المصدر للأجهزة العادية من فئة المستهلك بتشغيل LLM، والسرعة ليست بطيئة جدًا. والثاني هو مشروع Cosmopolitan، الذي يمكنه تجميع البرامج في وقت واحد لتشغيلها على أنظمة تشغيل وأجهزة مختلفة.
وبطبيعة الحال، لن يتم الانتهاء من هذا المشروع بهذه السرعة. تأمل مؤسسة Mozilla أن يتمكن المطورون أو المستخدمون المهتمون بـ LLM من المشاركة: https://github.com/Mozilla-Ocho/llamafile