لقد تم الآن تحديث نموذج MistralAI. كان هذا المصدر المفتوح "مفاجئًا" كما كان دائمًا وتم الإعلان عنه في حدث hackathon يسمى CerebralValley. بمجرد تشغيل صفحة PPT، رفع جميع الحضور هواتفهم المحمولة لالتقاط الصور:
يعد Mistral7Bv0.2BaseModel مفتوح المصدر هذه المرة هو النموذج الأصلي المُدرب مسبقًا وراء Mistral-7B-Instruct-v0.2، والذي ينتمي إلى سلسلة "MistralTiny" الخاصة بالشركة.
يتضمن هذا التحديث بشكل أساسي ثلاثة جوانب:
سياق 8K المذكور إلى 32K؛
RopeTheta=1e6;
إلغاء النوافذ المنزلقة.
رابط التحميل: https://models.mistralcdn.com/mistral-7b-v0-2/mistral-7B-v0.2.tar…
مقارنة الأداء بعد التحديث هي كما يلي:
وسرعان ما حذا الجمهور خارج المكان حذوه. علق أحدهم قائلاً: "Mistral7B هو بالفعل أفضل نموذج في فئته من حيث الحجم، وهذا التحسين يعد تحسنًا كبيرًا. سأعيد تدريب العديد من الضبط الدقيق الحالي على هذا النموذج في أقرب وقت ممكن."
تم إصدار أول نموذج 7B من MistralAI في سبتمبر 2023. وحقق نتائج أفضل من Llama213B في اختبارات قياس متعددة، مما جعل MistralAI مشهورًا على الفور.
وقد أدى هذا أيضًا إلى حقيقة أن العديد من النماذج الكبيرة مفتوحة المصدر لم تعد تقيس Llama2، ولكنها بدلاً من ذلك تستخدم سلسلة مختلفة من النماذج ضمن MistralAI كمنافسين مباشرين.
تم فتح الإصدار المضبوط للتعليمات Mistral-7B-Instruct-v0.2 المطابق لـ Mistral7Bv0.2BaseModel للاختبار في ديسمبر 2023. وفقًا للمدونة الرسمية، فإن هذا النموذج لا ينطبق إلا على اللغة الإنجليزية ويمكنه الحصول على درجة 7.6 على MT-Bench، وهي أقل شأنا من GPT-3.5.
بعد فتح النموذج الأساسي هذه المرة، يمكن للمطورين ضبط هذا "أفضل نموذج 7B حاليًا" وفقًا لاحتياجاتهم الخاصة.
ومع ذلك، لا يمكن اعتبار نموذج 7B إلا واحدًا من العديد من إنجازات MistralAI المذهلة. هدف الشركة على المدى الطويل هو قياس OpenAI.
في نهاية الشهر الماضي، أصدرت MistralAI رسميًا النموذج الكبير "الرائد" MistralLarge. يختلف هذا الإصدار عن سلسلة النماذج السابقة، حيث يتمتع بأداء أقوى وحجم أكبر، ويقارن بشكل مباشر GPT-4 الخاص بـ OpenAI. مع إطلاق MistralLarge، أطلقت MistralAI مساعدًا للدردشة يسمى LeChat، والذي حقق أيضًا قياسًا مرجعيًا مع ChatGPT.
ويرافق إطلاق النموذج الجديد أيضًا تحول في الاتجاه العام للشركة. اكتشف الناس أن MistralLarge ليس نموذجًا كبيرًا مفتوح المصدر - فهو يحتوي على نتائج التشغيل وواجهات برمجة التطبيقات والتطبيقات، ولكنه لا يحتوي على GitHub أو روابط التنزيل كالمعتاد.
في نفس وقت إصدار MistralLarge، توصلت MistralAI إلى اتفاقية تعاون طويلة الأمد مع Microsoft. لن يقتصر الأمر على تقديم MistralLarge إلى Azure فحسب، بل سيحصل أيضًا على استثمار بقيمة 16 مليون دولار أمريكي من Microsoft.
وقالت شركة MistralAI لرويترز إن مايكروسوفت ستستحوذ على حصة أقلية في الشركة كجزء من الصفقة، دون الكشف عن التفاصيل. وفي المستقبل، سيركز التعاون بين البلدين بشكل أساسي على ثلاثة مجالات أساسية:
البنية التحتية للحوسبة الفائقة: ستدعم Microsoft MistralAI من خلال البنية التحتية للحوسبة الفائقة AzureAI لتوفير الأداء الأفضل في فئته وتوسيع نطاق تدريب الذكاء الاصطناعي وأعباء العمل الاستدلالية للنموذج الرئيسي لـ MistralAI؛
التسويق: ستقوم Microsoft وMistralAI بإتاحة نماذج MistralAI المتقدمة للعملاء من خلال النماذج كخدمة (MaaS) في Azure AI Studio وكتالوج نماذج التعلم الآلي من Azure. بالإضافة إلى نماذج OpenAI، يقدم كتالوج النماذج مجموعة متنوعة من النماذج مفتوحة المصدر والتجارية.
البحث والتطوير في مجال الذكاء الاصطناعي: ستستكشف Microsoft وMistralAI التعاون لتدريب نماذج ذات أغراض محددة لعملاء محددين.
عندما سئل عما إذا كانت الشركة تغير نموذج أعمالها مفتوح المصدر، قال آرثر مينش، المؤسس المشارك لشركة MistralAI، في مقابلة: "لقد بدأنا بنموذج مفتوح المصدر حيث يمكن لأي شخص نشره مجانًا لأن ذلك كان وسيلة لتوزيعه على نطاق واسع وخلق الطلب. ولكن منذ البداية، قدمنا نموذج عمل بنماذج محسنة، مما سمح للشركة بتمويل الأبحاث الباهظة الثمن المطلوبة لتطوير النماذج".
الرابط المرجعي: https://twitter.com/MistralAILabs/status/1771670765521281370
سيعقد مؤتمر الذكاء المتجسد الصيني الأول (CEAI2024) في الفترة من 30 إلى 31 مارس 2024 في فندق إم جي إم ويست بوند في كسوهوي، شنغهاي.
تستضيف هذا المؤتمر الجمعية الصينية للذكاء الاصطناعي (CAAI)، التي تشارك في تنظيمها لجنة الذكاء المتجسد (التحضيرية) التابعة لـ CAAI، وجامعة تونغجي، ومعهد تكنولوجيا الحوسبة التابع للأكاديمية الصينية للعلوم، وجامعة شنغهاي جياو تونغ، ومقر خدمة المعلومات الاقتصادية الصينية في شنغهاي، ويشارك في تنظيمه التحالف الأكاديمي للذكاء الاصطناعي للجامعة العالمية، والتعاون الإعلامي الحصري للذكاء الاصطناعي من "قلب الآلة".
سيبني هذا الحدث منصة عليا للتبادلات والتعاون بين الأوساط الأكاديمية والصناعة في مجال الذكاء المتجسد لتعزيز المشاركة والتبادلات الأكاديمية على نطاق واسع، والتعاون والتفاعل الصناعي، وتعزيز التنمية المشتركة للصناعة والأوساط الأكاديمية والبحثية، وتعزيز مستوى البحث والتطبيق لتكنولوجيا الذكاء المتجسد في بلدي.