وجد تقرير جديد صادر عن HAI (الذكاء الاصطناعي المرتكز على الإنسان) بجامعة ستانفورد أن أياً من المطورين المعروفين للنماذج الأساسية للذكاء الاصطناعي، بما في ذلك شركات مثل OpenAI وMeta، لم يصدر معلومات كافية حول تأثيرها المحتمل على المجتمع.
اليوم، أصدرت جامعة ستانفورد HAI مؤشر شفافية النموذج الأساسي، الذي يتتبع ما إذا كان منشئو نماذج الذكاء الاصطناعي العشرة الأكثر شعبية يكشفون عن معلومات حول عملهم وكيف يستخدم الناس أنظمتهم. ومن بين النماذج التي تم اختبارها، سجل Llama2 من Meta أعلى النتائج، يليه BloomZ ثم GPT-4 من OpenAI. لكن اتضح أن أياً منهم لم يسجل درجات عالية بشكل خاص.
وتشمل النماذج الأخرى التي تم تقييمها Stability’s StableDiffusion، وAnthropic’s Claude، وPaLM2 من Google، وCohere’s Command، وJurassic2 من AI21Labs، وInflection’s Inflection-1، وAmazon’s Titan.
يعترف الباحثون بأن الشفافية يمكن أن تكون مفهومًا واسعًا إلى حد ما. يعتمد تعريفهم على 100 مؤشر توفر معلومات حول كيفية بناء النموذج، وكيفية عمل النموذج، وكيفية استخدام الأشخاص للنموذج. وقاموا بتحليل المعلومات العامة حول النموذج وأعطوا كل منهم درجة، مع ملاحظة ما إذا كانت الشركات قد كشفت عن شركاء ومطورين خارجيين، وما إذا كانوا أخبروا العملاء ما إذا كانت نماذجهم تستخدم معلومات خاصة، ومجموعة من المشكلات الأخرى.
عندما أصدرت الشركة بحثها حول إنشاء النماذج، بلغت النتيجة الوصفية 53%، وهي أعلى درجة في أساسيات النماذج. يتبع نموذج BloomZ مفتوح المصدر دعمًا بنسبة 50%، وGPT-4 بدعم بنسبة 47% - وهو مرتبط بالانتشار المستقر على الرغم من نهج التصميم المحدود نسبيًا لـ OpenAI.
ترفض OpenAI نشر معظم نتائج أبحاثها ولا تكشف عن مصدر بياناتها، لكن GPT-4 تمكنت من الحصول على مرتبة عالية بسبب توفر الكثير من المعلومات حول شركائها. تعمل OpenAI مع عدد من الشركات المختلفة لدمج GPT-4 في منتجاتها، مما يؤدي إلى توفير ثروة من التفاصيل العامة المتاحة للعرض.
ومع ذلك، وجد باحثو جامعة ستانفورد أن أيًا من صانعي النموذج لم يكشف عن أي معلومات حول التأثير الاجتماعي، بما في ذلك مكان تقديم شكاوى الخصوصية أو حقوق الطبع والنشر أو التحيز.
وقال ريشي بوماساني، مدير المجتمع في مركز النمذجة الأساسية بجامعة ستانفورد وأحد الباحثين في المؤشر، إن هدف المؤشر هو توفير معيار للحكومات والشركات. وربما تجبر بعض التنظيمات المقترحة، مثل مشروع قانون الذكاء الاصطناعي في الاتحاد الأوروبي، قريبا مطوري النماذج الأساسية واسعة النطاق على تقديم تقارير الشفافية.
وقال بوماساني "ما نحاول تحقيقه من خلال المؤشر هو جعل النموذج أكثر شفافية وتقسيم المفاهيم غير الواضحة إلى أشياء أكثر واقعية يمكن قياسها". ركزت المجموعة على نموذج واحد من كل شركة لتسهيل المقارنات.
يمتلك الذكاء الاصطناعي التوليدي مجتمعًا كبيرًا ونشطًا مفتوح المصدر، لكن بعض أكبر الشركات في هذا المجال لا تشارك الأبحاث أو التعليمات البرمجية الخاصة بها علنًا. على الرغم من أن OpenAI تحمل كلمة "مفتوح" في اسمها، إلا أنها لم تعد توزع أبحاثها، بسبب مخاوف المنافسة والأمن.
وقال بوماساني إن المنظمة منفتحة على توسيع نطاق المؤشر ولكنها في الوقت نفسه ستلتزم بالنماذج الأساسية العشرة التي قامت بتقييمها بالفعل.