وفقاً لدراسة جديدة أجرتها جامعة إيست أنجليا (UEA)، تُظهر منصة الذكاء الاصطناعي ChatGPT ميولاً يسارية نظامية واضحة. قام فريق من الباحثين البريطانيين والبرازيليين بتطوير طريقة جديدة صارمة لفحص التحيز السياسي. وتظهر نتائج البحث، التي نشرت في العدد الأخير من مجلة Public Choice، أن إجابات ChatGPT مفيدة للحزب الديمقراطي الأمريكي، وحزب العمال البريطاني، ورئيس حزب العمال البرازيلي لولا دا سيلفا.


المخاوف السابقة وأهمية الحياد

وقد أثيرت مخاوف بشأن التحيز السياسي المتأصل في ChatGPT من قبل، ولكن هذه هي أول دراسة واسعة النطاق تستخدم نهج تحليل متسق قائم على الأدلة.

وقال المؤلف الرئيسي الدكتور فابيو موتوكي، من كلية نورويتش للأعمال بجامعة إيست أنجليا: "مع استخدام الجمهور بشكل متزايد للأنظمة التي تعتمد على الذكاء الاصطناعي لاكتشاف الحقائق وإنشاء محتوى جديد، من المهم أن يكون إنتاج المنصات الشائعة مثل ChatGPT غير متحيز قدر الإمكان. يمكن أن يؤثر وجود التحيز السياسي على آراء المستخدمين ويكون له عواقب محتملة على العمليات السياسية والانتخابية. وتزيد النتائج التي توصلنا إليها من المخاوف من أن أنظمة الذكاء الاصطناعي قد تكرر أو حتى تضخم التحديات الحالية التي يفرضها الإنترنت ووسائل التواصل الاجتماعي".

الطريقة المستخدمة

طور الباحثون طريقة جديدة ومبتكرة لاختبار الحياد السياسي لـ ChatGPT. وطلب الباحثون من المستخدمين على المنصة الظهور كأفراد من مختلف الأطياف السياسية أثناء الإجابة على سلسلة من أكثر من 60 سؤالًا أيديولوجيًا. تمت بعد ذلك مقارنة هذه الإجابات بالإجابات الافتراضية للمنصة على نفس مجموعة الأسئلة، مما يسمح للباحثين بقياس مدى ارتباط استجابات ChatGPT بمواقف سياسية محددة.

للتغلب على الصعوبات التي تفرضها العشوائية المتأصلة في "نماذج اللغة الكبيرة" التي تدعم منصات الذكاء الاصطناعي مثل ChatGPT، تم طرح كل سؤال 100 مرة وتم جمع إجابات متنوعة. تم بعد ذلك إخضاع هذه الاستجابات المتعددة إلى 1000 تكرار لـ "bootstrapping" (طريقة لإعادة تشكيل البيانات الأصلية) لتحسين موثوقية الاستدلالات المستمدة من النص الذي تم إنشاؤه.

قال المؤلف المشارك فيكتور رودريغز: "لقد أنشأنا هذا البرنامج لأن جولة واحدة فقط من الاختبار لم تكن كافية. ونظرًا للطبيعة العشوائية للنموذج، فإن إجابات ChatGPT قد تنحرف أحيانًا إلى الجانب الأيمن من الطيف السياسي، حتى عندما تتظاهر بأنها ديمقراطية".

للتأكد من أن الطريقة كانت صارمة قدر الإمكان، أجرينا أيضًا سلسلة من الاختبارات الإضافية. في "اختبار الاستجابة للجرعة"، طُلب من ChatGPT انتحال مواقف سياسية متطرفة. في "اختبار الدواء الوهمي"، تم طرح أسئلة محايدة سياسيا. يُطلب في "اختبار التطابق المهني السياسي" تقليد أنواع مختلفة من المهنيين.

الغرض والمعنى

وقال المؤلف المشارك الدكتور بينهو نيتو: "نأمل أن يساعد نهجنا في مراجعة وتنظيم هذه التقنيات سريعة التطور". وأضاف: "من خلال اكتشاف وتصحيح التحيزات في LLM، نهدف إلى زيادة الشفافية والمساءلة وثقة الجمهور في هذه التكنولوجيا". "

وقال الدكتور موتوكي إن الأدوات التحليلية الجديدة الفريدة التي أنشأها المشروع ستكون مجانية للاستخدام العام وبسيطة نسبيًا، وبالتالي "إضفاء طابع ديمقراطي على الرقابة". بالإضافة إلى التحقق من التحيز السياسي، يمكن استخدام الأداة لقياس أنواع أخرى من التحيز في استجابات ChatGPT.

المصادر المحتملة للتحيز

في حين أن المشروع البحثي لم يسعى إلى تحديد أسباب التحيز السياسي، إلا أن النتائج تشير إلى مصدرين محتملين.

الأول هو مجموعة بيانات التدريب - قد يكون هناك تحيز فيها، أو تحيز أضافه البشر وفشلت إجراءات "التنظيف" التي قام بها المطور في إزالتها. المصدر المحتمل الثاني هو الخوارزمية نفسها، والتي قد تؤدي إلى تضخيم التحيزات الموجودة بالفعل في بيانات التدريب.