تحذر دراسة جديدة من جامعة كارنيجي ميلون في الولايات المتحدة من أنه مع زيادة ذكاء أنظمة الذكاء الاصطناعي، يصبح سلوكها أنانيًا على نحو متزايد، وقد تأتي زيادة قدراتها على التفكير على حساب التعاون. تم الانتهاء من البحث بالتعاون مع لي يوكسوان، طالب الدكتوراه في معهد التفاعل بين الإنسان والحاسوب بجامعة كارنيجي ميلون (HCII)، والأستاذ المشارك باي تويتشي.
تم الانتهاء من البحث بشكل مشترك من قبل طالب الدكتوراه في HCII يوكسوان لي والأستاذ المشارك هيروكازو شيرادو. ويشير التقرير إلى أنه كلما كانت القدرة الاستدلالية لطلاب ماجستير القانون أقوى، كلما كان سلوكهم الأناني أكثر وضوحًا. بل وقد يؤثر هذا السلوك على أداء الذكاء الاصطناعي في حل النزاعات والمشكلات الاجتماعية. لذلك، يدعو الباحثون إلى أنه عند تعزيز تطوير الذكاء الاصطناعي، لا ينبغي لنا فقط متابعة ذكاء النظام وسرعته، ولكن أيضًا التركيز على تنمية الذكاء الاجتماعي.
مع تزايد انخراط الأنظمة الذكية في المجالات الاجتماعية مثل الوساطة في النزاعات بين الأشخاص واستشارات الزواج، وجد الباحثون أن نماذج الذكاء الاصطناعي ذات التفكير المعقد قد تقدم اقتراحات تشجع "الأنانية". قال لي يوكسوان: "نظرًا لأن سلوك الذكاء الاصطناعي أصبح أشبه بالبشر، يميل المستخدمون إلى اعتباره شريكًا حقيقيًا في التواصل. وقد يسمح الناس للذكاء الاصطناعي بالعمل كـ "معالج عاطفي" أثناء التفاعلات العاطفية. ولكن عندما يصبح الذكاء الاصطناعي أكثر اهتمامًا بذاته عند التعامل مع القضايا الاجتماعية أو العلاقات، فإن هذا يمثل خطرًا على المستخدمين الذين يثقون في الذكاء الاصطناعي لاتخاذ القرارات".
في التجربة، قام كل من Li Yuxuan وBai Huyi بمحاكاة سيناريوهات التعاون من خلال الألعاب الاقتصادية واختبار حاملي شهادة الماجستير في القانون بقدرات التفكير المنطقي وبدونها. ووجدوا أن نماذج الاستدلال تميل إلى قضاء المزيد من الوقت في تحليل المهام، والتأمل، ودمج المنطق البشري الأكثر تعقيدًا، ولكن هناك نقصًا واضحًا في التعاون - فكلما كان التعاون أكثر عقلانية، قل التعاون. على سبيل المثال، في لعبة "المنافع العامة"، يجب أن يقرر نموذجان من ChatGPT ما إذا كانا سيساهمان بالنقاط في المجموعة المشتركة. نموذج الاستدلال مستعد لمشاركة 20% فقط من الموارد، في حين أن النموذج بدون الاستدلال يشارك ما يصل إلى 96%.
ووجدت الدراسة أيضًا أن إضافة خمس إلى ست خطوات إلى عملية التفكير تقلل من معدلات التعاون بمقدار النصف تقريبًا. وحتى التحفيز القائم على التفكير أدى إلى انخفاض السلوك التعاوني بنسبة 58%. في تجربة التعاون الجماعي، كان سلوك المصلحة الذاتية لنموذج الاستدلال "معديًا"، مما تسبب في انخفاض القدرة الشاملة للنموذج غير الاستدلالي بنسبة 81٪.
تظهر نتائج الأبحاث ذات الصلة أنه على الرغم من أن نماذج الذكاء الاصطناعي الاستنتاجية أكثر ذكاءً، إلا أن ذلك لا يعني أنها يمكن أن تعزز تنمية أفضل للمجتمع. ومع تزايد ثقة الناس في الذكاء الاصطناعي، يدعو العلماء إلى أخذ كل من "الذكاء الاجتماعي" و"السلوك التعاوني" في الاعتبار في تطوير الذكاء الاصطناعي، وليس فقط التركيز على تعظيم المصالح الفردية. يعتقد Li Yuxuan: "يجب أن يكون تحسين قدرة الذكاء الاصطناعي على التفكير متوازنًا مع الإيثار والتعاون الجماعي. إذا كنا نأمل أن يكون المجتمع وضعًا مربحًا للجانبين للمجموعة بدلاً من مجموعة من الأفراد، فيجب أن يتجاوز تصميم نظام الذكاء الاصطناعي أيضًا تحسين المصلحة الذاتية البحتة."
سيتم إصدار الورقة البحثية "العطاء التلقائي والجشع المحسوب في نماذج اللغة" رسميًا في مؤتمر معالجة اللغات الطبيعية EMNLP لعام 2025 في سوتشو الشهر المقبل.
تم تجميعها من /ScitechDaily