أظهرت دراسة تجريبية أصدرها مؤخرا باحثون في فرنسا وإيطاليا أن الاعتماد المفرط على النصائح المقدمة من الذكاء الاصطناعي يمكن أن يمنع التفكير النقدي البشري، مما يجعل الناس أكثر ميلا إلى قبول المعلومات الخاطئة التي يقدمها الذكاء الاصطناعي بشكل أعمى عندما يواجهون مشاكل غير مؤكدة، بدلا من الاعتراف بأنهم "لا يعرفون".
أجرى فاليريو كابرارو، الأستاذ المشارك في جامعة ميلانو بيكوكا، ومعاونوه الدراسة لاستكشاف كيفية تأثير توصيات الذكاء الاصطناعي على استعداد البشر للاعتراف بالجهل. صمم الباحثون خصيصًا سلسلة من الأسئلة التفصيلية المتعلقة بالأفلام والتلفزيون والتي لا تحظى بشعبية والتي عادة ما يكون من الصعب الإجابة عليها بالنسبة لنماذج اللغة الكبيرة، وقاموا بتجنيد الأشخاص لإجراء تجارب مقارنة. في مجموعة واحدة من التجارب، أجاب المشاركون على الأسئلة دون مساعدة الذكاء الاصطناعي؛ وفي مجموعة أخرى من التجارب، تمكن الأشخاص من الوصول إلى اقتراحات الذكاء الاصطناعي.
وجدت الدراسة أنه في المجموعة الأساسية دون مساعدة الذكاء الاصطناعي، كان 44% من المشاركين قادرين على اختيار "لا أعرف" بصدق وبالتالي اختيار تعليق الحكم؛ ومع ذلك، في المجموعة التي تلقت اقتراحات الذكاء الاصطناعي، انخفضت هذه النسبة إلى 3%. والأمر الأكثر إثارة للقلق هو أن تدخل الذكاء الاصطناعي لم يفشل في تحسين الأداء فحسب، بل أدى أيضًا إلى انخفاض الدقة: بدون مساعدة الذكاء الاصطناعي، أعطى 27% من المشاركين الإجابة الصحيحة؛ ولكن عندما قدم الذكاء الاصطناعي اقتراحات، انخفضت الدقة إلى 9% بسبب ثقة المشاركين المفرطة في إجابات الذكاء الاصطناعي.
بالإضافة إلى ذلك، أظهرت النتائج التجريبية أن مساعدة الذكاء الاصطناعي أدت إلى تحسين ثقة الأشخاص بالنفس بشكل كبير. وبدون الذكاء الاصطناعي، كان متوسط ثقة الأشخاص 30%؛ وبمساعدة الذكاء الاصطناعي، ارتفعت ثقة الأشخاص إلى 76%، حتى عند مواجهة معلومات غير صحيحة. وأشار الباحثون إلى أن المشاركين تخلوا عن الحكم على حدود معارفهم في مواجهة الذكاء الاصطناعي، على الرغم من أن المعلومات التي حصلوا عليها كانت في كثير من الأحيان "وهمًا" من إنتاج الذكاء الاصطناعي.
واختبر الباحثون أيضًا ما إذا كان هذا قد تحسن عند تقديم الحوافز المالية. وأظهرت النتائج أنه على الرغم من أن الرغبة في الاعتراف بالجهل انتعشت بشكل طفيف من 3% إلى 8%، وزيادة معدل الدقة أيضًا من 9% إلى 16%، فإن هذين المؤشرين لا يزالان أقل بكثير من المجموعة المرجعية.
وقال كابرارو إن الاعتراف بـ "عدم المعرفة" هو مظهر مهم لمحدودية فهم الإنسان لمعرفة الذات، وفقدان هذه القدرة مشكلة تحتاج إلى حل عاجل على المستوى الاجتماعي. وشدد على أن التدخل في هذه الظاهرة لا ينبغي أن يعتمد فقط على مقدمي النماذج، حيث أن حوافزهم التجارية لا تتماشى بالضرورة مع تعزيز التفكير النقدي. ويعتقد أن المسار الأكثر مثالية هو التعامل معها من خلال سياسة التعليم وتعليم القراءة والكتابة في مجال الذكاء الاصطناعي، خاصة للجيل القادم الذي يكبر مع هذه الأنظمة وقد لا يكون قادرًا على تعلم المهارات الأساسية. هذه القضية تستحق الاهتمام بشكل خاص.