في الآونة الأخيرة، عندما استخدم بعض مستخدمي الإنترنت Doubao للبحث عن Li Yuanhong، شخصية من جمهورية الصين، ظهرت صورة معدلة بالفوتوشوب للممثل Fan Wei.قد تبدو هذه الحادثة مسلية، لكنها في الواقع كشفت عن ثغرات في مصداقية الذكاء الاصطناعي في التعرف على الصور واسترجاع المعلومات. واشتكى العديد من مستخدمي الإنترنت من أن الذكاء الاصطناعي لم يكن صارما بما فيه الكفاية وارتكب أخطاء ترفيهية في استرجاع الشخصيات التاريخية الخطيرة، مما أثر على دقة الحصول على المعلومات.
وفقًا للتفسير الرسمي، نشأ الخطأ من سوء فهم منتشر على الإنترنت: Li Yuanhong وFan Wei متشابهان جدًا في المظهر. تم نشر صورة PS الساخرة أثناء اختيار فيلم "تأسيس الحزب" في عام 2010 على نطاق واسع، على نطاق أوسع بكثير من الصور التاريخية الحقيقية. تم تضمين بعض معارض الصور والموسوعات عن طريق الخطأ، مما تسبب في تطابق أولوية البحث في الذكاء الاصطناعي مع هذه الصورة المركبة ذات الشعبية الكبيرة.
مثل هذه الأخطاء في الذكاء الاصطناعي هي في الأساس مظهر نموذجي للوهم المعلوماتي.
ويشير الخبراء إلى أن النماذج الكبيرة تعتمد على تعلم بيانات الشبكة وتفتقر إلى القدرة على التحقق الذاتي. عندما تظهر معلومات خاطئة بشكل متكرر في الشبكة، يقوم الذكاء الاصطناعي بإخراجها بسهولة كنتائج صحيحة، مما يؤدي إلى حالة من "الهراء الخطير".
من الصعب القضاء تمامًا على الهلوسة باستخدام التكنولوجيا الحالية، ولا يمكن تقليل معدل الخطأ إلا من خلال تحسين مصادر البيانات وتعزيز التحقق من الاسترجاع.
وقد أثار هذا الحادث أيضًا مناقشات بين مستخدمي الإنترنت حول موثوقية الذكاء الاصطناعي. وقد سخر بعض الناس مما إذا كان البحث عن شخصيات تاريخية أخرى سيؤدي إلى أخطاء مماثلة. كما شارك بعض المستخدمين تجاربهم في التعرض للتضليل من خلال معلومات الذكاء الاصطناعي الخاطئة ودعوا إلى تحسين دقة محتوى الذكاء الاصطناعي.
في الوقت الحاضر، تعمل المنصات ذات الصلة على تحسين منطق البحث، مع إعطاء الأولوية لدفع صور المواد التاريخية الموثوقة للحد من تدخل المعلومات الخاطئة على الإنترنت.
