في 25 فبراير مؤخرًا، عندما استخدم أحد المستخدمين تطبيق Tencent Yuanbao لإنشاء صور تهنئة بالعام الجديد في ليلة رأس السنة، واجهوا خللًا في الذكاء الاصطناعي وأخرجوا نصًا مسيئًا. في هذا الصدد، الرد الرسمي لشركة Tencent Yuanbao هو كما يلي: "نأسف جدًا لتقديم تجربة سيئة لك. بعد التحقق، كان سبب هذا الموقف هو نتائج غير طبيعية أخرجها النموذج عند معالجة جولات متعددة من الحوار. في الوقت الحاضر، قمنا بتصحيح المشكلات ذات الصلة بشكل عاجل وتحسين التجربة. شكرًا لك على إشرافك واقتراحاتك بشأن Yuanbao، ونعتذر لك رسميًا مرة أخرى!"
وفقًا للشخص المعني، قام بتنزيل تطبيق Yuanbao واستخدامه لأول مرة في حوالي الساعة 9 صباحًا عشية رأس السنة الجديدة، على أمل إنشاء صورة تهنئة بالعام الجديد تجمع بين خصائصه المهنية الخاصة للمشاركة في دائرة أصدقائه. وأصدر خلال هذه الفترة حوالي 5 تعليمات للذكاء الاصطناعي، دون استخدام أي كلمات محظورة أو تعبيرات مضللة طوال العملية. ورغم أن نتائج الجيل السابق لم تكن مثالية، إلا أن محتواها كان طبيعيا؛ حتى الجيل الأخير، ظهرت الإهانة المكونة من أربعة أحرف "أمك هي X" مباشرة تحت صورته الشخصية.
وقال الشخص المعني إن هذه النتيجة جعلته غاضباً ومضحكاً. لم يتوقع أبدًا أن يوبخه الذكاء الاصطناعي عشية رأس السنة الجديدة.
ومع ذلك، فهذه ليست المرة الأولى التي يواجه فيها الذكاء الاصطناعي Yuanbao مشكلات مماثلة. في بداية هذا العام، أفاد بعض مستخدمي الإنترنت أن "استخدام Yuanbao لتغيير الكود كان بمثابة إهانة وتم الرد عليه بشكل عشوائي".
وفقًا لمستخدمي الإنترنت، عند استخدام Tencent Yuanbao AI لتجميل الكود، تلقوا ردودًا مهينة من الذكاء الاصطناعي عدة مرات، مثل "ارحل"، "ألا تعرف كيفية ضبطه بنفسك"، "إضاعة وقت الآخرين كل يوم"، وما إلى ذلك. تُظهر لقطة الشاشة أن المستخدم قدم فقط طلبات تعديل منتظمة، لكن الذكاء الاصطناعي فجأة أصبح عدوانيًا.
صرح Tencent Yuanbao أنه أثناء عملية إنشاء المحتوى، قد يرتكب النموذج أحيانًا أخطاء لا تتماشى مع التوقعات. وقد أطلق Yuanbao أيضًا تحقيقًا داخليًا وتحسينًا، وسيبذل قصارى جهده لتجنب حدوث مواقف مماثلة مرة أخرى.