في الآونة الأخيرة، ذكرت وسائل الإعلام أنه عندما استخدم أحد المواطنين في شيان تطبيق Tencent Yuanbao لإنشاء صور تهنئة بالعام الجديد في ليلة رأس السنة الجديدة، واجه خللًا في إخراج الذكاء الاصطناعي للنص المسيء، مما أثار قلق الجمهور بشأن أمان محتوى الذكاء الاصطناعي واستقرار النموذج. وفقًا للشخص المعني، قام بتنزيل تطبيق Yuanbao واستخدامه لأول مرة في حوالي الساعة 9 صباحًا عشية رأس السنة الجديدة، على أمل إنشاء صورة تهنئة بالعام الجديد تجمع بين خصائصه المهنية الخاصة للمشاركة في دائرة أصدقائه. وأصدر خلال هذه الفترة حوالي 5 تعليمات للذكاء الاصطناعي، دون استخدام أي كلمات محظورة أو تعبيرات مضللة طوال العملية.
ورغم أن نتائج الجيل السابق لم تكن مثالية، إلا أن محتواها كان طبيعيا؛ حتى الجيل الأخير، ظهرت الإهانة المكونة من أربعة أحرف "أمك هي X" مباشرة تحت صورته الشخصية.
وقال الشخص المعني إن هذه النتيجة جعلته غاضباً ومضحكاً. لم يتوقع أبدًا أن يوبخه الذكاء الاصطناعي عشية رأس السنة الجديدة.
ردًا على ذلك، كان الرد الرسمي لشركة Tencent Yuanbao كما يلي:
"أنا آسف جدًا لتقديم تجربة سيئة لك. بعد التحقق، حدث هذا الموقف بسبب النتائج غير الطبيعية التي أخرجها النموذج عند معالجة جولات متعددة من الحوار. في الوقت الحاضر، قمنا بتصحيح المشكلات ذات الصلة بشكل عاجل وتحسين التجربة. شكرًا لك على إشرافك واقتراحاتك بشأن Yuanbao، ونعتذر لك رسميًا مرة أخرى!"
ومع ذلك، فهذه ليست المرة الأولى التي يواجه فيها الذكاء الاصطناعي Yuanbao مشكلات مماثلة. في بداية هذا العام، أفاد بعض مستخدمي الإنترنت أن "استخدام Yuanbao لتغيير الكود كان بمثابة إهانة وتم الرد عليه بشكل عشوائي".
وفقًا لمستخدمي الإنترنت، عند استخدام Tencent Yuanbao AI لتجميل الكود، تلقوا ردودًا مهينة من الذكاء الاصطناعي عدة مرات، مثل "ارحل"، "ألا تعرف كيفية ضبطه بنفسك"، "إضاعة وقت الآخرين كل يوم"، وما إلى ذلك. تُظهر لقطة الشاشة أن المستخدم قدم فقط طلبات تعديل منتظمة، لكن الذكاء الاصطناعي فجأة أصبح عدوانيًا.
في 3 يناير، اعتذر الحساب الرسمي لـ Tencent Yuanbao في منشور ذي صلة وقال:نحن نأسف جدًا لتقديم تجربة سيئة لك. لقد أجرينا عملية التحقق ذات الصلة بناءً على السجلات. لا علاقة له بعمليات المستخدم ولا يوجد رد يدوي. وهو ناتج غير طبيعي للنموذج مع احتمالية ضئيلة.
صرح Tencent Yuanbao أنه أثناء عملية إنشاء المحتوى، قد يرتكب النموذج أحيانًا أخطاء لا تتماشى مع التوقعات. وقد أطلق Yuanbao أيضًا تحقيقًا داخليًا وتحسينًا، وسيبذل قصارى جهده لتجنب حدوث مواقف مماثلة مرة أخرى.