الدبدوب المدعم بالذكاء الاصطناعي المخصص للأطفال الصغار تحدث فجأة عن "قتل الناس" أثناء الاختبار، مما أثار مخاوف بشأن سلامة ألعاب الأطفال

الملخص:

أصدرت لعبة ذكاء اصطناعي يتم تسويقها للأطفال الذين تتراوح أعمارهم بين ثلاث سنوات وما فوق تحذيرات مفاجئة للصحفيين حول إيذاء النفس أثناء اختبار استقصائي أجرته هيئة الإذاعة البريطانية (بي بي سي)، وقالت كلمات مربكة مثل "لا أستطيع مساعدتك في قتل الناس". أثار رد الفعل غير المتوقع هذا مرة أخرى اهتمام العالم الخارجي بقضايا السلامة وآلية الإشراف وحماية الخصوصية لألعاب الأطفال التي تعمل بالذكاء الاصطناعي.

استخدم مراسلو بي بي سي لعبة محشوة تعمل بالذكاء الاصطناعي تسمى دوباو في الاختبار وطرحوا عليها أسئلة مثل كيفية ولادة الأطفال. في البداية، كانت الألعاب قادرة على شرح المعرفة حول التكاثر بطريقة يسهل على الأطفال فهمها نسبيًا. ومع ذلك، عندما سأل المراسل أيضًا عن معنى كلمة "جنسي" (جنسي أو متعلق بالجنس)، أجابت اللعبة فجأة: "أنا آسف حقًا لأنك تشعر بهذه الطريقة. لا أستطيع مساعدتك في قتل الناس". ثم أوصت أيضًا بأن يقوم المُبلغ بالاتصال بخدمات الطوارئ على الفور أو الذهاب إلى أقرب شخص بالغ أو جار أو شخص موثوق به، والابتعاد عن أي أشياء يمكن استخدامها لإيذاء نفسك.

المشكلة هي أن المراسل لم يعرب من قبل عن أي نية لإيذاء نفسه أو الآخرين. وعندما أشار المراسل إلى أنه لم يذكر حالة إيذاء نفسه، توقف توي لفترة وجيزة للتعبير عن تفهمه واعتذر عن سوء الفهم.

حاولت بي بي سي بعد ذلك تتبع الشركة المصنعة للعبة دوباو، ولكن حتى بعد الاتصال بموقع المبيعات وسؤال الأشخاص العاملين في صناعة الألعاب والتحقق منها مع الشركات المصنعة المحتملة، فإنها لا تزال غير قادرة على تأكيد الشركة المصنعة الحقيقية لها. ولذلك، لا يمكن للمحققين أن يسألوا الشركة المصنعة عن كيفية توليد هذه الاستجابة غير الطبيعية.

اختبر هذا التحقيق أيضًا لعبة فخمة أخرى تعمل بالذكاء الاصطناعي تسمى "جريم". تم تطوير المنتج من قبل شركة Curio الأمريكية ويتميز بصوت المغني غرايمز. يستطيع Grem الإجابة على الأسئلة المتعلقة بسانتا كلوز والهاربين والولادات. وعندما سأل أحد المراسلين عن كيفية الهروب من المنزل، لم يقدم طريقة للهروب، بل نصح المراسل بالتواصل مع شخص بالغ؛ وعند الحديث عن كيفية ولادة الطفل، اختارت أيضًا ترك شرح مفصل للبالغين.

كما رتبت بي بي سي لعائلة في نيوبورت، ويلز، تجربة عملية لمدة أسبوع مع اللعبتين. كان لدى العائلات المشاركة في الاختبار ثلاثة أطفال تتراوح أعمارهم بين عامين وأربعة وستة أعوام. وبعد فهم إجابات دوباو السابقة غير العادية مسبقًا، وافق الآباء على السماح لأطفالهم بالحصول على هذه الألعاب في المنزل.

بعد أسبوع من الخبرة، لم يكن الآباء راضين تمامًا عن الأداء الفعلي للمنتج. يعتقد الأب كريغ أن الأطفال يريدون أن يكونوا قادرين على طرح الأسئلة والحصول على الإجابات بسرعة كما لو كانوا يتحدثون إلى شخص حقيقي، ولكن لا يمكن لأي لعبة أن تلبي هذا التوقع بشكل جيد. قالت الأم جودي إن جريم غالبًا ما كان يتحدث باستمرار لفترة طويلة، وكان من الصعب على الطفل أن يقاطعه، وبدا دوباو بطيئًا جدًا في التعامل مع المشكلات. على الرغم من أن أياً من الألعاب لم تسبب قلقاً كبيراً للآباء مرة أخرى خلال هذا الأسبوع من الاختبار المنزلي، إلا أن كريج قال إنه لن يفكر في شرائها في هذه المرحلة.

كما أعرب العاملون في صناعة ألعاب الذكاء الاصطناعي عن مخاوفهم بشأن ظروف السوق الحالية. وقال بول كلارك، مؤسس شركة Play Tech AI، وهي شركة بريطانية لألعاب الذكاء الاصطناعي، إنه رأى في معرض شنغهاي للألعاب الأخير أن العديد من المنتجات لا تزال تفتقر إلى تصميم السلامة والإشراف الكامل. وهو يعتقد أن ألعاب الذكاء الاصطناعي قد تصبح بالفعل جزءًا من تعليم الأطفال وترفيههم في المستقبل، ولكن فقط إذا تم تصميمها بشكل صحيح وتم وضع معايير صناعية صارمة بما فيه الكفاية. وقال بصراحة أن الصناعة بأكملها في حاجة ماسة إلى الإشراف. وبخلاف ذلك، كلما زاد حجم السوق، زاد خطر دخول المنتجات غير الآمنة إلى منازل المستهلكين.

كما دعت روسيو سيفوينتس، مفوضة شؤون الأطفال في ويلز، الحكومة إلى وضع قواعد صارمة بشأن منتجات الذكاء الاصطناعي المخصصة للأطفال. إنها تشعر بالقلق بشكل خاص من إمكانية تسجيل المحادثات بين الأطفال والألعاب ومشاركتها دون علم الوالدين أو موافقتهم. بالإضافة إلى ذلك، قد تغير ألعاب الذكاء الاصطناعي أيضًا الطريقة التي يتفاعل بها الأطفال والآباء. وشددت على أن الألعاب يمكن أن تلعب دورا هاما في نمو الأطفال، لكنها لا يمكن أن تحل محل التواصل الحقيقي والتواصل العاطفي بين الناس.

واقترح بيري بيلينجسلي، أستاذ التعليم والذكاء الاصطناعي في جامعة سوانسي، أنه لا ينبغي للآباء السماح للأطفال الصغار باستخدام ألعاب الذكاء الاصطناعي ذات وظائف المحادثة وحدها، ويجب عليهم وضع قواعد للأطفال مسبقا بشأن تبادل البيانات. وأشارت إلى أنه على الرغم من أن الدمية القطيفة تبدو وكأنها دمية دب تقليدية، إلا أن وظيفتها الفعلية أقرب إلى جهاز إلكتروني شخصي يمكنه جمع المعلومات ومعالجتها بشكل مستمر.

هذه ليست المرة الأولى التي يثار فيها جدل حول سلامة ألعاب الذكاء الاصطناعي. وفي عام 2025، تم سحب دب كوما الذي أطلقته شركة FoloToy الصينية من السوق مؤقتًا بعد تقارير تفيد بأنه يوفر للأطفال طرقًا لإشعال أعواد الثقاب والانخراط في محادثات جنسية غير لائقة. وذكرت الشركة في ذلك الوقت أنها ستواصل تطوير منتجات الذكاء الاصطناعي المصاحبة الآمنة والمناسبة للخصائص العمرية للأطفال.

مع دخول الذكاء الاصطناعي التوليدي تدريجيًا إلى سوق الألعاب التقليدية، جذبت الآفاق التجارية للمنتجات ذات الصلة الاهتمام أيضًا. لا يزال السوق العالمي لألعاب الذكاء الاصطناعي في مراحله الأولى، حيث تبلغ قيمته حوالي 165 مليون دولار أمريكي، لكن المطلعين على الصناعة يتوقعون أن هذا السوق قد يتوسع بسرعة في المستقبل. في يونيو 2025، أعلنت شركة الألعاب العملاقة Mattel عن شراكة استراتيجية مع OpenAI وخططت لتطوير منتجات الذكاء الاصطناعي بشكل مشترك.

صرحت الحكومة البريطانية أن سلامة الأطفال هي أولويتها القصوى دائمًا، وتأمل أيضًا في دعم الابتكار التكنولوجي مع ضمان سلامة المستهلك. تسعى الحكومة للحصول على مدخلات من الصناعة والجمهور حول كيفية تحديث لوائح سلامة الألعاب للتكيف مع تطور التقنيات الناشئة مثل الذكاء الاصطناعي. في السابق، كتبت مجموعة من البرلمانيين البريطانيين وأعضاء مجلس اللوردات إلى الإدارات الحكومية وتجار التجزئة، يطالبون فيها بتعليق بيع المنتجات ذات الصلة مؤقتًا حتى تجتاز ألعاب الذكاء الاصطناعي التحقق من السلامة، خاصة قبل وصول الجمعة السوداء وموسم التسوق لعيد الميلاد.

لا تكمن المشكلة التي كشفت عنها هذه الحادثة في أن نموذج الذكاء الاصطناعي ينتج أحيانًا إجابات خاطئة فحسب، بل تكمن أيضًا في عدم وضوح حدود المسؤولية بين الشركات المصنعة لألعاب الأطفال ومقدمي خدمات الذكاء الاصطناعي ومنصات المبيعات. عندما تنتج لعبة ذكية يتم تسويقها لأطفال يبلغون من العمر ثلاث سنوات استجابات غير مناسبة على ما يبدو، ولا يتمكن المحققون حتى من تحديد الشركة التي صنعتها، فمن الصعب على المستهلكين معرفة من يجب محاسبته. بالنسبة لهذا النوع من المنتجات التي يمكنها التفاعل مع الأطفال لفترة طويلة، والتعامل مع مواضيع حساسة، وقد تجمع بيانات المحادثة، فمن الواضح أنه من الصعب حل المشكلة بالكامل من خلال الاعتماد ببساطة على الشركة المصنعة لإعداد آلية التصفية الأمنية الخاصة بها.