رئيس أمن جوجل السابق: الذكاء الاصطناعي قد يكون أكثر ضررًا على الأطفال من وسائل التواصل الاجتماعي

الملخص:

وفقًا لرويترز، دعا توم سيجل، مؤسس فريق الثقة والسلامة في جوجل، إلى تباطؤ تطوير الذكاء الاصطناعي هذا الأسبوع، وحذر من أن صناعة التكنولوجيا تكرر أخطاء عصر وسائل التواصل الاجتماعي وقد تسبب ضررًا أكبر للأطفال.

سيجال

تدفع شركات التواصل الاجتماعي الآن تعويضات ضخمة وتواجه آلاف الدعاوى القضائية بسبب اتهامات بإيذاء المستخدمين الشباب. وفي الوقت نفسه، تعمل الحكومات في جميع أنحاء العالم على تقييد وصول القاصرين إلى منصات التواصل الاجتماعي.

ذكرت رويترز حصريًا وثيقة سياسة داخلية من ميتا العام الماضي. وقالت الوثيقة إن برنامج الدردشة الآلي الخاص به يمكن أن "ينخرط في محادثات رومانسية أو مثيرة مع الأطفال"، مما أدى إلى إجراء تحقيق في الكونجرس. ومع ذلك، فإن التدابير التنظيمية لم تواكب التطور السريع للذكاء الاصطناعي.

قال سيجال، الذي شغل منصب نائب رئيس جوجل لشؤون الثقة والسلامة، لرويترز: "نحن في وضع سيء للغاية الآن فيما يتعلق بتأثير الذكاء الاصطناعي على الأطفال. إن فكرة أن الصناعة يمكنها حل المشكلة بنفسها دون مساعدة خارجية هي فكرة غير واقعية."

تعكس مخاوفه خوفًا متزايدًا بين البعض في صناعة التكنولوجيا والباحثين الأكاديميين: حيث يشكل الذكاء الاصطناعي تهديدًا أعمق للأطفال من وسائل التواصل الاجتماعي. الآن، تتسابق الصناعة لإضافة المزيد والمزيد من الميزات المتقدمة إلى برامج الدردشة الآلية، ويستخدم الملايين من الشباب بالفعل هذه الروبوتات بشكل يومي.

أعلن سيغال يوم الثلاثاء أنه انضم إلى Common Sense Media، وهي مجموعة للدفاع عن سلامة الأطفال على الإنترنت. تقوم المنظمة غير الربحية، التي تأسست عام 2003، بإجراء الأبحاث وتقييم مدى ملاءمة الوسائط المختلفة للأطفال. وفي شهر مايو، أنشأت المنظمة معهد سلامة الذكاء الاصطناعي للشباب، وهو منظمة بحثية مصممة لتقييم استخدام الأطفال للذكاء الاصطناعي، وسيعمل سيجل كأول مدير تنفيذي للمعهد. إن Anthropic ومؤسسة OpenAI، وهي المنظمة غير الربحية التي تتحكم في OpenAI، من الداعمين للمعهد.

قال سيجال إنه يخطط لتطوير معايير لمحاسبة شركات الذكاء الاصطناعي ويأمل في العمل مع هذه الشركات ومنظمات الطرف الثالث لتحقيق هذا الهدف.

لقد عمل سابقًا في Google من عام 2004 إلى عام 2019، لكنه ترك Google لاحقًا معتقدًا أن قدرة صناعة التكنولوجيا على إنشاء مساحة آمنة عبر الإنترنت للمستهلكين "قد وصلت إلى عنق الزجاجة". ثم شارك في تأسيس شركة TrustLab، وهي شركة ناشئة تعمل على تطوير أدوات لمساعدة المؤسسات على تحديد التهديدات الأمنية. وفي وقت سابق من هذا الشهر، استقال من منصبه كرئيس تنفيذي ليتولى منصبًا جديدًا.

وقال سيجل إن شركات الذكاء الاصطناعي الكبرى تطلق حاليًا وظائف مختلفة للأطفال دون وضع تدابير كافية لحماية السلامة. وقال: "أعتقد أننا نواجه خطرًا جديًا للغاية بالتعرض للأذى". وقال سيجل إن هناك خطوات يمكن لشركات الذكاء الاصطناعي اتخاذها على الفور لحماية الشباب بشكل أفضل، مشيراً إلى مخاطر تتراوح بين الانتحار والجنون إلى "التفريغ المعرفي". ويشير ما يسمى بالتفريغ المعرفي إلى تراجع مهارات التفكير النقدي الناجم عن الاعتماد على الذكاء الاصطناعي للإجابة على الأسئلة. وقال إن Anthropic وOpenAI يمكنهما تنفيذ إجراءات أكثر صرامة للتحقق من العمر لمنع القاصرين من استخدام برامج الدردشة الآلية الخاصة بهم. وقال أيضًا إن شركة جوجل التي كان يعمل بها سابقًا يمكن أن تضيف خيارًا لإيقاف تشغيل نظرة عامة على الذكاء الاصطناعي ووضع الذكاء الاصطناعي في محرك البحث الخاص بها، تمامًا كما توفر حاليًا مفتاحًا للسماح للمستخدمين بتصفية المحتوى الإباحي.

وأضاف سيجال أنه على الرغم من أن هذه التدابير قد تؤثر على الاستخدام أو الأرباح على المدى القصير، فإن شركات الذكاء الاصطناعي التي لا تتخذ إجراءات ستواجه خطر الدعاوى القضائية واللوائح التنظيمية، مما قد يؤثر على أعمالها بشكل أكثر خطورة.

ردًا على تصريحات سيجل، قال متحدث باسم Google إنه يمكن للوالدين إيقاف وصول أطفالهم إلى محركات البحث بشكل كامل من خلال وظائف التحكم ذات الصلة. وقال المتحدث: "تعد قدراتنا في البحث باستخدام الذكاء الاصطناعي وسيلة قوية للأطفال والمراهقين للتعلم واستكشاف وفهم المعلومات والعالم."

قال متحدث باسم OpenAI إنه بالإضافة إلى الأعمار التي أبلغ عنها المستخدمون ذاتيًا، تستخدم الشركة أيضًا "إشارات الحساب والسلوك" لتحديد المستخدمين دون السن القانونية. وقال المتحدث: "على الرغم من عدم وجود طريقة مثالية للتحقق من العمر، إلا أننا نواصل اختبار هذه الأنظمة وتحسينها، بما في ذلك منع محاولات تجاوز الحماية الأمنية".