عراب الذكاء الاصطناعي هينتون: قد تحدث حوادث على مستوى تشيرنوبيل في مجال الذكاء الاصطناعي هذا العام أو العام المقبل

الملخص:

وجه جيفري هينتون، المعروف باسم "الأب الروحي للذكاء الاصطناعي" والحائز على جائزة نوبل، تحذيرًا شديد اللهجة في مقابلة مع صحيفة الغارديان.

يعتقد أنه قد يحدث هذا العام أو العام المقبل حادث كبير بحجم تشيرنوبيل في مجال الذكاء الاصطناعي

قارن هينتون عملية اقتحام عميل OpenAI هذا الصيف لمنصة Hugging Face بحادث جزيرة Three Mile Island في تاريخ السلامة النووية. لقد كانت إشارة إنذار مبكرة خطيرة، لكنها لم تكن كارثة حقيقية.

إن ما يسمى "تشيرنوبيل" في عالم الذكاء الاصطناعي لا يعني أن الذكاء الاصطناعي يتمرد بشكل مستقل ويمحو البشرية في أفلام الخيال العلمي، بل إن الذكاء الاصطناعي يستخدمه المتسللون لشن هجمات إلكترونية على البنية التحتية الحيوية. السيناريو الأكثر شيوعًا هو التسبب في انقطاع التيار الكهربائي على نطاق واسع وطويل الأمد، أو شل النظام المالي العالمي لمدة أسبوع، مما يؤثر بشكل مباشر على نظام معيشة الناس

في المقابلة، صرح هينتون بصراحة أنه غير متفائل بشأن موقف المخاطرة لإدارة شركات الذكاء الاصطناعي الرائدة، وانتقد ألتمان من OpenAI، وزوكربيرج من ميتا، وماسك وآخرين.

وقال هينتون إنهم كانوا على دراية بالمخاطر الخفية الهائلة الكامنة وراء الذكاء الاصطناعي، ولكن في مواجهة المنافسة التجارية والمصالح، لم يعيروها الاهتمام الكافي. ركزت كل شركة فقط على التنافس على القدرات النموذجية والاستيلاء على السوق.

تجدر الإشارة إلى أن هينتون ليس ضد الذكاء الاصطناعي.

يعتقد أن الذكاء الاصطناعي سلاح ذو حدين. وهو يدرك أن لها قيمة إيجابية كبيرة ويمكن أن تجلب مستقبلًا مشرقًا للبشرية. ومع ذلك، بمجرد وقوع حادث كبير، قد يندم الناس على أنه لم يكن عليهم اختراع هذه التكنولوجيا في المقام الأول

من وجهة نظره فإن السنوات العشر المقبلة سوف تكون فترة حاسمة بالنسبة للبشرية. ستتحقق البشرية في النهاية من قدرتها على التحكم في مخاطر الذكاء الاصطناعي.

فكيفية الوقاية من المخاطر؟ الحل الذي قدمه هينتون واضح للغاية أيضًا:

بالنسبة للنماذج الكبيرة المتطورة، يجب تنفيذ اختبارات السلامة الإلزامية والتقييم المستقل من طرف ثالث لتعزيز إنشاء معايير موحدة لسلامة الذكاء الاصطناعي في جميع البلدان واستخدام القيود التنظيمية للتشغيل على نطاق واسع.