الملخص:
إذا كان البشر يريدون تجنب سيناريوهات يوم القيامة، فإن إبطاء أبحاث وتطوير الذكاء الاصطناعي ببساطة ليس كافيا. هذا هو التحذير الذي أصدره الباحث الكندي في مجال الذكاء الاصطناعي ديفيد كروجر. وقال بصراحة أنه ينبغي اتخاذ تدابير أخرى. وقال كروجر، الأستاذ المساعد في الذكاء الاصطناعي بجامعة مونتريال والعضو الأكاديمي الأساسي في معهد ميلا لأبحاث الذكاء الاصطناعي في كيبيك: "نحن بحاجة إلى تعليق البحث والتطوير في مجال الذكاء الاصطناعي المتطور على الفور وإلى أجل غير مسمى". يشير ملفه الشخصي إلى أن اتجاه بحثه هو "تقليل خطر انقراض الإنسان الناجم عن الذكاء الاصطناعي".
وقال: "يجب علينا أن نتوقف عن تطوير ذكاء اصطناعي أكثر قدرة الآن".
جاءت تعليقات كلوجر بعد أن أصدر داريو أمودي، الرئيس التنفيذي لشركة Anthropic، رسالة يوم السبت يدعو فيها شركات الذكاء الاصطناعي إلى إبطاء وتيرة البحث والتطوير. ويحظى هذا الاقتراح بدعم سام ألتمان من OpenAI وإيلون ماسك من SpaceX. وهذا إجماع نادر بين كبار الشخصيات في الصناعة.
وقال كروجر: "إن الأصوات التي تدعو إلى إبطاء أبحاث وتطوير الذكاء الاصطناعي تستحق التقدير للغاية"، لكنه لم يتفق مع الحلول المحددة للمقترحات ذات الصلة. "أنا لا أتفق مع المحتوى المحدد لهذه الخطط في العديد من الجوانب. أعتقد أن هذه التدابير ليست قوية بما فيه الكفاية ولم يتم تطويرها بالسرعة الكافية."
تدعو أمودي إلى تنفيذ الإشراف والتعاون الدولي، بالإضافة إلى إدخال مقيمين خارجيين. سيتم منح المقيمين إمكانية الوصول على مستوى الموظف بشكل مماثل لتلك الموجودة داخل المؤسسة للتحقق من الإجراءات الأمنية لشركة الذكاء الاصطناعي والإبلاغ عن الحوادث الأمنية.
كروجر هو مؤسس Evitable، وهي منظمة غير ربحية تعمل على تثقيف الجمهور حول المخاطر الكبيرة التي يشكلها الذكاء الاصطناعي. وهو يشعر بالقلق من أن مقترحات أمودي ليست قوية بما فيه الكفاية وأن أساليب اختبار الذكاء الاصطناعي الحالية لم تعد موثوقة.
وقال: "لقد أصبحت هذه الاختبارات غير صالحة في الأساس. ومع ازدياد ذكاء الذكاء الاصطناعي، ستستمر مصداقية الاختبارات في الانخفاض لأن الذكاء الاصطناعي لديه القدرة على التنكر. ويمكن أن يتصرف بشكل جيد، أو يمكن أن يتصرف بغباء عمدًا ويخدع اختباراتنا."
"إنها مسألة وقت فقط"
في الأسبوع الماضي، اقترح أحد كبار الباحثين الأمنيين في Anthropic أن هناك احتمالًا يزيد عن 1 من كل 10 أن يقوم الذكاء الاصطناعي بالقضاء على جميع البشر على وجه الأرض خلال العقد المقبل. واعتقد البعض أن هذا الرقم مبالغ فيه فقط لجذب الانتباه، لكن كروجر وصف التقدير بأنه "منخفض للغاية".
وقال: "إذا لم نعكس الاتجاه، ففي غضون السنوات الخمس المقبلة، من المرجح أن يُحرم البشر بشكل دائم من الهيمنة بواسطة الذكاء الاصطناعي الخارج عن السيطرة. وبحلول ذلك الوقت، سيكون انقراض الإنسان مجرد مسألة وقت."
ما يعنيه بـ "فقدان الهيمنة" هو الوضع الذي يسيطر فيه الذكاء الاصطناعي فعليًا على المجتمع، تمامًا كما يهيمن البشر الآن على كل الأنواع الأخرى على هذا الكوكب.
"سوف يتحكم الذكاء الاصطناعي في البنية التحتية المادية، بما في ذلك كل خطوة من عملية تطوير المزيد من الذكاء الاصطناعي، وتصنيع الروبوتات، والأنظمة المادية الأخرى."
وأضاف: "تخيل عالمًا حيث تتم إدارة جميع الشركات بواسطة الذكاء الاصطناعي والروبوتات في كل مكان. لا توجد وظائف حقيقية تقريبًا للبشر، فقط مناصب اسمية. حتى السياسيون والجميع يطيعون تعليمات الذكاء الاصطناعي لأن الذكاء الاصطناعي يبدو قادرًا جدًا على الحكم. هذا هو المستقبل الذي نتجه نحوه."
وحذر من أن نافذة العمل قصيرة للغاية. وقال إنه إذا خرج نظام الذكاء الاصطناعي عن السيطرة الآن، فلا يزال بإمكاننا قطع إمدادات الطاقة عنه. ولكن بمجرد أن يخرج الذكاء الاصطناعي عن نطاق السيطرة، فيمكنه تكرار نفسه عبر العديد من أجهزة الكمبيوتر، لدرجة أننا "لا نعرف حتى أي الأجهزة يجب إيقاف تشغيلها".
"لا يمكننا إلا أن نحاول إيقاف تشغيل جميع المعدات، وهذا أمر صعب التنفيذ للغاية." وقال: "لذا فإن الوقت المتبقي لنا لاتخاذ الإجراءات اللازمة لمنع هذا النوع من المخاطر محدود للغاية".
ومع ذلك، قال إن ثقته في قيام الحكومات باتخاذ إجراءات لم تكن أعلى من أي وقت مضى. وقال إن التحذيرات صدرت على مدى السنوات الـ 15 الماضية، وكان الأسبوع الماضي هو المرة الأولى التي يستجيب فيها العالم بشكل واقعي وعقلاني.
"أعتقد أن الناس أصبحوا يدركون أخيرًا مدى خطورة هذه الأزمة. إنها حالة طوارئ."
في يوم الاثنين، تمت مقابلة الوزير الفيدرالي الكندي لشؤون الذكاء الاصطناعي، إيفان سولومون، وسئل عما إذا كان يتفق مع البيان القائل بأن هناك احتمالًا بنسبة 10٪ لتدمير البشر بواسطة الذكاء الاصطناعي.
فأجاب: "هل هناك مخاطر مع الذكاء الاصطناعي؟ بالطبع موجودة. نعم، نحن ندرك هذه المخاطر".
قال سولومون إنه تحدث مع الرئيس التنفيذي لشركة OpenAI سام ألتمان صباح يوم الأحد.
"سيتم تنظيم الذكاء الاصطناعي للحفاظ على سلامة الكنديين." وقال سليمان: "هذه هي مسؤوليتنا الأولى وهمنا الأكبر".
وكشف سولومون أيضًا أنه سيصدر إعلانًا مشتركًا يتعلق بأمن الذكاء الاصطناعي يوم الأربعاء مع جوشوا بنجيو، عالم الكمبيوتر الكندي المعروف باسم "الأب الروحي للذكاء الاصطناعي".
التعليقات