هل يحتاج الذكاء الاصطناعي إلى مفتاح إيقاف الطوارئ؟ يقدم براد سميث من مايكروسوفت إجابة محددة

الملخص:

"السؤال الحقيقي هو: إذا كنت تعتقد أنه يجب عليك إبطاء السرعة، فلا تجري بسرعة عالية، ولا تنتظر حتى تجبرك قوى خارجية على التوقف." هذا ما قاله نائب رئيس مجلس إدارة مايكروسوفت ورئيسها براد سميث لآلان موراي خلال الجمعية العامة للأمم المتحدة. وكان الموضوع الذي ناقشه هو: هل ينبغي لمصنعي النماذج الكبيرة المتطورة أن يضغطوا على دواسة التباطؤ للتأكد من أن التكنولوجيا التي يطورونها لن تجلب كارثة للبشرية.

في نفس اليوم الذي أدلى فيه بهذه التصريحات، تحدث الرئيس التنفيذي لشركة Anthropic، داريو أمودي، والرئيس التنفيذي لشركة OpenAI، سام ألتمان، في الأمم المتحدة، داعين الدول إلى إنشاء آليات لحماية سلامة الذكاء الاصطناعي لمنع تطوير الذكاء الاصطناعي خارج قدرات السيطرة البشرية.

قال سميث، الذي يتمتع بسنوات عديدة من الخبرة في هذا المجال: "إذا كنت، بصفتك المدير التنفيذي لشركة ما، ترى أن منتجك ينطوي على مخاطر تتعلق بالسلامة، فهل يجب عليك الاستمرار في تسويقه؟ أعتقد أن الإجابة واضحة - لا. تتحمل الشركات مسؤولية السلامة العامة."

ومع ذلك، أضاف: "إن تطبيق بعض التدابير التنظيمية سيكون أمراً لا مفر منه في نهاية المطاف". تاريخيًا، اعتمدت العديد من المنتجات على التنظيم لتحقيق التنفيذ الآمن. على سبيل المثال، كانت هناك مشاكل تتعلق بتلوث الحليب، "لذلك أنشأنا إدارة للتفتيش الزراعي وأدخلنا القوانين ذات الصلة. والآن عندما تذهب إلى السوبر ماركت، تجد جميع أنواع الحليب آمنة وصالحة للشرب".

عندما اقترح سميث أنه يجب أن تكون هناك القدرة على "إبطاء أو إيقاف تشغيل نظام الذكاء الاصطناعي مباشرة"، أكد المضيف ألين أنه كان يتحدث عن مفتاح إيقاف الطوارئ للذكاء الاصطناعي (مفتاح الإيقاف)، ثم سأل: "هل تعتقد أن هذه فكرة جيدة؟"

أجاب سميث: "بالطبع... يجب أن يتمتع مطور النموذج بسلطة إغلاقه؛ ​​ويجب أن يتمتع مقدمو البنية التحتية السحابية مثل Microsoft بهذه السلطة؛ ويجب أن تتمتع الوكالة المسؤولة عن التحكم في وكيل الذكاء الاصطناعي أيضًا بالقدرة على إغلاقه. وحتى لو تم تفويض هذه الآلية من خلال التشريع، فلن يكون ذلك أمرًا سيئًا."

سأله آلان عن كيفية تعامل مديري الأعمال مع مشكلات أمان الذكاء الاصطناعي داخل شركاتهم. "وجهتي هي، لا تتوقف عن استخدام الذكاء الاصطناعي. الذكاء الاصطناعي هو ابتكار أساسي وأداة مهمة لتحسين الإنتاجية. ولكن من المهم أن نتذكر أن التكنولوجيا تتطلب الإدارة. ... إن إدارة هذه التكنولوجيا لا تقل أهمية عن التكنولوجيا نفسها."

وذكّر أيضًا: "أنا لا أستيقظ كل يوم وأشعر أن هناك احتمالًا بنسبة 10٪ لانقراض الإنسان. لكنني أفضل أن نقلق كثيرًا بدلاً من أن نفعل القليل جدًا. ففي نهاية المطاف، ما نناقشه هو حول بقاء الإنسان. وفي سبيل الله، هذا الأمر أكثر أهمية من أحدث التقنيات، ويجب أن نأخذه على محمل الجد."