وقد دعا عشرة فائزين بجائزة نوبل ورئيسا دولتين سابقتين جميع البلدان مؤخرًا إلى وضع "خطوط حمراء" لتطوير الذكاء الاصطناعي بحلول نهاية عام 2026 لتعزيز إدارة المخاطر والسيطرة عليها على المستوى الدولي. تم إصدار البيان بشكل مشترك من قبل أكثر من 200 موقع، بما في ذلك كبار الموظفين في OpenAI وGoogle DeepMind وAnthropic.
وشدد البيان على أن قضايا مثل الأوبئة الهندسية ومخاطر البطالة التي قد يسببها الذكاء الاصطناعي قد جذبت اهتماما عالميا واسع النطاق، وحذر العديد من الخبراء من أنه قد يكون من الصعب تنفيذ سيطرة بشرية فعالة على أنظمة الذكاء الاصطناعي في السنوات القليلة المقبلة.
وتتزامن هذه الدعوة مع انعقاد الجمعية العامة للأمم المتحدة ولها أهمية كبيرة في تعزيز الإجماع العالمي. ومع ذلك، وبسبب معارضة الولايات المتحدة، فمن المتوقع أنه سيكون من الصعب تعزيز تدابير حوكمة محددة على المدى القصير. ومن بين الموقعين على الوثيقة هينتون، وبينجيو، و"الخبير الاقتصادي" ستيجليتز، الباحث المعروف في مجال الذكاء الاصطناعي، والرئيس الكولومبي السابق سانتوس، والرئيسة الأيرلندية السابقة ماري روبنسون، ورئيسة الوزراء الإيطالية السابقة ليتا، بالإضافة إلى العديد من وزراء الحكومة السابقين والعلماء والدبلوماسيين. ومن الجدير بالذكر أن الممثل ستيفن فراي مدرج أيضًا في القائمة. كما شارك في التوقيع المؤسس المشارك لشركة OpenAI Wojciech Zaremba، وكبير العلماء في DeepMind Ian Goodfellow وغيرهم من المديرين التنفيذيين لشركات التكنولوجيا، ولكن لم يُشاهد أي مديرين تنفيذيين للشركات الثلاث ينضمون.
وأشار البيان إلى أن بعض أنظمة الذكاء الاصطناعي المتقدمة أظهرت سلوكيات خادعة وضارة، إلا أن هذه الأنظمة تكتسب المزيد من الاستقلالية وقادرة على اتخاذ الإجراءات واتخاذ القرارات في العالم الحقيقي. ولذلك، أصبح إنشاء اتفاقيات دولية واضحة المعالم وقابلة للتحقق بشأن "الخطوط الحمراء" إجراءً ضرورياً لمنع المخاطر غير المقبولة. ويأمل الموقعون أن يتم تنفيذ هذه الخطوط الحمراء بحلول نهاية عام 2026، وأن تكون مصحوبة بآلية للتنفيذ.
ورغم أن البيان لم يذكر على وجه التحديد الخطوط الحمراء لحوكمة الذكاء الاصطناعي، فقد أوصت وثيقة أخرى في العام الماضي بحظر الذكاء الاصطناعي من التكرار بشكل مستقل، والسعي إلى السلطة، وشن الهجمات السيبرانية تلقائيا، و"سلوك أكياس الرمل". ويحظى هذا الاقتراح أيضًا بدعم العديد من العلماء الصينيين، مثل تشانغ يا تشين، الرئيس السابق لشركة بايدو، وهوانغ تي جون، رئيس جمعية بكين للذكاء الاصطناعي.
بالإضافة إلى ذلك، أعلنت الأمم المتحدة مؤخرا أنها ستنشئ لجنة استشارية علمية دولية للذكاء الاصطناعي (على غرار الهيئة الحكومية الدولية المعنية بتغير المناخ، الهيئة الحكومية الدولية المعنية بتغير المناخ) وآلية حوار عالمية حول إدارة الذكاء الاصطناعي، مما يشكل خطوة مهمة نحو الحوكمة العالمية للذكاء الاصطناعي. ومع ذلك، بسبب الموقف السلبي لحكومة الولايات المتحدة، فإن تقدم الإجراءات ذات الصلة لا يزال يواجه مقاومة. ووفقا لـ "خطة العمل الأمريكية للذكاء الاصطناعي" التي أصدرتها إدارة ترامب في يوليو من هذا العام، على الرغم من أن الولايات المتحدة تعرب عن دعمها للتعاون مع الدول ذات التفكير المماثل لتطوير الذكاء الاصطناعي، إلا أنها تعارض بوضوح "الإفراط في التنظيم"، والقواعد السلوكية الغامضة القائمة على أجندات ثقافية، وخطط الحوكمة التي تشارك فيها الشركات الصينية. في وقت سابق من هذا الشهر، قال السيناتور الأمريكي تيد كروز إن إحدى "الركائز" التي يعتمد عليها الكونجرس لسن تنظيم الذكاء الاصطناعي هي "محاربة التنظيم الأجنبي المفرط".
ومع ذلك، يوضح البيان أن القلق العالمي بشأن إمكانات الذكاء الاصطناعي ومخاطره مستمر في النمو. وأشار كوروسي، الرئيس السابق للجمعية العامة للأمم المتحدة، في تصريحاته: "لم تواجه الإنسانية قط ذكاءً أعلى منها في التاريخ، وفي السنوات القليلة المقبلة، ستواجه البشرية مثل هذا التحدي".