الملخص:
مؤخرًا، اقترح خبراء في مجالات الأمن القومي، وسياسة العلوم والتكنولوجيا، والذكاء الاصطناعي من الولايات المتحدة والصين، اقتراحًا مثيرًا للاهتمام، يدعو إلى الاعتماد على تجربة إدارة الأمن النووي في الحرب الباردة لإنشاء آلية أمنية مماثلة لتلك الموجودة في مجال الأسلحة النووية لأنظمة الذكاء الاصطناعي المتقدمة التي قد تظهر في المستقبل، من أجل الحد من المخاطر الناجمة عن فقدان السيطرة التكنولوجية، وسوء التقدير، وتصاعد المنافسة الدولية.
يظهر هذا الاقتراح في نتيجة بحث تم تشكيلها بعد مناقشات بين خبراء من كلا البلدين. ويرى التقرير أنه مع استمرار قدرات الذكاء الاصطناعي في التحسن بسرعة، بدأت الدول تواجه بعض المشاكل المشابهة لتلك التي كانت موجودة في العصر النووي المبكر، أي أن التكنولوجيا ذات التأثير المحتمل الهائل تتطور بسرعة، لكن القواعد الدولية المقابلة وقنوات الاتصال وأنظمة التحكم في المخاطر لم يتم تأسيسها بالكامل بعد.
وأشار الخبراء المشاركون في الدراسة إلى أنه في المستقبل، قد تلعب أنظمة الذكاء الاصطناعي الأكثر قوة دورًا متزايد الأهمية في مجالات مثل أمن الشبكات، والقيادة العسكرية، وتحليل الاستخبارات، وأبحاث التكنولوجيا الحيوية، وإدارة البنية التحتية الحيوية. وبمجرد أن تتصرف هذه الأنظمة بشكل غير متوقع، أو يتم استغلالها بشكل ضار، أو يتم نشرها بشكل غير صحيح، فقد يمتد تأثيرها إلى الحدود الوطنية ويكون لها تأثير على البيئة الأمنية العالمية.
ولتحقيق هذه الغاية، يوصي التقرير بأن ترجع الصين والولايات المتحدة إلى خبرتهما التاريخية في التعامل مع المخاطر النووية وأن تعملا بشكل تدريجي على إنشاء آلية أمنية متعددة المستويات. ويشمل ذلك تعزيز تبادل المعلومات، وإنشاء قنوات اتصال للأزمات، والتعاون في تقييمات مخاطر التكنولوجيا، واستكشاف أنظمة اختبار الشفافية والأمن لأنظمة الذكاء الاصطناعي الحديثة.
يعتقد الخبراء أنه على الرغم من أن الذكاء الاصطناعي والأسلحة النووية ليسا نفس الشيء، إلا أن كلاهما لهما أهمية استراتيجية عالية وينطويان على المنافسة الدولية وقضايا الأمن العالمي. لذلك، غالبًا ما يكون إنشاء إطار وقائي مقدمًا عندما تكون التكنولوجيا في مرحلة التطوير السريع أكثر فاعلية بدلاً من الانتظار حتى يتم الكشف عن المخاطر بالكامل قبل اتخاذ الإجراء.
ويؤكد التقرير أيضًا بشكل خاص أن الخطر الأكبر في المستقبل قد لا يأتي من الذكاء الاصطناعي نفسه، بل قد يأتي من سوء التقدير الناجم عن انعدام الثقة بين الدول. على سبيل المثال، عندما لا يتمكن أحد الأطراف من التحديد الدقيق للقدرات التي يطورها الطرف الآخر وإلى أي مستوى، فمن المرجح أن يبالغ في رد فعله، أو يسيء الفهم، أو حتى يصعد المنافسة.
ولذا اقترح بعض الخبراء ضرورة استكشاف قنوات الاتصال المشابهة لـ "آلية الخط الساخن" أثناء الحرب الباردة لتمكين البلدان من الحفاظ على اتصال فوري عند وقوع أحداث كبرى تنطوي على الذكاء الاصطناعي وتجنب الأزمات الأمنية غير الضرورية الناجمة عن عدم تناسق المعلومات.
وفي الوقت نفسه، يعتقد الباحثون أنه ينبغي إنشاء آلية مراجعة أمنية أكثر صرامة لتدريب ونشر نماذج الذكاء الاصطناعي الأكثر تقدمًا. في المستقبل، قد تحتاج بعض الأنظمة ذات القدرات العالية للغاية إلى الخضوع لاختبار مستقل وإشراف مستمر، وإنشاء نظام للإبلاغ عن السلوك غير الطبيعي لاكتشاف المخاطر المحتملة في أقرب وقت ممكن.
يشير التقرير إلى أن نظام إدارة الذكاء الاصطناعي العالمي الحالي لا يزال في مراحله الأولى. وعلى الرغم من أن البلدان قد أدخلت سياسات تنظيمية ومعايير صناعية مختلفة، إلا أنه لا تزال هناك فجوات واضحة على مستوى التعاون عبر الحدود. إن سرعة تطور تكنولوجيا الذكاء الاصطناعي تتسارع، مما يعني أن نافذة التعاون الدولي قد لا تكون موجودة لفترة طويلة.
يعتقد الخبراء المشاركون في المناقشة بشكل عام أن الصين والولايات المتحدة، باعتبارهما أهم لاعبين في مجال الذكاء الاصطناعي العالمي، لديهما مسؤوليات خاصة في إدارة المخاطر. إذا تمكن الطرفان من التوصل إلى مزيد من الإجماع بشأن المعايير الأمنية وتقييم المخاطر والتواصل أثناء الأزمات، فسيساعد ذلك في تقليل احتمالية وقوع حوادث أمنية فنية كبرى في المستقبل.
ومع ذلك، يعترف الخبراء أيضًا بأن تعزيز مثل هذا التعاون ليس بالأمر السهل في البيئة الدولية الحالية. وسوف تؤثر المنافسة التكنولوجية واعتبارات الأمن القومي والمصالح الصناعية على عملية المناقشة ذات الصلة. ولذلك، فإنهم يفضلون البدء في مجالات عملية نسبيا مثل إدارة المخاطر والحماية الأمنية، بدلا من البحث عن اتفاقيات تنظيمية شاملة من البداية.
أشار المحللون إلى أن هذا التقرير يعكس النقاش المتغير حول إدارة الذكاء الاصطناعي. في الماضي، كان تركيز جميع الأطراف منصبًا بشكل أكبر على الخصوصية وحقوق النشر وتأثيرات التوظيف، ولكن الآن بدأ المزيد والمزيد من الخبراء في تحويل اهتمامهم إلى قضايا الأمن طويل المدى والاستقرار الاستراتيجي العالمي.
مع استمرار تحسن قدرات الذكاء الاصطناعي، أصبحت كيفية إنشاء آلية أمنية فعالة مع الحفاظ على حيوية الابتكار موضوعًا جديدًا يواجهه مجتمع العلوم والتكنولوجيا العالمي ودوائر السياسة. قد يصبح الاعتماد على تجربة إدارة المخاطر المتراكمة في العصر النووي اتجاهًا مرجعيًا مهمًا لإطار حوكمة الذكاء الاصطناعي المستقبلي.
التعليقات