الملخص:
أصدر البابا ليو الرابع عشر مؤخرًا تحذيرًا آخر بشأن تطبيق الذكاء الاصطناعي في المجال العسكري، داعيًا الحكومات إلى اتخاذ إجراءات محددة لحظر أنظمة الأسلحة التي يمكنها تحديد أهداف الهجوم بشكل مستقل وتنفيذ ضربات قاتلة. وشدد على أن القرارات الرئيسية المتعلقة بحياة الإنسان والحرية واستخدام القوة يجب أن تكون دائمًا تحت إشراف بشري فعال ومستنير ومسؤول، ولا يمكن تركها للذكاء الاصطناعي ليتخذها بشكل مستقل.
في 30 أكتوبر بالتوقيت المحلي، التقى البابا ليو الرابع عشر في الفاتيكان بالعلماء والخبراء الفنيين وممثلي المؤسسات ذات الصلة الذين شاركوا في مؤتمر خاص حول الذكاء الاصطناعي. وشارك في تنظيم المؤتمر، الذي يحمل عنوان "مستقبل الذكاء الاصطناعي: حوار بين الفاتيكان والمجتمع العلمي حول تطوير وتطبيق التقنيات الذكية"، الأكاديمية البابوية لعلوم الحياة في الفاتيكان ومعهد مستقبل الحياة، وركز المؤتمر على القضايا التقنية والأخلاقية والاجتماعية الناجمة عن تطور الذكاء الاصطناعي.
في خطابه، استذكر البابا الخطاب الذي ألقاه سلفه البابا فرانسيس أمام زعماء مجموعة السبع في عام 2024. في ذلك الوقت، وصف فرانسيس الذكاء الاصطناعي بأنه أداة مثيرة ومثيرة للقلق في نفس الوقت، وأوضح أنه لا ينبغي إعطاء أي آلة القدرة على اتخاذ القرار بشأن قتل حياة الإنسان. يعتقد ليو الرابع عشر أن هذا التحذير لا يزال صالحًا حتى يومنا هذا.
أشار ليو الرابع عشر إلى أن مستقبل الذكاء الاصطناعي ليس محددًا مسبقًا. وباعتبارها تقنية طورها البشر، فإن اتجاه تطورها يعتمد في النهاية على اختيارات البشر الخاصة. لذلك، لا يتحمل البشر مسؤولية توجيه تطوير الذكاء الاصطناعي فحسب، بل يجب عليهم أيضًا تغيير أو حتى رفض بعض التطبيقات عند الضرورة. السؤال الحقيقي الذي يجب مناقشته ليس فقط ما يمكن أن يفعله الذكاء الاصطناعي، ولكن الأهم من ذلك، ما هو الغرض الذي يريد البشر أن يخدمه.
وشدد بشكل خاص على أن الذكاء الاصطناعي يجب أن يقبل القيود الأخلاقية الفعالة، وخاصة عدم السماح للأنظمة الخوارزمية بتحديد من يجب استهدافه أو من يجب أن يخضع لمراقبة الحدود دون إشراف بشري كبير. إن وضع شخص ما على قائمة الأهداف العسكرية أو قاعدة بيانات مراقبة الحدود قد يؤدي إلى اختزاله في مجموعة من البيانات، في حين يتم تجاهل الحياة الحقيقية والحقوق الفردية المعنية.
لذلك، دعا البابا الدول إلى إجراء ما يسمى بـ "نزع سلاح" الذكاء الاصطناعي، وحث على وجه التحديد الدول التي على وشك عقد مؤتمر ذي صلة في جنيف بسويسرا في نوفمبر على اتخاذ تدابير ملموسة لتعزيز الحظر المفروض على الأسلحة الفتاكة المستقلة.
يشير ما يسمى بالأسلحة المستقلة الفتاكة إلى أنظمة الأسلحة التي يمكنها تحديد الأهداف واختيارها ومهاجمتها دون تدخل بشري مباشر. ومع تطور الذكاء الاصطناعي والرؤية الحاسوبية والطائرات بدون طيار والأنظمة العسكرية الآلية، أصبح هذا النوع من التكنولوجيا قضية مهمة في نقاش المجتمع الدولي حول الأخلاقيات العسكرية وقواعد الحرب. ويتمثل الجدل الأساسي في أنه بمجرد اكتساب الآلات القدرة على تحديد أهداف الهجوم بشكل مستقل، فإن إسناد المسؤولية، وعواقب سوء التقدير، والسيطرة البشرية على الحرب، قد يواجه جميعها تحديات جديدة.
بالإضافة إلى الاستخدامات العسكرية، أعرب ليو الرابع عشر أيضًا عن اعتراضات واضحة على ما إذا كان ينبغي للذكاء الاصطناعي أن يحصل على شخصية قانونية. وأشار إلى أن الآلات مجرد أدوات وليست أشخاصا. لا يمتلك الذكاء الاصطناعي أجسادًا وعواطف وتجارب حياتية وعلاقات شخصية حقيقية، ولا يمكنه فهم الحب والصداقة والعمل والمسؤولية من خلال تجربته الخاصة.
ويعتقد أنه إذا تم منح نظام الذكاء الاصطناعي شخصية اعتبارية أو حقوق مستقلة، فقد يؤدي ذلك إلى حجب الشخص المسؤول الحقيقي. عندما يسبب الذكاء الاصطناعي الضرر، قد يضطر الضحايا إلى التعامل مع نظام تقني لا يمكنه تحمل المسؤولية الأخلاقية، وبالتالي قد تصبح مسؤوليات المطورين والمشغلين والمستخدمين الفعليين أكثر وضوحا.
وأكد البابا أيضًا على أن تطوير الذكاء الاصطناعي يجب أن يخدم المصالح المشتركة للمجتمع بأكمله ولا يمكن أن يصبح مجرد أداة لعدد قليل من الشركات ومجموعات المصالح للحصول على السلطة والثروة. إن الرعاية الطبية والمعرفة والأدوات وفرص التطوير التي يوفرها التقدم التكنولوجي ينبغي أن تعود بالنفع على مختلف البلدان والفئات الاجتماعية بشكل أكثر إنصافا، وخاصة أولئك الذين هم في أمس الحاجة إليها.
من وجهة نظره، لا يوجد حاليًا نقص في المناقشات المبدئية حول أخلاقيات الذكاء الاصطناعي في العالم. والقضية الملحة الحقيقية تتلخص في إنشاء نظام قادر على تحويل هذه المبادئ إلى قيود عملية. ويتعين على المجتمع الدولي صياغة معايير مشتركة، وإنشاء آلية إشراف مستقلة، وتوضيح نظام المساءلة في تطوير واستخدام الذكاء الاصطناعي، حتى يمكن مراجعة القرارات ذات الصلة وتوفير سبل الانتصاف الفعالة عند وقوع الضرر.
يواصل هذا الخطاب الموقف الأساسي لرسالة ليو الرابع عشر العامة الأولى "Magnifica Humanitas" ("الإنسانية العظيمة") التي صدرت في مايو من هذا العام. وتدرج الوثيقة الذكاء الاصطناعي كأحد المواضيع الرئيسية، وتدعو الدول إلى تعزيز الإشراف القانوني لمنع التطور التكنولوجي من الإضرار بالكرامة الإنسانية، وتحذر من أن تطبيق الذكاء الاصطناعي في الحرب، وسوق العمل، وصنع القرار العام قد يكون له تأثيرات بعيدة المدى.
كما أن تركيز ليو الرابع عشر الإضافي على قضية الأسلحة الفتاكة المستقلة أدى أيضًا إلى جعل موقف الفاتيكان مرتبطًا بشكل أكثر مباشرة بالمناقشات الجارية في المجتمع الدولي حول إدارة الذكاء الاصطناعي العسكري. وستعقد الاجتماعات ذات الصلة في إطار اتفاقية الأمم المتحدة بشأن أسلحة تقليدية معينة في جنيف في الفترة من 16 إلى 20 نوفمبر. وسيكون الإشراف الدولي على الأسلحة الفتاكة الذاتية التشغيل أحد المواضيع التي سيتم مناقشتها.
لم يدعو البابا إلى الوقف الكامل لأبحاث الذكاء الاصطناعي، لكنه دعا إلى وضع حدود واضحة للتطبيقات التي قد تسبب ضررا شخصيا لا رجعة فيه. ويأمل أن تتمكن الدول من إنشاء أنظمة تنظيمية فعالة من خلال التعاون الدولي لضمان أن تكون التكنولوجيا دائما تحت مسؤولية وسيطرة الإنسان، بدلا من السماح لسرعة تطور الذكاء الاصطناعي بتجاوز قدرة المجتمع البشري على إدارة المخاطر.
التعليقات