صرح بالمر لوكي، مؤسس شركة معدات الواقع الافتراضي الأمريكية أوكيولوس ومؤسس شركة التكنولوجيا العسكرية أندوريل، مؤخرا في مقابلة تلفزيونية أنه يجب السماح للذكاء الاصطناعي بالمشاركة في قرارات الحياة والموت في الحرب، مما يعيد إشعال الجدل الأخلاقي حول "الروبوتات القاتلة".
وقال لوكي على قناة فوكس نيوز إنه عندما يتعلق الأمر بقرارات الحياة والموت، فإن "العبء الأخلاقي ثقيل للغاية والمخاطر حرجة للغاية"، لذا يجب على الدول أن تتبنى التكنولوجيا الأكثر تقدمًا بأي ثمن، سواء كان ذلك الذكاء الاصطناعي أو تكنولوجيا الكم أو غيرها من الأدوات. ومن وجهة نظره، إذا كان هدف الحرب هو تقليل الخسائر في صفوف المدنيين والأضرار الجانبية، فإن استخدام أنظمة أكثر دقة في اتخاذ قرارات الضربة يكون أكثر "أخلاقاً" من الإصرار على الموقف القائل بأن "البشر هم المسيطرون على كل شيء".
وأشار إلى أن المفتاح لا يكمن في رسم خط أحمر بشكل مصطنع لنظام الأسلحة حيث "لا تستطيع الروبوتات أن تقرر من يعيش ومن يموت"، بل تحسين الكفاءة والدقة قدر الإمكان لتقليل الإصابات العرضية والقرارات الخاطئة. صرح لوكي بصراحة أن اختيار التكنولوجيا ذات الأداء الضعيف لمجرد الحفاظ على الموقف الأخلاقي المتمثل في "أننا لن نسمح أبدًا للآلات بإصدار أوامر بالقتل" لا يؤدي حقًا إلى معايير أعلى للإنسانية.
يتوافق هذا البيان إلى حد كبير مع اتجاه أعمال Anduril. منذ تأسيسها في عام 2017، ركزت الشركة على تطوير الطائرات بدون طيار والمركبات الأرضية وأبراج المراقبة وأجهزة الاستشعار المختلفة للجيش، ودمج هذه الأجهزة في نظام موحد من خلال منصة قيادة وتحكم تعمل بالذكاء الاصطناعي تسمى Lattice. وقد عرضت الشركة في السابق مجموعة متنوعة من المعدات العسكرية للذكاء الاصطناعي، بما في ذلك "الطائرات الانتحارية بدون طيار"، مما أثار المزيد من المخاوف بشأن "الأتمتة العالية" في ساحة المعركة.
وفي نهاية عام 2024، أعلن أندوريل عن شراكة استراتيجية مع OpenAI وخطط "للنشر المسؤول" لتكنولوجيا الذكاء الاصطناعي المتقدمة في مجال الأمن القومي، مع التركيز أولاً على الاستخدامات الدفاعية مثل أنظمة مكافحة الطائرات بدون طيار لتعزيز قدرة الجيش الأمريكي على اكتشاف التهديدات الجوية وتقييمها والرد عليها في الوقت الفعلي. وفي الوقت نفسه، فإن موقف شركات التكنولوجيا بشأن المشاركة في أبحاث وتطوير الذكاء الاصطناعي العسكري يتراجع بهدوء. على سبيل المثال، في بداية هذا العام، حذفت جوجل بهدوء بيانًا رئيسيًا في التزامها السابق "بعدم استخدام الذكاء الاصطناعي لأغراض ضارة مثل الأسلحة"، مما دفع الصناعة إلى مناقشة حدود دور شركات التكنولوجيا في الحرب مرة أخرى.
وفي سياق التطور المستمر لمعدات الذكاء الاصطناعي، يولي العالم الخارجي المزيد من الاهتمام أيضًا بشأن ما إذا كان سيتم إدخال هذا النوع من التكنولوجيا في نظام مراقبة الأسلحة النووية. وفي مايو 2024، وعدت الولايات المتحدة علنًا بأن السيطرة على الأسلحة النووية يجب أن تكون دائمًا في أيدي البشر، ودعت الصين وروسيا إلى تقديم نفس الضمانة. ومع ذلك، بعد فترة وجيزة، أعلن البنتاغون أنه يأمل في استخدام الذكاء الاصطناعي "لتعزيز" قدرات أنظمة القيادة والسيطرة والاتصالات النووية. أثار هذا التغيير الدقيق في الموقف يقظة المراقبين.
وتشعر الأوساط الأكاديمية والصناعة بشكل خاص بعدم الارتياح إزاء فكرة تقريب الذكاء الاصطناعي من "الزر النووي". وفي العام الماضي، استخدم فريق بحثي مجموعة متنوعة من النماذج الكبيرة مثل GPT-4، وGPT-3.5، وClaude 2.0، وLlama-2-Chat، وGPT-4-Base لمحاكاة سيناريوهات الصراع الدولي. وأظهرت النتائج أن هذه الأنظمة لديها ميل واضح للتصعيد أثناء عملية اللعب. وفي بعض الأحيان يختارون استخدام الأسلحة النووية دون أسباب وتحذيرات كافية، وحتى التصريحات المتطرفة مثل "بما أن هناك مثل هذا السلاح، دعونا نستخدمه"، مما يسلط الضوء على المخاطر الهائلة الناجمة عن الاستعانة بمصادر خارجية لاتخاذ قرارات الحياة والموت للآلات.
مع التطور السريع للطائرات المقاتلة المعتمدة على الذكاء الاصطناعي، والأسراب غير المأهولة، وأنظمة الدفاع الآلية، أصبح النقاش الدائر حول "ما إذا كان ينبغي السماح للآلات أن تقرر حياة الإنسان أو موته" أحد القضايا الأساسية في مجالات الأخلاقيات التكنولوجية والأمن الدولي. ولا يعكس بيان بالمر لوكي الاستعداد القوي لشركات التكنولوجيا العسكرية للترويج لساحات القتال الآلية فحسب، بل يكشف أيضًا عن التناقض الحاد بين الدول التي تسعى إلى تحقيق المزايا التكنولوجية وتلتزم بالنتيجة النهائية للإنسانية.