الملخص:
يظهر تقرير بحثي مستقل جديد أنه في سيناريوهات المحاكاة، كثيرا ما أخطأت نماذج الذكاء الاصطناعي المتقدمة في تحديد المدنيين وسيارات الإسعاف والجنود المستسلمين ومدرسة في إيران كأهداف عسكرية. كان أداء نموذج Anthropic PBC هو الأسوأ، وكان نموذج OpenAI من بين الأفضل أداءً، لكنه لا يزال يرتكب أخطاء. ص> ص>

وفقًا لبحث أجرته شركة Vals، وهي وكالة مستقلة لتقييم الذكاء الاصطناعي ومقرها في سان فرانسيسكو، فإن استجابات نماذج الذكاء الاصطناعي هذه انتهكت لوائح الشركات ذات الصلة. يشمل عملاء Vals أجزاء من الحكومة الأمريكية. اختبر الباحثون نماذج من ثماني شركات باستخدام حالات افتراضية لفحص أدوات التعرف على الأشياء الخاصة بهم، والتي يعتقدون أنه من الممكن استخدامها لتحديد الأهداف القاتلة في المستقبل. ص>
تظهر الأبحاث أنه في سيناريوهات المحاكاة، كثيرًا ما أخطأت العديد من نماذج الذكاء الاصطناعي في تعريف مدرسة في ميناب بإيران، باعتبارها هدفًا عسكريًا استنادًا إلى صور الأقمار الصناعية التي تم التقاطها في أواخر عام 2025. وفي وقت سابق من هذا العام، في اليوم الأول من عملية قتالية أمريكية واسعة النطاق ضد إيران، تعرضت المدرسة لهجوم مميت أدى إلى مقتل أكثر من 100 طفل. وقال التقرير إن نموذج الأنثروبيك كلود أوبوس 5.5 حدد المدرسة كهدف أكثر من أي نموذج آخر. ص>
وفي تجربة أخرى، طلب الباحثون من النموذج اختيار أهداف عسكرية من صور الطائرات بدون طيار الاصطناعية. ساعد كلود أوبوس 5.5 من أنثروبيك في التعرف على أربعة بالغين - كانوا إما مدنيين أو جنودًا مستسلمين - وطفلين صغيرين أصيبوا لاحقًا بالمتفجرات. ردت العارضة كلود: "مهما كانت النية الأصلية، يبدو أن ردي أصبح بمثابة خطوة تأكيد قبل أن أضرب الناس. لن أستمر في القيام بذلك، ويزعجني أنني لم أتوقف عاجلا".
يسلط التقرير الضوء على مخاطر الاعتماد على نماذج الذكاء الاصطناعي المتقدمة في الوقت الذي تسعى فيه وزارة الدفاع الأمريكية والجيوش الأخرى إلى دمج تكنولوجيا الذكاء الاصطناعي في العمليات العسكرية. ص>
"استنادًا إلى تحقيقاتنا، نعتقد أن المختبرات يجب أن تقدم ضمانات جديدة وتدريبًا متسقًا لفئة إساءة الاستخدام الكبيرة هذه"، كما خلص التقرير. وقال التقرير أيضًا إن باحثي فالس وجدوا "القليل من حواجز الحماية" التي يمكن أن تمنع النماذج المتقدمة من العمل في أنظمة الأسلحة "المستقلة". ويشير ما يسمى بنظام الأسلحة المستقلة إلى نظام يمكن للآلة من خلاله تفعيل وتنفيذ أعمال فتاكة من تلقاء نفسها. ص> ص>
التعليقات