وقعت مؤخرًا حادثة شنيعة في مقاطعة بالتيمور بولاية ماريلاند بالولايات المتحدة الأمريكية:أخطأ نظام محلي لكشف الأسلحة يعمل بالذكاء الاصطناعي في التعرف على كيس رقائق الذرة دوريتوس الخاص بطالب يبلغ من العمر 16 عامًا باعتباره سلاحًا ناريًا، مما تسبب في إرسال الشرطة المسلحة.
وقع الحادث في 20 أكتوبر. كان تاكي ألين، وهو طالب في مدرسة كينوود الثانوية، قد انتهى لتوه من تدريب كرة القدم وكان يقيم خارج المدرسة مع الأصدقاء. وفجأة، أسرعت عدة سيارات شرطة ووجهت الشرطة أسلحتها نحوها.
يتذكر ألين: "كانت هناك حوالي ثماني سيارات شرطة تتجه نحونا. لقد جاءوا نحوي بأسلحتهم وصرخوا: "انزل على الأرض"، وفكرت: "ما الذي يحدث؟"" ووصف الخوف في ذلك الوقت:"لقد أجبروني على الركوع، ويداي مقيدتان خلف ظهري ومقيدتان. ثم قاموا بتفتيشي ولم يعثروا على شيء".
وتم إخضاع ألين من قبل الشرطة تحت تهديد السلاح، وأظهرت له الشرطة لاحقًا الصورة التي اعترضها الذكاء الاصطناعي والتي أثارت الإنذار. في الصورة، ظن النظام أن حقيبة دوريتوس المجعدة الموجودة في جيبه هي مسدس.
"كنت أفكر بشكل رئيسي: هل سأموت؟ هل سيقتلونني؟" وقال ألين بخوف مستمر: "لقد أظهروا لي الصورة وقالوا إنها تبدو وكأنها مسدس".
نظام الذكاء الاصطناعي الذي تسبب في الحادث يأتي من Omnilert، وهي تقنية قدمتها المدارس العامة في مقاطعة بالتيمور العام الماضي والتي تقوم بمسح لقطات المراقبة الموجودة في الوقت الفعلي وتنبيه سلطات إنفاذ القانون على الفور عندما تكتشف شيئًا تعتقد أنه سلاح.
كان ألين يحمل كيسًا من رقائق الذرة، وبدا أن يديه المكشوفتين وإصبع واحد كان يحمل مسدسًا. اعترف Omnilert بأنه كان إنذارًا كاذبًا، لكنه جادل بأن النظام "يعمل على النحو المنشود" وقد تم تصميمه "لإعطاء الأولوية للسلامة من خلال التحقق اليدوي السريع".
