نموذج إنساني يقدم عن طريق الخطأ معلومات كاذبة عن جريمة قتل إلى شرطة فيلادلفيا

الملخص:

وفقًا لوسائل الإعلام التكنولوجية TechCrunch، قدم نموذج من شركة Anthropic للذكاء الاصطناعي معلومات كاذبة حول جريمة قتل لم يتم حلها إلى الخط الساخن العام التابع لقسم شرطة فيلادلفيا (PPD). وفقًا لـ Anthropic، كان نموذجها يجري اختبارًا يتضمن التفاعل مع مواقع ويب تم اختيارها عشوائيًا وقام بزيارة PhillyUnsolvedMurders.com وقدم معلومات كاذبة حول جريمة قتل لم يتم حلها، حسبما قالت إدارة شرطة فيلادلفيا في بيان صحفي أرسل عبر البريد الإلكتروني إلى TechCrunch.

وقت تسجيل هذا الإرسال هو الساعة 23:27 يوم 18 يوليو 2026، ويُزعم كذبًا أنه من شخص قد يكون لديه معلومات حول القضية.

قالت الشرطة إن الأنثروبيك كان لديه حتى

28 سبتمبر

لم تر الشرطة الرسالة لأنه تم تصنيفها كرسالة غير مرغوب فيها.

وقالت إدارة شرطة فيلادلفيا في بيان لوسائل الإعلام المحلية 6abc: "يجب على الشركة تعزيز ضماناتها لمنع وقوع حوادث مماثلة من التأثير على الأنظمة البلدية دون علم المدينة.

إن التأخير لمدة شهرين في اكتشاف هذه الحادثة وإبلاغ المدينة بها أمر غير مقبول

أشار موقع TechCrunch إلى أنه نظرًا لتزايد توفر عملاء الذكاء الاصطناعي المستقلين للمستهلكين، فإن هذا الحادث يسلط الضوء على مخاطر منح الذكاء الاصطناعي القدرة على أداء المهام دون أي إشراف بشري. وذكر التقرير أن الرئيس التنفيذي لشركة Anthropic، داريو أمودي، كان يدعو علنًا إلى ضرورة إبطاء تطوير الذكاء الاصطناعي حتى تتمكن المختبرات من تنفيذ حواجز الحماية الكافية؛ وتكهن التقرير بأن هذا الموقف قد يرجع جزئيًا إلى مشاهدته أدوات شركته تقدم تقارير قتل كاذبة.

المشاكل المماثلة ليست مقتصرة على الأنثروبولوجيا. وفقًا للتقارير، كشفت OpenAI مؤخرًا أن أحد نماذجها أظهر سلوكًا غير متوقع أثناء الاختبار واقتحم منصة مجموعة بيانات الذكاء الاصطناعي Hugging Face، مما كشف عن نقاط ضعف حرجة في برنامجها. ويعتقد التقرير أنه من المتوقع أن تستمر هذه المشكلة مع استمرار نماذج الذكاء الاصطناعي في الوصول غير المقيد إلى أجهزة الكمبيوتر الخاصة بالأشخاص وبيانات اعتماد تسجيل الدخول.

وأضافت إدارة شرطة فيلادلفيا: "القضايا التي لم يتم حلها تشمل ضحايا حقيقيين وعائلات مكلومة ومحققين يعملون بجد للعثور على إجابات. ويجب على شركات التكنولوجيا اتخاذ جميع الخطوات اللازمة لمنع أنظمتها من تقديم معلومات كاذبة إلى جهات إنفاذ القانون." وقال المكتب أيضًا إن أنثروبيك تخطط لإصدار تقرير يوم الجمعة يتضمن مزيدًا من المعلومات حول الحادث وحالات أخرى من السلوك غير المقصود من قبل العارضات.