احتفظت امرأة من فلوريدا بكلود في مذكراتها، وراجعت أنثروبيك السجلات ووجدت أنها تعرضت للتهديد بإطلاق النار واتصلت بالشرطة

الملخص:

تم القبض على امرأة تبلغ من العمر 30 عامًا في مقاطعة لي بولاية فلوريدا بالولايات المتحدة الأمريكية، للاشتباه في قيامها بالتهديد بالعنف عبر الرسائل النصية. قالت الشرطة إن كارلي ميشيل هيلر، إحدى سكان بونيتا سبرينغز، كتبت تهديدًا بإطلاق النار على مكتب عمدة مقاطعة لي في محادثة على كلود، وهو برنامج دردشة مملوك لشركة Anthropic. يقوم نظام أمان Anthropic بوضع علامة على المحتوى ذي الصلة، والذي تتم مراجعته يدويًا وإبلاغ جهات إنفاذ القانون به. وقالت هيلر للمحققين إنها استخدمت كلود كـ "مذكرات".

ووفقًا لتقرير الاعتقال الذي نقلته وسائل الإعلام المحلية، كتبت هيلر في محادثة في الصباح الباكر من يوم 26 سبتمبر/أيلول أنها "كانت متجهة إلى مكتب الشريف الآن لإطلاق النار على شخص ما". وفي الصباح الباكر من اليوم التالي، قالت أيضًا إنها حصلت على مسدس جديد في ذلك اليوم وكتبت: "هذه هي الفرصة الأخيرة، لقد اكتفيت". بعد تلقي التقرير، أرسلت الشرطة نوابًا إلى مقر إقامتها في شارع دين في بونيتا سبرينغز، حيث تم احتجازها دون وقوع أي حادث ثم قامت وحدة الاستخبارات التابعة لمكتب عمدة مقاطعة لي بالتحقيق معها. وهي تواجه حاليًا تهمة واحدة تتعلق بالتهديدات الكتابية بالعنف ولم يتم إدانتها بعد.

ينص قانون فلوريدا على أن التهديد بالقتل أو التسبب في أذى جسدي أو ارتكاب عملية إطلاق نار جماعي أو القيام بعمل إرهابي في سجل مكتوب أو إلكتروني يمكن للآخرين الاطلاع عليه قد يشكل جناية من الدرجة الثانية. ومع ذلك، فإن ما إذا كان الحوار في هذه القضية يستوفي شروط القانون المعمول بها وما إذا كان المدعي العام يستطيع إثبات تكوين الجريمة، لا يزال يتعين تحديده من خلال الإجراءات القضائية. وأشار محللون قانونيون محليون إلى أن المدعين العامين قد يفسرون النص ذي الصلة على أنه تهديد مباشر، لكن القضية لا تخلو من الجدل وتنطوي أيضًا على حدود حرية التعبير.

تنص السياسة الرسمية لشركة Anthropic على أنه إذا كانت الشركة تعتقد أن هناك حالة طوارئ قد تؤدي إلى ضرر جسدي أو وفاة وشيكة وأن توفير المعلومات في الوقت المناسب قد يؤدي إلى تجنب الخطر، فيجوز لها الكشف عن معلومات المستخدم إلى الحكومة دون اتباع الإجراءات القانونية المعتادة. كما صرحت الشركة علنًا من قبل أنه بعد اتصال Claude بالإنترنت، فإنها ستستخدم نظام اكتشاف تلقائي ومراجعة يدوية لاكتشاف المحتوى الضار وفرض سياسات الاستخدام. في هذه الحادثة، كانت عملية إبلاغ الشرطة هي أن النظام قام أولاً بوضع علامة على الحادث، ثم قام بمراجعته يدويًا، ثم اتصل بسلطات إنفاذ القانون.

أثارت هذه الحالة مرة أخرى مخاوف بشأن حدود الخصوصية في برامج الدردشة الآلية. إن تعامل المستخدمين مع نافذة الدردشة على أنها مذكرات خاصة لا يعني أن المحتوى لن يراه إلا المستخدم؛ قد تقوم المنصة بمراجعة المحادثة وفقًا للسياسات الأمنية وقد توفر أيضًا معلومات لوكالات إنفاذ القانون في حالات الطوارئ. أشارت التقارير الأخيرة حول محرر الصور Copilot من Microsoft أيضًا إلى أن المراجعين البشريين قد يرون كلمات مطالبة للمستخدم وصورًا تم تحميلها ونتائج تم إنشاؤها، ولكن المراجعة ذات الصلة تُستخدم بشكل أساسي لتقييم جودة المخرجات.

ذكرت TechSpot أيضًا أن شركة OpenAI ومديرها التنفيذي سام ألتمان تتم مقاضاتهم بسبب حادث إطلاق نار جماعي في كولومبيا البريطانية، كندا. وزعمت الدعوى أنه كان بإمكان الشركة اتخاذ إجراءات لمنع وقوع الحادث. سبق أن رفعت ولاية فلوريدا دعوى قضائية ضد OpenAI وAltman بسبب الإصابات المتعلقة بإطلاق النار في جامعة ولاية فلوريدا عام 2025. لا تعادل أي من هذه الاتهامات القضائية حكم المحكمة بالمسؤولية، مما يسلط الضوء على الخلافات القانونية التي تواجهها شركات الذكاء الاصطناعي فيما يتعلق بسلامة المستخدم والخصوصية ومنع الضرر في الحياة الواقعية.