تم استخدام نماذج لغوية كبيرة للغش في المدارس وانتشار المعلومات المضللة في التقارير الإخبارية. والآن، يتسللون إلى قاعات المحكمة، الأمر الذي يؤدي إلى تفاقم الدعاوى القضائية الكاذبة التي يواجهها القضاة في ظل أعباء ثقيلة من القضايا، ويفرض مخاطر جديدة على النظام القضائي المجهد بالفعل.
تقرير حديث من Ars Technica يعرض تفاصيل حكم محكمة الاستئناف في جورجيا الذي يسلط الضوء على الخطر المتزايد الذي يواجه النظام القضائي الأمريكي: الهلوسة الناتجة عن الذكاء الاصطناعي تتسلل إلى وثائق المحكمة وحتى تؤثر على القرارات القضائية. في نزاع الطلاق، قدم محامو الزوج مسودة أمر مليئة بإشارات إلى قضايا غير موجودة، وهي قضايا من المحتمل أنها ملفقة بواسطة أدوات الذكاء الاصطناعي التوليدية مثل ChatGPT. ووقعت المحكمة الابتدائية على الوثيقة وحكمت بعد ذلك لصالح الزوج.
لم يتم الكشف عن مذكرات الاستدعاء المزورة إلا بعد أن استأنفت الزوجة. ألغت لجنة الاستئناف بقيادة القاضي جيف واتكينز الأمر، مشيرة إلى أن القضايا الوهمية قوضت قدرة المحكمة على مراجعة الحكم. كان واتكينز صريحًا، قائلاً إن مذكرات الاستدعاء يمكن أن تكون هلوسة ناتجة عن الذكاء الاصطناعي. وفرضت المحكمة غرامة على محامي الزوج قدرها 2500 دولار.
قد يبدو هذا وكأنه حالة معزولة، ولكن في فبراير من هذا العام، تم تغريم محامٍ بمبلغ 15000 دولار في وضع مماثل. وحذر خبراء قانونيون من أن ذلك قد يكون نذيرا لأشياء قادمة. ومن المعروف أن أدوات الذكاء الاصطناعي التوليدية تزيف المعلومات بسهولة وبثقة مقنعة، وهو سلوك يُعرف باسم "الهلوسة". مع تزايد إمكانية الوصول إلى الذكاء الاصطناعي للمحامين والمتقاضين الذين يمثلون أنفسهم، كما يقول الخبراء، سيواجه القضاة بشكل متزايد وثائق قضائية مليئة بقضايا وهمية، وسوابق وهمية، ومنطق قانوني مربك يتنكر على أنه مشروع.
وهذا يؤدي إلى تفاقم المشكلة في نظام قضائي مرهق بالفعل. في العديد من الولايات القضائية، غالبًا ما يوافق القضاة على الأحكام التي يصوغها المحامي دون تفكير ثانٍ. ومع ذلك، فإن استخدام الذكاء الاصطناعي يؤدي إلى تفاقم هذا الخطر.
رأي محكمة الاستئناف بشأن الاستشهادات القانونية الكاذبة
وقال الباحث القانوني جون براوننج، وهو قاضي سابق في محكمة الاستئناف في تكساس، والذي كتب على نطاق واسع عن أخلاقيات الذكاء الاصطناعي في القانون: "أستطيع أن أتخيل أن هذا قد يكون هو الحال في المواقف التي يتعامل فيها قضاة المحاكم مع الكثير من القضايا".
أخبر براوننج آرس تكنيكا أنه يعتقد أنه "من المحتمل جدًا" أن يصبح هذا النوع من الأخطاء أكثر شيوعًا. ويحذر هو وغيره من الخبراء من أن المحاكم، وخاصة على المستوى الشعبي، ليست مستعدة للتعامل مع مثل هذه الممارسات العشوائية التي يحركها الذكاء الاصطناعي. حاليًا، هناك ولايتان فقط، ميشيغان وفيرجينيا الغربية، تشترط على القضاة الحفاظ على "الكفاءة الفنية" الأساسية عندما يتعلق الأمر بالذكاء الاصطناعي. لقد حظر بعض القضاة استخدام المستندات التي تم إنشاؤها بواسطة الذكاء الاصطناعي بالكامل أو فرضوا الكشف عن استخدام الذكاء الاصطناعي، لكن هذه السياسات غير كاملة وغير متسقة ويصعب تنفيذها بسبب الحجم الهائل للقضايا.
وفي الوقت نفسه، لا تكون المستندات التي ينشئها الذكاء الاصطناعي واضحة دائمًا. غالبًا ما تقوم النماذج اللغوية الكبيرة بتلفيق أسماء حالات تبدو واقعية، واستشهادات خادعة، ومصطلحات قانونية تبدو رسمية. وقال براوننج إن هناك علامات يمكن للقاضي أن يبحث عنها: كاتب المحكمة الخطأ، أو رقم القضية البديل مثل "123456"، أو اللغة الرسمية المتكلفة. ومع ذلك، مع تطور أدوات الذكاء الاصطناعي، قد تختفي هذه القرائن تدريجيًا.
ويعمل باحثون مثل بيتر هندرسون من مختبر بولاريس بجامعة برينستون على تطوير أدوات لتتبع تأثير الذكاء الاصطناعي على وثائق المحكمة ويدعوون إلى إنشاء مكتبة قضايا قانونية مفتوحة لتبسيط عملية التحقق. واقترح آخرون حلولا جديدة، مثل "نظام المكافآت" الذي يكافئ أولئك الذين يكتشفون الحالات الكاذبة قبل القبض عليهم.
في الوقت الحالي، تمثل قضية الطلاق في جورجيا تحذيرا - ليس فقط بشأن المحامين المهملين، ولكن أيضا بشأن احتمال إرباك أنظمة المحاكم وعدم قدرتها على تتبع استخدام الذكاء الاصطناعي في كل وثيقة قانونية. وكما حذر القاضي واتكينز، إذا استمرت الهلوسة الناتجة عن الذكاء الاصطناعي في التسلل إلى سجلات المحكمة دون رادع، فقد تؤدي إلى تقويض الثقة في نظام العدالة نفسه.