غالبًا ما تدور المخاوف بشأن الذكاء الاصطناعي حول قضايا مثل المعلومات الخاطئة أو احتمال إفلات التكنولوجيا من السيطرة البشرية. ومع ذلك، يمكن القول إن مصدر القلق الأكثر واقعية اليوم هو كيفية استفادة الحكومات من الذكاء الاصطناعي وفهمها المؤسسي (أو عدمه) لأوجه القصور فيه. ويبدو أن حكومة المملكة المتحدة، على سبيل المثال، تبنت هذه التكنولوجيا بوتيرة قد تعتبر متسرعة وربما غير آمنة.
وفقًا لصحيفة الغارديان، بدأت العديد من الوكالات الحكومية البريطانية في استخدام الذكاء الاصطناعي للتأثير بشكل كبير على الحياة اليومية للناس العاديين. تلعب التكنولوجيا الآن دورًا في مجموعة متنوعة من الإجراءات، بدءًا من الاعتقالات وتراخيص الزواج وحتى مدفوعات الرعاية الاجتماعية.
حتى قبل أن يصبح الذكاء الاصطناعي اتجاهًا تمت مناقشته على نطاق واسع، كان استخدام أنظمة التعرف على الوجه من قبل الشرطة مثيرًا للجدل. ولطالما حذر النقاد من عدم دقتها المحتملة، خاصة عند تحليل الموضوعات ذات البشرة الداكنة. وقد أدى عدم الدقة هذا إلى اعتقالات غير مشروعة في الماضي. وعلى الرغم من إدراكها لأوجه القصور هذه، تواصل شرطة العاصمة في لندن استخدام تقنية التعرف على الوجه وإجراء تعديلات قد تضر بالتكنولوجيا.
وقال المختبر الفيزيائي الوطني في المملكة المتحدة إن النظام يحافظ بشكل عام على معدلات خطأ منخفضة في الإعدادات الافتراضية. ومع ذلك، إذا قامت شرطة العاصمة بتقليل حساسيتها من أجل التعرف على المشتبه بهم بسرعة أكبر، فإن ذلك سيؤدي إلى المزيد من الإنذارات الكاذبة. ونتيجة لذلك، يصبح النظام أقل دقة بالنسبة للأشخاص السود، حيث يكون أقل دقة بخمس مرات مما هو عليه بالنسبة للأشخاص البيض.
بالإضافة إلى ذلك، أظهرت الأدوات القائمة على الذكاء الاصطناعي التي تستخدمها الحكومات للموافقة على المزايا وتراخيص الزواج ميلًا إلى التمييز ضد المتقدمين من بلدان معينة. وسلط أحد النواب الضوء على الحالات العديدة التي حدثت في السنوات الأخيرة حيث تم تعليق المزايا بشكل غير مفهوم، مما ترك الأفراد على حافة الإخلاء والفقر المدقع. والمشكلة الأساسية المشتبه بها هي نظام وزارة العمل والمعاشات التقاعدية (DWP) للكشف عن الاحتيال في المزايا، والذي يعتمد جزئياً على الذكاء الاصطناعي.
وحتى بدون وجود أدلة قوية على الاحتيال، قامت الأداة بوضع علامة على المواطنين البلغار بشكل غير متناسب. ويصر حزب عمل الدوحة على أن النظام لا يأخذ الجنسية في الاعتبار. ومع ذلك، فإنهم يعترفون بعدم فهم الأعمال الداخلية للذكاء الاصطناعي بشكل كامل، وفهم أن الأنظمة لديها قدرة محدودة على التحكم في التحيز والقلق من أن الجهات الفاعلة السيئة يمكن أن تتلاعب بالنظام.
وبالمثل، تواجه وزارة الداخلية التحدي المتمثل في استخدام أداة تعتمد على الذكاء الاصطناعي ومصممة لتحديد الزيجات المزيفة. وبينما قام النظام بتبسيط عملية الموافقة على ترخيص الزواج، وجدت مراجعة داخلية عددًا كبيرًا من النتائج الإيجابية الكاذبة، خاصة بالنسبة للمتقدمين من اليونان وألبانيا وبلغاريا ورومانيا.
وقد تكون هناك ضوابط أخرى في نشر الحكومة للذكاء الاصطناعي، ولكن من الصعب تحديدها دون بيانات شفافة من الإدارات ذات الصلة.
وقد تسبب سوء الفهم حول القيود المفروضة على الذكاء الاصطناعي في وقوع حوادث خطيرة داخل الهيئات الحكومية والقانونية الأخرى. في وقت سابق من هذا العام، حاول محامٍ أمريكي استخدام ChatGPT للاستشهاد بالقضايا المرفوعة في المحكمة الفيدرالية، ليكتشف أن جميع هذه القضايا قد تم اختلاقها بواسطة برنامج الدردشة الآلي. وتظهر هذه الحالات على نحو متزايد أن المخاطر الحقيقية للذكاء الاصطناعي قد تنبع من سوء الاستخدام البشري وليس من التكنولوجيا نفسها.