أصدرت أول لجنة خبراء علمية مستقلة معنية بالذكاء الاصطناعي أنشأتها الأمم المتحدة تقرير تقييم أولي يشير إلى أن التطور السريع للذكاء الاصطناعي قد جلب فوائد محتملة هائلة للدول والشعوب في جميع أنحاء العالم، ولكنه يأتي أيضًا بمخاطر كبيرة. سيتم تقديم هذا التقرير إلى الحكومات في حوار الأمم المتحدة العالمي الأول لإدارة الذكاء الاصطناعي في جنيف في الفترة من 6 إلى 7 يوليو. وهو أول تقييم علمي مستقل للذكاء الاصطناعي على نطاق عالمي. ومن المتوقع أن يتم إصدار نسخة كاملة وشاملة في العام المقبل.
وشارك في تأليف التقرير 40 من كبار العلماء والخبير من جميع مناطق العالم، الذين شاركوا بصفة فردية لمدة ثلاث سنوات ولم يكونوا ملزمين بشكل مباشر بأي حكومة أو وكالة أو شركة، وكان الهدف هو تقديم أدلة علمية مستقلة لصناع القرار. ويشير التقرير إلى أنه في سياق التطور السريع لقدرات الذكاء الاصطناعي، يحتاج صناع السياسات بشكل عاجل إلى أساس علمي موثوق لصياغة الأطر التنظيمية. ومع ذلك، فإن الفهم الحالي لبعض الأنظمة المستقلة للغاية من قبل المجتمع العلمي لا يزال متخلفًا، ومن الواضح أن قدرة المجتمع والحكومة على التكيف غير كافية. ولا تزال الأدوات الفعالة لتقييد هذا النوع من الذكاء الاصطناعي المستقل للغاية محدودة.
وشدد الرئيس المشارك للجنة الخبراء يوشوا بنجيو في التقرير على أن الأدلة العلمية على "السلوك الخادع" في الذكاء الاصطناعي آخذة في التزايد. وأشار إلى أنه مع تحسن قدرات النظام بشكل أكبر، لا يمكن للبحث العلمي أن يضمن أن الذكاء الاصطناعي لن يسبب ضررا كارثيا - فقد ينشأ هذا الضرر من سلوك النظام نفسه أو من المستخدمين ذوي الدوافع الخبيثة. ويخلص التقرير إلى أن "الفوائد المحتملة للذكاء الاصطناعي هائلة"، لكنه يحذر من أنه لا يمكن تجاهل الآثار السلبية للتكنولوجيا إذا كان هناك نقص في القيود الكافية والتخطيط الدقيق أثناء النشر السريع على نطاق واسع.
ويشير التقرير إلى أن الترويج السريع للذكاء الاصطناعي يغير بشكل عميق النظم الاجتماعية والاقتصادية والبيئية، كما يشكل تحديات للصحة العقلية للمستخدمين. وعلى الجانب الإيجابي، أثبتت تطبيقات الذكاء الاصطناعي القدرة على تحسين الكفاءة وخلق قيمة جديدة في العديد من المجالات مثل التعليم والرعاية الطبية والبحث العلمي والإنتاج الصناعي. لكن على الجانب السلبي، يحذر التقرير من إمكانية استخدام الذكاء الاصطناعي كأداة مدمرة أو لتقويض ثقة الجمهور والتماسك الاجتماعي والمداولات الديمقراطية (المناقشة التداولية) من خلال التلاعب بالمعلومات والعواطف.
ووفقا لهذا التقييم الأولي، يستخدم أكثر من مليار شخص حول العالم الذكاء الاصطناعي للمحادثة كل أسبوع، ولكن مستوى التطبيق متفاوت إلى حد كبير بين البلدان والصناعات، حيث تتخلف البلدان النامية بشكل عام من حيث الوصول والاستخدام. وفيما يتعلق بتركيز القوة الحاسوبية، أشارت البيانات الواردة في التقرير إلى أنه من بين أفضل 500 حاسوب فائق الذكاء الاصطناعي في العالم، تمثل الولايات المتحدة نحو 75% من القوة الحاسوبية والصين نحو 15%، مما يسلط الضوء على أن البنية التحتية الحالية للذكاء الاصطناعي تتركز بشكل كبير في عدد قليل من الاقتصادات.
كما لفت التقرير الانتباه إلى الخلل الخطير على مستوى اللغات. هناك أكثر من 7000 لغة في العالم، لكن نماذج الذكاء الاصطناعي السائدة حاليًا لا تغطي سوى عدد قليل جدًا منها في التدريب. بالنسبة للعديد من اللغات، تكون مشكلات جودة الترجمة الآلية بارزة، ولا تؤثر الأخطاء على التواصل اليومي فحسب، بل قد تسبب أيضًا عواقب وخيمة في السيناريوهات شديدة الحساسية للسلامة الشخصية، مثل التشخيص الطبي واتخاذ قرارات العلاج.
وأشارت لجنة الخبراء إلى أن المخاطر الناجمة عن انتشار الذكاء الاصطناعي بدأت تظهر في العديد من المجالات. وتشمل هذه التأثيرات السلبية المحتملة على حقوق الإنسان والأنظمة الاجتماعية والبيئة الطبيعية، مثل تزايد وتيرة مواد الاعتداء الجنسي على الأطفال الناتجة عن الذكاء الاصطناعي ومحتوى العنف الجنسي الذي يتم تنفيذه باستخدام تقنية التزييف العميق على الإنترنت. ويعتقد التقرير أن الظواهر ذات الصلة كشفت عن أوجه قصور واضحة في الإشراف على المحتوى والعدالة الجنائية والتعاون عبر الوطني، وهناك حاجة ملحة لتعزيز الاستجابات على المستويين الفني والمؤسسي في وقت واحد.
وفيما يتعلق ببيئة المعلومات، يحذر التقرير من أن الذكاء الاصطناعي قد خفض بشكل كبير عتبة الإنتاج على نطاق واسع والنشر الدقيق المستهدف "للمحتوى المقنع". وقد يؤدي هذا الاتجاه إلى تآكل تدريجي لسلامة المعلومات، وبالتالي تآكل ثقة الجمهور في وسائل الإعلام والمؤسسات، وتقويض التماسك الاجتماعي، والتدخل في الآليات التداولية للعمليات الديمقراطية التي تعتمد على الحقائق والمناقشة المنطقية. ويعتقد الخبراء أنه في مواجهة مثل هذه التغييرات، أصبحت الأطر التنظيمية التقليدية لأمن المعلومات والإعلام غير كافية، ومن الضروري تحديث أفكار الحوكمة وتعزيز التنسيق الدولي.
كما أشار التقرير إلى أن معظم الدول - بما في ذلك بعض الاقتصادات المتقدمة - تفتقر إلى القدرة على إجراء تقييمات فنية لأحدث وأقوى نماذج الذكاء الاصطناعي، ومن الصعب أن تكون هناك مشاركة فنية كبيرة للتأثير على الحوكمة العالمية لهذه الأنظمة. وقد أدت هذه الفجوة في القدرات والموارد التقنية إلى تفاقم عدم المساواة الدولية في صياغة معايير سلامة الذكاء الاصطناعي ومنع المخاطر والسيطرة عليها. ودعا فريق الخبراء إلى مساعدة مجموعة واسعة من البلدان على تحسين قدراتها التقييمية والتنظيمية من خلال آليات التعاون المتعددة الأطراف ومشاريع بناء القدرات، وبالتالي تشكيل صوت أكثر تمثيلاً في الحوكمة العالمية.
سيكون هذا التقرير الأولي بمثابة وثيقة مرجعية أساسية في حوار الأمم المتحدة العالمي لإدارة الذكاء الاصطناعي للحكومات والمنظمات الدولية ذات الصلة لمناقشة الأطر التنظيمية المستقبلية ومسارات التعاون. وذكر فريق الخبراء أنه يخطط لمواصلة جمع وتقييم أحدث نتائج البحث العلمي وحالات التطبيق العملي في العام المقبل لتوفير قاعدة أدلة أكثر تفصيلاً ومنهجية للتقرير الشامل المقترح لدعم جميع الأطراف في السعي إلى تحقيق توازن أكثر استقرارًا بين الوقاية من المخاطر ومكافحتها والابتكار التكنولوجي.