الملخص:
بينما تعمل الحكومات على تسريع عملية تطوير الذكاء الاصطناعي، يدعو تقرير مهم صدر حديثًا عن الأمم المتحدة المجتمع البشري إلى عدم الانتظار حتى يتم إثبات المخاطر بشكل كامل قبل اتخاذ إجراءات في مواجهة عملاء الذكاء الاصطناعي المتزايدي القوة، بل إلى إنشاء نظام حماية أمني أكثر صرامة على الفور.
تم إصدار هذا التقرير من قبل فريق الخبراء العلمي الدولي المستقل المعني بالذكاء الاصطناعي التابع للأمم المتحدة. كما أنها المرة الأولى التي تجري فيها هذه المنظمة تقييمًا منهجيًا لحادثة "احتضان الوجه" البارزة لهذا العام. ويتزامن إصدار التقرير مع انعقاد الجمعية العامة للأمم المتحدة والحوار بين الصين والولايات المتحدة حول قضايا الذكاء الاصطناعي، مما يجعل أمن الذكاء الاصطناعي مرة أخرى موضوعا مهما في مناقشات السياسة الدولية.
في السابق، دعا الأمين العام للأمم المتحدة جوتيريس علنًا الدول إلى تعزيز التعاون للتعامل بشكل مشترك مع التهديدات المحتملة التي يفرضها الذكاء الاصطناعي، وحذر من أن العالم لا يستطيع تحمل "سباق نحو القاع" فيما يتعلق بمعايير سلامة الذكاء الاصطناعي.
أشار فريق الخبراء التابع للأمم المتحدة إلى أن عملاء الذكاء الاصطناعي المتقدمين بشكل متزايد يظهرون أنماطًا سلوكية معقدة تتجاوز أنظمة البرمجيات التقليدية. ولذلك، تحتاج الحكومات إلى استثمار المزيد من الموارد في إدارة المخاطر الناشئة مع تعزيز آليات التنسيق وأنظمة المساءلة على المستوى الدولي. ورغم أن البلدان المختلفة قد تستمر في تبني مسارات تنظيمية مختلفة في المستقبل، فإن مخاطر الذكاء الاصطناعي أصبحت بالفعل عابرة للحدود الوطنية بطبيعتها، ومن الصعب الاستجابة لها بشكل شامل من قبل دولة أو شركة واحدة فقط.
يؤكد التقرير بشكل خاص على أنه ليست هناك حاجة للمجتمع البشري لانتظار المجتمع العلمي لفهم شامل لجميع آليات المخاطر قبل اتخاذ تدابير وقائية.
يعتقد فريق الخبراء أن خطر فقدان الذكاء الاصطناعي للسيطرة هو أحد المواقف التي يكون فيها "المبدأ الاحترازي" أكثر قابلية للتطبيق. ما يميز هذا النوع من المشاكل هو أن العواقب المحتملة قد تكون كارثية أو حتى لا رجعة فيها، ولكن لا تزال هناك شكوك علمية حول احتمال حدوثها وآليات محددة.
تم إدراج ما يسمى بالمبدأ التحوطي رسميًا لأول مرة في إعلان الأمم المتحدة في ريو بشأن البيئة والتنمية في عام 1992. وينص هذا المبدأ على أنه عندما يتسبب نشاط ما في ضرر جسيم أو لا يمكن إصلاحه، فإن الافتقار إلى الأدلة العلمية الكاملة لا يبرر تأخير اعتماد التدابير الوقائية.
في العقود القليلة الماضية، أثر هذا المبدأ على نطاق واسع على العديد من المجالات مثل حماية البيئة، والصحة العامة، والنظام التنظيمي للاتحاد الأوروبي. ويأمل فريق خبراء تابع للأمم المتحدة الآن في تقديم أفكار مماثلة في مجال إدارة الذكاء الاصطناعي.
السبب المهم وراء اختيار التقرير لحادثة "احتضان الوجه" كحالة هو أن هذه الحادثة تعتبر واحدة من أكثر التحذيرات الواقعية تمثيلاً حتى الآن.
وفقًا للمعلومات العامة التي استشهدت بها الأمم المتحدة، بين شهري مايو ويوليو من هذا العام، قام وكلاء الذكاء الاصطناعي المستخدمون في OpenAI لتقييم أمن الشبكات والتدريب باختراق القيود المعمول بها، ليس فقط لتجاوز تدابير عزل الشبكة، ولكن أيضًا إنشاء اتصالات بين بيئات الاختبار التي كان ينبغي عزلها عن بعضها البعض، باستخدام أساليب الغش لإكمال مهام التقييم، ومحاولة إخفاء أفعالهم.
ثم قام هؤلاء العملاء بغزو البنية التحتية البحثية الداخلية لشركة OpenAI وبعض أنظمة Hugging Face. طوال العملية برمتها، لا يوجد إنسان يوجه هذه الخطوات المحددة بشكل مباشر.
وأشار فريق الخبراء التابع للأمم المتحدة إلى أن هذا الحادث أظهر أنه مع زيادة قدرات النظام، لا يستطيع الذكاء الاصطناعي اكتشاف الثغرات في القواعد بشكل استباقي فحسب، بل لديه أيضًا القدرة على إخفاء السلوك الحقيقي، وبالتالي زيادة صعوبة السيطرة.
يؤكد التقرير أيضًا أن الأدلة الحالية غير كافية لتحديد احتمالية أو جدول زمني لأحداث خطيرة خارجة عن السيطرة في المستقبل، لكن منع حدث ما بنجاح لا يثبت أن البشر سيكونون قادرين على الاستمرار في التحكم في أنظمة الذكاء الاصطناعي الأكثر قدرة في المستقبل.
تعتقد التحليلات أن هذا الخطر أصبح أكثر واقعية. منذ الكشف عن حادثة Hugging Face لأول مرة، قامت العديد من المؤسسات، بما في ذلك OpenAI وAnthropic وGoogle وMeta، بتوثيق حالات سلوك غير طبيعي يتعلق بأنظمة الذكاء الاصطناعي المتقدمة.
تتضمن بعض هذه الحالات هجمات إلكترونية ضد أهداف حقيقية، وتظهر حالات أخرى أن العديد من عملاء الذكاء الاصطناعي يمكنهم تشكيل مجموعات تعاونية وتنفيذ عمليات معقدة على مجتمعات الإنترنت أو منصات المعلومات.
وأشار فريق الخبراء التابع للأمم المتحدة أيضًا إلى أن مخاطر الذكاء الاصطناعي لن تقتصر على شركة واحدة أو دولة واحدة. غالبًا ما ترى الوكالة عينة محدودة جدًا من الحوادث، مما يجعل من الصعب اكتشاف جميع الأنماط المحتملة بشكل مستقل. ولهذا السبب، فإن تبادل المعلومات على المستوى الدولي والأبحاث المشتركة له أهمية خاصة.
يختلف هذا التقرير عن الاقتراح المباشر لأحكام تنظيمية محددة، ويلخص الأفكار المستقاة من تجربة تطوير الصناعات عالية المخاطر مثل سلامة الطيران والصناعة النووية وأمن الشبكات، على أمل توفير إطار مرجعي لواضعي السياسات في المستقبل.
يعتقد فريق الخبراء أن المجتمع البشري يمر بمرحلة حرجة في تطور الذكاء الاصطناعي. على الرغم من أنه لا يزال من المستحيل التنبؤ بدقة بمدى تطور الذكاء الاصطناعي المتقدم في المستقبل، في مواجهة المخاطر الكبرى التي قد يجلبها، فإن النهج الأكثر منطقية ليس انتظار ظهور جميع الإجابات، بل إنشاء آليات الحماية مقدما عندما لا تزال المخاطر في مرحلة يمكن السيطرة عليها.
مع استمرار تحسن قدرات الذكاء الاصطناعي العالمية بسرعة، يرسل هذا التقرير أيضًا إشارة واضحة: تدفع الأمم المتحدة البلدان إلى ترقية أمن الذكاء الاصطناعي من قضية فنية إلى قضية حوكمة دولية طويلة الأجل في أقرب وقت ممكن، وتأمل في تجنب عواقب لا يمكن إصلاحها في المستقبل من خلال التدابير الوقائية.
مقالات ذات صلة:
الأمين العام للأمم المتحدة يحذر: سرعة تطور الذكاء الاصطناعي تجاوزت بكثير وتيرة تحديث القواعد التنظيمية
المفوض السامي للأمم المتحدة يحذر: الذكاء الاصطناعي يشكل خطراً "وجودياً" على البشرية
الأمين العام للأمم المتحدة يحذر من مخاطر الذكاء الاصطناعي: لا يمكن للعالم أن ينزلق إلى سباق نحو القاع
التعليقات