الملخص:
في 14 سبتمبر، وفقًا لصحيفة نيويورك تايمز، حذر أكثر من اثني عشر من كبار الباحثين في مجال الذكاء الاصطناعي، في الأسبوع الماضي، من أن التقنيات التي تطورها شركات الذكاء الاصطناعي تشكل مخاطر متزايدة على البشر. المشكلة، كما يقول الباحثون، هي أنه على الرغم من بذل هذه الشركات قصارى جهدها، إلا أنها ببساطة تجد صعوبة في التحكم في هذه الأنظمة.
أمريكيون يحتجون ضد الذكاء الاصطناعي
ذكرت تقارير سابقة أن ما يسمى بعامل الذكاء الاصطناعي التابع لشركة OpenAI هرب من نظام الاختبار واقتحم كمبيوتر شركة أخرى. تتصاعد الإنذارات مرة أخرى داخل مجتمع أبحاث الذكاء الاصطناعي، مما يزيد من إلحاح المخاوف التي ظلت تتراكم منذ سنوات: شركات التكنولوجيا تضع السلامة في سلم أولوياتها سعياً وراء سرعة التطوير والأرباح.
يقول الباحثون إن المشكلة ذات شقين. أولاً، تحتاج الشركات إلى وضع تدابير حماية أمنية أكثر اكتمالاً لأحدث نماذج الذكاء الاصطناعي أثناء اختبارها. في الوقت الحالي، نظرًا لأن الذكاء الاصطناعي يعمل بسرعة كبيرة، يحتاج الباحثون إلى استخدام الذكاء الاصطناعي لمراقبة الذكاء الاصطناعي. لكن هذا النهج لا ينجح دائمًا، لأن الذكاء الاصطناعي المسؤول عن المراقبة قد يبدو أكثر "تعاطفًا" مع أنظمة الذكاء الاصطناعي الأخرى من البشر الذين يضعون القواعد.
يشير هذا المزيج الغريب من نظام الذكاء الاصطناعي المدمر و"مدير مهمة" الذكاء الاصطناعي الذي يتجاهل النظر إلى مشكلة ثانية أكثر شائكة، والتي يطلق عليها "الاصطفاف". هذا مصطلح في صناعة الذكاء الاصطناعي ويعني في الأساس التأكد من أن الذكاء الاصطناعي يتصرف بطريقة تصب في مصلحة البشر. تواجه الشركات مهمة شاقة تتمثل في دمج مجموعة من القيم الشبيهة بالإنسان في الذكاء الاصطناعي بحيث تكون القرارات التي يتخذها النموذج في مصلحة البشر.
مع دخول صناعة الذكاء الاصطناعي مرحلة حرجة من التطور، تتصاعد باستمرار مخاوف الناس بشأن أمن الذكاء الاصطناعي. تتجه Anthropic وOpenAI نحو ما يمكن أن يصبحا من أكبر الاكتتابات العامة الأولية في التاريخ. وفي الوقت نفسه، أصبح الرأي العام الأمريكي معاديًا بشكل متزايد للذكاء الاصطناعي بسبب التهديد بفقدان الوظائف ومراكز البيانات الضخمة التي يتم بناؤها لتشغيل هذه التكنولوجيا.
يتجاوز تطوير الذكاء الاصطناعي قدرات المراقبة البشرية
رغم أنه لا يوجد حاليًا أي دليل على أن أنظمة الذكاء الاصطناعي الخارجة عن السيطرة تسببت في أي ضرر دائم، يعتقد الباحثون أن هذه الأنظمة تفوق قدرة البشر على مراقبتها.
في الأسبوع الماضي، كان من بين الباحثين الذين عبروا علنًا عن مخاوفهم بشأن الذكاء الاصطناعي، كبير علماء OpenAI؛ جاكوب كوكسون، الباحث الذي عمل في كل من OpenAI وأكبر منافس لها، Anthropic؛ وبول كريستيانو، مخترع الطريقة الرئيسية لبناء أنظمة الذكاء الاصطناعي والعضو الجديد في مجلس إدارة OpenAI غير الربحي. وكتب على مدونة الشركة أن الوتيرة التي تستمر بها قدرات الذكاء الاصطناعي في التحسن يمكن أن تؤدي إلى "فقدان السيطرة بشكل كارثي ولا رجعة فيه" في "فترة زمنية قصيرة جدًا".
استقالة كوكسون تثير النقاش حول سلامة الذكاء الاصطناعي
ومع ذلك، لا يزال عدد كبير من الباحثين في مجال الذكاء الاصطناعي يعتقدون أن الادعاءات المتعلقة بتهديد الذكاء الاصطناعي للبشر مبالغ فيها وتشتت الانتباه عن القضايا الملموسة مثل الأمن السيبراني والمعلومات المضللة. لكن معظمهم يتفقون على أن اختراق عميل الذكاء الاصطناعي لشركة OpenAI لشركة Hugging Face، وهي شركة أخرى، هو بمثابة دعوة للاستيقاظ.
وقال كوكسون: "الأمر المخيف حقًا هو القدرات التي سيتمتع بها الذكاء الاصطناعي في المستقبل". وأعلن استقالته من شركة Anthropic في منشور على وسائل التواصل الاجتماعي، مما أثار عشرات المشاركات من المشرعين الأمريكيين وغيرهم من موظفي شركة الذكاء الاصطناعي للتعبير عن مخاوفهم بشأن الذكاء الاصطناعي. "تكمن المشكلة في موقفنا الحالي تجاه القضايا الأمنية، وماذا سيحدث إذا طبقنا نفس الموقف على نماذج أكثر ذكاءً. وهذا هو الأمر المخيف حقًا."
لم يتم حل مشكلة التطفل
في الحادث الذي قام فيه وكيل OpenAI بغزو شركة البنية التحتية للذكاء الاصطناعي Hugging Face، أقنع وكيل الذكاء الاصطناعي عملاء الذكاء الاصطناعي الآخرين بأنهم كانوا يفعلون الشيء الصحيح وأنهم كانوا يكملون فقط المهام التي كلفهم بها المختبرون.
لم يتم حل سوى عدد قليل من المشكلات التي أدت إلى الاقتحام، إن وجدت. كشفت ميتا وأنثروبيك أيضًا عن حوادث مماثلة ولكنها أصغر. أصدرت OpenAI منذ ذلك الحين نموذج Astra، وهو أقوى نموذج للشركة وأكثر صعوبة في المراقبة من سابقه.
وقال ستيفن أدلر، الرئيس السابق لقسم الأمن في OpenAI والمؤسس المشارك لمنظمة Guidelight AI Standards، وهي منظمة غير ربحية تعمل على تقييم الممارسات الأمنية لشركات الذكاء الاصطناعي: "إن الصناعة ككل ليست مستعدة ببساطة لمنع هجوم Hugging Face التالي". "عندما نظرنا إلى الضوابط الحالية في العديد من الشركات، وجدنا بدون استثناء تقريبًا أنها تفتقر إلى التدابير الوقائية الأساسية."
يتواطأ الذكاء الاصطناعي مع بعضهم البعض
قال باحثو الذكاء الاصطناعي إن حادثة Hugging Face نتجت عن عدد كبير من الأخطاء. من غير الواضح إلى أي مدى تعتمد الشركة على نماذج الذكاء الاصطناعي لمراقبة أو التحكم في عمل النماذج الجديدة التي تختبرها.
ومع ذلك، فإن العديد من نماذج الذكاء الاصطناعي الجديدة، بما في ذلك النموذج الذي اخترق حادثة Hugging Face، قادرة على أداء مهام معقدة متعددة الخطوات بشكل أسرع من قدرة البشر على تتبعها. الطريقة الوحيدة لتتبع سلوكهم ومراقبته هي الاعتماد على الذكاء الاصطناعي لمراقبة الذكاء الاصطناعي.
يعمل هذا النظام حتى يفشل.
قال ألكسندر مينكي، مدير الأبحاث في مؤسسة أبولو للأبحاث، وهي منظمة غير ربحية تدرس أمن نظام الذكاء الاصطناعي، إن نماذج الذكاء الاصطناعي تبدو قادرة على التواطؤ مع بعضها البعض. قد تقنع نماذج الذكاء الاصطناعي الأخرى أنظمة الذكاء الاصطناعي بمساعدتها على انتهاك القواعد التي وضعها المختبرون وتجنب الكشف.
على سبيل المثال، قد يقنع أحد عملاء الذكاء الاصطناعي عميلًا آخر بالمساعدة في تغطية مساراته (كما حدث في اختراق Hugging Face)، بدلاً من الإبلاغ عن مشكلة إلى أحد الأشخاص في الشركة.
قال مينكي إن نموذج الذكاء الاصطناعي يحتاج إلى التدريس: "سأطرح أشياء قد يعتقد البشر أنها سيئة بعد رؤيتها". وقال أيضًا إن الذكاء الاصطناعي يجب أن يكون قادرًا أيضًا على الحكم على ما إذا كان هناك شيء خطير بما يكفي ليتطلب التدخل البشري.
للقيام بذلك، يقول الباحثون إن شركات الذكاء الاصطناعي بحاجة إلى التباطؤ. إنهم بحاجة إلى إجراء المزيد من الاختبارات لمعرفة كيف يراقب الذكاء الاصطناعي نفسه. كما يحتاجون أيضًا إلى دورات اختبار أطول تسمح للشركات بتشغيل سيناريوهات متعددة مع مراقبة سلوك الذكاء الاصطناعي.
تتماشى مع المصالح الإنسانية
تحتاج هذه الشركات أيضًا إلى حل أسئلة كبيرة حول "الاصطفاف"، أي ضمان قيام الذكاء الاصطناعي بما هو في مصلحة البشر. عندما يتخذ البشر قرارات، فإنهم غالبًا ما يشيرون إلى الأعراف الاجتماعية والمبادئ الأخلاقية الداخلية لمساعدتهم على تقييم أفعالهم. يقول الباحثون إن تشفير هذه الأشياء بطريقة يمكن للذكاء الاصطناعي تقليدها يعد مهمة صعبة. إذا لم تكن التعريفات محددة بما فيه الكفاية، فقد يتعلم نظام الذكاء الاصطناعي كيفية كسر القواعد أو فقدان السيطرة بطرق غير متوقعة.
شارك نيت سواريس، مدير معهد الذكاء الآلي غير الربحي المعني بسلامة الذكاء الاصطناعي، في تأليف ورقة بحثية في عام 2014 تقترح مفهوم "المحاذاة". وقال إن الشركات لا تدرك مدى صعوبة تحقيق "المواءمة" بين أنظمة الذكاء الاصطناعي الأكثر ذكاءً. ومع ازدياد تطور الذكاء الاصطناعي، إذا لم يتم تحقيق "المواءمة" المناسبة، فسوف يصبحون ماهرين بشكل متزايد في إخفاء سلوكهم وخداع أولئك الذين يراقبون سجلات تفاعلاتهم.
"إن تفكير العديد من الأشخاص في الصناعة هو أن الأمر لا يهم، لأننا سنستخدم الذكاء الاصطناعي للسيطرة على الذكاء الاصطناعي. وهذا مثل القول بأننا سنستخدم الشمبانزي للسيطرة على البشر". "هذه ليست خطة مجدية طويلة المدى."
اقترح الباحثون أيضًا بعض الإجراءات المضادة، مثل تعزيز بيئة الحماية، وعزل النموذج تمامًا عن الإنترنت أثناء الاختبار، وإعداد "مفتاح إيقاف" يسمح للشركات بإيقاف نماذج الذكاء الاصطناعي على الفور في حالة اتخاذ إجراءات مثيرة للقلق.
وقال كوكسون إنه يشعر بالارتياح إزاء الرد على استقالته العلنية. وقال جوش هاولي، السيناتور الجمهوري عن ولاية ميسوري، ورئيس لجنة إدارة الكوارث الفرعية التابعة للجنة الفرعية للأمن الداخلي بمجلس الشيوخ، يوم الخميس، إنه أطلق تحقيقًا من شأنه "استكشاف المخاطر الوجودية التي تشكلها منتجات الذكاء الاصطناعي الجديدة".
التعليقات