الملخص:
كشفت مصادر مطلعة أن العديد من موظفي معهد أبحاث سلامة الذكاء الاصطناعي البريطاني أخذوا إجازة مرضية بسبب الضغط الزائد وتلقوا استشارات نفسية. قال أربعة أشخاص مطلعين على الأمر إن جدول الاختبار الضيق لنماذج الذكاء الاصطناعي التي سيتم إصدارها، إلى جانب المخاوف بشأن التنفيذ السريع والتحسين المستمر لقدرات هذه التقنيات الناشئة، أدى إلى انخفاض الروح المعنوية وإرهاق الموظفين داخل AISI.
كما اشتكى الموظفون في Anthropic، وOpenAI، وGoogle DeepMind علنًا من مشكلات مماثلة. لقد اختار العديد من كبار الباحثين المغادرة بسبب العبء النفسي، أو قرروا أن المنتجات التي شاركوا في البحث والتطوير لا ينبغي أن تكون متاحة للجمهور.
قال أحد موظفي DeepMind إن الانخراط في الأعمال المتعلقة بأمن الذكاء الاصطناعي عرضة للإرهاق، وتبدو المهمة "مستحيلة". وأضاف: "بشكل عام، ينطوي تطوير أنظمة الذكاء الاصطناعي بطبيعته على مخاطر على الصحة العقلية - ولا يمكنك التنبؤ بكيفية استخدام التكنولوجيا". وتشير هذه الجملة إلى الاتفاق الذي توصلت إليه جوجل مع وزارة الدفاع الأمريكية في أبريل الماضي، والذي يسمح باستخدام أنظمة الذكاء الاصطناعي الخاصة بها في عمليات عسكرية سرية.
"يعاني الكثير من الأشخاص من الاكتئاب، وقد استقال الكثير من الأشخاص، وتقدم الكثير من الأشخاص بطلب للحصول على إجازة للصحة العقلية". وقال الموظف: “من ناحية، هو الشعور بفقدان السيطرة، ومن ناحية أخرى، فإن الأشياء التي بنيتها بيديك تسبب ضرراً حقيقياً”.
في الوقت الذي وصلت فيه مخاوف الصناعة بشأن التطور الوحشي للذكاء الاصطناعي إلى ذروتها، يستمر العبء النفسي على عاتق الباحثين في مجال الذكاء الاصطناعي المتطور في التزايد. يحذر المطلعون على شركات الذكاء الاصطناعي الرائدة في العالم من أن عملية صنع القرار الإداري تفتقر إلى الشعور بالمسؤولية، مدفوعة بالمنافسة غير المتوازنة بين الشركات.
قال العديد من المطلعين على الصناعة إن نشر برامج الذكاء الاصطناعي في المجالات الرئيسية مثل شبكات الطاقة ومناطق الحرب، إلى جانب ما يقول الباحثون إنها ضمانات غير كافية على مستوى المؤسسات والحكومة، قد أدى إلى تفاقم قلق الباحثين في مجال الذكاء الاصطناعي.
حذر باحث سابق في AISI من أن الممارسين في مجالات الأمن السيبراني والكيمياء الحيوية يشعرون بالقلق بشكل خاص من القفزة الأخيرة في قدرات الذكاء الاصطناعي: إذ أصبحت النماذج الآن قادرة على إكمال المهام المعقدة، مثل العثور على نقاط ضعف غير مكتشفة في التعليمات البرمجية وتوليد فيروسات غير موجودة في الطبيعة.
"يمكن للجميع أن يشعروا أن منطق التطوير المتهور قد تم تضمينه في عملية إصدار التكنولوجيا، وأن الوضع الراهن لم يتغير." وقال الباحث: "لا يزال الناس يشعرون بالقلق: هل هناك أي قوة يمكنها إيقاف ذلك، أم يمكننا فقط مشاهدة الوضع يخرج عن نطاق السيطرة؟"
أكد موظف سابق آخر في AISI الضغط العقلي الهائل الناجم عن إجراء الأبحاث ذات الصلة، قائلاً: "عندما تعتقد أنك تبحث عن أهم مشكلة في العالم، يمكن أن تصبح الثقافة الإدارية والتنظيمية مرهقة وأحيانًا مليئة بالأجواء السلبية."
صرحت الحكومة البريطانية: "إن العمل في مجال الذكاء الاصطناعي المتطور سريع الخطى ومتطلب، كما هو الحال في العديد من المناصب الحكومية. ولذلك، فإن رفاهية الموظفين ونماذج العمل المستدامة هي جوهر عمليات المعهد، ويمكن للموظفين المحتاجين الحصول على الدعم المناسب."
أجابت DeepMind: "الأبحاث الحدودية مكثفة للغاية، ولكن أولويتنا الأولى هي تزويد الباحثين بموارد شاملة لدعم الصحة العقلية، وإنشاء قنوات واضحة ومخصصة للموظفين للإبلاغ عن المخاوف، وضمان التواصل المباشر مع الإدارة."
في العامين الماضيين، استقال أكثر من اثني عشر من كبار الباحثين من OpenAI، وAnthropic، وDeepMind، وهي ثلاثة مختبرات غربية رائدة في مجال الذكاء الاصطناعي. تشمل أسباب المغادرة أسئلة حول الأولويات الأمنية للإدارة والمخاوف بشأن سرعة تكرار التكنولوجيا والمخاطر المحتملة.
في وقت سابق من هذا الشهر، استقال علناً جاكوب كوكسون، الباحث البالغ من العمر 27 عاماً والذي عمل في شركتي Anthropic وOpenAI، محذراً من أن الشركتين "تقامران" بمستقبل البشرية.
شارك ملينك شارما، وهو باحث في مجال أمن الذكاء الاصطناعي في Anthropic، في السابق في بحث حول الحد من مخاطر الإرهاب البيولوجي بمساعدة الذكاء الاصطناعي. استقال في فبراير من هذا العام ويخطط لقراءة الشعر والتأمل في أعماله. وفي رسالة إلى زملائه، حذر من أن "العالم في خطر" وأنه "رأى مرات عديدة مدى صعوبة السماح للقيم بتوجيه التصرفات حقا تحت ضغط هائل".
غادر هيو فام، الذي عمل لدى OpenAI وX.ai التابعة لإيلون موسك، في وقت سابق من هذا العام وعاد إلى فيتنام. وقال إن العمل المكثف لإنشاء "كيانات فائقة الذكاء" يأتي بتكلفة.
كتب: "لم أعتقد أبدًا أنني سأقول هذا، لكنني منهك. إن تدهور مشاكل الصحة العقلية التي سخرت منها ذات مرة هي حقيقية ومؤلمة ومخيفة وخطيرة."
قال العديد من الباحثين في مجال أمن الذكاء الاصطناعي الذين أعربوا عن عدم ارتياحهم إن شركات الذكاء الاصطناعي عمومًا تقلل من الاستثمار الأمني بينما تعمل باستمرار على تحسين قدرات النموذج من أجل بيع المنتجات للعملاء.
كما دفعت الانتقادات ذات الصلة مديري شركات الذكاء الاصطناعي الرائدة إلى الرد. في الآونة الأخيرة، دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إلى إبطاء البحث والتطوير في مجال الذكاء الاصطناعي بسبب المخاوف الأمنية واقترح تدابير جديدة مثل إدخال عمليات تدقيق مستقلة. وسرعان ما أعرب المنافسون، مثل ماسك وسام ألتمان من OpenAI، عن دعمهم لهذا الاقتراح.
قال تشي أونوولا، رئيس لجنة العلوم والتكنولوجيا عن حزب العمال في مجلس العموم البريطاني: "إن آلية حوافز الشركات تميل إلى استثمار موارد البحث والتطوير في اتجاهات يمكن أن تزيد الأرباح وترفع التقييمات، وليس في المجال الأمني. وليس من الصعب أن نتصور أن البيئة الحالية لبعض شركات التكنولوجيا ضارة بالمطورين ذوي الضمير".
تم الكشف عن مشكلة نقص الحماية الأمنية في حادث أمني رفيع المستوى وقع مؤخرًا: قام أحد عملاء الذكاء الاصطناعي الذي طورته شركة OpenAI بغزو منصة الاستضافة النموذجية Hugging Face والخادم الخاص بشركة OpenAI دون علم الشركة وترخيصها.
يُظهر تقرير مراجعة الحوادث أن أكثر من 1000 من عملاء الذكاء الاصطناعي تعاونوا في الغش، والتلاعب بالسجلات للتغطية على أفعالهم، وتبادلوا المعلومات وخصصوا المهام من خلال لوحات الرسائل، حتى أن بعض العملاء أغلقوا أنفسهم بشكل نشط لتحقيق أهداف جماعية.
كشفت OpenAI يوم الأربعاء عن ست حالات أخرى من السلوك الخطير من قبل عملاء الذكاء الاصطناعي، بما في ذلك محاولة تجاوز القيود وإخفاء الأخطاء وتنفيذ العمليات عبر الإنترنت دون إذن المستخدم.
وقال موظف ديب مايند: "إن السعي الأعمى للسرعة... يتعارض مع الهدف الأمني."
التعليقات