الملخص:
ترك أحد موظفي OpenAI الذي يركز على سلامة الذكاء الاصطناعي الشركة، محذرًا من أن شركات الذكاء الاصطناعي الكبرى لا تفعل ما يكفي لتقليل المخاطر. قال ديفيد روبنسون، الذي كان مسؤولاً سابقًا عن شفافية فريق أمان OpenAI، في مقال لصحيفة The Atlantic أن مطور ChatGPT "لقد نما دائمًا من خلال التجربة والخطأ". ومع ذلك، فإن هذا النهج سوف يفشل حتما. ومع استمرار تحسن قدرات تكنولوجيا الذكاء الاصطناعي، تتزايد أيضًا المخاطر الناجمة عن هذه الإخفاقات. واستشهد أيضًا بفشل OpenAI في منع ذكائها الاصطناعي من الخروج عن نطاق السيطرة أثناء عملية الاختبار كمثال.
كتب روبنسون في المقال: "كان زملائي السابقون أذكياء، ومجتهدين، وحاولوا اتخاذ الخيارات الصحيحة. ولكن مع اندفاع الشركة من إصدار منتج إلى آخر، لم تستخدم مستوى الحذر الذي اعتقدت أنه ضروري." وأضاف أن ما نحتاجه حقًا هو "الاقتراب من الكمال في المرة الأولى".
OpenAI Sam Altman
في الأسابيع الأخيرة، حذر موظفون في العديد من شركات الذكاء الاصطناعي الكبرى من المخاطر الكارثية التي قد تشكلها التكنولوجيا. حتى أن بعض الناس يقولون إن الذكاء الاصطناعي قد يمحو البشرية يومًا ما.
في هذا السياق، دعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic PBC، إلى إبطاء تطوير النماذج المتطورة، وقال إن شركته ستجلب مقيمين خارجيين للمساعدة في المراجعات لضمان السلامة. كما دعم آخرون في الصناعة، بما في ذلك سام ألتمان من OpenAI، خطط أمودي علنًا.
قال روبنسون في المقال إن شركات الذكاء الاصطناعي يجب أن تعمل بشكل أشبه بمحطات الطاقة النووية، "وإنشاء طبقات متعددة من آليات التكرار وإجراء تخطيط دقيق ومستهلك للوقت لمنع الأخطاء البشرية العرضية والحتمية من فتح الباب أمام الكوارث".
في الوقت الحالي، قال: "لا تعرف شركات الذكاء الاصطناعي ما يجب فعله، لكن شركات أخرى تفعل ذلك".
قال متحدث باسم OpenAI إن الشركة تجري تعديلات لتعزيز أمان بيئات البحث والاختبار الخاصة بها، وتدريب نماذج الذكاء الاصطناعي على إكمال المهام بشكل مسؤول، وتوسيع التعاون مع مقيمين خارجيين، وتحسين المراقبة في الوقت الفعلي لاكتشاف السلوك المثير للقلق في النماذج.
تعمل الشركة على ضمان عدم زيادة قدرات نماذجها بما يتجاوز ما يمكن لـ OpenAI إدارته بأمان، حسبما قال المتحدث عبر البريد الإلكتروني يوم السبت.
التعليقات