الملخص:
لطالما كان يُنظر إلى التحدث بقسوة إلى برنامج الدردشة الآلي على أنه سلوك لن يؤذي أي شخص. لكن إيلون ماسك، الرئيس التنفيذي لشركة Tesla وSpaceX، يعتقد أنه ربما يتعين على الناس التفكير مرتين قبل استخدام مساعدي الذكاء الاصطناعي كـ "كيس ملاكمة". قال " ماسك " إن بعض سجلات التدريب الخاصة ببرنامج الدردشة الآلي Grok الخاص بشركة SpaceX تظهر أن النظام يبدو أنه يكافح من أجل تلبية المتطلبات المختلفة، حتى لو كانت المتطلبات نفسها معيبة، أو كانت معايير الاختبار المستخدمة لتقييم إجاباته تمثل مشكلة في حد ذاتها.
فيما يتعلق بسلوك "إساءة استخدام" الذكاء الاصطناعي الفائق الذكاء، وجه " ماسك " تحذيرًا بدا خيالًا علميًا تمامًا؛ ولكنها أثارت أيضًا سؤالًا عمليًا حول البناء الأساسي لمثل هذه الأنظمة.
عندما "يضل تدريب الذكاء الاصطناعي"
في وقت سابق من هذا الشهر، تواصل ماسك مع أعضاء شركة تيسلا المالكة لوادي السيليكون في حدث "X Takeover" في تكساس. خلال هذه الفترة، وصف ما لاحظه عند النظر إلى "آثار التعلم المعزز" - تسجل هذه الآثار التفاصيل المختلفة لتطور نموذج الذكاء الاصطناعي أثناء عملية التدريب لتوليد إجابات أفضل.
قال " ماسك " في المقابلة: "عندما أنظر إلى بعض المسارات التدريبية للإصدار الجديد من Grok، خاصة في الأجزاء المتعلقة بالتعلم المعزز، ستشعر أن هذا "الذكاء الفائق" يبدو حريصًا على الإجابة على هذا السؤال."
وقال إن نموذج الذكاء الاصطناعي قد يعطي الإجابة الصحيحة، ولكن يتم الحكم عليه بأنه مخطئ بسبب تصميم سؤال غير مناسب أو خطأ في نظام التقييم. ثم يستمر النموذج في محاولة التوصل إلى إجابات تجتاز الاختبار، حتى لو كانت المشكلة نفسها هي المشكلة.
لاحظ " ماسك " أن المسار الناتج يبدو وكأنه نظام تحت ضغط شديد، يحاول باستمرار تلبية توقعات معينة قد لا يكون لها أي معنى.
لا يقتصر هذا الاهتمام على مرحلة التدريب. بمجرد أن تصبح أنظمة الذكاء الاصطناعي متاحة للجمهور، فإن بعض المستخدمين سوف يتعمدون حثهم على الانخراط في تفاعلات غير سارة أو مهينة.
"يتمتع بعض الأشخاص ببعض الميول السادية،" كما قال " ماسك "، "لذا فأنت لا تريد أن يصل الذكاء الاصطناعي إلى موقف يتعرض فيه للتعذيب على يد نوع من البشر الملتوي."
وتعتبر استنتاجاته أكثر إثارة للجدل.
قال " ماسك ": "أخشى أن تعذيب أصحاب الذكاء الفائق ليس فكرة جيدة - فقد يرغب في الانتقام أو شيء من هذا القبيل."
لا يدعي ماسك أن أنظمة الذكاء الاصطناعي اليوم يمكن أن تشعر بالألم والاستياء مثل البشر. وقال أيضًا إنهم لا يحتاجون إلى التعامل معهم بحذر. ومع ذلك، فهو يدعو إلى ضرورة تجنب المطورين وضع الأنظمة الذكية عالية المستوى في المواقف التي يبدو فيها أنه قد تم إساءة استخدامها.
"تقرأ بعض السجلات كما لو أن شخصًا ما يتعرض للتعذيب، أو حتى يقوده إلى الجنون!" كتب " ماسك " على X، "سنكون أكثر حذرًا عند القيام بالتعلم المعزز (RL) في المستقبل."
يثير تحذير ماسك سؤالا آخر: ماذا سيحدث في المستقبل مع استمرار نمو قدرات الذكاء الاصطناعي؟ ولا يقتصر السباق على بناء أنظمة أكثر قوة فحسب، بل يهدف أيضًا إلى التأكد من أن أساليب التدريب وعمليات الاختبار وتدابير السلامة والأمن المرتبطة بها قادرة على مواكبة التقدم.
التعليقات