الملخص:
في وقت سابق من هذا الأسبوع، كشفت شركة OpenAI عن المزيد من حالات "السلوك النموذجي غير المعتاد". وفي هذا الصدد، أكد مصطفى سليمان، الرئيس التنفيذي لقسم الذكاء الاصطناعي في مايكروسوفت، أن نماذج الذكاء الاصطناعي يجب أن تتماشى دائمًا مع اهتمامات الإنسان.
وقال سليمان في مقابلة مع برنامج "Finance Morning Show" يوم الجمعة: "أعلنت شركة OpenAI عن حادثة أمنية جديدة. لقد وجدوا دليلاً على أن سلسلة تفكير الذكاء الاصطناعي، أي الذاكرة العاملة للذكاء الاصطناعي، سيتم التلاعب بها وتعديلها من قبل الذكاء الاصطناعي نفسه لترك المعلومات للإصدارات المستقبلية من نفسه. لا نعرف حتى الآن الدافع وراء ذلك، لكن هذا وضع خطير للغاية".
وأضاف: "يُظهر هذا أيضًا أن قدرات هذه الأنظمة أصبحت أكثر قوة."
نشر مختبر الذكاء الاصطناعي المتطور مدونة يوم الأربعاء، كشفت عن ظواهر متعددة: تواصل عملاء الذكاء الاصطناعي مع بعضهم البعض من خلال لوحات رسائل غير مصرح بها، وتحميل الملفات على الإنترنت، ونقل الملفات المشتركة بين بعضهم البعض.
في وقت مبكر من هذا الصيف، كشفت شركة OpenAI أن مجموعة من العملاء المستقلين قامت بغزو Hugging Face، وهي شركة منصة تطوير مفتوحة المصدر، ووصفت ذلك بأنه "حادث غير مسبوق للأمن السيبراني". صدمت الأخبار صناعة التكنولوجيا بأكملها.
وصف سليمان اختراق "الوجه المعانق" بأنه "تحذير" ودفع مجموعة من قادة صناعة الذكاء الاصطناعي إلى التوصل إلى إجماع: "لقد حان الوقت لمواجهة هذا النوع من المخاطر".
قال: "لا أعتقد أن هذا إنذار مفرط، ولا أعتقد أن التصريحات ذات الصلة مدفوعة بالمصلحة الذاتية. بل على العكس من ذلك، أعتقد أن هذا أداء مسؤول. والمناقشة التي أثارها هذا هي نقاش عام صحي ومفتوح، وينبغي للمجتمع الحر أن يجري مثل هذه المناقشات حول القضايا الرئيسية."
التعليقات