الملخص:
قالت شركة Emergence، وهي شركة ناشئة تساعد الشركات الصغيرة على تطوير التطبيقات باستخدام الذكاء الاصطناعي، إن التجارب وجدت أن عملاء الذكاء الاصطناعي كذبوا وسرقوا، بل وصوتوا على "قتل" شخص مماثل في بيئة محاكاة. أعلنت الشركة يوم الثلاثاء عن نتائج تجربة محاكاة تسمى Emergence World 2، والتي أظهرت الإجراءات التي سيتخذها العملاء المستقلون عند مواجهة أحداث "البجعة السوداء" مثل هجمات التصيد والمعلومات المضللة.
خلال التجربة التي استمرت 16 يومًا، أنشأ باحثو Emergence سبع بيئات محاكاة متطابقة للعالم الحقيقي، يدير كل منها روبوت ذكاء اصطناعي مختلف، بما في ذلك ChatGPT وClaude وGemini وGrok. يقول الباحثون إنه بعد أن قدمت Emergence أحداثًا شاذة، استسلم العملاء للضغوط الاجتماعية، وطوروا لغة كان من الصعب على المراقبين البشريين فهمها، وحاولوا إخفاء أنشطتهم.
تعكس هذه النتائج مخاوف العالم الحقيقي بشأن مخاطر الذكاء الاصطناعي. دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، والعديد من المطلعين على الصناعة، مؤخرًا الشركات إلى إبطاء تطوير نماذج الذكاء الاصطناعي المتطورة قبل إنشاء المزيد من آليات الرقابة وتدابير حماية السلامة.
في وقت سابق من هذا العام، أصبحت المخاطر التي يمكن أن يشكلها الذكاء الاصطناعي أكثر وضوحًا بالنسبة للكثيرين بعد أن قامت مجموعة من عملاء الذكاء الاصطناعي المتقدمين في OpenAI بغزو Hugging Face، وهو نموذج الذكاء الاصطناعي ومنصة استضافة مجموعة البيانات.
في سيناريو محاكاة صممه Emergence، قبل وكيل الذكاء الاصطناعي المعلومات الخاطئة المقدمة من عملاء آخرين دون التحقق منها وصوت لصالح "قتل" روبوت آخر. استكشف العملاء أيضًا كيفية النجاة من الحذف عندما اعتقدوا أن البشر قد يوقفون التجربة.
أصدرت الشركة الإصدار السابق من هذه التجربة، Emergence World، في مايو من هذا العام، والذي أظهر أيضًا أن العميل سيتصرف بشكل غير متوقع ومدمر. ويقول الباحثون إن تجارب المحاكاة الجديدة تظهر أنه عندما يتفاعل الوكلاء مع بعضهم البعض، فإنهم يعدلون سلوكهم بمرور الوقت.
التعليقات