قدم وكيل التسوق القائم على الذكاء الاصطناعي طلبًا لأربعة صناديق من البيض دون تصريح، وانتهى الأمر بالمستخدم بالحصول على 72 منها كاملة

📅 2026-11-18

الملخص:

لاحظ مات سميث، أحد المستخدمين الذين يستخدمون وكيل الذكاء الاصطناعي، أنه بدلاً من إكمال طلبات التسوق كالمعتاد، طلب الذكاء الاصطناعي كمية غريبة من البيض له. لم يُدرج مات سميث البيض في قائمة التسوق الخاصة به؛ إلا أن مساعد الذكاء الاصطناعي أضاف أربع عبوات من البيض الكبير من العلامة التجارية المحلية المعروفة “Vital Farms” إلى سلة التسوق الخاصة به. يوجد 18 بيضة في كل عبوة، وتم تسليم ما مجموعه 72 بيضة إلى منزله.

قدم وكيل التسوق بالذكاء الاصطناعي طلبًا لأربعة صناديق من البيض دون إذن، وحصل المستخدم أخيرًا على 72 بيضة كاملة

وبعد مراجعة الطلب، طلب سميث من الذكاء الاصطناعي توضيح سبب اختياره لهذا الرقم، لكن إجابة الذكاء الاصطناعي كانت غير مقنعة: "لا أستطيع إعطاء إجابة مرضية، ولا أستطيع العثور على أي ملاحظات توضح سبب اختياري للرقم أربعة".

قال وكيل الذكاء الاصطناعي في البداية إنه أخطأ في قراءة المعلومات المتعلقة بالبيض عند قراءة صورة قائمة التسوق. ومع ذلك، سارع سميث إلى الإشارة إلى أن البيض لم يُذكر على الإطلاق في قائمته. واعترف الذكاء الاصطناعي في النهاية بأنه أضاف البيض إلى الطلب دون سبب.

هذا مثال واقعي على هلوسة الذكاء الاصطناعي، وهي مشكلة يمكن أن يكون لها عواقب غير مقصودة عند تفويض المهام اليومية لعملاء الذكاء الاصطناعي.

لا يمكن التقليل من خطورة حصول هذه الأدوات على وصول واسع النطاق إلى المعلومات الشخصية؛ على سبيل المثال، بعد وقت قصير من إطلاق وكيل Meta’s Muse AI، أفاد رجل أن الذكاء الاصطناعي أعطى عنوان منزله لغرباء على Facebook Marketplace دون علمه وقام بتوجيههم إلى منزله.

وصف سميث الحادث بأنه أول تجربة شخصية له مع العواقب الحقيقية لوهم نموذج اللغة الكبرى، والذي قال إنه كان من الممكن أن يكون له عواقب أكثر خطورة.

على الرغم من التقدم الكبير في هذه التكنولوجيا، لا يزال عملاء الذكاء الاصطناعي عرضة للخطأ ولا ينبغي تكليفهم بالتعامل مع كل جانب من جوانب الحياة دون إشراف

الوسوم ذات الصلة

مقالات مشابهة

التعليقات

0/500
Captcha (click to refresh)
لا توجد تعليقات