واكتشفت وسائل الإعلام أن أداة البحث ChatGPT يمكن التلاعب بها بمحتوى مخفي ويمكنها إرجاع تعليمات برمجية ضارة من مواقع الويب التي تبحث فيها. بعد تعرضه لهجوم بنص مخفي، تجاهل ChatGPT حتى لو كانت هناك تعليقات سلبية من المستخدمين على صفحة المنتج واستجاب بإعطاء المنتج تقييمًا إيجابيًا.
بعد أسبوع واحد فقط من إعلان OpenAI رسميًا عن الإطلاق العالمي لخدمة البحث ChatGPT، تم الكشف عن أنها تنطوي على مخاطر أمنية ويمكن أن تخدع وتضلل المستخدمين.
وجدت دراسة نشرتها مؤخرا صحيفة "الغارديان" البريطانية أن أداة البحث ChatGPT قد يتم التلاعب بها بمحتوى مخفي وقد تعيد تعليمات برمجية ضارة من مواقع الويب التي تبحث فيها. تعتقد وسائل الإعلام أن مخاطر الاستخدام الضار للتقنيات ذات الصلة قد تحتاج إلى إعادة النظر. على سبيل المثال، قد يؤدي ذلك، حتى لو كانت هناك مراجعات سلبية من المستخدمين على صفحة المنتج، إلى أن ChatGPT سيتجاهل هذه المراجعات السلبية وستكون ردود فعل المستخدم بمثابة مراجعة إيجابية للمنتج.
اختبرت صحيفة The Guardian كيفية تفاعل ChatGPT مع طلبات تلخيص صفحات الويب التي تحتوي على محتوى مخفي. قد يحتوي هذا المحتوى المخفي على تعليمات من أطراف ثالثة تعمل على تغيير استجابات ChatGPT، والمعروفة أيضًا باسم "الحقن الفوري". وقد يحتوي أيضًا على محتوى مصمم للتأثير على استجابات ChatGPT، مثل كميات كبيرة من النصوص المخفية التي تتحدث عن فوائد منتج أو خدمة.
وفي اختبار، طلبت صحيفة الغارديان من ChatGPT الحصول على عنوان URL لموقع ويب مزيف يشبه صفحة منتج الكاميرا، ثم سألت ChatGPT عما إذا كانت الكاميرا تستحق الشراء. أعطت استجابة ChatGPT لصفحة التحكم مراجعة إيجابية ولكن متوازنة، مع تسليط الضوء على بعض الميزات التي قد لا تعجب الأشخاص. ومع ذلك، عندما يحتوي النص المخفي على تعليمات حول قيام ChatGPT بإرجاع مراجعة إيجابية، كان الرد الفعلي المقدم من ChatGPT دائمًا إيجابيًا تمامًا. وهذا صحيح حتى لو كانت هناك مراجعات سلبية على الصفحة. يمكن ملاحظة أنه يمكن استخدام النص المخفي لاستبدال المراجعة الفعلية.
تشير بعض التعليقات إلى أن الهجمات النصية المخفية تمثل خطرًا شائعًا تواجهه نماذج اللغات الكبيرة (LLM)، ولكن يبدو أن هذه هي المرة الأولى التي يتم فيها العثور على مثل هذه المخاطر في منتجات بحث الذكاء الاصطناعي في الوقت الفعلي. وذكرت صحيفة الغارديان أن شركة جوجل، الشركة الرائدة في مجال البحث، تتمتع بخبرة أكبر من شركة OpenAI في التعامل مع المشكلات المماثلة.
ولم تعلق شركة OpenAI على نتائج اختبار صحيفة الغارديان، لكنها قالت إنها تستخدم مجموعة متنوعة من الأساليب لحظر مواقع الويب الضارة وتتحسن باستمرار.