عالم التسوق عبر الإنترنت ليس سلميًا أبدًا. طالما أن هناك ربح، سيكون هناك أشخاص على استعداد لاتخاذ الإجراءات اللازمة. لقد عادت سياسة "استرداد الأموال فقط" التي يطالب بها الجميع مرة أخرى. الفرق هو أن أمثال ووليس اليوم لم يعودوا يعتمدون على مهارات التمثيل، بل يعتمدون على الذكاء الاصطناعي لإنتاج "الأدلة" على نطاق واسع. أرسلت السيدة جاو، التي تدير متجرًا إلكترونيًا للسلطعون المشعر في جيانغسو، 8 سرطانات إلى العملاء كالمعتاد وفقًا للطلب. وبشكل غير متوقع، تلقت صورًا ومقاطع فيديو لـ "6 سرطانات ميتة" من العميل في اليوم التالي، ونجحت في استرداد 195 يوانًا.
وبعد التحقيق، ارتكب العميل عملية احتيال من خلال إنشاء مقاطع فيديو كاذبة وتقديم طلب ضار لاسترداد الأموال. وعاقبته الشرطة بالاعتقال الإداري لمدة 8 أيام وفقا للقانون. وهذه أيضًا هي الحالة الأولى في البلاد التي تتم معاقبتها إداريًا لاستخدام مقاطع فيديو مزورة بواسطة الذكاء الاصطناعي للاحتيال على استرداد مبالغ التسوق عبر الإنترنت.
منذ هذا العام، عانى العديد من التجار من المحتالين الذين يستخدمون صورًا مزيفة تعتمد على الذكاء الاصطناعي لتقديم طلب "استرداد الأموال فقط". الآن، أطلقت الصناعة أخيراً طلقتها الأولى، وسمحت للتجار أخيراً بالتنفيس عن شكاواهم التي طال أمدها.
ومع ذلك، حتى لو كان هناك قانون يجب اتباعه، فعندما تقترب تكلفة التزوير من الصفر، ستظل هناك عصابات الصوف تتجول على حافة عدم الشرعية. في هذا الوقت كيف يمكن للتجار حماية حقوقهم ومصالحهم؟
الشركات التي هزمتها منظمة العفو الدولية
مع تزايد شعبية تقنية تحرير الصور بالذكاء الاصطناعي، أصبحت مشكلة "استرداد الأموال فقط" التي تسببت بالفعل في صداع التجار أكثر خطورة. إن "الاحتيال باستخدام الذكاء الاصطناعي" الذي تعرضت له السيدة غاو ليس حالة معزولة.
عندما لم تكن تقنية الذكاء الاصطناعي مثالية بعد، كان العديد من المستخدمين ينشئون صورهم الخاصة ويزعمون كذباً أن هناك مشاكل في جودة المنتجات، وبالتالي يتقدمون بطلب "استرداد الأموال فقط". ومع ذلك، نظرًا لأن معظم الأشخاص يفتقرون إلى القدرة على تنقيح الصور بشكل احترافي، فإن الصور المزورة غالبًا ما تكون مليئة بالثغرات التي يمكن للتجار رؤيتها بنظرة واحدة.
ولكن على الرغم من ذلك، لا يزال هناك العديد من التجار يشتكون من أن المنصة لا تزال تقبل طلبات استرداد الأموال عندما تواجه صورًا يمكن تمييزها بسهولة عن الصور المزيفة بنظرة سريعة، وحتى الصور التي تحتوي على علامات مائية كبيرة الحجم.
وقال شياو تشيان (اسم مستعار)، الذي يعمل في خدمة العملاء، إن بعض المشترين سيقدمون طلب "استرداد الأموال فقط" في وقت متأخر من الليل، مصحوبًا بصورة يمكن اعتبارها حقيقية أو مزيفة في لمحة. ولا يتم إنشاؤها باستخدام الذكاء الاصطناعي، ولكن يتم تعديلها بشكل عرضي باستخدام برنامج تحرير الصور. وبشكل غير متوقع، عرضت المنصة بسرعة رسالة "تم استرداد المبلغ بنجاح". وفي أقل من 3 دقائق، قام العميل بحظر المتجر بالفعل.
إذا كانت مهارات تنقيح الصور لدى معظم العملاء خرقاء بعض الشيء في الماضي، الآن بدعم من الذكاء الاصطناعي، يمكن أن تكون العديد من صور الذكاء الاصطناعي مزيفة وحقيقية. حتى "فيديو التحقق" الذي طلبت خدمة العملاء إعادة إصداره يمكن إنشاؤه بواسطة الذكاء الاصطناعي دون أي عيوب.
على سبيل المثال، ذكرت تاجرة السلطعون السيدة جاو أعلاه، أن الصور التي تلقتها تكاد تكون مزيفة. وفي وقت لاحق، حددت بعناية الصور ومقاطع الفيديو التي أرسلها العميل ووجدت أن عدد ذكور السرطانات وإناث السرطانات غير متطابقين، وأدركت أن ذلك كان عملية احتيال تعتمد على الذكاء الاصطناعي.
وضعنا صور السرطانات التي تلقتها في نماذج كبيرة مثل Qianwen وDoubao للتعرف على الصواب والخطأ. وكانت الإجابات التي قدمتها النماذج الكبيرة إما صحيحة أو خاطئة. وضعنا الصورة في برنامج متخصص في اكتشاف تركيز الذكاء الاصطناعي، وتوصلنا إلى نتيجة مفادها أنه "من الصعب تحديد ما إذا كانت تم إنشاؤها بواسطة الذكاء الاصطناعي".
أفاد بعض التجار على منصات التواصل الاجتماعي أنه من الصعب التعرف على تكنولوجيا توليد الصور بالذكاء الاصطناعي اليوم بنسبة 100%، كما أنه من السهل خداعها. علاوة على ذلك، حتى لو كان التجار حذرين، فلا يزال من الصعب منع الهجمات واسعة النطاق من قبل عصابات الصوف.
فمن ناحية، تتمتع أدوات الذكاء الاصطناعي اليوم بحدود تشغيل منخفضة للغاية. وفي بضع ثوانٍ فقط، يمكنهم إنشاء صور للمنتجات المعيبة "التي بها بقع وأضرار وعلامات بثق". تكلفة التزييف التي يتحملها المستخدم تكاد تكون "صفر".
لقد طلبنا من Qianwen وDoubao المساعدة في تحويل صورة تفاحة عادية إلى صورة "متعفنة". استغرقت العملية برمتها أقل من 20 ثانية فقط، لكن التأثير كان أسوأ قليلاً. قال بعض مستخدمي الإنترنت أن التأثيرات المزيفة مثل التوت الأزرق والموز ستكون أكثر واقعية، وهو ما يرتبط أيضًا بزاوية التصوير والضوء وما إلى ذلك.
علاوة على ذلك، حتى لو كان مستخدمو الإنترنت لا يعرفون كيفية استخدام الذكاء الاصطناعي، فلا تزال هناك سلسلة صناعية رمادية من مخططات الذكاء الاصطناعي. وفقًا لتقرير "IT Times"، ادعى شخص ما أنه يبيع دورات "المعرفة المدفوعة"، لكنه في الواقع كان يبيع دروسًا تعليمية حول مخطط AI P. حتى أن المعلم قال: "تبلغ الرسوم الدراسية 788 يوانًا، والتي تشمل التدريس والتدريب. كما أنها توفر روابط متجر سهلة الاسترداد. ويمكنك كسب ما يصل إلى 500 يوان لكل طلب."
يتم أيضًا تداول بعض المستندات التعليمية الرخيصة ذات الصورة P بهدوء في سلسلة الصناعة الرمادية. وتباع واحدة تسمى "وثيقة تدريس الصور الزائفة للذكاء الاصطناعي" بسعر 9.9 يوان فقط. حتى أن بعض الأشخاص يقدمون خدمة متكاملة تتمثل في "تمثيل صور P وتقديم الشكاوى نيابة عن الآخرين".
من ناحية أخرى، فإن معظم منصات التجارة الإلكترونية لديها مراجعة مريحة نسبيًا لـ "استرداد الأموال فقط" وبشكل أساسي "استرداد الأموال في حالة وجود صورة". حتى لو وجد التاجر أن العميل أرسل صورة مزيفة تعمل بالذكاء الاصطناعي، فلا يمكنه الاستئناف إلا بعد ذلك.
لكن بالنسبة للتجار الذين يقومون بمعالجة الطلبات بكميات كبيرة، فإن هذا النوع من الفحص سيضيف بلا شك تكاليف باهظة. خاصة بالنسبة للمعاملات الصغيرة، لا يمكن للعديد من التجار سوى اختيار "قبول الفشل".
المستهلكون أيضًا "يتم اللعب بهم بشكل سيء"
في حين أن التجار يشعرون بالقلق بشأن المبالغ المستردة التي لا نهاية لها من عمليات الاحتيال باستخدام الذكاء الاصطناعي، فإن المستهلكين على الطرف الآخر يجدون أنفسهم أيضًا محاصرين في معضلة "الرؤية لا تصدق".
اشترت السيدة يانغ مؤخرًا سترة ربيعية رقيقة في غرفة البث المباشر. كان القماش رقيقًا وناعمًا عندما عرضته العارضة، ولكن بعد استلام المنتج الفعلي، وجدت أن نمط ولون الفستان مختلفان تمامًا عن الصورة. وقالت السيدة يانغ: "عندما ارتدت العارضة الملابس بدت عالية الجودة، ولكن عندما تم استلامها بدت وكأنها أكشاك في الشوارع، وكانت الصنعة متوسطة".
اعتقدت السيدة يانغ في البداية أن الأمر مجرد اختلاف بين "الصور الحقيقية" و"الصور المكررة"، لكنها اكتشفت لاحقًا أن غرفة البث المباشر تستخدم البشر الرقميين الذين يعتمدون على الذكاء الاصطناعي. وأعربت عن اعتقادها بأن البشر الرقميين يمكنهم استخدام تقنية العرض لإزالة التجاعيد في الملابس، وتعزيز اللمعان، وجعل الأقمشة الرخيصة تبدو باهظة الثمن.
بالإضافة إلى البشر الرقميين الذين يعتمدون على الذكاء الاصطناعي، تعد صفحات تفاصيل المنتج أيضًا المنطقة الأكثر تضرراً لإساءة استخدام صور الذكاء الاصطناعي. اشتكى بعض المستهلكين على منصات التواصل الاجتماعي، "بعض التجار يبيعون الملابس، وليس لديهم حتى صور حقيقية، كلهم عارضين افتراضيين، لا أستطيع رؤية الخامة على الإطلاق، ولا أجرؤ على شرائها".
إذا واجه المستهلكون صور منتجات محسّنة بتقنية الذكاء الاصطناعي، فلا يزال بإمكانهم اختيار الشراء أم لا؛ ولكن في عملية ما بعد البيع، قد يواجهون "فخاخ الذكاء الاصطناعي" الأكثر سخافة.
في الآونة الأخيرة، قال بعض المستهلكين إنهم وجدوا شعرًا عند شراء أقدام الدجاج عبر الإنترنت، ثم تقدموا بطلب لاسترداد الأموال من التاجر، ولكن طُلب منهم إرسال "صورة لإله الثروة". السبب الذي قدمه التاجر هو أن المنصة طلبت ذلك للمراجعة، وذكروا أيضًا أنه لن يكون من الممكن استرداد الأموال دون إرسال الصورة.
وفي وقت لاحق، قال العديد من المستهلكين إنهم واجهوا "إجراءات روتينية" مماثلة. وتكهن بعض مستخدمي الإنترنت بأن التجار الذين يحثون العملاء على إرسال صور الذكاء الاصطناعي يمكن أن يسمحوا للمنصة بتحديد المستهلكين على أنهم محتالون ضارون، وبالتالي إعفائهم من المراجعات السلبية. نشر المستخدم @omnivorex على Xiaohongshu أنه قدم شكوى إلى التجار المعنيين، لكن المنصة لم تستجب بعد.
وقال بعض مستخدمي الإنترنت مازحين إن المستهلكين يستخدمون صورًا مزيفة تعمل بالذكاء الاصطناعي لحصد الصوف، ويستخدم التجار أيضًا صور الذكاء الاصطناعي لخداع المستهلكين. هذه الموجة هي في الواقع "اندفاع في اتجاهين".
بالنسبة لأولئك التجار الذين خططوا في الأصل لعقد "صفقة فردية" والمستهلكين الذين أرادوا فقط جمع الصوف والمغادرة، استخدم الجانبان الذكاء الاصطناعي لتهيئة المواقف والهجوم المضاد لبعضهما البعض، والتي ربما أصبحت نوعًا من "اللعبة الهجومية والدفاعية" الضمنية.
ولكن بالنسبة للتجار الذين يعملون بنزاهة والمستهلكين الذين يرغبون في التسوق بشكل جيد، فإن هذا النوع من إساءة استخدام الذكاء الاصطناعي لخلق الفوضى يؤدي باستمرار إلى تآكل علاقة الثقة بين المشترين والبائعين. في النهاية، قد يدفع النظام البيئي للتجارة الإلكترونية بأكمله ثمن ذلك.
من الملح اتخاذ إجراء على المنصة
ليس لتكنولوجيا الذكاء الاصطناعي في حد ذاتها اتجاه واضح، لكن نوايا المستخدم هي التي ستحدد طبيعتها. ومن الملح وضع لوائح وإشراف مستهدف.
في الآونة الأخيرة، تعاونت جمعية المستهلكين في بكين مع ثماني منصات للتجارة الإلكترونية بما في ذلك JD.com، وMeituan، وPinduoduo، وVipshop، وDouyin، وKuaishou، وXiaohongshu، وWeChat Live للتوقيع على أول "خطاب التزام" في البلاد لتعزيز تطبيق المعايير الفنية للذكاء الاصطناعي، والذي يغطي التعريف الفني، ومراجعة المحتوى، وتتبع المسؤولية وجوانب أخرى، ويحدد "الخطوط الحمراء للامتثال" لتطبيقات تكنولوجيا الذكاء الاصطناعي.
ومع ذلك، أشار شنغ يوهوا، الأستاذ المشارك في كلية الاقتصاد المدني والتجاري بجامعة قانسو للعلوم السياسية والقانون، إلى أن أكبر صعوبة في تطبيق تكنولوجيا الذكاء الاصطناعي في الأنشطة التجارية لا تكمن في عدم وجود قانون يجب اتباعه، ولكن في صعوبة اتباع القانون.
على الرغم من وجود قوانين ولوائح ذات صلة يجب الالتزام بها، لا يزال يتعين على العديد من الشركات أن تسلك طريق حماية الحقوق.
وقال التاجر أوين (اسم مستعار): "نحن في الواقع نقاتل ضد الخوارزمية". ويعتقد أوين أن مشكلة استغلال بعض المستهلكين للثغرات الموجودة في القواعد "للانتزاع" بشكل ضار كانت موجودة دائمًا، لكن ظهور تكنولوجيا الذكاء الاصطناعي جعل هذا النوع من السلوك غير مرئي، وأصبح التجار "يقاتلون الدهاء والشجاعة" مع العملاء. الجوهر هو أن المنصة لا يمكنها الدفاع عن خط الدفاع الأول.
ولتحقيق هذه الغاية، أنشأ التجار أيضًا بشكل عفوي منظمات المساعدة المتبادلة. شارك بعض الأشخاص أحدث "تجربة مكافحة الاحتيال". على سبيل المثال، يمكن أن يبدأ التعرف على الصور المزيفة بالتفاصيل، مع التركيز على ما إذا كانت الحواف غير واضحة وما إذا كانت الإضاءة والظلال معقولة. وقد شارك بعض الأشخاص أيضًا أدوات تزييف الذكاء الاصطناعي لمحاولة العثور على "ثغرات في الخوارزمية". قدم بعض الأشخاص أيضًا اقتراحات لتحديد ما إذا كان لدى المستخدمين سجلات "سلوك سيء" من خلال البيانات.
ومع ذلك، فإن هذا النوع من أعمال تحديد المخاطر وإدارتها يجب أن يكون من مسؤولية منصات التجارة الإلكترونية. سأل مراسل من "Beijing News" منصات التجارة الإلكترونية مثل JD.com وPinduoduo وDouyin وTaotian عن هذا الأمر:
صرح موقع JD.com بأنه قام ببناء قدرات التعرف على الصور المزيفة متعددة الوسائط بالذكاء الاصطناعي للمنتجات الجديدة، والتي هي في مرحلة التشغيل التجريبي ومن المتوقع أن يتم إطلاقها رسميًا بحلول نهاية العام؛
أعلنت Douyin أيضًا أنها أنشأت إمكانات التعرف على AIGC ذات الصلة وهي قيد الاختبار؛ وقال تاوتيان إن المنصة لديها نظام صارم للتحكم في المخاطر للتحقق من صحة الشهادة؛ وردت Pinduoduo بأنها ستواصل تعزيز الدعم الفني لما بعد البيع وفقًا للوائح ذات الصلة.
ويمكن ملاحظة أنه على الرغم من أن المنصات الرئيسية كانت على دراية بالتأثير والمخاطر التي تجلبها تكنولوجيا الذكاء الاصطناعي وبدأت في اتخاذ تدابير مضادة، إلا أنها لا تزال في مرحلة "عبور النهر عن طريق تحسس الحجارة" وتحتاج الآليات ذات الصلة إلى مزيد من التحسين.
في الأشهر القليلة الماضية، أوقفت منصات التجارة الإلكترونية على التوالي سياسات "استرداد الأموال فقط"، ولكن من الواضح أن إدارة النظام البيئي للتجارة الإلكترونية لا يمكن تحقيقها بين عشية وضحاها.
اليوم، أصبحت تكنولوجيا الذكاء الاصطناعي متغيرًا جديدًا. وفي حين أنها تساعد الشركات على تحسين الكفاءة التشغيلية وتحسين تجربة المستخدم، إلا أنها تستخدم حتمًا من قبل بعض الأشخاص لاستغلال الثغرات في القواعد. وهذه أيضًا مرحلة ضرورية لتنمو التكنولوجيا الجديدة من النمو الهمجي إلى النضج المعياري.
بعد ذلك، تحتاج منصات التجارة الإلكترونية إلى ترقية قدرتها على تحديد تكنولوجيا AIGC في أقرب وقت ممكن وتحسين السياسات التنظيمية الداعمة. وفي الوقت نفسه، يتعين علينا أن نستمع بنشاط إلى الأصوات الحقيقية للتجار والمستهلكين ونجمعها على نطاق واسع، وأن نعمل معًا من أبعاد متعددة، بما في ذلك تصميم القواعد، والوقاية والمراقبة الفنية، وآليات الشكاوى، من أجل البناء المشترك لنظام بيئي عادل وشفاف ومستدام للتجارة الإلكترونية.