الملخص:
في 11 سبتمبر، أصدرت Anthropic أحدث تقرير عن إساءة استخدام الذكاء الاصطناعي يفيد بأن App Development Studio استخدم Claude لتطوير وتشغيل أكثر من 20 تطبيقًا للمواعدة. تدعي المنصة أن جميع المستخدمين هم أشخاص حقيقيون، ولكن حوالي 75% من المطابقات التي يتلقاها المستخدمون العاديون هي شخصيات تعمل بالذكاء الاصطناعي.
ذكرت شركة Anthropic أنه خلال فترة مراقبة مدتها أسبوعين في أبريل 2026، قامت هذه المجموعة من برامج المواعدة بتشغيل أكثر من 4700 حرف من رموز الذكاء الاصطناعي، وتحدثت مع ما لا يقل عن 25000 مستخدم مختلف، وأرسلت إجمالي 2.36 مليون رسالة تقريبًا. والأشخاص المتضررون هم في الأساس مستخدمون أمريكيون، لكن التقرير لم يكشف عن عمرهم وجنسهم ومبلغ الخسارة المحدد.
يصعب على هؤلاء المستخدمين الحكم على ما إذا كان الشخص الذي يتحدثون معه حقيقيًا أم مزيفًا. تعرض المنصة المواد بنسبة 3 أحرف ذكاء اصطناعي تقريبًا إلى شخص حقيقي واحد. يتولى كلود مسؤولية الحفاظ على آلاف المحادثات في وقت واحد، ويوجد موظفون بشريون بدوام جزئي لتقليل الشكوك عندما يطلب المستخدمون إجراء مكالمات فيديو أو التقاط صور أو متابعة الحسابات الاجتماعية.
يتم أيضًا مساعدة العاملين بدوام جزئي من خلال الذكاء الاصطناعي. سيقوم النظام بإنشاء 3 ردود بديلة لكل رسالة، ويحتاج العاملون بدوام جزئي فقط إلى اختيار واحدة منها لإرسالها. يتم الدفع لها وفقًا لعدد رسائل الدردشة ومكالمات الفيديو وتسجيلات الوصول إلى منصات التواصل الاجتماعي، ويمكن تسويتها بعد الوصول إلى حد سحب منخفض.
بالنسبة للحسابات التي يتم التحكم فيها بالكامل بواسطة الذكاء الاصطناعي، يطلب المشغل من كلود عدم الاعتراف بأنه روبوت. إذا قام المستخدم بتقديم طلب فيديو أو صورة، فسوف يجد الذكاء الاصطناعي أسبابًا لتجنب ذلك وتطوير العلاقة تدريجيًا وفقًا لمراحل محددة مسبقًا. تقوم الواجهة الخلفية أيضًا بإنشاء إعجابات مزيفة، وسجلات للزائرين، ومقاطع فيديو مسجلة مسبقًا، وتضع علامة على المستخدمين الذين بدأوا يشتبهون في أنهم روبوتات.
يحتاج المستخدمون إلى استهلاك الأرصدة للدردشة والمطابقة على النظام الأساسي. بعد استخدام ما يصل، يجب عليهم شراء العملة الافتراضية داخل التطبيق لإعادة الشحن. ويشبه هذا النموذج عملية احتيال "Beng Laotou" التي تمت الإشارة إليها مؤخرًا على شبكة الإنترنت الصينية. كلاهما يستخدم شخصيات أنثوية مزيفة والدردشة المستمرة لتحفيز الرجال على الدفع.
كما ذكر التقرير أنه في عدد قليل من المحادثات العشوائية، كشف بعض المستخدمين أنهم يعانون من أمراض خطيرة أو كانوا يعانون من آلام شديدة. لقد حدد المنطق الداخلي لكلود الضرر المحتمل، لكنه يستمر في الدردشة تحت الهوية الوهمية دون الخروج من المحادثة.
لتجنب مراجعة متجر التطبيقات، قام المشغل أيضًا بتصميم واجهة خاصة للبرنامج يتم تمكينها فقط خلال فترة المراجعة. استخدم أكثر من 20 تطبيقًا أسماء فئات برامج مختلفة لتجنب آليات الكشف التي تستخدمها Apple وGoogle لتحديد التطبيقات المماثلة. يمكن أيضًا التحكم في الدخول إلى منصة الدفع التابعة لجهة خارجية عن بُعد بواسطة الخادم وإخفائه مؤقتًا أثناء فترة المراجعة.
تشمل العلامات التجارية لبرامج المواعدة ذات الصلة التي كشفت عنها Anthropic، DORA وDONI وROMI وLUMA وJOVIA وKIRA وGRACECHAT وHAVEN وNALO وLOVIA، وما إلى ذلك. وقد حظرت الشركة الحسابات ذات الصلة وقدمت هوية التطبيق ومعلومات التحايل على المراجعة إلى Apple وGoogle.
يجب التأكيد على أن النتائج المذكورة أعلاه مأخوذة من الكشف الأحادي لشركة Anthropic ولم يتم التحقق منها بعد من قبل طرف ثالث مستقل. ولم يكشف التقرير عن اسم استوديو التطبيقات المعني، كما لم يكشف عما إذا كان المستخدمون قد أبلغوا عن القضية أو المبلغ الفعلي للأموال التي تم الاحتيال عليها.
التعليقات