تحظى خدمات الذكاء الاصطناعي التوليدية بشعبية كبيرة بين مستخدمي الإنترنت ومجرمي الإنترنت. وفقًا لمكتب التحقيقات الفيدرالي (FBI)، يتم استخدام المحتوى "الاصطناعي" بشكل متزايد لارتكاب عمليات احتيال مختلفة. ومع ذلك، لا يزال بإمكان الأفراد حماية أنفسهم بشكل فعال عبر الإنترنت طالما أنهم يتخذون الاحتياطات الصحيحة.
أصدر مكتب التحقيقات الفيدرالي (FBI) تحذيرًا بشأن سوء الاستخدام الإجرامي للتكنولوجيا المولدة بالذكاء الاصطناعي. وفي إعلان الخدمة العامة الأخير، حذر المكتب الأمريكيين من أن المحتالين يستخدمون المحتوى الناتج عن الذكاء الاصطناعي لجعل مخططاتهم غير القانونية أكثر إقناعًا وفعالية.
وفقًا لمكتب التحقيقات الفيدرالي، فإن الذكاء الاصطناعي التوليدي يمكّن المجرمين من تقليل الوقت والجهد اللازمين لخداع الأهداف. تقوم أدوات الذكاء الاصطناعي هذه "بتجميع" محتوى جديد تمامًا بناءً على المطالبات التي يدخلها المستخدم. ويمكنها أيضًا المساعدة في تصحيح الأخطاء البشرية التي قد تثير الشكوك، خاصة في النصوص التي ينشئها الذكاء الاصطناعي.
إن إنشاء محتوى باستخدام الذكاء الاصطناعي ليس أمرًا غير قانوني بطبيعته، ولكنه يصبح جريمة عندما يتم استخدام هذا المحتوى في محاولات الاحتيال أو الابتزاز. يوضح تنبيه مكتب التحقيقات الفيدرالي (FBI) عدة أمثلة حول كيفية إساءة استخدام الذكاء الاصطناعي التوليدي ويقدم نصائح عملية لمساعدة المستخدمين في الحفاظ على أمانهم عبر الإنترنت.
في حملات الهندسة الاجتماعية أو التصيد الاحتيالي، يبدو النص الناتج عن الذكاء الاصطناعي مقنعًا للغاية. يستفيد المحتالون من التكنولوجيا التي يولدها الذكاء الاصطناعي لإنتاج محتوى مزيف، وإنشاء ملفات تعريف مزيفة على وسائل التواصل الاجتماعي، وإرسال الرسائل، وترجمة اللغات بدقة أكبر وأخطاء نحوية أقل. يمكن الآن إنشاء مواقع ويب احتيالية بالكامل في وقت قياسي، ويتم استخدام برامج الدردشة الآلية لخداع الضحايا للنقر على الروابط الضارة.
ليس هناك شك في أن الصور المولدة بواسطة الذكاء الاصطناعي هي في طليعة الاتجاهات الحالية، وأن مجرمي الإنترنت يستفيدون منها استفادة كاملة. يستخدم المحتالون صورًا تم إنشاؤها بواسطة الذكاء الاصطناعي لتعزيز ملفات تعريف الوسائط الاجتماعية المزيفة ووثائق الهوية المزيفة لدعم النشاط الاحتيالي. وفقًا لمكتب التحقيقات الفيدرالي، يمكن لخوارزميات الذكاء الاصطناعي إنشاء صور "واقعية" يتم استخدامها في حملات الهندسة الاجتماعية، والتصيد الاحتيالي، والاحتيال، وحتى "قتل المقالي".
يشكل محتوى الصوت والفيديو الناتج عن الذكاء الاصطناعي مخاطر مماثلة. يمكن للمجرمين الآن انتحال شخصية شخصيات عامة أو حتى الهدف أنفسهم، أو طلب المساعدة المالية أو الوصول إلى معلومات حساسة مثل الحسابات المصرفية.
ينصح مكتب التحقيقات الفيدرالي المستخدمين بإنشاء "كلمة سرية" أو عبارة مع العائلة والأصدقاء الموثوق بهم كوسيلة سريعة للتحقق من الهوية. تتضمن النصائح الأخرى للحماية من جرائم الذكاء الاصطناعي التوليدية فحص الصور ومقاطع الفيديو بعناية بحثًا عن الحالات الشاذة أو التناقضات، وتقليل توفر الصور أو التسجيلات الشخصية عبر الإنترنت.
عند التعامل مع الطلبات المالية، يؤكد مكتب التحقيقات الفيدرالي على أهمية التحقق من شرعيتها من خلال المكالمات الهاتفية المباشرة بدلاً من الاعتماد على الرسائل النصية أو رسائل البريد الإلكتروني. لا تشارك أبدًا معلومات حساسة مع الأشخاص الذين قابلتهم عبر الإنترنت فقط. على الرغم من أن هذا قد يبدو واضحًا، إلا أن مكتب التحقيقات الفيدرالي يؤكد أيضًا أن إرسال الأموال أو بطاقات الهدايا أو العملات المشفرة إلى الغرباء عبر الإنترنت أمر محفوف بالمخاطر للغاية وغالبًا ما يؤدي إلى عمليات احتيال.