يدعي المتسللون أنهم استخدموا chatbot المدعوم بالذكاء الاصطناعي من Meta لاختراق العديد من حسابات Instagram رفيعة المستوى بنجاح عن طريق مطالبة الروبوت مباشرة بتغيير عنوان البريد الإلكتروني المرتبط بالحساب المستهدف إلى حساب جديد. وتتوافق هذه الادعاءات مع سلسلة من عمليات الاستيلاء الأخيرة على حسابات وسائل التواصل الاجتماعي، بما في ذلك حسابات البيت الأبيض في عهد باراك أوباما، ورئيس الرقيب في قوة الفضاء الأمريكية وسيفورا.
وأشار التقرير إلى أن هذا الحادث كشف عن المخاطر الهائلة المتمثلة في الإفراط في تكليف خدمات الدعم أو الوظائف الرئيسية لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي. وقال الضحايا إنه بعد سرقة حساباتهم، لم يكن لديهم أي وسيلة تقريبًا للتحول إلى المعالجة اليدوية ولم يتمكنوا إلا من التعامل مع الأنظمة الآلية. أعلنت Meta في مارس من هذا العام أنها ستطرح دعم الذكاء الاصطناعي لجميع الحسابات على Facebook وInstagram ومنحهم القدرة على إعادة تعيين كلمات المرور وإجراء عمليات صيانة الحساب الرئيسية الأخرى. حتى أن صفحة المنتج قالت "حلول، وليس مجرد اقتراحات" و"أمان الحساب واسترداده".
على مدار الأيام القليلة الماضية، قام الباحثون الأمنيون ومجموعات القرصنة بتداول مقاطع فيديو ولقطات شاشة على تطبيق Telegram توضح عملية اختراق الحسابات التي تبدو بسيطة. يُظهر أحد مقاطع الفيديو المتسلل وهو يتحدث إلى روبوت Meta الذي يعمل بالذكاء الاصطناعي، ثم يطلب منه ربط الحساب المستهدف بعنوان بريد إلكتروني جديد وتقديم اسم المستخدم المستهدف مباشرةً، وكيفية إرسال رمز التحقق، وعنوان البريد الإلكتروني للمهاجم. ويعتقد التقرير أن مثل هذه الحالات توضح أنه إذا تم استخدام الذكاء الاصطناعي للتعامل مع عمليات الحساب الحساسة للغاية، فقد تكون العواقب خطيرة للغاية بمجرد حدوث انتحال الكلمات أو حدوث ثغرات في العملية.