بعد أن شهدت الانتخابات التمهيدية الشهر الماضي رسالة مصممة لتبدو مثل صوت الرئيس الأمريكي جو بايدن الذي يطلب من سكان نيو هامبشاير عدم التصويت، تتحرك لجنة الاتصالات الفيدرالية (FCC) لجعل استخدام الأصوات الناتجة عن الذكاء الاصطناعي في المكالمات الآلية أمرًا غير قانوني. وتشعر الوكالة بالقلق من استخدام تقنية التزييف العميق للصوت لإرباك وخداع المستهلكين من خلال تقليد أصوات "المشاهير والمرشحين السياسيين والأقارب المقربين".
إن اقتراح رئيسة لجنة الاتصالات الفيدرالية (FCC) جيسيكا روزنورسيل سيجعل من غير القانوني بموجب قانون حماية المستهلك الهاتفي (TCPA) استخدام الأصوات الناتجة عن الذكاء الاصطناعي لإجراء مكالمات صغيرة.
يقيد قانون TCPA لعام 1991 التسويق عبر الهاتف واستخدام أنظمة الاتصال الهاتفي التلقائي والرسائل الصوتية الاصطناعية أو المسجلة مسبقًا. ويتطلب القانون أيضًا من المسوقين عبر الهاتف الحصول على موافقة كتابية صريحة من المستهلكين قبل إجراء مكالمات صوتية معهم. تريد لجنة الاتصالات الفيدرالية (FCC) أن تلتزم الأصوات الناتجة عن الذكاء الاصطناعي بهذه المعايير أيضًا. ومن المتوقع أن يصوت أعضاء اللجنة الخمسة على الاقتراح في الأسابيع المقبلة.
وقال Rosenworcel في بيان: "إن استنساخ الصوت والصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي تزرع بالفعل بذور الارتباك، وتخدع المستهلكين للاعتقاد بأن عمليات الاحتيال والاحتيال مشروعة". "بغض النظر عن المشاهير أو السياسيين الذين يعجبونك أو علاقتك بأقاربك، فمن المرجح أن نكون جميعًا مستهدفين بهذه المكالمات المزيفة عندما يطلبون المساعدة".
قامت شركة Pindrop للكشف عن الاحتيال في الكلام بتحليل الرسالة المزيفة التي تبلغ مدتها 39 ثانية والتي بدت وكأن بايدن يطلب من سكان نيو هامبشاير عدم التصويت، ووجدت أنه تم إنشاؤها باستخدام محرك تحويل النص إلى كلام الخاص بـ ElevenLabs. تستخدم الشركة الناشئة برامج الذكاء الاصطناعي لتكرار أصوات أكثر من عشرين لغة.
وفقًا لبلومبرج، أكدت شركة ElevenLabs أن برنامجها تم استخدامه في حادثة نيو هامبشاير وحظرت الحساب المسؤول. أعلن مكتب المدعي العام في نيو هامبشاير عن إجراء تحقيق في مكالمات هاتفية من أشخاص ينتحلون شخصية بايدن.
وقال متحدث باسم لجنة الاتصالات الفيدرالية (FCC) إن التغييرات المحتملة على القانون ستمنح المدعين العامين بالولاية صلاحيات جديدة للقضاء على محتالي المكالمات الصوتية باستخدام الذكاء الاصطناعي مع حماية المستهلكين.
كانت لجنة الاتصالات الفيدرالية (FCC) تحارب المكالمات الآلية منذ سنوات. في ديسمبر 2022، اقترحت لجنة الاتصالات الفيدرالية فرض غرامة قدرها 300 مليون دولار ضد عملية مكالمات آلية متعددة الجنسيات غير قانونية أدت إلى إجراء أكثر من 5 مليارات مكالمة آلية لأكثر من 500 مليون رقم هاتف في فترة ثلاثة أشهر في عام 2021. وفي عام 2020، فرض المكتب أيضًا غرامات بقيمة 225 مليون دولار بسبب المكالمات الآلية المضللة.
أصبح توليد أصوات أفراد الأسرة وسيلة شائعة للمجرمين لسرقة الأموال من الضحايا المطمئنين. وتستمر هذه الجريمة في التزايد حيث أصبحت التكنولوجيا التي يولدها الذكاء الاصطناعي أكثر سهولة وأرخص وأكثر إقناعا.