في بداية هذا العام، طبقت منصة التواصل الاجتماعي Discord ميزة "المراهقين بشكل افتراضي" استجابة للضغوط التنظيمية العالمية، حيث تعامل الجميع كقاصرين بشكل افتراضي وتغلق بعض الوظائف بشكل مباشر. لفتح وضع البالغين، عليك اجتياز التحقق من العمر.هناك طريقتان رئيسيتان للتحقق: إما أن تلتقط مقطع فيديو قصيرًا باستخدام الكاميرا وتسمح للذكاء الاصطناعي بتقدير العمر محليًا على هاتفنا المحمول؛ أو تحميل بطاقة الهوية بأمانة.
ونتيجة لذلك، بدأ رفاق الإنترنت اختبارات قاسية مختلفة. استخدم بعض الأشخاص لقطات شاشة اللعبة لخداعهم، واستخدم البعض الآخر نماذج ثلاثية الأبعاد، وكان الأمر الأكثر فظاعة هو استخدام أشكال عصا الأصابع.
قام شخص ما برسم عينين وفم على إبهامه، ورفعه أمام الكاميرا، واتبع النظام الذي يطالب بالتوسيط، والمحاذاة، والانعطاف يسارًا، ثم الانعطاف يمينًا... وبعد الانتهاء من تحليل الذكاء الاصطناعي، كانت النتيجة:تم التحقق من عمر 13-15 عامًا!
لم تفتقر الإنترنت أبدًا إلى الخيال عندما يتعلق الأمر بـ "الاستفادة من الثغرات". وكان هناك أيضًا صبي يبلغ من العمر 12 عامًا قام برسم لحية بقلم حواجب وحكم عليه النظام بأنه يبلغ من العمر 15 عامًا واجتاز المراجعة بنجاح.
لماذا يحدث هذا؟
ومن أجل التعامل مع الإشراف مع تقليل النزاعات المتعلقة بالخصوصية إلى الحد الأدنى، اختارت هذه المنصات حلاً لتقدير عمر الوجه من جانب الجهاز، حيث يقوم المستخدم بتسجيل مقطع فيديو أمام الكاميرا. يتم تشغيل نموذج الذكاء الاصطناعي بالكامل على الهاتف المحمول أو الكمبيوتر المحلي، ويتم إرسال نتائج الحكم النهائية للفئة العمرية فقط إلى الخادم. لن يتم تحميل الفيديو الكامل أو بيانات الوجه.
يبدو هذا بمثابة خطر منخفض على الخصوصية، وعملية التحقق خفيفة نسبيًا، ولكن المفاضلة هي أن موارد الحوسبة المتاحة محدودة، ولا يمكن أن يكون النموذج معقدًا للغاية، ولا يمكنه الاعتماد على التحليل الثقيل من جانب الخادم.
تعتمد هذه النماذج بشكل أساسي على السمات البصرية مثل العينين والفم وملامح الوجه وملمس الجلد لاستنتاج العمر. يتوافق الإبهام البسيط المرسوم بنقطتين وخط بشكل غير متوقع مع نمط الميزة المجردة لـ "وجه شاب وناعم" تحت ضوء معين وزاوية ودقة منخفضة.
عندما يتطلب النظام أن يكون "الوجه" في المنتصف ويتجه إلى اليسار واليمين، فإن الاهتزاز الطفيف الطبيعي والحركات اللاحقة للأصابع توفر إشارة حركة أساسية، وهو ما يكفي لاكتشاف الحيوية خفيف الوزن نسبيًا لاعتبار هذا كائنًا "حيًا" وإطلاقه مباشرة.
يتم تدريب نماذج تقدير عمر الذكاء الاصطناعي بشكل أساسي باستخدام كميات هائلة من بيانات الوجه الحقيقي، وتفتقر بطبيعتها إلى القوة الكافية لمثل هذه المدخلات غير القياسية والمجردة إلى حد كبير.
في الأيام الأولى من الطرح، ومن أجل منع المستخدمين العاديين من الفشل بشكل متكرر بسبب الإضاءة الضعيفة أو الزوايا الخاطئة أو المظهر الخاص، كان على المنصة أن تحدد العتبة بشكل فضفاض نسبيًا، مما أعطى هذه الطريقة الشريرة منخفضة التقنية فرصة للاستفادة منها.
حدثت مواقف مماثلة على منصات مثل Roblox. يمكن ملاحظة أن تقنية عصر الوجه الحالية بعيدة كل البعد عن أن تكون مانعة للماء عندما تواجه أساليب خداع مصممة بعناية.
المنصات لا تجلس ساكنة.
منذ بعض الوقت، أعلنت شركة Meta أنها ستستخدم الذكاء الاصطناعي لفحص الصور ومقاطع الفيديو التي تم تحميلها من قبل المستخدمين بشكل فعال.استخدم أدلة مرئية عامة مثل الطول وبنية العظام لتحديد ما إذا كان عمر صاحب الحساب أقل من 13 عامًا، ثم قم بإزالتها مباشرة.
يؤكد ميتا على وجه التحديد: "هذا ليس التعرف على الوجوه". إنه يصدر فقط أحكامًا تقريبية للفئة العمرية. "
علاوة على ذلك، لا ينظر Meta إلى الصور فحسب، بل يجمع أيضًا المحتوى النصي للحساب بأكمله مع صور شاملة للسلوكيات التفاعلية، مثل كعكات عيد الميلاد، وذكر الصف الدراسي، وما إلى ذلك، والتي سيتم تضمينها في الحكم.
بمجرد أن يشعر الذكاء الاصطناعي بأنه قاصر، فإنه سيقتل الحساب أولاً. إذا كنت ترغب في استعادته، فيجب عليك إجراء عملية التحقق الرسمية. هذا النظام متوفر حاليًا في بعض البلدان وسيتم توسيعه تدريجيًا ليشمل المزيد من المناطق في المستقبل. ومن المخطط أيضًا توسيعه ليشمل Instagram Live ومجموعات Facebook وسيناريوهات أخرى.
تستخدم المنصة الذكاء الاصطناعي لسد الثغرات، ويجد المستخدمون طرقًا لاستغلال الثغرات.
ومن المرجح أن تستمر لعبة القط والفأر هذه.