في 22 يوليو، وفقًا لصحيفة نيويورك تايمز، تستخدم Meta الذكاء الاصطناعي بشكل متزايد لمراجعة المحتوى، على أمل استبدال المراجعين البشريين، ولكن كانت هناك حالات قام فيها الذكاء الاصطناعي بحذف حسابات المستخدمين عن طريق الخطأ. من أجل إلغاء الحظر، يحتاج المستخدمون إلى تقديم استئناف، لكن استئنافهم لا يزال موجهًا إلى الذكاء الاصطناعي.
تم حظر حساب تدريس اللغة الإنجليزية الخاص بـ Hansens
في إحدى ليالي شهر مارس من هذا العام، استيقظت كاميل هانسون على إشعار. وهي تدير مشروعًا تجاريًا لتدريس اللغة الإنجليزية لغير الناطقين باللغة الإنجليزية مع زوجها من خلال حسابات على فيسبوك وإنستغرام، مع ما يقرب من مليون متابع، ولكن تم وضع علامة على هذه الحسابات الآن للحذف. قالت ميتا إنها انتهكت معايير المجتمع فيما يتعلق بالاحتيال والسلوك المخادع.
تتذكر هانسن البالغة من العمر 40 عاماً: "كنت مجرد معلمة لغة إنجليزية". وقد شعرت بالحيرة إزاء اتهامات الاحتيال والخداع. "ما الخطأ الذي فعلته؟" سألت نفسها.
جاء في الإشعار أن بإمكانها الاستئناف، لذلك نقرت على الزر لبدء عملية الاستئناف. وبعد أسبوع، تلقت إشعارًا آخر: تم رفض شكواها.
وقالت ميتا في ردها: "سيتم حذف جميع معلوماتك نهائيًا". "لن تتمكن من تقديم طلب مراجعة جديد لهذا القرار."
السيد والسيدة هانسن
وقال كالفن، زوج هانسن، البالغ من العمر 42 عاماً، في مقابلة بمنزله في البرتغال: "يبدو الأمر وكأنك تفتح متجراً فعلياً ويغلق شخص ما مكتبك أو متجرك".
هل يمكن للذكاء الاصطناعي أن يلعب دورًا كبيرًا؟
ما حدث لعائلة هانسن هو حالة خطأ في الذكاء الاصطناعي. يتم تكليف التكنولوجيا بشكل متزايد بتحديد الحسابات التي تنتهك قواعد محتوى Meta، مع التعامل أيضًا مع الطعون ضد تلك القرارات. والأمر الأكثر إزعاجًا هو أن المستخدمين مثل عائلة هانسن غالبًا ما يواجهون مشكلة في الاتصال بأي شخص في ميتا لمعرفة ما يجب فعله.
وفي شهر مارس، أعلنت شركة ميتا عن خطط لمنح المزيد من القوة لروبوتات الذكاء الاصطناعي، مما يسمح لها بتحديد الحسابات التي يجب حظرها أو حذف الصور الضارة. وبعد أشهر، قامت الشركة بتسريح آلاف الموظفين، بما في ذلك أولئك الذين عملوا في تلك الوظائف.
قام المستخدمون بتنظيم أنفسهم عبر الإنترنت، ووقع أكثر من 60 ألف شخص مؤخرًا على عريضة تطلب من ميتا تقديم المزيد من المعلومات حول الحسابات المحظورة والسماح بمراجعة الطعون البشرية. تمتلئ بعض المجتمعات على Reddit والمنصات الأخرى أيضًا بالعديد من الشكاوى من مستخدمي Meta حول أنظمة الذكاء الاصطناعي الخاصة بالشركة.
يستخدم Meta الذكاء الاصطناعي لإدارة المحتوى
شكك المتحدث باسم Meta، دانييل روبرتس، في فكرة أن الذكاء الاصطناعي أسوأ من البشر في التعامل مع الحسابات، قائلًا إن أداة مراجعة الذكاء الاصطناعي الجديدة للشركة تقلل الأخطاء بنسبة 13٪ وتكتشف محتوى غير قانوني بنسبة 10٪ أكثر من الموظفين البشريين. وقال روبرتس إنه من بين الحسابات الخمسة التي أبلغت عنها صحيفة نيويورك تايمز إلى ميتا، تم حظرها جميعًا بواسطة أدوات الإشراف القديمة الخاصة بالشركة.
وقال: "نحن ملتزمون بتقليل أخطاء التنفيذ ومساعدة الأفراد على حماية حساباتهم. ويحقق الذكاء الاصطناعي نتائج في كلا المجالين".
واجهت Meta مشاكل الذكاء الاصطناعي عدة مرات. وفي شهر مايو من هذا العام، استغل المتسللون نقاط الضعف في برنامج الدردشة الآلي لخدمة العملاء المزود بالذكاء الاصطناعي لمهاجمة 34 ألف حساب على موقع إنستغرام، بما في ذلك حساب أوباما السابق في البيت الأبيض. وفي الشهر نفسه، أدت احتجاجات الموظفين على برنامج يتتبع ضغطات المفاتيح لتدريب الذكاء الاصطناعي إلى قيام شركة ميتا بتعليق البرنامج.
في الأسبوع الماضي، زعم 26 موظفًا سابقًا في شركة Meta في دعوى قضائية أن الشركة فصلتهم باستخدام خوارزمية الذكاء الاصطناعي التي استهدفت الموظفين ذوي الإعاقة. وقال متحدث باسم ميتا: "إدارة الموارد البشرية والقرارات التنظيمية كانت ولا تزال من صنع البشر، وليس الذكاء الاصطناعي".
أطلقت People Over Platforms، وهي مجموعة مناصرة للمستخدمين تقدم خدمات استرداد الحساب، عريضة عبر الإنترنت هذا العام لإجبار Meta على تغيير سياسة الإشراف على الحساب. واتهم ميتا العديد من الموقعين على العريضة بمشاركة مواد استغلال الأطفال ثم قام بحظرها بعد ذلك. ويعتقد المستخدمون أن هذا الاتهام "يزيد الطين بلة".
لا سبيل للاستئناف
وهذا بالضبط ما زعمه ميتا ضد أثينا رودني العام الماضي. رودني هو مدير JuneteenthNY، وهي مجموعة تحيي ذكرى نهاية العبودية في الولايات المتحدة. وفي العام الماضي، حظرت ميتا جميع حساباتها الشخصية والعملية على فيسبوك وإنستغرام.
جاء في إشعار Meta ما يلي: "وجدت تقنيتنا أن حسابك أو نشاطك على حسابك لا يتوافق مع قواعدنا. ونتيجة لذلك، اتخذت تقنيتنا الإجراء."
رودني
قالت رودني إنها لا تستطيع فهم أسباب قرار ميتا لأن المحتوى الذي تنشره منظمتها هو "محتوى مناسب للعائلة". وبعد أن تم تعليق حسابها، بحثت في أرشيفات الصور الخاصة بـ Juneteenth New York، في محاولة للعثور على منشورات ربما تكون قد أثارت روبوت الذكاء الاصطناعي، لكنها لم تجد شيئًا.
لاحقًا، تذكرت رودني أنه قبل وقت قصير من إلغاء ميتا لحسابها، نبهتها الشركة إلى عمليات تسجيل دخول مشبوهة من سياتل وسنغافورة، على الرغم من أنها تعيش في أتلانتا. يشير هذا إلى احتمال اختراق حسابها.
قامت رودني بتغيير كلمة المرور الخاصة بها بسرعة، لكن ستة حسابات على Instagram و Facebook استخدمتها لأغراض تجارية وشخصية مختلفة لا تزال محظورة.
وفي محاولة لاستعادة الحسابات، قالت إنها قدمت وثائق هوية، وقدمت شكاوى إلى مكتب Better Business Bureau ولجنة التجارة الفيدرالية، واتصلت بمكاتب حماية المستهلك بالولاية وأرسلت رسائل إلى موظفي Meta على LinkedIn. لكن كل الجهود ذهبت سدى.
منذ ذلك الحين، كان على Juneteenth New York إقناع الرعاة بأنها منظمة شرعية موجودة منذ ما يقرب من عقدين من الزمن.
وقال رودني: "سيقوم الرعاة لدينا بفحص صفحات وسائل التواصل الاجتماعي الخاصة بنا للتأكد من أننا منظمة شرعية ونقوم بذلك منذ 17 عامًا". "ولكن الآن، بمجرد تسجيل الدخول إلى حسابنا ورؤية أن لدينا 500 متابع فقط، سيقولون أنك لم تفعل ذلك لفترة طويلة وأنك مزيف".
تم حظره عن طريق الخطأ
وبعد أن أشارت صحيفة نيويورك تايمز إلى الحسابات الخمسة المحظورة لشركة ميتا، قالت ميتا إن الشركة أجرت تحقيقا ووجدت أن اثنين من الحسابات تم حظرهما بسبب القرصنة، وتم حظر الحساب الآخر لأسباب مشروعة. وقال ميتا إن الحساب المخترق تم حظره بشكل صحيح لأن المتسلل انتهك السياسات المتعلقة بسلامة الأطفال.
استعادت ميتا بعد ذلك الحسابين المخترقين، بما في ذلك حساب Rodney's Juneteenth New York. وقالت الشركة إنه من بين الحسابات الخمسة المشار إليها، تم حظر حسابين عن طريق الخطأ، بما في ذلك حسابات عائلة هانسن.
روبرتو سواريز هو أحد مشاهير إنستغرام وقد جمع أكثر من 500000 متابع قبل أن يتم حظره هذا العام. لقد كان أحد الأشخاص الذين تلقوا بريدًا إلكترونيًا من ميتا لإعلامه باستعادة حسابه، إلى جانب صوره ومعجبيه ورسائله وما إلى ذلك. وبدأ في إعادة نشر المحتوى إلى المعجبين الذين لم يسمعوا منه منذ أشهر.
تم حظر حساب سواريز بشكل مستمر
وبعد بضعة أسابيع، أرسل له ميتا بريدًا إلكترونيًا آخر. وجاء في البريد الإلكتروني: "لقد تم تعليق حسابك"، مدعيًا أن المحتوى الخاص به ينتهك قانون حقوق الطبع والنشر. "إذا لم تتخذ أي إجراء، فسيتم تعطيل حسابك نهائيًا."
وينفي سواريز انتهاك أي حقوق الطبع والنشر. تمت إعادة حسابه بعد فترة وجيزة من سؤال صحيفة نيويورك تايمز عن الحظر الجديد.
تلقت السيدة هانسن أيضًا بريدًا إلكترونيًا من ميتا لإبلاغها باستعادة حسابها.
وجاء في رسالة البريد الإلكتروني: "لقد قمنا بمراجعة حسابك ووجدنا أن النشاط أعلاه يتوافق مع إرشادات مجتمعنا بشأن الاحتيال والخداع، لذا يمكنك استخدام Instagram مرة أخرى". "نحن آسفون لأننا ارتكبنا خطأ." (المؤلف / شياو يو)
لمزيد من الأخبار المباشرة، يرجى تنزيل عميل Phoenix News والاشتراك في Phoenix Technology. إذا كنت تريد الاطلاع على تقارير تفصيلية، فيرجى البحث عن "ifeng.com Technology" على WeChat.