وفقًا للأخبار الصادرة يوم ٢٣ يونيو، قامت شركة Meta بتعليق مشروع تدريب داخلي على الذكاء الاصطناعي إلى أجل غير مسمى. يسجل المشروع إدخالات لوحة المفاتيح، وعمليات الماوس، ومحتوى الشاشة على أجهزة كمبيوتر عمل الموظفين لتدريب الذكاء الاصطناعي على تعلم تشغيل البرنامج؛ كان سبب التعليق هو أن حقوق الوصول إلى بيانات المشروع قد تم تكوينها بشكل خاطئ، وكان حوالي 45000 جدول بيانات مفتوحًا لموظفي Meta الداخليين.
أبلغت WIRED وBusiness Insider بشكل منفصل عن حادثة الأذونات الداخلية. وفقًا لإشعار الأمان الداخلي لشركة Meta، تنتمي البيانات المعنية إلى مبادرة القدرة النموذجية (MCI)، والتي تحتوي على آثار للعمليات على أجهزة كمبيوتر عمل الموظفين، بالإضافة إلى محتوى حساس مثل "مطالبات ونصوص الذكاء الاصطناعي الكاملة، والمحادثات الخاصة، وبيانات الموظفين والأداء". تتضمن البيانات المذكورة في تقرير WIRED بشكل أساسي معدات الشركة المملوكة لموظفي Meta في الولايات المتحدة.
وأكدت تريسي كلايتون، المتحدثة باسم ميتا، أن الشركة تحقق في الحادث الأمني، وقالت إن MCI تم تعليقها إلى أجل غير مسمى أثناء استمرار التحقيق. وشددت أيضًا على أن Meta "ليس لديها حاليًا ما يشير إلى أن الموظفين قد تم الوصول إليهم بشكل غير صحيح". إلا أن هذا مجرد بيان في المرحلة الحالية من التحقيق ولا يساوي النتيجة النهائية.
وتبين أن المخاطر التي كان يقلقها 1600 موظف حقيقية.
تم إطلاق MCI في أبريل من هذا العام بهدف جمع بيانات سلوك عمل الموظفين على أجهزة الكمبيوتر لتدريب أنظمة الذكاء الاصطناعي. سبق أن أوضح مارك زوكربيرج، الرئيس التنفيذي لشركة Meta، هذه الفكرة في الاجتماعات الداخلية: يمكن لنماذج الذكاء الاصطناعي أن تتعلم من خلال ملاحظة مدى جودة عمل الموظفين، ويكون موظفو Meta أكثر ملاءمة لتقديم عينات عالية الجودة من الموظفين الخارجيين الذين تم تعيينهم خصيصًا لإنتاج هذا النوع من البيانات.
هذا التفسير لم يقنع معظم الموظفين. وفي شهر مايو، وقع أكثر من 1600 موظف في شركة Meta على عريضة داخلية تطالب بوضع حد لتتبع سلوك الكمبيوتر. وينص الالتماس على أن جمع مثل هذه البيانات يشكل مخاطر أمنية وتنظيمية، بما في ذلك خروقات البيانات والكشف غير المصرح به.
أخبر أندرو بوسورث، كبير مسؤولي التكنولوجيا في Meta، الموظفين سابقًا أن إدارة بيانات MCI "تخضع لرقابة صارمة"، باستخدام نفس معايير الحماية وأنظمة التخزين وضوابط الوصول مثل مجموعات البيانات الحساسة الأخرى للشركة. لكن بعد هذه الحادثة، اعترف بوسورث بأن التنفيذ الفعلي للمشروع لم يستوف المعايير المدرجة في وثيقة مراجعة الخصوصية. وقال في منشور داخلي إن المشكلة تكمن في قائمة التحكم في الوصول التي تم تكوينها بشكل خاطئ وأن الشركة بحاجة إلى معرفة السبب وتتبع مسار الوصول إلى البيانات.
إنه ليس هجومًا خارجيًا، لكن الأذونات الداخلية غير مقفلة بشكل صحيح.
تم تصنيف هذا الحادث على أنه SEV2 داخليًا بواسطة Meta. وفقًا للشرح الوارد في التقرير، يتراوح مستوى الخطورة الداخلية لـ Meta من 0 إلى 5، حيث يكون 0 هو الأكثر خطورة وSEV 2 هو المستوى الأعلى. تُظهر المنشورات الداخلية التي شاهدتها WIRED أنه تم وضع علامة "مغلق" على الحادث، مما يعني أنه ربما تم إصلاح مشكلة الأذونات، لكن Meta لم تعلن علنًا عن الإصلاحات المحددة والجدول الزمني الكامل.
بالنسبة للموظفين، فإن نقطة الخلاف ليست فقط ما إذا كان أي شخص قد اطلع بالفعل على بيانات الآخرين، بل أن الشركة وعدت سابقًا بـ "التحكم الصارم" في مجموعات البيانات الحساسة، وبالفعل كانت هناك مشكلات تتعلق بأذونات الوصول الواسعة جدًا. كتب أحد الموظفين في منتدى داخلي أنه لم يتمكن من رؤية أي دليل على الوصول الضار، لكنه كان "غاضبًا" لأن البيانات لم يتم تأمينها كما وعد. أفاد BusinessInsider أيضًا أن الموظفين الداخليين تفاعلوا بقوة مع المشروع وهذه الحادثة.
ويتطرق الحادث أيضًا إلى القيود التنظيمية طويلة المدى التي تواجه ميتا. تظل Meta خاضعة لأمر موافقة لجنة التجارة الفيدرالية الأمريكية (FTC) الذي يتطلب من الشركة الحفاظ على العمليات لمنع انتهاكات البيانات حتى عام 2040. ذكرت WIRED أيضًا أن Meta بدأت في إشراك الذكاء الاصطناعي في بعض أعمال مراجعة الخصوصية والأمن؛ ومع ذلك، لا يوجد حاليًا أي دليل على تورط الذكاء الاصطناعي في خطأ تكوين إذن MCI هذا.
إن سباقات الذكاء الاصطناعي تضرب تكلفة الثقة داخل الشركات
MCI ليس مشروعا معزولا. أنشأت Meta فريقًا جديدًا "Applied AI" (الذكاء الاصطناعي التطبيقي) في مارس من هذا العام، حيث قامت بتعيين ما يقرب من 6500 موظف في المناصب ذات الصلة، بهدف تحسين نماذج الذكاء الاصطناعي. وأفاد موقع Business Insider أن بعض الموظفين شعروا بأن المشاريع التي تم تكليفهم بها كانت تافهة ومنهكة للروح المعنوية؛ اعتذر Bosworth للموظفين الأسبوع الماضي عن مشكلات الاتصال أثناء إعادة تنظيم الذكاء الاصطناعي ووعد بتحسين الاتصال واستعادة بعض المزايا المكتبية.
هذه المرة تم تعليق MCI، وقد تم الكشف بشكل ملموس عن التكلفة الداخلية لسباق Meta نحو الذكاء الاصطناعي. يمكن للشركة أن تقول إنها لم تجد أي علامات على الوصول غير السليم حتى الآن، ولكن طالما تم فتح هذا النوع من البيانات عن طريق الخطأ، فسيكون من الصعب إصلاح ثقة الموظفين في "تدريب الذكاء الاصطناعي على سلوكيات العمل الخاصة بهم" بالوعود الداخلية وحدها. لا يقتصر دور الموظفين على توفير بيانات التدريب على الذكاء الاصطناعي فحسب، بل هم أيضًا الحاملون المباشرون لمخاطر الخصوصية والأمان. هذه الهوية المزدوجة هي ما مؤلم حقًا في هذا الحادث.