الملخص:
قبل أسابيع قليلة من إطلاق قسم الذكاء الاصطناعي في SpaceX Grok Bot، وهو منتج شخصي للذكاء الاصطناعي، في أغسطس، اكتشف المهندسون في Cursor ثغرة أمنية محتملة. في ذلك الوقت، كانت شركة SpaceX تستحوذ على شركة Cursor، وهي شركة ناشئة تعمل بالبرمجة البرمجية للذكاء الاصطناعي، وتم تطوير Grok Bot بواسطة شركة Cursor. أثناء عملية التطوير، استخدم جميع موظفي Cursor هذه الأداة على نطاق واسع للاختبار والعمل اليومي.
في أواخر شهر يوليو، أثار المهندسون مخاوف من احتمال أن يكون Cursor قد أرسل بيانات تم إنشاؤها بواسطة اختبار داخلي، والتي قد تحتوي على معلومات سرية للعملاء والموردين والشركاء التجاريين، إلى قسم الذكاء الاصطناعي في SpaceX. وفقًا للاتصالات الداخلية التي استعرضتها وسائل الإعلام، حذر أحد محامي شركة Cursor من أنه بمجرد أن يعلم الغرباء أن الشركة تستخدم البيانات للتدريب النموذجي، فقد يؤدي ذلك إلى "أزمة ثقة خطيرة".
أطلقت شركة Cursor على الفور تحقيقًا داخليًا لمعرفة البيانات الحساسة، إن وجدت، التي تم إرسالها إلى وحدة الذكاء الاصطناعي في SpaceX، والمعروفة الآن باسم SpaceX SI، وفقًا للوثائق الداخلية التي استعرضتها وسائل الإعلام وشخصان مطلعان على المشروع. إن نتيجة هذا التحقيق الداخلي غير واضحة، لكن الشركة اتخذت خطوات للتأكد من أن التدريب النموذجي اللاحق لم يعد يتضمن البيانات الناتجة عن استخدام الموظفين.
يسلط الحادث الضوء على التحدي الذي تواجهه شركات البحث والتطوير في مجال الذكاء الاصطناعي، والذي أصبح بارزًا بشكل متزايد مع تزايد شعبية أدوات الوكيل مثل Grok Bot. تم تصميم هذا النوع من الوكيل لمنح أذونات أعلى ويمكنه اجتياز ملفات وتطبيقات مختلفة على كمبيوتر المستخدم لإكمال المهام بشكل مستقل.
لكن هذه الدرجة العالية من الحرية تجلب مخاطر أمنية جديدة، بما في ذلك توفير معلومات حساسة لنموذج التدريب عن غير قصد. بشكل عام، ذكرت شركات الذكاء الاصطناعي الكبرى أنها لن تستخدم البيانات التي تم الحصول عليها من أدوات الإنترنت مثل Gmail وGoogle Cloud Disk لإجراء تدريب نموذجي. على سبيل المثال، في شروط خدمة Grok Bot، تنص SpaceX SI على أن الشركة لن تستخدم بيانات Google Cloud Disk لتدريب النماذج، ويمكن للمستخدمين اختيار رفض مشاركة بياناتهم الخاصة لهذا الغرض.
إن التحقيق في البيانات المتعلقة بـ Grok Bot ليس حادث أمن البيانات الوحيد الذي واجهه Cursor. أظهرت الاتصالات الداخلية التي استعرضتها وسائل الإعلام أن موظفي الشركة قاموا هذا الصيف بتسريب بعض معلومات العملاء عن طريق الخطأ من خلال موقع ويب يمكن الوصول إليه بشكل عام ومصمم للاستخدام الداخلي.
لم تستجب شركة SpaceX SI لطلب التعليق.
حتى قبل أن تكمل SpaceX استحواذها على شركة Cursor بقيمة 60 مليار دولار في منتصف أغسطس، كانت شركة Cursor تعمل على توسيع أعمالها ولم تعد مقتصرة على أدوات البرمجة. بعد اكتمال عملية الاستحواذ، أصبح Grok Bot، وهو مساعد تعاوني يعمل بالذكاء الاصطناعي في جميع الأحوال الجوية ويمكنه التعامل مع مهام مختلفة، المنتج الأساسي لشركة SpaceX SI في التنافس على سوق أدوات الذكاء الاصطناعي المربحة على مستوى المؤسسات.
كشف شخصان مطلعان على الأمر أنه من أجل تحسين الإصدار المبكر من Grok Bot، قام Cursor بترتيب الشركة وموظفي SpaceX SI والأفراد والشركات الخارجية لاختبار المنتج، أثناء جمع سجلات سلوك المستخدم لاستخدام الوكيل. يمكن للمؤشر استخدام هذه البيانات لتدريب نموذج الذكاء الاصطناعي، مما يسمح للنموذج بمعرفة كيفية أداء الوكيل للمهام، بما في ذلك العمليات المنفذة والمعلومات المستردة أثناء المهمة.
ذكر رومان أوغارتي، الرئيس السابق للنمو في Cursor، في مقابلة بودكاست أنه في شهر يونيو تقريبًا، كان الموظفون الداخليون في Cursor أول من استخدم Grok Bot، الذي كان يحمل الاسم الرمزي Sand. وسرعان ما أصبح المنتج شائعًا داخل الشركة، حيث استخدمه الموظفون للتعامل مع المبيعات والتوظيف والبحث والمهام الأخرى. وكثيرًا ما سمحوا للبرنامج بالوصول إلى أنظمة الشركة، مما سمح لهم بالعمل بشكل مستقل. قال أشخاص مطلعون على الأمر أن هذا يعني أن الموظفين سيستخدمون الوكيل في السيناريوهات التي يتفاعلون فيها مع العملاء الخارجيين ويجرون مقابلات مع المرشحين المحتملين، مما قد يعرضهم لمعلومات حساسة في محادثات المبيعات وملفات العملاء واتصالات التوظيف.
ولكن في يوليو، قبل وقت قصير من إطلاق Cursor لـ Grok Bot، حذر بعض المهندسين على قناة الإبلاغ عن حوادث Slack: قد تحتوي بيانات التدريب التي جمعتها الشركة من سيناريوهات الاستخدام الداخلي لـ Sand على معلومات سرية، وربما تم نقل هذه الدفعة من البيانات إلى SpaceX SI.
كجزء من تحقيقاتها، قامت شركة Cursor بمراجعة نطاق المستخدمين المدرجين في مجموعة بيانات التدريب، استنادًا إلى الاتصالات الداخلية والأشخاص المطلعين على الأمر. وقال شخص مطلع على الأمر إن بعض موظفي Cursor استخدموا رسائل البريد الإلكتروني الشخصية لتسجيل الدخول إلى Sand، مما جعل من الصعب على الشركة تحديد هؤلاء المستخدمين وإزالة بياناتهم من التدريب اللاحق.
ولتحقيق هذه الغاية، فرضت Cursor قيودًا: يجب على الموظفين استخدام البريد الإلكتروني للشركة لتسجيل الدخول إلى Sand، وقررت عدم تضمين أي بيانات تم إنشاؤها بواسطة موظفي Cursor في التدريب المستقبلي.
كتب محامي كورسور على قناة Slack التابعة للشركة: "من الناحية القانونية، تعد Sand أداة عامة، وتحتوي مجموعة بياناتها على معلومات سرية حول العملاء والشركاء والموردين وما إلى ذلك. وبالمعنى الدقيق للكلمة، ليس لدينا السلطة القانونية لاستخدام هذه البيانات للتدريب النموذجي."
هذه ليست المرة الأولى التي يضطر فيها Cursor إلى تنظيف الفوضى الناجمة عن سوء التعامل مع بيانات المستخدم.
أظهرت الاتصالات الداخلية التي استعرضتها وسائل الإعلام وقوع حادثة لم يتم الإبلاغ عنها سابقًا في وقت سابق من هذا العام: كشف موظفو مبيعات وتسويق المؤشر عن غير قصد عن معلومات العملاء على الإنترنت. تكمن المشكلة في المواقع الإلكترونية التي أنشأها الفريق استنادًا إلى منصة تطوير مواقع الويب Vercel، والتي استخدمها فريقا المبيعات والتسويق للحفاظ على العلاقات مع العملاء الحاليين والعملاء المحتملين.
توضح المستندات أنه يتم استخدام أحد مواقع الويب لإدارة إرساء العملاء مع Verizon. يحتوي موقع الويب على مخطط تنظيمي لجزء من الإدارة الفنية لشركة Verizon، يسرد العديد من المستخدمين الأساسيين لأداة المؤشر الداخلية لشركة Verizon، ومبالغ استهلاك المنتج، وعنوان البريد الإلكتروني لكل مستخدم.
تُظهر سجلات الاتصال الداخلية لـ Cursor أنه على الرغم من أن موقع الويب المرتبط بـ Verizon يحتوي على كلمة مرور، إلا أن كلمة المرور، بالإضافة إلى جميع معلومات العميل، تمت كتابتها مباشرةً في التعليمات البرمجية الأساسية. يمكن لأي مستخدم إنترنت يشاهد الرمز الحصول على كلمة المرور ومعلومات العميل.
تظهر الاتصالات الداخلية أيضًا أن الشركة واجهت مشكلات مماثلة مع البيانات الواردة من شركات أخرى مثل Bosch وCoupa. بعد اكتشاف الثغرة الأمنية، قام مهندسو Cursor بإيقاف تشغيل موقع الويب ذي الصلة بشكل عاجل. حتى أنهم أعطوا قناة Slack المخصصة لمناقشة هذه المشكلة التي لا نهاية لها اسمًا طويلًا: "قام عدد كبير من مواقع GTM بتسريب بيانات العملاء/البيانات الداخلية" (GTM تعني Go to Market).
أحال بوش الاستفسارات إلى Cursor، ورفض Coupa التعليق، ولم تستجب Verizon لطلبات المقابلة، ورفض Vercel التعليق.
قبل فترة طويلة من دمج Cursor في SpaceX SI، واجه قسم الذكاء الاصطناعي بشركة الطيران حوادث مماثلة تتعلق بأمن البيانات. في مارس 2025، قام أحد موظفي SpaceX SI عن طريق الخطأ بتحميل برنامج نصي اختباري إلى مستودع أكواد GitHub العام، مما أدى إلى تسريب مفتاح واجهة برنامج تطبيق Grok. يمكن للغرباء استخدام المفتاح للوصول إلى نموذج xAI الذي لم يتم طرحه للعامة.
اكتشف أحد الباحثين هذا الصيف أن أداة التطوير Grok Build الخاصة بشركة SpaceX ستقوم بتحميل مستودع رموز Git الكامل إلى Google Cloud Storage الخاص بشركة SpaceX، مما قد يؤدي إلى تسريب كود مصدر الملكية أو بيانات اعتماد الهوية التي لم يكن لدى المطورين أي نية لنشرها للعامة. ردًا على ذلك، أغلقت xAI وظيفة تحميل المستودع وجعلت الأداة مفتوحة المصدر. ونشر إيلون ماسك على منصة X: "جميع بيانات المستخدم التي تم تحميلها مسبقًا على SpaceX AI سيتم حذفها بالكامل وبشكل كامل."
التعليقات