في الآونة الأخيرة، كشفت جوجل رسميايعاني نموذج الذكاء الاصطناعي الرائد الخاص به Gemini من هجمات التقطير واسعة النطاق التي تعتمد على التسويق، مما يدفع روبوتات الدردشة إلى تسريب الآليات الداخلية من خلال الأسئلة المتكررة. قالت جوجل إن المهاجم أرسل بشكل منهجي ومتكرر كلمات سريعة مصممة بعناية إلى النموذج (أكثر من 100000 مرة في هجوم واحد) في محاولة لعكس هندسة منطق التفكير الداخلي وآلية اتخاذ القرار في Gemini لتحقيق استنساخ النموذج أو تعزيز نظام الذكاء الاصطناعي الخاص به.
ويتم تنفيذ هذه الهجمات في المقام الأول من قبل "جهات فاعلة ذات دوافع تجارية".رأت جوجل أن الأشخاص الذين يقفون وراءها كانوا في الغالب شركات خاصة تعمل في مجال الذكاء الاصطناعي أو مؤسسات بحثية تأمل في الحصول على ميزة تنافسية. وقال متحدث باسم الشركة إن مصدر الهجوم جاء من مناطق متعددة حول العالم، لكنه لم يكشف عن المزيد من المعلومات..
يُذكر أن هجوم التقطير (المعروف أيضًا باسم تقطير المعرفة) هو في الأصل تقنية ضغط نموذجية تحقق وزن النموذج عن طريق ترحيل معرفة "نموذج المعلم" الكبير إلى "نموذج الطالب" الصغير.
يجمع المهاجم استجابات النموذج في سيناريوهات مختلفة من خلال أسئلة ضخمة منهجية ومنظمة، ويحلل الاختلافات الدقيقة مثل محتوى الاستجابة والتأخير والثقة، ويبني حدود القرار وخريطة مسار التفكير الخاصة بـ Gemini.وأخيرًا، يتم استخدام بيانات الاستجابة المجمعة لتدريب "نموذج الطالب" الخاص به لتكرار القدرات الأساسية لـ Gemini..
وقالت جوجل إن هجمات التقطير هذه هي سرقة للملكية الفكرية، على الرغم من أن الشركات المصنعة الكبرى نشرت آليات يمكنها تحديد هجمات التقطير ومنعها.ولكن نظرًا لأن الخدمات النموذجية الكبيرة السائدة متاحة للجميع، فإنها لا تزال معرضة للخطر بطبيعتها..
