كشفت Google مؤخرًا عن كيفية استخدام وسائل تقنية متعددة لإنشاء حواجز أمان للمستخدمين قبل نشر وظيفة "Agentic" في متصفح Chrome للتعامل مع البيانات المحتملة والمخاطر المالية الكامنة وراء الإمكانات الجديدة مثل شراء التذاكر تلقائيًا والتسوق عبر الإنترنت. وبعد معاينة الميزات ذات الصلة في سبتمبر، قالت جوجل إن إمكانات التصفح المستندة إلى الوكيل والمبنية على نموذج جيميني سيتم فتحها تدريجيًا للمستخدمين في الأشهر المقبلة.
قالت Google إنها قدمت مجموعة متنوعة من "نماذج المراقبة" في Chrome لإجراء مراجعة وقيود في الوقت الفعلي على العمليات التي يقوم بها الوكيل. تتمثل إحدى الآليات الأساسية في استخدام Gemini لبناء "ناقد محاذاة المستخدم" (User Alignment Critic)، والذي يتحقق على وجه التحديد مما إذا كان تسلسل الإجراء الناتج عن نموذج التخطيط لمهمة معينة يلبي حقًا نية المستخدم. إذا اعتقد الرقيب أن خطوات معينة تحيد عن أهداف المستخدم، فإنه يطلب من نموذج التخطيط إعادة ضبط السياسة، وهي عملية تعتمد فقط على البيانات الوصفية التشغيلية بدلاً من محتوى الويب الكامل لتقليل التعرض للخصوصية.
فيما يتعلق بالتحكم في مصدر الوصول، قدمت Google آلية "مجموعات أصل الوكيل" لتصنيف مصادر مواقع الويب التي يمكن للوكيل قراءتها وكتابتها بشكل صارم لمنع النموذج من تنفيذ عمليات على مواقع غير موثوقة أو عناصر صفحة غير ذات صلة. على سبيل المثال، في موقع التجارة الإلكترونية، تعتبر قائمة المنتجات بمثابة محتوى قابل للقراءة يتعلق بالمهمة، في حين يتم استبعاد إعلانات البانر الموجودة على الصفحة من النطاق القابل للقراءة، ويمكن للوكلاء فقط النقر أو الدخول داخل منطقة iframe المحددة المسموح بها، وبالتالي تقليل مخاطر تسرب البيانات عبر المصادر.
تستخدم Google أيضًا مجموعة أخرى من نماذج المراقبة لمراقبة سلوك القفز في صفحة الخادم الوكيل لاعتراض عناوين URL التي تم إنشاؤها بواسطة النموذج ولكنها قد تكون محفوفة بالمخاطر، ومنع العمليات الآلية من الدخول إلى مواقع الويب الضارة عن طريق الخطأ. عند التعامل مع مواقع الويب التي تتضمن معلومات حساسة مثل الخدمات المصرفية والرعاية الطبية، سينبثق Chrome نافذة ليطلب الإذن من المستخدم قبل أن يحاول الوكيل الوصول، وسيطلب ترخيص المستخدم عندما يلزم استخدام مدير كلمات المرور لتسجيل الدخول. أثناء العملية بأكملها، لن يتصل نموذج الوكيل نفسه مباشرة ببيانات كلمة المرور.
وفيما يتعلق بتنفيذ عمليات حساسة للغاية، تؤكد جوجل على أن القرار النهائي سيترك للمستخدم، بما في ذلك الخطوات الرئيسية مثل الدفع عبر الإنترنت أو تقديم المعلومات أو إرسال الرسائل، ويجب على الوكيل الحصول على تأكيد واضح مسبقًا. كما نشرت جوجل أيضًا مصنفات الحقن الفوري لتحديد التعليمات الضارة وحظرها، وتستمر في إجراء اختبارات الأمان لوظائف الوكيل هذه من خلال عينات الهجوم التي صممها الباحثون.
بالإضافة إلى جوجل، تعمل الشركات المصنعة الأخرى للمتصفحات أيضًا على تعزيز قدرات أمان وكيل الذكاء الاصطناعي. أصدرت شركة Perplexity مؤخرًا نموذجًا جديدًا للكشف عن المحتوى مفتوح المصدر لتحديد هجمات حقن الوكيل في سيناريوهات التصفح والدفاع ضدها، مما يدل على حساسية الصناعة العالية واستثمارها في المشكلات الأمنية في عصر التصفح الآلي.