بدأت Anthropic في تنظيم تجارب لـ Claude for Chrome، وهو امتداد للذكاء الاصطناعي يمكنه تشغيل المتصفح نيابة عن المستخدم. ومع ذلك، فإن الأداة عرضة لهجمات الحقن السريعة التي يمكن أن تخدعها للقيام بأعمال ضارة دون موافقة المستخدم. تدرك شركة Anthropic هذه المخاطر، ولكنها تطلق الأداة للاختبار على نطاق صغير بغض النظر.
يمثل امتداد Chrome دخول Anthropic إلى سوق الذكاء الاصطناعي القائم على المتصفح الذي يتسم بتنافسية عالية، والذي يواجه منافسين مثل متصفح Perplexity's Comet وChatGPT Agent من OpenAI. وإدراكًا للمخاطر الأمنية، اقتصرت خطط Anthropic بقيمة 100 دولار و200 دولار لكلود ماكس التي تم إطلاقها في أبريل على 1000 مستخدم.
وفي الاختبارات، وجدت الشركة أن الجهات الفاعلة الخبيثة يمكنها التلاعب بكلود لما يقرب من ربع الوقت باستخدام هجوم الحقن الفوري. تقوم هذه الهجمات بتضمين تعليمات مخفية في مواقع الويب أو رسائل البريد الإلكتروني أو المستندات لخداع الذكاء الاصطناعي لحذف الملفات أو سرقة البيانات أو بدء معاملات غير مصرح بها.
في حالة اختبار مثيرة للقلق، ظهرت رسالة بريد إلكتروني مزيفة تتظاهر بأنها صاحب عمل تطلب من كلود حذف رسائل المستخدم "لأسباب أمنية" مزعومة. ونظرًا لنقص الإجراءات الأمنية، اتبع الذكاء الاصطناعي الأوامر المخفية وحذف البيانات نهائيًا دون تأكيد.
تزعم شركة Anthropic أنها اختبرت وسائل الحماية الجديدة، مما أدى إلى تقليل معدلات نجاح الهجوم من 23.6% إلى 11.2% في الوضع المستقل. يتطلب Claude الآن موافقة المستخدم لتنفيذ إجراءات عالية المخاطر مثل الشراء أو نشر المحتوى أو مشاركة البيانات الحساسة. يمكن للمستخدمين أيضًا تقييد وصولهم من خلال أذونات موقع الويب الدقيقة.
افتراضيًا، لا يستطيع Claude الوصول إلى مواقع الخدمات المالية أو منصات محتوى البالغين أو مواقع المحتوى المقرصنة. تساعد هذه القيود في تقليل الضرر المحتمل لهجمات الحقن الفوري مع الحفاظ على وظائف العمل المشروعة.
قللت Anthropic من المخاطر، قائلة إن التخفيف الجديد الخاص بها يقلل من معدلات نجاح الحقن السريع إلى مستويات أقل من استخدام عميل Claude المكتبي.
على الرغم من هذه التطورات، لا يزال خبراء الأمن متشككين بشأن جدوى عملاء الذكاء الاصطناعي المعتمدين على المتصفح. ووصف الباحث المستقل سيمون ويليسون، الذي صاغ مصطلح "الحقن الفوري" في عام 2022، معدل الهجوم المتبقي البالغ 11.2% بأنه "كارثي" وتساءل عما إذا كان من الممكن تنفيذه بأمان بالفعل.
وقد سلطت الأحداث الأخيرة التي تنطوي على منتجات منافسة الضوء على هذه المخاوف. في الأسبوع الماضي، تلاعب باحثون أمنيون من Brave بمتصفح Perplexity’s Comet عبر منشور ضار على موقع Reddit، مما سمح لهم بالوصول إلى حسابات Gmail الخاصة بالمستخدمين وبدء عملية استرداد كلمة مرور غير مصرح بها.
يعمل ملحق Claude لمتصفح Chrome على توسيع وظيفة استخدام الكمبيوتر في Anthropic، مما يتيح للذكاء الاصطناعي التقاط لقطات الشاشة والتحكم في الماوس لإكمال المهام. يتيح تكامل المتصفح المزيد من تفاعلات الويب المباشرة مع الحفاظ على سياق المحادثة عبر علامات تبويب ومواقع ويب متعددة.
تخطط البشرية لاستخدام البرنامج التجريبي المحدود لتحديد أنماط الهجوم الإضافية وتحسين التدابير الأمنية قبل النشر على نطاق أوسع. ومع ذلك، تعترف الشركة بأن وسائل الحماية الحالية غير كافية لتلبية احتياجات مجموعة واسعة من المستهلكين وأن المستخدمين الأوائل سيتحملون مخاطر كبيرة.