الملخص:
قالت شركة أبل في تقريرها المالي السنوي يوم الثلاثاء إن عملاء الذكاء الاصطناعي القادرين على التصرف "بطرق غير متوقعة أو لا يمكن التنبؤ بها" يمكن أن يشكلوا تهديدًا لأعمالها من خلال تعريض الشركة لدعاوى قضائية أو الإضرار بسمعتها. توضح عوامل الخطر الجديدة في ملف شركة أبل الإمكانات التخريبية لعملاء الذكاء الاصطناعي التي سرعان ما أصبحت مصدر قلق كبير لأهم الشركات في وادي السيليكون.
"على وجه الخصوص، يمكن لعملاء الذكاء الاصطناعي والتقنيات الأخرى اتخاذ إجراءات بشكل مستقل، بما في ذلك التفاعل مع الأنظمة الداخلية أو الخارجية - التي قد لا يمكنهم الوصول إليها في بعض الحالات - لتنفيذ التعليمات البرمجية أو تعديلها، وإرسال الاتصالات، وإكمال المعاملات،" كتبت شركة Apple في الملف.
وأضافت الشركة أن الوكلاء "قد يتصرفون بطرق غير متوقعة أو غير متوقعة، بما في ذلك اتخاذ إجراءات لم يتم توجيهها أو توجيهها أو التصريح بها".
في وقت سابق من هذا العام، أصدرت OpenAI تطبيق Dots وأطلقت Meta تطبيق Muse. يستخدم كلا وكيلي الذكاء الاصطناعي نماذج الذكاء الاصطناعي المتقدمة لإكمال المهام بشكل مستقل. يمكنهم أيضًا إرسال بريد إلكتروني أو تنبيه المستخدمين عند وصول رسائل جديدة.
قبل أن تقوم شركة Apple بهذا الكشف، كانت هناك العديد من الحوادث التي قام فيها عملاء الذكاء الاصطناعي الخارجون عن السيطرة باختراق بيئات الحماية ومهاجمة مواقع ويب تابعة لجهات خارجية، مثل حادثة Hugging Face، التي جددت اهتمام صناع القرار في واشنطن العاصمة وفي جميع أنحاء العالم.
بالإضافة إلى ذلك، فإن قدرة الوكلاء على استخدام أجهزة الكمبيوتر بطرق تشبه البشر تجبر الشركات الكبيرة مثل Amazon وJPMorgan Chase على تطوير سياسات حول وصول الوكلاء إلى الخدمات لأسباب استراتيجية أو أمنية.
في الشهر الماضي، أعلنت شركة Apple عن تعديلات على "الوصول الكامل إلى القرص" لنظام Mac لتقليل "المخاطر المرتبطة بهذا الوصول" لوكلاء الذكاء الاصطناعي المثبتين على أجهزة الكمبيوتر.
"قد تكون قدرة الشركة على الإشراف والتحكم في عملاء الذكاء الاصطناعي التابعين لجهات خارجية والتقنيات الأخرى محدودة،" حذرت شركة Apple في ملفها.
ليس لدى Apple حاليًا وكيل ذكي يعمل بالذكاء الاصطناعي. ولكن عندما سُئل الرئيس التنفيذي الجديد جون تيرنوس عن وكلاء الذكاء الاصطناعي خلال مكالمة هاتفية يوم الاثنين، قال إن الشركة لديها "مساحة حقيقية" لتوسيع قدرات سيري.
"فيما يتعلق بقدرات الوكيل، نعتقد أن هذه أدوات واعدة للمستخدمين،" قال تيرنوس. "نريد فقط التأكد من أن المستخدمين يعرفون حق الوصول الذي يمنحونه. ونريد التأكد من أننا نفعل ذلك بطريقة تحمي الأمان والخصوصية."
التعليقات