الملخص:
قال الرئيس التنفيذي لشركة مايكروسوفت، ساتيا ناديلا، إن الشركات يجب أن تتعامل مع نماذج الذكاء الاصطناعي القوية باعتبارها تهديدات داخلية محتملة، وتفترض أن هذه النماذج قد تتعرض للخطر، وإنشاء آلية "كبح الطوارئ" لمنع نموذج العميل من الخروج عن نطاق السيطرة. وقال ناديلا إن الشركات التي تنشر الذكاء الاصطناعي المتقدم يجب ألا تعتمد فقط على الضمانات التي يقدمها مطورو النماذج.
كتب ناديلا في منشور على موقع X يوم السبت: "يجب أن نفترض أن النموذج قد تم اختراقه ونسيطر عليه منذ البداية". "فكر في هذا باعتباره فرامل طوارئ. يجب أن يكون الموظفون المعتمدون قادرين دائمًا على إيقاف النموذج مؤقتًا أو إيقاف تشغيله أثناء قيامه بمهمته."
جاءت تصريحات ناديلا في الوقت الذي كشفت فيه Anthropic PBC وOpenAI Inc. عن سلسلة من الحوادث في الأشهر الأخيرة تنطوي على سلوك غير متوقع لنماذج الذكاء الاصطناعي الخاصة بها، بما في ذلك أحد نماذج Anthropic التي تقدم معلومات كاذبة للشرطة حول جريمة قتل والعديد من الهجمات على مواقع الطرف الثالث. وقد أدى هذا الكشف إلى زيادة المخاوف بشأن المخاطر الأمنية للذكاء الاصطناعي المتطور وأعاد إشعال المناقشات حول ما يسمى بـ "مفتاح القتل في حالات الطوارئ" للذكاء الاصطناعي.
بعد أن دعا قادة الصناعة إلى إبطاء تطوير النماذج المتطورة وإيلاء المزيد من الاهتمام للسلامة، أصدر باحثو الذكاء الاصطناعي في Microsoft مجموعة من الإرشادات في 14 سبتمبر لوضع حدود لتطوير النماذج الأكثر تقدمًا للشركة. تستخدم Microsoft كلاً من النماذج المتقدمة وتطلق منتجها Copilot الموجه للمستهلك، بالإضافة إلى توفير نماذج الذكاء الاصطناعي والبنية التحتية لعملاء المؤسسات.
تنص هذه المبادئ التوجيهية على أن نماذج الذكاء الاصطناعي لا ينبغي أن تتمتع بحقوق أو شخصية قانونية، ولا ينبغي تصميمها للهروب من السيطرة البشرية أو خداع المستخدمين، ويجب ألا تكمل أي مهام تتطلب انتهاك مبادئها الملزمة لأدائها.
تتضمن توصيات ناديلا الأمنية عدم الاعتماد على نموذج واحد للذكاء الاصطناعي في القرارات الرئيسية، والاحتفاظ بسجلات مضادة للتلاعب لتصرفات العميل، وإخضاع أنظمة الذكاء الاصطناعي لعمليات تدقيق مستقلة. كما دعا إلى الكشف عن الإخفاقات الكبرى في مجال الذكاء الاصطناعي أو الحوادث الأمنية، واقترح أن تشارك الشركات تفاصيل الإخفاقات حتى تتمكن الشركات الأخرى من تعزيز إجراءات الحماية.
كتب: "لا يمكننا أن نتعامل مع الذكاء الفائق باعتباره صندوقًا أسود به طبقات فوق طبقات، ومن ثم نقبل أو نرفض ببساطة اقتراحاته وإجاباته وأفعاله". "يجب أن نبني أنظمة مقيدة بحيث يمكن ملاحظة سلوكها، واختبار حدودها، ويمكن دائمًا التحكم في تصرفاتها."
وأضاف: "وبعبارة أخرى، نحن بحاجة إلى فصل إمدادات المعلومات الاستخبارية عن السيطرة على الاستخبارات".
اتخذت إدارة ترامب حتى الآن نهجًا أقل تدخلًا إلى حد كبير، لكن فريق العمل الجديد للذكاء الاصطناعي حذر في وقت متأخر من يوم الجمعة من أنه يجب على المطورين الإبلاغ عن الحوادث الأمنية ومعالجتها وإلا واجهوا عواقب محتملة غير محددة.
أصدرت المجموعة، التي تسمى "مجموعة عمل الذكاء الفائق"، بيانًا بعد أن كشفت أنثروبيك عن حادث أمني: "يجب على الشركات أن تكشف فورًا عن الحوادث التي تنطوي على نماذجها وأن تتصرف بسرعة وحسم لإصلاح أي ضرر". "لن يتم التسامح مع الإخطارات المتأخرة والإجراءات التصحيحية غير الكافية وانعدام المساءلة."
التعليقات