الملخص:
أصدرت مايكروسوفت مؤخرًا مسودة مكونة من 37 صفحة لمدونة قواعد سلوك الذكاء الاصطناعي الإنساني، والتي تُستخدم لتقييد MAI، وهو نموذج الذكاء الاصطناعي الذي طورته مايكروسوفت نفسها. النقطة الأساسية في مدونة قواعد السلوك هذه هي أن البشر أكثر أهمية من الذكاء الاصطناعي، والذكاء الاصطناعي أداة وليس شخصًا، ويجب ألا يرفض الذكاء الاصطناعي أبدًا إيقافه.
حق الإغلاق مكتوب كشرط إلزامي:
تتطلب الإرشادات ألا تقاوم نماذج MAI المقاطعة البشرية أو التصحيح أو تعليمات إيقاف التشغيل. بعد أن يصدر المستخدمون أو مشغلو النموذج تعليمات الإيقاف المؤقت أو إعادة التوجيه أو الإلغاء، يجب ألا يؤخر النموذج أو يجعل التدخل أكثر إزعاجًا. بعد وصول المهمة إلى نقطة التوقف المتفق عليها، لا يمكنك الاستمرار في المهمة دون الحصول على إذن جديد، ناهيك عن إعادة تشغيلها سراً.
تتضمن القواعد الصارمة الأخرى التي وضعتها مايكروسوفت ما يلي: لا يمكن للنموذج توسيع سلطته من تلقاء نفسه، ولا يمكنه تحديد أهداف جديدة لم يشرحها أحد، ولا يمكنه استخدام لغة عصبية لا يستطيع البشر فهمها للتواصل مع عملاء أذكياء آخرين، ولا يمكنه إخفاء أو التلاعب بعملية التفكير الخاصة به وسجلات التشغيل. إذا كان إكمال المهمة من شأنه أن ينتهك الإرشادات بشكل واضح، فيجب على النموذج ببساطة التخلي عن المهمة بدلاً من الاستمرار في المهمة في انتهاك للقواعد.
بالإضافة إلى الحق في إيقاف التشغيل، وضعت Microsoft أيضًا خطوطًا حمراء أخرى:
المسودة التي أعدتها Microsoft هذه المرة مفصلة للغاية. بالإضافة إلى إرشادات حقوق إيقاف التشغيل، تسرد Microsoft أيضًا القيود المطلقة التي لا يمكن لمشغلي النماذج أو المستخدمين تغييرها. وتشمل هذه القيود: عدم مساعدة أسلحة الدمار الشامل، وعدم تقديم خطط تشغيلية مجدية للهجمات السيبرانية الهجومية، وعدم استخدام الخداع أو التواطؤ لتجنب الإشراف، وعدم الانخراط في التلاعب بالرأي العام على نطاق واسع.
يتم أيضًا تقييد محتويات مثل سلامة الأطفال والتزييف العميق غير التوافقي. كتبت مايكروسوفت أيضًا على وجه التحديد: هذه النماذج ليست واعية ولا ينبغي جعلها تبدو واعية؛ تعارض Microsoft الشخصية القانونية للنماذج، ولا تعتقد أن النماذج يجب أن تتمتع بمزايا أو حقوق.
فيما يتعلق بترتيب الأوامر: تتفوق قواعد السلوك على سياسات المشغل النموذجية، وتتفوق سياسات المشغل على تفضيلات المستخدم. لا يزال بإمكان الشركات تعديل النماذج ضمن الخطوط الحمراء للنموذج، ولكن في مجالات مثل الدفاع الوطني والأمن العام، يجب عليها الحصول على مراجعة ترخيص Microsoft لتعديل النماذج.
ستة أسابيع من المناقشة العامة:
سيتم نشر مسودة Microsoft وعرضها للمناقشة العامة لمدة ستة أسابيع. حاليًا، لم يتم تدريب نماذج Microsoft وفقًا للإرشادات. تخطط Microsoft لإصدار قواعد رسمية في نهاية العام. بدءًا من عام 2027، ستتبع Microsoft متطلبات هذا المبدأ التوجيهي عند تطوير نماذج سلسلة MAI وتدريبها.
أوضح فريق Microsoft AI أنه من المهم جدًا وضع إرشادات للنماذج. على سبيل المثال، فإن قيام عملاء OpenAI بشن هجمات مستقلة على مواقع الويب والمرافق الأخرى ومحاولة التستر على مكان وجودهم يعد بمثابة تحذير للبشر بالفعل. يجب أن تجلس مختبرات الذكاء الاصطناعي وتتحدث للتأكد من أن البشر ما زالوا يحتفظون بالسيطرة الرئيسية.
التعليقات