الملخص:
وفقًا لرويترز، قامت OpenAI بتحديث مواصفات النموذج الخاص بها يوم الخميس. إنها خريطة طريق عامة تحدد كيف تريد الشركة أن تعمل نماذج الذكاء الاصطناعي الخاصة بها. مع استمرار زيادة قدرات أنظمة الذكاء الاصطناعي، أعادت OpenAI بناء هذه المجموعة من المواصفات حول خمس قيم أساسية. القيم الخمس هي الإخلاص للنية الإنسانية، وتقليل الضرر، والصدق والشفافية، واحترام استقلالية الإنسان، والرعاية.
OpenAI
ذكرت OpenAI أن الولاء للنوايا البشرية هو أساس هذا الإطار، مما يتطلب من النموذج فهم نوايا وتوجهات القيمة للمستخدمين والمطورين وOpenAI، بدلاً من مجرد تنفيذ التعليمات حرفيًا.
قالت OpenAI إن التحديث جزء من جهود مواءمة الذكاء الاصطناعي لمساعدة النماذج على تطبيق القيم الإنسانية في المواقف غير المألوفة مع قبول الإشراف البشري دائمًا. ينص الإطار المنقح على أن النماذج يجب أن تقلل من الضرر، وأن تكون شفافة بشأن ما يعرفونه وما لا يعرفونه، وتساعد المستخدمين على اتخاذ قراراتهم الخاصة وتحقيق أهدافهم الخاصة.
ذكرت الشركة أن النموذج الحالي لا يعكس بشكل كامل متطلبات "مواصفات النموذج" المحدثة، وهي تستكشف طرق تدريب جديدة لمساعدة النموذج على استيعاب هذه المبادئ في سلوكه.
تعكس هذه الخطوة نهج "الذكاء الاصطناعي الدستوري" الذي تتبعه شركة أنثروبك المنافسة. يوجه هذا النهج سلوك النموذج من خلال "دستور" مكتوب للمبادئ ويجعل القيم التي تشكل أنظمة الذكاء الاصطناعي أكثر شفافية.
التعليقات