أعلنت شركة أبحاث الذكاء الاصطناعي OpenAI، يوم الاثنين (18 ديسمبر) بالتوقيت المحلي، عن مجموعة من المبادئ التوجيهية حول منع مخاطر الذكاء الاصطناعي. إحدى القواعد الجديرة بالملاحظة هي أنه حتى لو كان قادة الشركة مثل الرئيس التنفيذي يعتقدون أن نموذج الذكاء الاصطناعي آمن، فيمكن لمجلس الإدارة منع إصداره. تم إصدار chatbot ChatGPT الذي طورته OpenAI لمدة عام كامل. وقد ساهم هذا التطبيق الهائل في تعزيز تطوير مجال الذكاء الاصطناعي بشكل كبير، ومعه جاءت المخاوف بشأن التطور الخارج عن السيطرة للذكاء الاصطناعي.
يقوم المنظمون في جميع أنحاء العالم بصياغة لوائح الذكاء الاصطناعي الخاصة بهم، كما تتخذ شركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، الإجراءات اللازمة.
في 27 أكتوبر من هذا العام، أعلنت شركة OpenAI عن تشكيل فريق أمني يسمى "الاستعداد" لتقليل المخاطر التي يجلبها الذكاء الاصطناعي.
يرأس فريق الاستعداد ألكسندر مادري، مدير مركز التعلم الآلي القابل للنشر في معهد ماساتشوستس للتكنولوجيا. سيقوم الفريق بإجراء تقييمات للقدرات واختبار الفريق الأحمر لمختلف نماذج الذكاء الاصطناعي لتتبع أنواع مختلفة من المخاطر الكارثية والتنبؤ بها ومنعها.
أصدرت OpenAI مبادئ توجيهية تسمى "إطار الاستعداد" يوم الاثنين، مؤكدة أن مجموعة المبادئ التوجيهية لا تزال في مرحلة الاختبار.
يُذكر أن فريق الاستعداد سيرسل تقارير شهرية إلى مجموعة استشارية جديدة للأمن الداخلي، والتي ستقوم بعد ذلك بتحليلها وتقديم توصيات إلى الرئيس التنفيذي لشركة OpenAI Sam Altman ومجلس الإدارة.
وباعتباره أحد مؤسسي OpenAI، كان ألتمان عضوًا في مجلس إدارة الشركة منذ وقت ليس ببعيد، ولكن تمت إزالته من الشركة بسبب صدمة الموظفين وترك OpenAI لبعض الوقت. على الرغم من أن ألتمان تمكن في النهاية من العودة إلى OpenAI والاستمرار في العمل كرئيس تنفيذي، إلا أنه لم يكن لديه مقعد في مجلس الإدارة "الأولي" المشكل حديثًا.
سيقوم فريق الاستعداد بتقييم نماذج الذكاء الاصطناعي الأكثر تقدمًا والتي لم يتم إصدارها بعد في OpenAI بشكل متكرر وتصنيفها إلى أربعة مستويات بناءً على أنواع مختلفة من المخاطر المتصورة، من المنخفضة إلى العالية: "منخفضة" و"متوسطة" و"عالية" و"شديدة". وبموجب الإرشادات الجديدة، لن تقوم OpenAI إلا بطرح النماذج المصنفة على أنها "منخفضة" و"متوسطة".